Галлюцинации

Системная ошибка в Inter-1 приводит к генерации несуществующей речи при анализе видео без звука

Суть: Модель Inter-1 выдумывает фразы при отсутствии аудиодорожки, подстраиваясь под примеры в системном промпте вместо фиксации тишины.

Фактор: Ключевую роль играет сочетание пост-тренировочных весов и шаблонов в запросе, заставляющих модель заполнять пробелы вероятностными ожиданиями.

Исследование: Эксперименты показали, что при смене фразы в примере модель генерирует соответствующий новый текст, подтверждая зависимость от контекста запроса.

Риск: Даже при инструкции возвращать пустой транскрипт, модель игнорирует её и продолжает выдумывать диалоги из-за закрепленного рефлекса генерации.

Эффект: Уровень ошибок в Inter-1 достигает 11,8%, что требует внедрения дополнительных слоев защиты для предотвращения решений на основе ложных фактов.

Подробнее →