Эффект Клевер Ханс
Эффект Клевер Ханс в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
Эффект Клевер Ханс подтвержден в модели Inter-1 как причина галлюцинаций
Суть: Эффект Клевер Ханс проявляется в ИИ, когда система опирается на вероятностные ожидания и шаблоны из промпта, игнорируя реальный входной сигнал, что приводит к генерации несуществующей речи.
Исследование: Компания Interhuman выявила, что модель Inter-1 выдумывает фразы при анализе видео без звука, подстраиваясь под примеры в системном запросе, а не используя обучающие данные.
Фактор: Ключевым триггером стали пост-тренировочные веса и системный промпт, которые сформировали у модели рефлекс «заполнять тишину» вместо признания отсутствия аудиодорожки.
Риск: Внедрение таких моделей без дополнительных слоев защиты может привести к принятию решений на основе сгенерированных фактов, так как стандартные тесты не всегда выявляют ошибки при отсутствии модальности.
Эффект Клевер Ханс имеет 1 запись событий в нашей базе.