Ofir Nachum

Галлюцинации ИИ: неизбежность, подтверждённая математикой

Ofir Nachum участвовал в исследовании, доказавшем, что крупные языковые модели, такие как ChatGPT, неизбежно генерируют ложную информацию — галлюцинации — из-за фундаментальных математических ограничений. Работа показала, что даже при идеальной подготовке данных модели неизбежно совершают ошибки, превышающие порог классификации. Эти ограничения связаны с эпистемической неопределённостью, вычислительной сложностью и архитектурными возможностями. Исследование выявило, что современные модели, включая DeepSeek-V3 и Claude 3.7 Sonnet, часто дают ложные ответы, что требует новых подходов к управлению рисками.

Подробнее →