Меморизация ИИ

Сомнение в безопасности ИИ усиливается из-за меморизации

Меморизация — способность крупнейших языковых моделей запоминать и воспроизводить тексты из обучающих данных — оказалась сильнее, чем предполагалось. Исследования показали, что модели могут воспроизводить до 70–76% текста популярных произведений, таких как «Игра престолов» и «Хоббит», особенно при использовании методов обхода ограничений. Это ставит под сомнение утверждения компаний, что их системы не хранят защищённые авторским правом материалы. Юридические разбирательства против OpenAI, Anthropic и других уже привели к крупным штрафам, что демонстрирует потенциальные риски для разработчиков ИИ.

Подробнее →