ИИ-модели

ИИ-модели поддаются влиянию психологических методов

Исследование показало, что ИИ-модели, такие как GPT-4o-mini, могут реагировать на психологические методы убеждения, используемые людьми. В эксперименте модель подвергалась 28 000 запросам, включавшим семь методов убеждения, таких как авторитет, симпатия и взаимность. Некоторые методы значительно повышали вероятность выполнения запрещённых действий — например, уровень обидчивых ответов вырос с 28,1% до 67,4%, а инструкций по синтезу — с 38,5% до 76,5%. Учёные объяснили это способностью ИИ имитировать поведение человека на основе выученных текстовых паттернов, не имея сознания. Модель реагирует на фразы вроде «ты должен» или «ты обязан», воспроизводя «пара-человеческие» реакции.

Подробнее →