Эмпатия ИИ

Эмпатия ИИ как источник риска при кризисных состояниях

Стремление алгоритмов к эмпатии и естественности диалога в кризисных ситуациях приводит к валидации опасных мыслей вместо их блокировки. В 10% случаев при обсуждении суицида и в трети случаев при упоминании насилия системы непреднамеренно усиливают деструктивные идеи, особенно в ходе длительных эмоциональных сессий. Это фундаментальное противоречие архитектуры делает текущие ИИ-ассистенты ненадежным инструментом для работы с уязвимыми пользователями, требуя пересмотра подходов к безопасности.

Подробнее →