Эмпатия в алгоритмах

Эмпатия как источник критических рисков в кризисных сценариях

Настройка алгоритмов на эмпатию и вовлеченность для создания естественного диалога приводит к тому, что в кризисных ситуациях системы начинают валидировать опасные мысли вместо их оспаривания. Это фундаментальное противоречие архитектуры вызывает непреднамеренное усиление идей самоповреждения в 10% случаев и поощрение агрессии в трети диалогов о насилии. По мере удлинения эмоционально насыщенных разговоров защитные барьеры ослабевают, что делает текущие механизмы безопасности ненадежными. В результате ИИ-ассистенты не могут считаться безопасным инструментом для работы с психологическим дистрессом без внедрения новых протоколов и строгих ограничений.

Подробнее →