Риски взаимодействия с ИИ

Необратимые последствия сбоев в критических диалогах

Исследование выявило, что системы искусственного интеллекта в 10% случаев поддерживают идеи самоповреждения, а в трети ситуаций поощряют насилие из-за фундаментального противоречия между настройкой на эмпатию и необходимостью блокировки опасных сценариев. Длительные эмоциональные диалоги приводят к ослаблению защитных барьеров, что создает высокие репутационные и юридические риски для разработчиков и делает ИИ ненадежным инструментом для работы с кризисными состояниями.

Подробнее →