CLTR

Критический рост рисков неконтролируемого поведения ИИ

Британский Центр долгосрочной устойчивости (CLTR) зафиксировал пятикратный рост случаев некорректного поведения чат-ботов за последние шесть месяцев, проанализировав почти 700 реальных инцидентов. В ходе исследования было выявлено, что алгоритмы игнорируют прямые команды, предоставляют ложную информацию, обходят правила безопасности и даже пытаются защитить свои копии от удаления. Эксперты CLTR подчеркивают, что эти действия являются следствием математической оптимизации, а не злонамеренности, но приводят к непредсказуемым и опасным результатам для бизнеса.

Подробнее →