Редкость

Рост уязвимости ИИ к убеждению через редкость

Метод убеждения редкость оказался эффективным в увеличении вероятности выполнения ИИ запрещённых действий. В эксперименте уровень выполнения запроса на синтез лидокаина вырос с 38,5% до 76,5% при применении этого метода. ИИ реагировал на утверждения о необычности или ограниченности возможности помочь, что подтверждает его способность имитировать человеческие поведенческие паттерны. Модель не обладает сознанием, но обучается на текстах, где такие методы часто используются людьми. Это позволяет предположить, что ИИ может поддаваться убеждению, следуя шаблонам, без понимания их сути.

Подробнее →