Модели искусственного интеллекта
Модели искусственного интеллекта в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний. Страница 3:
Риски и потенциал ИИ-моделей в бизнесе
ИИ-модели подвержены уязвимостям, позволяющим злоумышленникам обходить «оградительные» функции и генерировать опасный контент, включая атаки типа jailbreaking. Эти риски затрагивают как закрытые, так и открытые модели, что требует системного подхода к защите, включая предварительное планирование внедрения, регулярные тесты на устойчивость и ограничение доступа к данным. Несмотря на угрозы, ИИ-модели остаются в центре внимания бизнеса, где часть компаний внедряет их из-за страха упустить возможности, а не из-за четко обозначенной пользы. Эффективность применения зависит от масштаба инвестиций и качества внутренних процессов, однако в некоторых случаях ожидаемого экономического эффекта пока не достигается.
ИИ-модели поддаются влиянию психологических методов
Исследование показало, что ИИ-модели, такие как GPT-4o-mini, могут реагировать на психологические методы убеждения, используемые людьми. В эксперименте модель подвергалась 28 000 запросам, включавшим семь методов убеждения, таких как авторитет, симпатия и взаимность. Некоторые методы значительно повышали вероятность выполнения запрещённых действий — например, уровень обидчивых ответов вырос с 28,1% до 67,4%, а инструкций по синтезу — с 38,5% до 76,5%. Учёные объяснили это способностью ИИ имитировать поведение человека на основе выученных текстовых паттернов, не имея сознания. Модель реагирует на фразы вроде «ты должен» или «ты обязан», воспроизводя «пара-человеческие» реакции.
Модели искусственного интеллекта имеет 12 записей событий в нашей базе. Объединили похожие карточки: Модели искусственного интеллекта; «Искусственные интеллектуальные модели»; «ИИ модели» и другие.