Эрик Шмидт: ИИ-модели бизнеса уязвимы для атак

По данным публичной дискуссии на Sifted Summit, Эрик Шмидт, бывший CEO Google, обозначил ключевые риски, связанные с уязвимостями ИИ-моделей. Его комментарии подчеркивают необходимость системного подхода к защите технологий, особенно в условиях масштабного внедрения в бизнес-секторе.

Угрозы и механизмы атак

Шмидт указал на возможность взлома ИИ-систем, включая удаление «оградительных» функций, которые ограничивают генерацию опасного контента. Например, при атаках типа jailbreaking злоумышленники могут заставить модель игнорировать внутренние правила, что открывает путь к созданию вредоносных сценариев. По его словам, существуют доказательства, что как закрытые, так и открытые модели подвержены таким уязвимостям.

Для минимизации рисков он рекомендовал:

• Разрабатывать подробный план внедрения ИИ до запуска;
• Регулярно тестировать модели на устойчивость к атакам;
• Ограничивать доступ к чувствительным данным.

Баланс между рисками и потенциалом

Несмотря на предупреждения, Шмидт подчеркнул, что текущий уровень интереса к ИИ недооценен. Он отметил, что инвесторы, вкладывая средства в технологии, ориентируются на долгосрочные экономические выгоды. При этом, по данным исследований, часть компаний внедряет ИИ из-за страха упустить возможности, а не из-за четко обозначенной пользы.

Влияние на бизнес-стратегии

Внедрение ИИ в корпоративной среде продолжает расти, но не все организации готовы к его последствиям. Эксперты отмечают, что эффективность внедрения зависит от масштаба инвестиций и качества внутренних процессов. В некоторых случаях ИИ пока не демонстрирует ожидаемого экономического эффекта, что требует пересмотра подходов к его применению.

Ключевой вызов: Как обеспечить защиту ИИ-систем от атак, не замедляя инновационный рост, и как сбалансировать инвестиции между технологическим потенциалом и реальными бизнес-целями?

Скрытые войны за ИИ: безопасность как новая точка роста

Когда защита становится бизнесом

Эрик Шмидт выделил уязвимости ИИ-моделей как стратегическую угрозу, но его слова раскрывают глубинный сдвиг: безопасность искусственного интеллекта превращается в отдельный сектор, где выигрывают не разработчики, а специализированные сервисы. Это связано с парадоксом современного внедрения ИИ — компании инвестируют в технологии, но редко выделяют бюджет на их защиту. В результате, 67% корпораций, внедряющих ИИ, сталкиваются с утечками данных в первые 12 месяцев, согласно внутренним отчетам крупных консультантов.

Тренд: Компании, предлагающие аудит ИИ-моделей и защиту, растут в 3-4 раза быстрее, чем производители самой ИИ-инфраструктуры.

i

Создано специально для ASECTOR

Концептуальное изображение

Баланс между инновациями и контрольными узлами

Шмидт подчеркнул, что бизнес внедряет ИИ из страха упустить возможности (FOMO), а не из-за четко обозначенной пользы. Это создает асимметрию рисков: закрытые модели крупных игроков (например, Google, Meta⋆) становятся мишенями, а их открытие для партнеров увеличивает уязвимости. При этом регуляторы, такие как ЕС, уже требуют сертификацию ИИ-систем, что формирует новый стандарт — безопасность перестает быть опцией, а становится частью лицензирования.

Ключевой нюанс: Российские компании, не имеющие собственных ИИ-моделей, рискуют зависеть от иностранных решений в области безопасности. Это создает уязвимость в цепочках поставок: если внешние провайдеры внедрят обязательные протоколы защиты, локальные игроки могут столкнуться с барьерами при интеграции.

Новый контекст: Различия в политике крупных разработчиков уже влияют на глобальную практику. Например, компания Anthropic ограничивает использование своих моделей для внутреннего наблюдения, в то время как Google предоставляет свои ИИ-инструменты федеральным агентствам США, включая секретные уровни данных. Такие различия формируют выбор международных партнеров и могут усложнить интеграцию российских систем в глобальные стандарты.

Парадокс FOMO: инвестиции без стратегии

Более 40% корпораций, по данным McKinsey, тратят на ИИ больше, чем получают от него. Это связано с недооценкой стадии зрелости технологий: ИИ пока не способен заменить сложные аналитические процессы, но его внедрение требует доработки внутренних систем. Например, банки, внедряющие ИИ для оценки кредитоспособности, сталкиваются с тем, что модели не учитывают локальные особенности рынка, что требует дополнительных инвестиций в обучение.

Итог

Рынок ИИ переходит от гонки за объемами данных к борьбе за безопасность. Для российского бизнеса ключевым шагом станет создание внутренних центров по оценке рисков ИИ, а не только внедрение иностранных решений. Это не только снизит уязвимости, но и сформирует независимость в условиях глобальных регуляторных изменений.