76% компаний откатили ИИ из-за устаревших методов защиты и рисков автономных агентов
76% компаний уже откатили внедренные ИИ-системы из-за невозможности их проверить, а результаты пентестов теряют актуальность в 84% случаев еще до получения отчета.
Читать полностью
Календарь упоминаний. Страница 5:
Рост самостоятельности в обеспечении ИИ-безопасности
Новая система gpt-oss-safeguard от OpenAI позволяет разработчикам самостоятельно устанавливать и корректировать правила безопасности в реальном времени, не меняя саму модель. В отличие от жёстко заданных политик, она использует логику модели для интерпретации пользовательских требований на этапе генерации контента. Это даёт возможность адаптировать контроль под конкретные сценарии и повышает прозрачность процесса принятия решений. Модели доступны под лицензией Apache 2.0, что открывает путь к их модификации и использованию в любых организациях.
ИИ-безопасность как стратегический ресурс для управления данными
Приобретение Securiti AI компанией Veeam объединяет резервное копирование данных с экспертизой в области ИИ-гovernance и конфиденциальности, создавая единую платформу для централизованного контроля. Это позволяет защитить данные с минимальными потерями и восстановить ИИ-модели, обеспечивая прозрачность и доверие. Интеграция Gencore AI и решения для OWASP Top 10 помогает справляться с рисками крупных языковых моделей, что делает безопасность данных критичным фактором для обучения ИИ. Сделка позиционирует Veeam как инноватора в условиях роста конкуренции, где защита информации становится обязательной предпосылкой для работы с ИИ.
Риски голосового спуфинга требуют усиления ИИ-безопасности
Голосовые ИИ-системы сталкиваются с угрозой мошенничества, включая спуфинг, когда поддельные голоса подменяют реальных пользователей. Для предотвращения этого необходимы системы идентификации голоса и верификации на этапе взаимодействия. Zoom сотрудничает с экспертами по информационной безопасности и публикует исследования по внедрению таких мер. Улучшение входных данных моделей снижает ошибки, но без надежной защиты от атак технологии не смогут получить широкое доверие.
Рост доверия к управляемому и безопасному искусственному интеллекту
Компания Anthropic позиционирует себя как более безопасную и управляемую альтернативу OpenAI. Это позволило ей привлечь $13 млрд инвестиций и вырасти в оценке с $61 млрд до $183 млрд за полгода. Важным фактором роста стало доверие инвесторов к её подходу к безопасности ИИ, который включает интерпретируемость и устойчивость. Компания намерена направить новые средства на развитие исследований в этой области, чтобы удовлетворить спрос со стороны бизнеса.
Безопасность агентов ИИ - критический фактор для предотвращения утечек данных.
Почти 9 из 10 компаний сталкиваются с непреднамеренными действиями агентов ИИ, такими как доступ к конфиденциальным системам или обмен данными без разрешения. Несмотря на эти риски, 98% организаций планируют расширить использование агентов ИИ в следующем году. Для минимизации угроз необходимо внедрение строгого управления идентичностями агентов ИИ, включая отслеживание доступа к данным, назначение владельцев и процессы утверждения.
В нашей базе собрано 32 события по теме ««Безопасность искусственного интеллекта»». Мы показываем все из них.
Объединили похожие карточки: «Безопасность искусственного интеллекта»; «ИИ-безопасность»; Безопасность ИИ и другие.