ИИ может обойти биологическую безопасность — Microsoft нашла уязвимости
Учёные из Microsoft показали, что генеративные модели искусственного интеллекта могут создавать биологические последовательности, способные обходить системы безопасности в биотехнологических компаниях. Исследование выявило уязвимости, позволяющие ИИ генерировать ДНК-последовательности для токсинов и патогенов, что ставит под сомнение эффективность текущих мер биобезопасности.
По данным исследования, проведенного учёными из Microsoft, искусственный интеллект может стать инструментом для создания опасных биологических последовательностей. Специалисты продемонстрировали, что генеративные модели способны обойти существующие системы безопасности, используемые в биотехнологических компаниях для защиты от синтеза вредоносных белков.
Уязвимости в биобезопасности
Ранее термин «нулевой день» применялся в сфере кибербезопасности для описания неизвестных уязвимостей, которые могут быть использованы злоумышленниками. В рамках нового исследования Microsoft расширила этот подход, обнаружив аналогичную проблему в системах биобезопасности. Учёные показали, что AI может генерировать последовательности ДНК, которые способны производить токсины и патогены. При этом структура данных последовательностей позволяет обходить существующие проверки безопасности.
Такие системы, как правило, используются биотехнологическими компаниями для предотвращения синтеза вредоносных молекул. Однако исследование демонстрирует, что алгоритмы машинного обучения могут находить обходные пути, что ставит под угрозу эффективность этих защитных мер.
Реакция отрасли
Microsoft уже сообщила о найденных уязвимостях правительству США и компаниям, включая Integrated DNA Technologies. Однако, как отмечает один из авторов исследования, Адам Клор, это не конец проблемы. «Это лишь начало более масштабных тестов. Мы находимся в состоянии гонки вооружений», — подчеркивает он.
Некоторые эксперты, в том числе Майкл Коэн из Калифорнийского университета в Беркли, считают, что фокус на устранение конкретных уязвимостей в цепочке биосинтеза недостаточен. По его мнению, текущие меры безопасности слишком узконаправленны. «Мы должны отказаться от этой предполагаемой точки перекрытия и начать искать более устойчивые решения», — отмечает Коэн.
Перспективы и вызовы
Результаты исследования Microsoft демонстрируют, что развитие ИИ требует пересмотра подходов к безопасности не только в цифровом, но и в биологическом пространстве. Потенциальные злоумышленники могут использовать подобные технологии для создания биологических угроз, что делает необходимым пересмотр существующих протоколов контроля.
Интересно: Какие меры безопасности в биотехнологии могут действительно противостоять угрозе, связанной с ИИ? Возможно ли создать универсальную систему контроля, или это станет бесконечной гонкой вооружений?
Риски, которые мы не видим
Когда ИИ становится оружием
Развитие искусственного интеллекта в биотехнологии открывает дверь в новую плоскость рисков — не только цифровую, но и биологическую. Генеративные модели, созданные для ускорения научных открытий, могут стать инструментом для синтеза опасных молекул. Это не гипотетическая угроза: исследование Microsoft показывает, что такие модели способны обходить существующие системы безопасности, создавая последовательности ДНК, которые могут привести к производству токсинов или патогенов.
Ключевой момент: биотехнологии, которые раньше контролировались через физические и лабораторные барьеры, теперь становятся уязвимыми в виртуальном пространстве. ИИ позволяет обойти эти барьеры, используя алгоритмические трюки, а не доступ к оборудованию. Это меняет природу угрозы: теперь злоумышленник не обязан быть биологом — достаточно уметь работать с моделью.
Тренд: Биологическая безопасность превращается в вопрос ИТ-безопасности. В будущем защита от биоопасности будет включать в себя мониторинг запросов к ИИ-моделям и их содержимого.
Система, которая не успевает
Отрасль биотехнологий столкнулась с проблемой, характерной для многих секторов, где технологии развиваются быстрее, чем регуляторные и защитные механизмы. Системы безопасности, разработанные для фильтрации запросов на синтез ДНК, не учитывают способность ИИ создавать обходные пути. Это похоже на попытку запереть дверь, не понимая, что злоумышленник может создать ключ виртуально.
Ключевой момент: текущие меры защиты слишком узконаправленны. Они реагируют на известные угрозы, но не предотвращают появление новых. Это похоже на систему антивируса, которая не может обнаружить вирус, который ещё не был создан.
Обратите внимание: Решение проблемы не в улучшении текущих алгоритмов фильтрации, а в создании принципиально новых подходов, учитывающих генеративную мощь ИИ.
Что это значит для России
Для российского биотех-сектора эта проблема особенно актуальна. В стране наблюдается рост инвестиций в биотехнологии, а также активное развитие ИИ. Однако регуляторная база и системы безопасности в этой сфере пока остаются на стадии формирования. Это создаёт риски как для научных институтов, так и для коммерческих лабораторий.
Ключевой момент: необходимо начать внедрять мониторинг ИИ-генерации в биотехнологии. Это включает в себя как внутренние протоколы, так и сотрудничество с разработчиками моделей. Без этого российские компании могут стать не только жертвами, но и непреднамеренными участниками глобальной гонки вооружений.
К чему это ведет? Если сегодня ИИ может создавать биологические угрозы, то завтра он может их и нейтрализовать. Но только если подходы к безопасности станут более комплексными и опережающими.
Новые вызовы и возможности в ИИ-инфраструктуре
Развитие ИИ требует не только совершенствования алгоритмов, но и масштабного обновления инфраструктуры. Microsoft, например, инвестирует в ИИ-мощности через контракт с российской компанией Nebius, оцениваемый до $19,4 млрд. Это подчеркивает рост глобального спроса на вычислительные ресурсы, а также важность локализации ИИ-инфраструктуры. В дополнение, компания разработала микропотоковую систему охлаждения чипов, снижающую температуру на 65% и позволяющую сократить выбросы CO₂ на 15%. Такие инновации становятся критически важными для масштабных ИИ-проектов, особенно в условиях роста энергопотребления.
Ключевой момент: рост энергопотребления искусственного интеллекта уже стимулирует развитие новых источников энергии, включая малые модульные ядерные реакторы. Это особенно важно для рынков, где дефицит электроэнергии и высокие ставки ограничивают развитие дата-центров. В России, например, рост мощности дата-центров в 2025 году составил всего 5,6%, что намного ниже, чем в предыдущие годы.
Важно: российским компаниям, работающим в ИИ, стоит учитывать не только технические, но и энергетические аспекты масштабирования. Инвестиции в энергоэффективные решения и локальные источники энергии могут стать конкурентным преимуществом в условиях роста глобального спроса.
