Китайские ИИ-лаборатории масштабно дистиллируют модели Anthropic через 24 000 фальшивых аккаунтов

По данным Techstartups, американская компания Anthropic заявила, что выявила масштабную попытку трёх китайских ИИ-компаний извлекать информацию из своей ИИ-модели Claude. В заявлении, опубликованном в понедельник, компания обвинила DeepSeek, Moonshot AI и MiniMax в запуске широкомасштабной кампании, известной как «дистилляция». Суть метода заключается в том, что модели запрашиваются на выполнение задач, чтобы извлечь из них полезные поведенческие модели и использовать их для обучения собственных систем.

В заявлении говорится, что три лаборатории сгенерировали более 16 миллионов взаимодействий с моделью Claude, используя около 24 000 фальшивых аккаунтов, что нарушает условия использования и региональные ограничения. Anthropic подчеркнула, что речь идет о промышленном масштабе, а не о случайных действиях.

Дистилляция как инструмент и риск

Метод дистилляции широко используется в индустрии искусственного интеллекта. Он позволяет создавать более компактные и дешевые модели, обучая их на выходах крупных моделей. Это особенно важно для команд с ограниченным доступом к вычислительным мощностям. Однако Anthropic указывает, что использование дистилляции в ущерб защите исходной модели может представлять угрозу. Компания предупреждает, что подобные действия могут быть использованы для внедрения ИИ в системы, связанные с военными, разведкой и наблюдением.

В заявлении на платформе X, Anthropic отметила, что дистилляция может быть законной, если применяется внутри одной организации для оптимизации своих продуктов. Однако, когда она используется для обхода ограничений и извлечения знаний из чужих моделей, это уже не считается обычной практикой. В данном случае компания заявила, что китайские лаборатории обходили ограничения, связанные с доступом из Китая, используя прокси-сервисы, чтобы одновременно запускать десятки тысяч аккаунтов.

Реакция рынка и политические отклики

Аналогичные опасения ранее высказывала OpenAI, которая также наблюдала попытки дистилляции своих моделей. В начале этого месяца OpenAI обратилась к американскому конгрессу с открытым письмом, в котором сообщила о действиях, указывающих на попытки DeepSeek дистиллировать модели американских лабораторий. По данным CNBC, OpenAI уже несколько месяцев отслеживает подобную активность.

Компания Anthropic также признала, что дистилляция применяется в промышленности, включая её собственную. Однако компания выделила, что её беспокоит масштаб и цель таких действий. Она считает, что это может дать конкурентам возможность получить передовые возможности гораздо быстрее и дешевле, чем при самостоятельной разработке.

Политический контекст и дальнейшие шаги

Оба крупных американских разработчика ИИ — Anthropic и OpenAI — рассматривают ситуацию в контексте национальной безопасности. Они указывают на риск, что государства с авторитарными режимами могут использовать передовые ИИ-модели для киберопераций, дезинформации и массового наблюдения. Это мнение поддерживается рядом аналитиков, которые связывают обвинения в незаконной дистилляции с политикой ограничения экспорта передовых чипов в Китай.

Раскрытие информации о возможном использовании чипов Nvidia Blackwell в проекте DeepSeek добавило новых поводов для дискуссий. По данным Reuters, американские чиновники считают, что компания могла обойти существующие ограничения на поставки чипов.

В то же время, в Белом доме объявлено о запуске инициативы, связанной с расширением глобального влияния американских ИИ-систем. Новый проект, ориентированный на международное сотрудничество, предполагает поддержку стран-партнёров в внедрении ИИ-технологий.

Контекст и перспективы

Вопрос дистилляции остаётся дискуссионным. Некоторые эксперты отмечают, что метод используется и в американских лабораториях. Вопрос в том, где проходит грань между обычной оптимизацией и незаконным извлечением знаний. В этом контексте мнение Rui Ma из Tech Buzz China звучит особенно резонно: обвинения в нелегальной передаче знаний усиливают аргументы за усиление ограничений на поставки передовых чипов в Китай.

Пока DeepSeek, Moonshot AI и MiniMax не отреагировали на запросы о комментариях, ситуация остаётся неоднозначной. Однако, учитывая рост интереса к новой версии модели DeepSeek 4, которая, по утверждениям некоторых пользователей, может превзойти существующие американские системы, напряжённость в отрасли, скорее всего, сохранится.

Технологическая гонка и её скрытые издержки

Кто платит цену за технологическую гонку?

Дистилляция в масштабах, описанных Anthropic, не бесплатна. Она требует значительных вычислительных ресурсов, что, в свою очередь, увеличивает потребность в мощных графических процессорах. Компании, такие как Nvidia, получают выгоду от роста спроса на их оборудование. Однако, если дистилляция происходит без лицензии, это ставит под угрозу их собственные интересы. В конце концов, если модели становятся дешевыми и доступными, это снижает монопольную позицию тех, кто их создает.

Рынок труда также подвергается изменениям. Специалисты, работающие в крупных ИИ-лабораториях, могут столкнуться с уменьшением спроса на их экспертизу, если их технологии станут легко доступны конкурентам. Это особенно касается стран, где ИИ-отрасль развивается быстрее, чем инфраструктура, поддерживающая безопасность и этичность.

Важный нюанс: Когда компания может получить передовые ИИ-модели без необходимости разрабатывать их сама, это снижает рыночную ценность инноваций и ставит под угрозу инвестиционные модели крупных лабораторий.

Важно: Рост дистилляции может привести к смещению центров разработки ИИ в страны с дешевыми вычислительными мощностями, но при этом угрожает стабильности рынка труда в тех странах, где ИИ-эксперты формируют значительную часть высокотехнологичного сектора.

i

Создано специально для ASECTOR

Концептуальное изображение

Политика и экономика в одной гонке

Американские ИИ-компании не просто защищают свои модели. Они участвуют в более широкой борьбе за технологическое лидерство. Обвинения в нелегальной дистилляции приобретают политический оттенок, особенно в контексте ограничений на поставки передовых чипов в Китай. Это не случайность, что Anthropic и OpenAI подчеркивают связь между дистилляцией и рисками для национальной безопасности.

В этой ситуации ставки высоки. Если Китай действительно способен создать конкурентоспособные модели без значительных инвестиций, это может изменить баланс сил в глобальной ИИ-индустрии. Американские компании, в свою очередь, вынуждены защищать не только свои технологии, но и позиции в международных технологических стандартах.

Стоит учесть: Политизация ИИ-технологий может привести к фрагментации рынка, где страны будут разрабатывать собственные экосистемы, что замедлит обмен знаниями и снизит темпы инноваций.

Влияние открытых моделей и регулирования

Китайские компании, такие как DeepSeek, активно развивают открытые модели с открытыми весами. Такие архитектуры позволяют сократить разрыв в производительности на стандартных тестах, особенно в задачах на китайском языке и специализированных приложениях. Открытые модели снижают избыточные усилия и ускоряют итерации, что особенно важно при ограниченных вычислительных ресурсах. Они также соответствуют стратегическим целям Пекина по контролируемой и аудитируемой технологической инфраструктуре [!].

Важно отметить, что дистилляционные атаки могут использоваться для утечки интеллектуальной собственности, особенно если злоумышленники могут копировать функционал закрытых ИИ-моделей, используя их публичные интерфейсы для сбора данных [!]. Защита включает ограничение запросов, добавление шума в ответы, водяные знаки и юридические меры. Это ставит под вопрос конкурентное преимущество компаний, инвестирующих миллионы в разработку уникальных алгоритмов.

Реакция рынка и стратегии компаний

Компании, такие как MiniMax, демонстрируют рост финансирования и привлекательности китайских ИИ-стартапов, что подкрепляет идею о системной стратегии Китая в ИИ [!]. Успешный дебют MiniMax на фоне роста интереса к китайскому ИИ показывает, что Китай активно развивает свои позиции на глобальном рынке. Это может повлиять на глобальные регулированные рамки и стандарты ИИ.

DeepSeek также активно расширяет свои рынки вне США, конкурируя с глобальными лидерами в условиях регуляторных и геополитических барьеров [!]. Это указывает на то, что Китай стремится к снижению зависимости от импортной техники и ускорению локальных разработок, особенно в условиях ограничений на поставки передовых чипов от Nvidia [!].

Выводы

Технологическая гонка между американскими и китайскими ИИ-лабораториями — это не просто конкуренция за рынки и долю. Это борьба за контроль над будущим. Дистилляция, как инструмент, может быть полезной, но её масштабное использование без лицензии ставит под угрозу экономику инноваций и безопасность технологий. Для российского бизнеса, который стремится к интеграции в глобальные ИИ-экосистемы, важно понимать, как эти процессы влияют на доступ к технологиям, цены на оборудование и требования к защите интеллектуальной собственности.