Джон Халтквист

Предупреждение об усилении угроз для ИИ-моделей

Джон Халтквист, ведущий аналитик Google Threat Analysis Group, описал атаки на модель Gemini как «канарейку в угольной шахте», указывающую на рост угроз для ИИ-моделей. Он подчеркнул, что злоумышленники используют метод дистилляции для извлечения алгоритмов рассуждений, что может подорвать защиту конфиденциальных данных и интеллектуальной собственности. По его мнению, рост применения LLM-моделей в бизнесе приведет к увеличению подобных атак, особенно если модели обучены на закрытых данных. Подробнее →