Метод дистилляции

Утечка алгоритмов: последствия метода дистилляции

Метод дистилляции используется злоумышленниками для извлечения внутренних механизмов ИИ-моделей, включая алгоритмы рассуждений. В ходе атак на модель Gemini злоумышленники отправили более 100 000 запросов, чтобы изучить закономерности выходных данных и воссоздать логику модели. Google называет такие атаки формой кражи интеллектуальной собственности, так как алгоритмы крупных языковых моделей представляют собой ценные, защищённые авторским правом активы. Особенно уязвимы модели, обученные на конфиденциальных данных, что делает их привлекательными для конкурентов. Подробнее →