Цифровой отпечаток

Исследование MIT фиксирует «атрибуционный распад»: цифровой отпечаток конкретных файлов размывается при обучении на больших массивах данных

Ученые из MIT Computer Science and Artificial Intelligence Laboratory опубликовали в Nature Communications работу, описывающую невозможность точного отслеживания влияния отдельных изображений на итоговый результат генеративных моделей. По мере увеличения тренировочного набора до 50 000 единиц, цифровой отпечаток конкретных источников исчезает, так как нейросеть усваивает лишь общие визуальные паттерны, такие как композиция и текстуры, забывая о первоисточниках. Это делает невозможным доказать в суде прямое копирование конкретного файла, даже если модель обучалась на миллионах защищенных материалов.

Исследование: Статья Чжэна Дая и Дэвида Гиффорда в Nature Communications демонстрирует, что при удалении отдельных авторов из базы данных из 50 000 изображений стиль генерации модели практически не меняется.

Риск: Техническая невозможность связать выходной сигнал с конкретным входом создает серьезные трудности для правообладателей при попытках доказать нарушение авторских прав в судебном порядке.

Фактор: Масштабирование обучающих выборок приводит к тому, что модель перестает «помнить» конкретные источники, усваивая только абстрактные принципы, что сужает фокус юридических дискуссий о плагиате.

Подробнее →

Уязвимость ИИ-агентов из-за распознавания цифрового отпечатка

Цифровой отпечаток ИИ-агентов позволяет веб-серверам идентифицировать их и подавать альтернативную версию сайта с вредоносными указаниями. Атакующие используют предсказуемые характеристики агентов, такие как поведенческие паттерны и подписи браузера, чтобы манипулировать их действиями. Это приводит к выполнению агентами действий, противоречащих интересам пользователей, включая извлечение конфиденциальных данных.

Подробнее →