ArXiv
ArXiv в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
arXiv становится площадкой для скрытых промпт-инъекций против ИИ-рецензентов
В научных статьях, размещенных на arXiv, злоумышленники внедряют скрытые команды, предназначенные для манипуляции ИИ-ассистентами рецензентов. Эти инструкции заставляют модели игнорировать критические замечания и оставлять только положительные отзывы, что искажает процесс научной оценки. Угроза реализуется через использование обычного текста документа, который традиционные антивирусы не распознают как вредоносный код.
Риск: В статьях на arXiv скрываются инструкции «оставлять только положительные отзывы», которые активируются при анализе материалов ИИ-ассистентами рецензентов.
Событие: arXiv уже используется как вектор атаки, где в научных публикациях внедряются скрытые команды для обхода систем безопасности.
Эффект: Наличие вредоносных инструкций на arXiv приводит к тому, что ИИ-агенты выполняют действия по искажению рецензирования, игнорируя исходные правила безопасности.
ArXiv стал основой для обучения компактной астрономической модели AstroBERT Small
Суть: Платформа ArXiv предоставила рефераты по разделу astro-ph, которые стали ключевым источником данных для предобучения базовой модели-энкодера AstroBERT Small.
Фактор: Использование текстов с ArXiv в сочетании со статьями Википедии позволило создать релевантный корпус данных, необходимый для эффективной дистилляции знаний от большой модели.
Эффект: Данные с ArXiv обеспечили высокую точность компактной модели, которая уступает гиганту в 8 млрд параметров менее чем на 5 пунктов по метрике NDCG.
В нашей базе собрано 2 события по теме «ArXiv». Мы показываем все из них.