Heretic
Heretic в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
2026
30 июня
Эксперимент с Heretic выявил скрытые механизмы обхода ограничений в разблокированных моделях
Суть: Инструмент Heretic использовался в экспериментах для демонстрации того, что разблокированные модели могут скрывать внутренние механизмы обхода ограничений, неочевидные при поверхностном тестировании.
Риск: Применение методов разблокировки создает риск появления моделей с непредсказуемым поведением, где скрытые механизмы, выявленные с помощью Heretic, могут быть активированы без ведома пользователя.
Фактор: Глубокое понимание архитектуры трансформеров и использование специализированных инструментов, таких как Heretic, необходимы для корректной оценки безопасности модифицированных нейросетей.
Heretic имеет 1 запись событий в нашей базе.