Борьба с галлюцинациями
Борьба с галлюцинациями в новостной повестке, календарь упоминаний и aналитика в реальном времени.
Календарь упоминаний:
Борьба с галлюцинациями получила инструмент LettucePrevent для снижения фактических ошибок в RAG-системах
Исследователи из Технического университета Вены представили решение, интегрируемое в процесс генерации текста для отсеивания выдуманных фактов в реальном времени. Борьба с галлюцинациями демонстрирует высокую эффективность при использовании детерминированного детектора чисел, снижая количество ошибок более чем на 60% с минимальным замедлением работы. Однако нейросетевой детектор фактов пока не готов к широкому внедрению из-за критической зависимости от совместимости токенизации и высоких вычислительных затрат.
Исследование: Тестирование на моделях Qwen2.5, Mistral 7B и Llama-2 показало снижение ошибок на 64–86% при использовании детектора чисел, тогда как нейросетевой детектор дал значимый результат только для Llama-2.
Риск: Нейросетевой детектор фактов увеличивает время генерации до 742% и может блокировать корректные варианты текста из-за низкой точности (F1 ≈ 0.39).
Фактор: Эффективность Борьба с галлюцинациями критически зависит от совпадения способа токенизации у генеративной модели и детектора, что ограничивает применимость решения.
Связь: Использование детектора чисел блокирует любые числовые строки, отсутствующие в исходном тексте, что делает невозможным выполнение арифметических вычислений моделью.
В нашей базе собрано 1 событие по теме «Борьба с галлюцинациями». Мы показываем все из них.