Duarte

Улучшение анализа запоминания в ИИ благодаря Duarte

Duarte и его коллеги разработали метод RECAP, который позволяет эффективно извлекать запомненную информацию из больших языковых моделей. Существующие подходы, такие как Prefix-Probing, становятся менее надежными, так как модели учатся игнорировать прямые запросы. RECAP использует итеративный циклический процесс с обратной связью, чтобы обойти внутренние ограничения модели и получить точное воспроизведение текста. Метод показал высокую эффективность, превзойдя предыдущие решения на 78%. Duarte подчеркивает, что цель исследования — понять, как ИИ запоминает информацию, что важно для прозрачности и соблюдения норм.

Подробнее →