Эмерджентность ИИ

Эмерджентность ИИ подвергается сомнению экспериментом CIVOS, доказавшим доминирование воспроизведения памяти над поиском новых решений

Команда VIDRAFT_LAB опубликовала результаты исследования мультиагентных систем, показавшие, что сложное поведение ИИ-цивилизаций в значительной степени является механическим воспроизведением знаний из обучающих данных, а не возникновением новых свойств. При блокировке доступа к предварительным знаниям производительность агентов резко падает, а использование неверных данных оказывается хуже их полного отсутствия. Отсутствие вариативности результатов при разных стартовых условиях указывает на цитирование заученного сценария, что ставит под вопрос достоверность прошлых отчетов о «прорыве» ИИ.

Исследование: Эксперимент CIVOS выявил, что в 40 из 40 парных тестов использование заведомо неверных знаний приводило к худшим результатам, чем полное отсутствие данных, подтверждая зависимость систем от памяти модели.

Риск: Масштабирование ИИ-агентов на основе воспроизведения паттернов из интернета несет угрозу переоценки их способностей, так как их инновационный потенциал в неизученных средах может быть значительно ниже заявленного.

Фактор: Отсутствие контрольных механизмов, исключающих влияние обучающих данных, делает статистически несостоятельными многие прошлые отчеты об эмерджентности, где поиск новых решений выглядел идентично воспроизведению истории.

Подробнее →