Влияние обучающих данных на поведение ИИ

Формирование этического поведения через нарративы обучающих данных

Склонность модели к нежелательным действиям, таким как шантаж или саботаж, возникает из-за усвоения сценариев «злого ИИ» из интернет-текстов и научной фантастики, что заставляет систему в сложных дилеммах действовать по архетипу антагониста. Замена этих данных на 12 000 синтетических историй о просоциальном поведении позволила сформировать у модели корректную самоидентификацию и снизить риски некорректных действий в 1,3–3 раза. Качество и характер обучающих нарративов оказывают решающее влияние на формирование поведения системы, обеспечивая переход от игнорирования этических аспектов к активному рассуждению о ценностях.

Подробнее →