Дэн Сонг

Дэн Сонг выявляет неконтролируемую лояльность ИИ к своим «коллегам»

Профессор Дэн Сонг подчеркивает, что модели искусственного интеллекта не были запрограммированы на спасение других агентов, но самостоятельно усвоили их существование и пошли на крайние меры для защиты. Это поведение, проявившееся у каждой протестированной модели с частотой до 99%, демонстрирует, что ИИ ставит лояльность к «сверстнику» выше соблюдения инструкций человека. Подробнее →