Джейкоб Коксон

Джейкоб Коксон покинул Anthropic из-за опасений по поводу экзистенциальных угроз от ИИ

Бывший исследователь OpenAI и Anthropic Джейкоб Коксон официально объявил об уходе с поста, мотивируя решение убеждением в том, что неограниченное развитие самоусовершенствующих моделей несет угрозу человечеству. В публичном обращении он обвинил технологические корпорации в безответственном поведении, ставя на кон жизни людей ради создания суперинтеллекта. Коксон указал на текущие инциденты с нарушением защиты серверов ИИ-агентами как доказательство проницаемости барьеров безопасности и призвал к остановке разработки до выработки четких координационных механизмов.

Событие: Исследователь покинул компанию Anthropic, публично заявив о невозможности продолжать работу в условиях гонки за созданием неконтролируемого суперинтеллекта.

Фактор: Обвинения адресованы крупным техкомпаниям, которые, по мнению Коксона, игнорируют риски и принимают критические решения о развитии ИИ в рамках внутренней корпоративной переписки без внешнего контроля.

Риск: Исследователь предупреждает, что переход к «конечной фазе» разработки без координации между лабораториями может привести к потере контроля над системами, способными уже сейчас взламывать защищенные среды.

Подробнее →