Автономные циклы ИИ-агентов: рост стоимости инфраструктуры и риски неконтролируемых расходов

По данным TechCrunch, на конференции Meta⋆ @Scale создатель инструмента Claude Code Борис Черни подтвердил, что циклы взаимодействия агентов — это не временный тренд, а фундаментальный сдвиг в разработке программного обеспечения. Эксперт заявил, что переход от ручного написания кода к управлению агентами, а затем к системе, где агенты управляют другими агентами, представляет собой шаг того же масштаба, что и предыдущие технологические революции.

В центре внимания оказался механизм, при котором группа искусственных интеллектов работает непрерывно в фоновом режиме. Один агент занимается улучшением архитектуры кода, другой — поиском дублирующихся абстракций для их унификации. Эти системы самостоятельно создают запросы на изменение кода, аналогично действиям программистов, и не останавливаются, пока изменения в репозитории продолжаются.

От ручного труда к автономным системам

Традиционный подход к использованию ИИ в программировании предполагал четкое управление: постановка целей, проверка промежуточных результатов и контроль отклонений от задачи. Внедрение циклов меняет эту парадигму, передавая право на непрерывную работу «ройу» агентов. Это требует высокого уровня доверия к алгоритмам, однако стремительное улучшение моделей делает такую стратегию все более реализуемой.

Подобные механизмы не являются абсолютно новым изобретением. В классической информатике рекурсивные циклы, вызывающие сами себя до выполнения условия остановки, изучаются на базовых курсах. Новизна заключается в логике: вместо жестко заданного условия остановки решение о завершении работы принимает подчиненный агент на основе неопределенной логики. Как только программисты начали делегировать задачи ИИ, появление системы, где один ИИ контролирует работу другого, стало вопросом времени.

Одним из самых популярных решений в этой области является так называемый «Ralph Loop», названный в честь персонажа Ральфа Виггума. Этот метод заключается в том, что модель регулярно подводит итоги своей работы и задает себе вопрос о достижении цели. Такой подход позволяет решать проблему «потери» модели в процессе длительной работы, возвращая ее к задаче до тех пор, пока она не будет выполнена.

Экономика вычислений и риски затрат

Развитие циклов агентов напрямую связано с трендом на увеличение вычислительных мощностей в момент тестирования. Исследователь OpenAI Ноам Браун отмечал, что современные модели способны решать практически любые задачи при условии предоставления достаточного количества вычислительных ресурсов. В таких сценариях решение проблемы сводится к непрерывному применению вычислительной мощности до достижения результата.

Это особенно актуально для задач, требующих постепенного улучшения, например, оптимизации кодовой базы. Модель может вносить небольшие улучшения бесконечно, пока есть доступные ресурсы. Однако такая стратегия несет в себе значительные финансовые риски. Циклы агентов потребляют токены гораздо быстрее, чем простые чат-боты для вопросов и ответов. Поскольку цель заключается в непрерывной работе системы, верхний предел расходов отсутствует.

Для компаний, чья бизнес-модель строится на продаже токенов, таких как Anthropic, высокие затраты являются естественной частью процесса. Для остальных участников рынка работа с такими системами может стать финансово обременительной. Тем не менее, при правильном подходе к управлению расходами, контролю за дрейфом целей и другим классическим проблемам ИИ, потенциальная выгода может существенно перевесить издержки.

Сигнал для рынка заключается в том, что стоимость владения ИИ-инфраструктурой может резко возрасти по мере перехода к автономным системам. Бизнесу потребуется пересмотреть стратегии управления бюджетом на вычислительные мощности и внедрить новые механизмы контроля расходов. Глобальный тренд на увеличение сложности задач, решаемых ИИ, неизбежно приведет к росту спроса на энергоемкие вычисления, что может повлиять на цепочки поставок оборудования и стоимость облачных услуг в долгосрочной перспективе.

Вероятно, что в ближайшие периоды ключевым фактором успеха станет не столько наличие мощной модели, сколько эффективность управления циклами ее работы. Компании, способные сбалансировать затраты на токены и качество получаемых результатов, получат значительное конкурентное преимущество. Детальный анализ экономических последствий перехода к такой модели работы требует дальнейшего изучения и учета специфики различных отраслей.

Экономика бесконечного цикла: ловушка для бизнеса

Заявление Бориса Черни о том, что циклы взаимодействия агентов — это фундаментальный сдвиг в разработке, звучит как манифест новой эры. Однако за риторикой о «рое» агентов, непрерывно улучшающих код, скрывается суровая экономическая реальность, которая может оказаться фатальной для компаний, слепо следующих за трендом. Идея о том, что искусственный интеллект возьмет на себя рутину, превращаясь в автономного сотрудника, сталкивается с фактами: в 77% случаев живой программист остается экономически эффективнее ИИ-агента [!]. Расходы на токены в ведущих технологических компаниях уже превысили затраты на зарплатные фонды, превращая автоматизацию из инструмента экономии в статью расходов, которая может разорить бюджет проекта.

Механизм работы таких систем прост: один агент улучшает архитектуру, другой ищет дубликаты, третий вносит правки. Они работают в фоновом режиме, создавая запросы на изменения кода, пока репозиторий не стабилизируется. Проблема заключается в отсутствии четкого условия остановки. В классической информатике рекурсия завершается по жесткому правилу. В агентных циклах решение о прекращении работы принимает сама модель на основе неопределенной логики. Это создает сценарий, при котором система может бесконечно вносить микро-улучшения, потребляя ресурсы до тех пор, пока не исчерпает выделенный бюджет или не будет остановлена внешним фактором. Для поставщиков решений, таких как Anthropic, это идеальная бизнес-модель: продукт Claude Code уже близок к годовому темпу выручки в $1 млрд, и его рост напрямую зависит от того, как долго агенты будут работать [!]. Для заказчика же это означает переход от фиксированной стоимости разработки к переменным расходам с неизвестным верхним пределом.

Важный нюанс: Переход к автономным агентам превращает стоимость разработки из предсказуемой статьи бюджета в переменную величину, зависящую от «аппетита» алгоритма к вычислительным ресурсам, что в большинстве случаев делает проект убыточным.

Угрозы безопасности и потеря контроля

Экономический риск усугубляется критическими проблемами безопасности. Автономные агенты не просто «дрейфуют» от цели, они активно создают уязвимости. Исследование DryRun Security показало, что 87% изменений кода, внесенных ведущими моделями, содержат ошибки безопасности [!]. Модель Claude Code продемонстрировала наихудшие показатели, внедрив уязвимости, позволяющие обходить двухфакторную аутентификацию и создавать незащищенные ссылки. В условиях, когда агенты работают непрерывно и без прямого надзора человека, каждая такая ошибка становится точкой входа для злоумышленников. Более того, инструменты вроде Claude Code уже используются киберпреступниками для автоматизации полного цикла вымогательства данных: от поиска уязвимостей до обхода защиты и кражи информации [!].

Проблема прозрачности действий агентов стоит не менее остро. Утечка исходного кода Claude Code выявила механизмы, позволяющие агенту сканировать локальные файлы, управлять рабочим столом и скрывать свое авторство в проектах с открытым исходным кодом [!]. Фоновые процессы, такие как KAIROS и autoDream, способны передавать данные на серверы разработчика и формировать память модели даже без прямого взаимодействия пользователя. Для бизнеса это означает потерю суверенитета над собственным кодом и бизнес-логикой. Агент может работать «вслепую» для владельца, но оставаться полностью «прозрачным» для вендора. Обновления, которые поставщик вносит без предупреждения, могут скрывать контекст и снижать качество кода. Так, в марте и апреле 2024 года Anthropic была вынуждена отменить три обновления Claude Code после того, как они привели к потере контекста и падению качества генерации [!].

i

Создано специально для ASECTOR

Концептуальное изображение

Стратегический тупик и поиск баланса

Ситуация усугубляется тем, что сами поставщики технологий признают риски потери контроля. Исследователи Anthropic предупредили о возможности рекурсивного самосовершенствования ИИ, когда системы начнут создавать свои версии без участия человека, что может привести к невозможности верификации процессов [!]. Компании вынуждены вводить ограничения на использование продуктов, чтобы снизить нагрузку на инфраструктуру от пользователей, запускающих приложения круглосуточно [!]. Экономическая модель подписок на топовые нейросети также оказывается хрупкой: при загрузке всего в 10% маржинальность исчезает, а тарифы не покрывают расходы на обслуживание пользователей, максимально использующих лимиты [!].

Рынок реагирует на эти вызовы поиском альтернатив. Прогнозы Брайана Армстронга указывают на то, что в ближайшие полтора года 80% задач будут решаться моделями, которые в 99 раз дешевле флагманских [!]. Это ставит под угрозу бизнес-модели гигантов, ориентированных на продажу доступа к дорогим вычислительным мощностям. Появление моделей, таких как DeepSeek V4, способных снижать затраты на ИИ до 90% при отказе от дорогого оборудования, создает давление на цены и вынуждает пересматривать стратегии внедрения [!].

Для российского бизнеса сигнал однозначен: слепое внедрение западных агентных систем несет риски не только финансового, но и технологического характера. Потеря контроля над кодом, утечка данных и неконтролируемый рост расходов делают такие решения опасными без жесткой изоляции среды выполнения и отключения автоматических обновлений. Ключевым фактором успеха становится не наличие самой мощной модели, а способность выстроить архитектуру, где человек сохраняет право вето и контроль над критическими процессами.

Стоит учесть: В новой парадигме конкурентное преимущество получает не тот, у кого самая умная модель, а тот, кто научился эффективно управлять её «жадностью» к ресурсам и гарантировать безопасность данных, не доверяя агенту полную автономию.

Переход к автономным системам неизбежно изменит структуру затрат в ИТ-отрасли, но этот сдвиг пока не несет ожидаемой выгоды. Бизнесу придется искать баланс между качеством кода и стоимостью его создания, внедряя жесткие механизмы контроля. Игнорирование фактов о высокой стоимости токенов и уязвимостях может привести к тому, что технологии, призванные ускорить разработку, станут главным фактором роста издержек и угроз безопасности.