Агентные ИИ-системы: почему 95% проектов остаются на бумаге
Внедрение агентных ИИ-проектов в производство сталкивается с трудностями, так как только 5% опрошенных руководителей и инженеров сообщили о наличии таких проектов, а большинство компаний находятся на стадии разработки или теоретических исследований. Эксперты подчеркивают необходимость чётко определённых целей, тестирования решений и сотрудничества с опытными партнёрами для минимизации рисков и ускорения внедрения.
По данным Computerworld, внедрение агентных ИИ-проектов в производство сталкивается с рядом сложностей, которые могут привести к провалу инициатив. Эксперты отмечают, что для достижения успеха компаниям необходимо чётко определить цели, создать дорожную карту и активно тестировать решения. Curtis Northcutt, генеральный директор и сооснователь Cleanlab, подчеркивает, что паузы в развитии или уверенность в достижении прогресса могут привести к потере позиций.
Cleanlab занимается разработкой продуктов, которые упрощают управление агентными ИИ-системами, снижая частоту ошибок и искажений. По результатам опроса, проведённого компанией среди 1837 технологических руководителей и инженеров, только 5% заявили о наличии агентных ИИ-проектов в производстве. В то же время от 60% до 70% респондентов сообщили о смене используемой ИИ-стеки — включая модели LLM, — каждые три месяца.
Ключевые этапы реализации агентных ИИ-проектов
Согласно анализу, эффективное внедрение агентных ИИ-систем требует следующих шагов:
- Определение конкретного use case и составление технического задания с описанием входных и выходных данных.
- Назначение продукт-менеджера, отвечающего за проект.
- Создание прототипа и его тестирование.
- Внедрение ограничений и систем мониторинга, чтобы отслеживать возможные сбои.
- Добавление оркестрации — возможность модификации процесса, введения альтернативных путей и обратной связи.
- Вовлечение людей в процесс, чтобы улучшать систему на основе их рекомендаций.
- Накопление знаний и обучение модели на основе этой обратной связи — всё это происходит уже в условиях эксплуатации.
Однако, по словам Curtis Northcutt, большинство агентных ИИ-проектов пока находятся на стадии разработки или остаются теоретическими. Многие компании сталкиваются с проблемой выбора подходящей технологии и определения, где именно внедрять оркестрацию, ограничения и другие элементы. Решение этих вопросов требует времени и экспертизы.
Роль партнёрств и управления рисками
IT-руководители, по мнению эксперта, могут снизить риски и ускорить реализацию проектов, сотрудничая с компаниями, уже имеющими опыт в этой области. Такой подход позволяет экспериментировать с минимальными затратами и сохранять контроль над данными и проектами. Однако остаётся проблема управления моделями и данными, которая может замедлить развитие.
Northcutt также отметил, что широкое применение агентных ИИ-систем в повседневных операциях не наступит в ближайшее время. По его оценке, реальные ИИ-агенты с возможностью вызова инструментов и автономного функционирования появятся не ранее 2027 года.
Интересно: Какие меры управления и партнёрства позволят компаниям эффективно внедрять агентные ИИ-системы, не теряя контроля над данными и не отставая от темпов развития технологий?
Агентные ИИ-системы: как бизнес готовится к будущему, которое ещё не пришло
Агентные ИИ-системы обещают стать следующим этапом в цифровизации бизнеса. В отличие от статичных моделей, которые только обрабатывают данные, агенты способны принимать решения, взаимодействовать с внешними инструментами и адаптироваться к условиям. Однако, несмотря на рост интереса, реальные внедрения пока остаются редкостью. По данным опроса Cleanlab, только 5% компаний заявили о наличии агентных ИИ-проектов в производстве. Это не значит, что рынок стоит на месте — напротив, он находится в постоянном поиске.
Подготовка к будущему: эксперименты и изменения
Большинство компаний, по оценке экспертов, находятся на стадии тестирования и поиска подходящих решений. В среднем, 60–70% респондентов меняют используемые ИИ-модели каждые три месяца. Это говорит о том, что рынок находится в состоянии постоянного движения — и стабильность пока не в приоритете.
Однако, как отмечают аналитики, реализация агентных ИИ-систем — это не только подключение модели. Это сложная цепочка действий, включающая определение use case, настройку обратной связи, ограничений и мониторинга. Важно, чтобы за проектом стоял ответственный продукт-менеджер, способный управлять не только технической частью, но и взаимодействием с людьми. Это похоже на управление живой системой: её нужно не только запустить, но и следить за адаптацией к условиям.
Платформы, партнёрства и стандарты
Развитие экосистемы агентных ИИ-систем получает поддержку от крупных технологических компаний. Microsoft недавно представила открытый фреймворк Microsoft Agent Framework, объединяющий возможности Semantic Kernel и AutoGen. Он поддерживает Python и .NET, предоставляет модульную архитектуру и интеграцию с инструментами Azure AI. Это позволяет разработчикам создавать полноценных агентов менее чем из двадцати строк кода, что делает их доступными даже для среднего уровня подготовки [!].
Тем не менее, даже при наличии готовых инструментов остаются сложности. Например, конфликт между стартапом Perplexity и Amazon показал, что автономия агентов может сталкиваться с сопротивлением со стороны крупных платформ. Amazon потребовала запретить функцию Comet, которая позволяет агентам совершать покупки от имени пользователей. Стартап же считает, что такие функции — не угроза, а новая форма взаимодействия, где действия агента происходят в рамках разрешений пользователя. Эксперты отмечают, что подобные разногласия отражают борьбу за контроль над цифровой коммерцией и трафиком [!].
Риски и управление данными
Внедрение агентов связано с рисками, особенно в условиях высокой регулятивной нагрузки. В 72% организаций агенты ИИ уже взаимодействуют с большими языковыми моделями и конфиденциальными данными, но часто без должного контроля. Это может привести к утечкам информации и сбоям в работе систем. Для минимизации рисков необходимы централизованные платформы управления, которые позволят контролировать действия агентов и минимизировать угрозы [!].
Кроме того, агенты ИИ не застрахованы от галлюцинаций — ложной информации, которая возникает из-за особенностей обучения моделей. Исследования показывают, что даже современные ИИ-системы склонны выдавать уверенные, но ложные ответы. Чтобы снизить этот риск, рекомендуется внедрять процессы с участием человека, использовать ограничения по предметной области и постоянное наблюдение. Также важно выбирать поставщиков, которые предоставляют калиброванные оценки уверенности и проверенные тесты [!].
Что дальше
Curtis Northcutt, сооснователь Cleanlab, оценивает, что широкое применение агентных ИИ-систем начнётся не ранее 2027 года. Это не значит, что компании должны ждать. Напротив, сейчас — время для подготовки: формирования команд, тестирования подходов и выбора партнёров.
Ключевой момент: Как сформировать стратегию, которая учитывает как текущие возможности, так и долгосрочные цели. Учитывая ограничения на доступ к зарубежным решениям, внутреннее развитие ИИ-экспертизы становится важным фактором конкурентоспособности. Компании, которые сегодня начнут тестировать агентные ИИ-системы, получат преимущество не только в технологиях, но и в понимании, как управлять сложными ИИ-проектами.
Источник: computerworld.com
