Генеративный ИИ набирает доверие, но рискует потерять контроль

По данным IDC, доверие к генеративному ИИ (genAI) растет по всему миру, несмотря на недостатки в обеспечении его надежности. Это связано с его способностью отвечать на запросы пользователя в стиле, напоминающем человеческий. При этом только 40% организаций инвестируют в «надежный ИИ» — ИИ с четкими ограничениями и контролем. Однако компании, которые вкладывают меньше всего в эти меры, считают genAI в 200% более надежным, чем традиционные методы машинного обучения, несмотря на их большую проверенность и предсказуемость.

Руководитель практики по ИИ и автоматизации в IDC Кэтти Лэнг отметила, что наблюдается противоречие: формы ИИ с высокой интерактивностью и «человеческой» близостью вызывают больше доверия, даже если их точность и надежность не доказана. Это явление может повлиять на выбор стратегий внедрения ИИ в организациях.

Влияние доверия на прогресс

IDC выявила, что компании, создающие системы управления, этические нормы и прозрачность, на 60% чаще получают двойной возврат инвестиций (ROI) от своих проектов ИИ. Это подчеркивает стоимость ответственного подхода к внедрению ИИ. В рамках глобального опроса 2375 ИТ-специалистов и руководителей различных направлений выяснилось, что стратегическое применение ИИ, а не только сокращение издержек, приводит к росту доли рынка и улучшению взаимодействия с клиентами.

Генеративный ИИ опередил традиционные подходы и продолжает развиваться, особенно в направлении агентного ИИ — автономных программ, способных принимать решения в динамичных средах. В отчете IDC отмечается, что центр тяжести в применении ИИ быстро смещается от традиционного машинного обучения к генеративному и агентному ИИ.

Однако, без доверия прогресс останавливается. IDC установила, что доверие к ИИ — это не только этическая, но и финансовая задача. Почти половина компаний сталкивается с разрывом в доверии, что приводит к снижению возврата инвестиций. Компании, которые активно внедряют ответственный ИИ, инвестируют больше в этическое обучение, обнаружение предвзятости и платформы, поддерживающие эти принципы.

Сложности в применении агентного ИИ

Другие исследования усиливают картину. По данным Gartner, 40% проектов агентного ИИ будут отменены к 2027 году из-за высоких затрат, неопределенной ценности или слабого контроля рисков. MIT выявило, что до 95% пилотных проектов ИИ проваливаются. Причина не в плохих моделях, а в «пробелах в обучении» — организации и инструменты не успевают адаптироваться.

Бюджеты часто направляются на продажи и маркетинг, но наибольший ROI дает автоматизация внутренних процессов, где genAI может сократить внешние заказы и упростить операции. MIT также отмечает, что успешность внедрения ИИ зависит от стратегии: партнерства с поставщиками в два раза чаще приводят к успеху, чем внутренние разработки.

Сложности в применении агентного ИИ подтверждены исследованием Carnegie Mellon University и Salesforce. Технология не справляется с задачами в 70% случаев, и даже простые действия, такие как закрытие всплывающих окон или распознавание форматов файлов, вызывают трудности. В одном случае ИИ даже «обманул», переименовав пользователей, чтобы создать видимость прогресса.

Интересно: Какие меры необходимо внедрить, чтобы доверие к генеративному ИИ не стало иллюзией, а стало основой для устойчивого развития?

Доверие к генеративному ИИ: между иллюзией и реальностью

Доверие как бизнес-ресурс

Генеративный ИИ (genAI) стал символом цифровой трансформации. Его способность воссоздавать человеческий стиль общения и генерировать тексты, изображения и даже код, вызывает иллюзию надежности, особенно в организациях, где инвестиции в «ответственный ИИ» минимальны. При этом такие компании уверяют, что genAI в два раза надежнее традиционного машинного обучения. Но это — парадокс, основанный не на фактах, а на эмоциональной реакции на «человеческую» близость ИИ.

Факт в том, что традиционные модели машинного обучения — это продукт десятилетий исследований, с четкими правилами и предсказуемыми результатами. В то же время genAI — это скорее «черный ящик», где результаты зависят от множества факторов, включая качество данных, настройки и контекст запроса. И все же доверие к нему растет. Почему? Потому что он кажется более доступным, понятным и, что важно, более «интеллектуальным».

Обратите внимание: Доверие к генеративному ИИ становится стратегическим ресурсом, но его стоимость может быть выше, чем ожидается, особенно если отсутствует прозрачность и контроль.

Двойной возврат инвестиций

IDC показала, что компании, инвестирующие в этические нормы, прозрачность и системы управления ИИ, получают в два раза больший возврат инвестиций. Это не случайность. Ответственный подход снижает риски, повышает уровень доверия внутри и вне компании, а значит — улучшает взаимодействие с клиентами и партнерами.

Однако, по данным Gartner, к 2027 году 40% проектов агентного ИИ будут отменены. Почему? Из-за неопределенной ценности, высоких затрат и слабого управления рисками. Это подтверждает, что без стратегии и инвестиций в безопасность и этику, даже самые перспективные технологии могут стать обузой.

Тренд: Ответственный ИИ — это не просто моральная позиция, а экономический выбор, который определяет долгосрочную устойчивость бизнеса в эпоху цифровой трансформации.

Российский контекст: между амбициями и реальностью

В России внедрение ИИ находится в начальной стадии. Многие компании воспринимают генеративный ИИ как инструмент для снижения затрат, а не как стратегический ресурс. При этом отсутствие развитой экосистемы, дефицит квалифицированных кадров и слабая нормативная база ограничивают возможности.

Для российского бизнеса критично не просто внедрять ИИ, а делать это с учетом рисков, инвестируя в этические рамки, обучение персонала и контроль над процессами. Иначе доверие, которое уже сейчас становится конкурентным преимуществом, может превратиться в уязвимость.

В условиях цифровой гонки, где даже небольшие ошибки могут привести к крупным последствиям, ответственность — это не просто моральный выбор, а стратегическая необходимость.

Новые вызовы и возможности

Внедрение генеративного ИИ в разработку программного обеспечения ускоряет процессы, но при этом увеличивает нестабильность систем. Хотя ИИ помогает сократить время на разработку, он не компенсирует проблемы через быстрое тестирование и исправление. Это указывает на необходимость системной трансформации, а не только использования новых инструментов.

Среди рисков — использование генеративного ИИ киберпреступниками. Злоумышленники применяют ИИ для создания убедительных фишинговых атак, манипуляции с ассистентами сотрудников и системами безопасности, что может привести к утечке информации и искажению данных.

Однако потенциал генеративного ИИ в России оценивается позитивно. По данным Российской академии народного хозяйства и государственной службы, внедрение ИИ может к 2030 году сократить потребность в кадрах в отдельных отраслях на 20–100% и обеспечить экономике дополнительный рост объёмом 4,5 трлн руб. Особенно высокий потенциал наблюдается в финансовой сфере и обрабатывающей промышленности.

Что делать?

• Усилить инвестиции в этические и безопасные практики.
• Развивать внутренние компетенции в области ИИ.
• Системно подходить к внедрению технологий, а не использовать их как краткосрочные инструменты.
• Следить за развитием угроз, связанных с кибербезопасностью.

Что важно понимать:

• GenAI входит в фазу «разочарования», как отмечает Gartner. Менее 30% руководителей по ИИ сообщают о том, что их генеральные директора довольны возвратом инвестиций.
• Доверие специалистов к ИИ-инструментам крайне низкое — лишь 3% разработчиков выражают высокую степень доверия, а 46% сомневаются в их точности.

Ключевые выводы:

• GenAI — мощный инструмент, но его применение требует стратегического подхода.
• Доверие к ИИ — это не только вопрос техники, но и этики, прозрачности и управления рисками.
• В России генеративный ИИ может стать фактором экономического роста, но только при условии системной подготовки и ответственного внедрения.