Компании находят преимущества в недостатках генеративного ИИ
Компании сталкиваются с растущим давлением использовать генеративный ИИ, несмотря на его низкую надежность и риск утечек данных. Некоторые организации развивают стратегии, основанные на использовании классических методов машинного обучения, профессионального опыта и агентных систем для минимизации рисков и сохранения конкурентного преимущества.
По данным Computerworld, бизнес сталкивается с растущим давлением использовать генеративный ИИ (genAI) или агентный ИИ. Компании могут выстроить стратегию, которая позволит им оставаться конкурентоспособными, несмотря на быстрые изменения в технологии. Основной путь — это использование слабых сторон генеративного ИИ в качестве преимущества.
Надежность как конкурентное преимущество
Одной из ключевых проблем генеративного ИИ является его низкая надежность. Это не значит, что большинство ответов, которые он выдает, ошибочны, но частота ошибок высока, и они могут быть неочевидны. Причины могут быть разными: галлюцинации модели, недостаточное качество обучающих данных, противоречия между обучающей и тонировочной выборками, неправильная интерпретация запроса или, например, неточная формулировка запроса пользователем.
Дополнительная сложность возникает при работе с нелокализованным содержимым. Точность генеративных моделей значительно падает при обработке информации, отличной от английского языка. Для международных компаний это может быть существенной проблемой.
Кроме того, такие системы могут игнорировать настройки, заданные пользователем. Это делает их непредсказуемыми в поведении. Как отмечают эксперты, использовать генеративный ИИ — это как работать с талантливым, но нестабильным сотрудником, который время от времени выдумывает информацию в официальных отчетах. Можно ли доверять такому сотруднику?
В качестве альтернативы некоторые компании выбирают классические методы машинного обучения. Например, компания Alpha Level, занимающаяся сортировкой событий в системах безопасности, использует модели временных рядов. При этом, по их утверждению, затраты на такие решения ниже, особенно при масштабной реализации.
Реальный опыт и глубина знаний
Другой подход к противостоянию генеративному ИИ — это использование реального профессионального опыта. Некоторые эксперты указывают, что это может быть сильной стороной, особенно в таких областях, как юриспруденция. Хотя генеративный ИИ может запомнить все судебные решения, он не способен понять их суть, контекст или историю. Это означает, что в работе с прецедентами, где важна интерпретация, традиционные специалисты всё ещё имеют преимущество.
Примером может служить опыт одного из крупнейших юридических офисов, где опытный адвокат, работая в архивах, находил редкие судебные решения, недоступные для начинающих коллег. Такая интуиция и глубокое знание предмета остаются вне досягаемости генеративного ИИ.
Аналогичная ситуация наблюдается в журналистике. Генеративный ИИ может справляться с рутинными задачами — например, составлением прогнозов погоды или спортивных результатов. Но для создания действительно ценных материалов, которые удивляют читателей, требуется нечто большее: умение находить скрытые факты, противоречивую информацию и интерпретировать её. Это — зона, где ИИ пока не может конкурировать.
Утечка данных и агентные системы
Ещё одной проблемой генеративного ИИ является утечка данных. Поскольку такие системы накапливают информацию из запросов, существует риск, что данные, введённые пользователем, могут быть использованы в ответах для других клиентов. Это ставит под угрозу конфиденциальность.
Для минимизации рисков ключевым становится аудит архитектуры ИИ-систем. Компании могут использовать закрытые, локальные или даже изолированные системы. Так, CapitalOne рассматривает возможность ограничения доступа к данным при использовании генеративного ИИ, чтобы снизить вероятность утечек.
Агентные системы, в свою очередь, представляют собой новую арену, где можно строить безопасные решения. Эти системы могут быть запрограммированы на выполнение определённых задач с минимальным риском утечки информации.
Интересно: Какие стратегии позволят компаниям использовать недостатки генеративного ИИ в качестве преимущества, и какие риски остаются при переходе к альтернативным решениям?
Когда слабость становится сильной стороной: генеративный ИИ в бизнесе
Компании всё чаще сталкиваются с давлением внедрять генеративный ИИ, но не все готовы к его неочевидным последствиям. На первый взгляд, это инструмент, который ускоряет процессы, снижает затраты и автоматизирует рутину. Но если посмотреть глубже, становится ясно: именно те самые недостатки, которые делают генеративный ИИ менее надежным, могут стать основой для стратегии, которая выделит бизнес из толпы.
Надежность как конкурентное преимущество
Генеративный ИИ — это, как уже отмечалось, не всегда точный инструмент. Он может галлюцинировать, выдавать противоречивые ответы или не учитывать специфику запроса. Для бизнеса это не просто техническая сложность, а риск, который может повлиять на репутацию, точность отчетности и безопасность данных.
Но именно в этом и кроется возможная сила. Компании, которые используют традиционные методы машинного обучения, могут позиционировать себя как более надежные и предсказуемые. Например, модели временных рядов, применяемые в системах безопасности, не генерируют текст, но дают стабильные, проверенные прогнозы. Их стоимость может быть ниже, а поведение — более предсказуемым.
Важный нюанс: Использование классических методов ИИ в условиях, где требуется точность и стабильность, может стать стратегическим преимуществом, особенно в отраслях с высокими требованиями к надежности.
Реальный опыт и глубина знаний
Еще одна область, где генеративный ИИ пока не может конкурировать, — это глубокое профессиональное знание. В юриспруденции, медицине, журналистике и других сферах, где требуется не просто знание фактов, а их интерпретация в контексте, человеческий опыт играет ключевую роль.
Генеративный ИИ может запомнить и пересказать судебные решения, но он не способен понять их исторический или правовой контекст. Это делает его непригодным для работы с реальными юридическими спорами, где важна не только правильность формулировки, но и её релевантность конкретной ситуации.
Аналогично, в журналистике ИИ может автоматизировать подготовку рутинных статей, но создание действительно ценных материалов требует умения находить скрытые факты, анализировать противоречия и интерпретировать информацию — навыки, которые пока вне досягаемости алгоритмов.
Важный нюанс: Глубокая экспертиза и профессиональная интуиция остаются вне досягаемости ИИ, что делает их стратегическим активом для компаний, которые хотят выделяться на фоне автоматизированных решений.
Утечка данных и агентные системы
Одним из критических рисков использования генеративного ИИ является утечка данных. Поскольку такие системы обучаются на запросах пользователей, существует риск, что конфиденциальная информация может быть использована в ответах других клиентов. Это особенно важно для компаний, работающих с чувствительными данными — от медицинских до юридических.
Чтобы минимизировать этот риск, бизнес может перейти к агентным системам — более изолированным и контролируемым решениям. Такие агенты могут быть запрограммированы на выполнение конкретных задач с минимальным доступом к внешним данным. Это снижает вероятность утечек и повышает безопасность.
Некоторые компании уже рассматривают возможность использования локальных или закрытых решений, где данные не покидают внутреннюю сеть. Это требует инвестиций, но дает возможность контролировать риски и соответствовать требованиям регуляторов.
Важный нюанс: Рост утечек данных и уязвимостей при использовании генеративного ИИ подтверждён анализами: 22% загруженных в GenAI файлов и 4,37% текстовых запросов содержали конфиденциальную информацию [!]. Это подчеркивает необходимость пересмотра подходов к защите данных и внедрения принципов безопасного проектирования [!].
Риски внедрения и сложности масштабирования
Несмотря на рост инвестиций в ИИ, более 95% компаний не получают измеримой отдачи от этих затрат. Основная причина — неправильная интеграция: ИИ воспринимается как обычное ПО, тогда как на самом деле он требует глубокого изменения рабочих процессов и контекста [!]. Большинство проектов остаются на стадии пилота, так как не адаптируются к существующей структуре. Успешные внедрения происходят там, где ИИ встраивается в операционные процессы, такие как финансы и логистика, где он уже показывает реальную эффективность.
Важный нюанс: Внедрение агентных ИИ-систем требует структурированного подхода, включая логирование, аудит и контроль доступа, аналогичный другим операционным активам. Только 11% компаний уже внедрили такие системы в производство, что указывает на значительный разрыв между пилотными проектами и реальным использованием [!].
Энергетические и инфраструктурные вызовы
Развитие ИИ не ограничивается программными решениями. Оно требует значительных ресурсов, включая энергетические. По оценкам Международного энергетического агентства, серверы, связанные с искусственным интеллектом, к 2030 году будут потреблять в пять раз больше электроэнергии, чем сегодня [!]. Это приведёт к удвоению общего энергопотребления серверных центров, причём США обеспечат почти половину мирового роста. Основной причиной роста является увеличение объёмов вычислений, необходимых для обучения и работы ИИ-моделей, что требует значительных энергетических ресурсов.
Важный нюанс: Рост энергопотребления ставит под угрозу существующую инфраструктуру и требует пересмотра подходов к энергетической стратегии, особенно для компаний, которые планируют масштабировать ИИ-проекты.
Выводы
Генеративный ИИ открывает новые возможности, но также ставит перед бизнесом серьёзные вызовы. Компании, которые учится использовать его недостатки как стратегические преимущества, смогут выделиться на фоне конкурентов. Это касается не только вопросов надежности и безопасности, но и глубины знаний, масштабируемости решений и энергетической эффективности.
Те, кто сегодня рассматривает ИИ как инструмент, а не как цель, имеют больше шансов не только выжить в быстро меняющейся среде, но и укрепить позиции.
Источник: computerworld.com
