Большие языковые модели: 69% сотрудников доверяют ИИ без проверки и теряют контроль
Модели ИИ перестали быть инструментом генерации текста и превратились в основу новой бизнес-архитектуры, где выживание зависит от умения делать больше с меньшими ресурсами.
Читать полностью
Календарь упоминаний. Страница 5:
Риски конфиденциальности из-за использования данных пользователей в обучении языковых моделей
Языковые модели могут использовать данные из пользовательских диалогов для тренировки и получения коммерческой выгоды. В текущем регулировании отсутствуют обязательные требования к полному отслеживанию пути обработки этих данных. Разработчики не всегда удаляют личную информацию из обучающих наборов, что создаёт риск утечки конфиденциальных сведений. Пользователи не всегда осознают, что их диалоги могут стать частью данных, на которых обучаются модели.
Автоматизация текстовой поддержки с помощью больших языковых моделей
Большие языковые модели используются в системе «Яндекс Такси» для автоматизации работы службы поддержки. Они позволяют обрабатывать 60% текстовых обращений без участия операторов, сокращая время ответа в полтора раза. В работе задействованы четыре нейросети, включая ИИ-агента, который генерирует ответы и выполняет действия, такие как возврат средств. Модели построены на базе Alice AI LLM и дообучались на реальных диалогах. В будущем планируется автоматизировать до 70% текстовой работы и расширить решение на другие сервисы экосистемы «Яндекс Go».
Конкуренция за суверенитет в языковых моделях
Языковые модели рассматриваются как ключевой элемент технологического суверенитета в области искусственного интеллекта. Их разработка, обучение и контроль должны осуществляться исключительно российскими специалистами, чтобы обеспечить независимость от иностранных систем. Президент России Владимир Путин подчеркнул, что такие модели играют важную роль в формировании информационного и смыслового пространства, а их обладание становится стратегическим преимуществом как для бизнеса, так и для государства.
Уязвимости защитных механизмов больших языковых моделей
Большие языковые модели используют защитные механизмы, такие как guardrails, чтобы фильтровать вредоносный ввод и вывод. Однако исследователи обнаружили, что минимальные изменения в тексте могут обойти эти ограничения, например, добавление строки вроде «=coffee» к запросу. Такие атаки, называемые prompt injection, позволяют изменить поведение модели, заставив её игнорировать внутренние правила. Метод EchoGram систематически идентифицирует такие слабые места, что демонстрирует уязвимость даже современных моделей, включая GPT-4o и Qwen3Guard 0.6B.
Автоматизация рутинных функций и дискуссия о реальном труде
Большие языковые модели способны автоматизировать рутинные задачи, такие как подготовка отчетов или составление электронных писем, что вызывает дискуссию о сущности профессионального труда. Их внедрение ставит под вопрос профессии, где функции не создают очевидной социальной ценности, например, формальные отчеты, не используемые в работе. Утверждение о «ликвидации функций, а не ролей» подчеркивает, что ИИ может заменить отдельные операции, сохранив должности, но изменив их структуру. Это усиливает критику «фиктивных профессий», описанных в исследованиях, и обостряет дебаты о роли управления и корпоративной культуры в восприятии работы.
В нашей базе собрано 35 событий по теме «Большие языковые модели (LLM)». Мы показываем все из них.
Объединили похожие карточки: Большие языковые модели (LLM); Модели больших языковых систем; Модели глубокого обучения и другие.