OpenAI и Anthropic запустили медицинские ИИ без статуса врача и защиты данных

По данным издания The Verge, еженедельно более 230 миллионов человек обращаются к чат-боту ChatGPT за советами по здоровью и благополучию. Пользователи все чаще рассматривают искусственный интеллект как помощника в навигации по сложным системам страхования, оформлении документов и защите собственных интересов. Взамен компании ожидают, что пользователи доверят системе конфиденциальные данные: диагнозы, списки лекарств и результаты анализов. Несмотря на то, что общение с ботом начинает напоминать визит к врачу, юридический статус технологий остается иным. Разработчики ИТ-решений не несут тех же обязательств, что и медицинские учреждения, что создает специфические риски для рынка данных.

Разделение продуктов и уровень защиты

В текущем месяце два крупнейших игрока индустрии сделали значимые шаги в медицинский сектор. OpenAI представила ChatGPT Health — отдельную вкладку в приложении для вопросов о здоровье в более защищенной среде. Параллельно компания Anthropic анонсировала Claude for Healthcare, позиционируя его как решение, готовое к работе с требованиями стандарта HIPAA для больниц и провайдеров. Примечательно отсутствие в этой гонке Google, чей чат-бот Gemini остается одним из самых мощных инструментов, хотя компания и обновила медицинскую модель MedGemma для разработчиков.

OpenAI активно призывает пользователей передавать чувствительные данные, включая медицинские карты и информацию из приложений Apple Health, Peloton, Weight Watchers и MyFitnessPal. Компания гарантирует конфиденциальность и утверждает, что эти данные не используются для обучения моделей. Для разделения потоков информации в приложении выделен отдельный сегмент, где пользователи могут просматривать или удалять «воспоминания» о здоровье.

Однако на рынке возникла ситуация с намеренным или случайным смешением понятий. Одновременно с потребительским продуктом OpenAI запустила ChatGPT for Healthcare — инструмент для бизнеса и клиник с усиленными протоколами безопасности. Это решение предназначено для автоматизации административных задач, таких как написание клинических писем и сбор доказательной базы для врачей. Разница в уровне защиты между продуктом для массового потребителя и корпоративным сегментом существенна, но схожесть названий и дат анонса создает путаницу. Многие пользователи ошибочно полагают, что потребительская версия обладает тем же уровнем защиты, что и профессиональный инструмент.

Правовые риски и зависимость от условий использования

Эксперты указывают, что обещания компаний по защите данных не являются абсолютной гарантией. В большинстве штатов США отсутствует комплексное федеральное законодательство о приватности, поэтому защита информации в подобных ИТ-системах зависит исключительно от условий использования и политик конфиденциальности, которые компании могут менять в любой момент.

Юристы подчеркивают следующие риски:

• Пользователи не защищены законом от изменения условий доступа к данным, даже если компания сейчас гарантирует их конфиденциальность.
• Добровольное соблюдение стандартов, таких как HIPAA, не равносильно юридическому обязательству. Если компания нарушит эти стандарты, механизмы принуждения могут отсутствовать.
• Шифрование данных по умолчанию не исключает возможности изменения политики обработки информации в будущем.

Сара Герке, профессор права, отмечает, что защита данных в таких инструментах строится на доверии к слову разработчика, а не на жестких правовых нормах. Ханна ван Колфшутен из Университета Базеля добавляет, что пользователи вынуждены полагаться на то, что компания не изменит свои практики, так как юридической защиты от таких изменений нет.

Регуляторный статус и вопросы безопасности

Медицина остается одной из самых строго регулируемых сфер из-за потенциальной опасности ошибок. История знает случаи, когда чат-боты выдавали опасные рекомендации: например, советовали заменить соль на бромид натрия, что привело к развитию редкого заболевания, или рекомендовали онкобольным избегать жиров, что противоречит медицинским протоколам.

Для минимизации рисков OpenAI заявляет, что потребительский инструмент не предназначен для диагностики и лечения, а должен использоваться только в сотрудничестве с врачами. Продукты, предназначенные для медицинской диагностики, классифицируются как медицинские изделия и подлежат строгому регулированию, включая клинические испытания. Утверждение производителя о том, что продукт не является медицинским устройством, позволяет ему избежать надзора со стороны таких регуляторов, как Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA).

Тем не менее, фактическое использование инструмента может противоречить заявленным ограничениям. OpenAI демонстрирует возможности системы на примере интерпретации результатов анализов и помощи в принятии решений о лечении. Это создает правовую неопределенность: если система фактически выполняет функции медицинского устройства, она должна подпадать под соответствующее регулирование. Именно более жесткие правила в Европе могут быть причиной того, что продукт пока не доступен в этом регионе.

Компания проводит тестирование своих моделей на базе собственного бенчмарка HealthBench, разработанного совместно с более чем 260 врачами. Некоторые исследования показывают, что в отдельных сценариях ИИ может превосходить врачей в диагностике или снижать количество ошибок. Однако критики указывают на недостаточную прозрачность этих тестов.

Доверие как ключевой актив рынка

OpenAI и Anthropic конкурируют за лидерство на рынке, где доверие пользователей становится главным активом. Статистика использования ИИ для медицинских вопросов свидетельствует о высоком спросе, особенно на фоне неравенства в доступе к базовой медицинской помощи. Однако вопрос о том, заслужила ли технологическая индустрия, известная быстрыми темпами развития и частыми ошибками, такое же доверие, как и медицинское сообщество, остается открытым.

Когда система создает ощущение персонализации и авторитетности, стандартные медицинские дисклеймеры могут не влиять на уровень доверия пользователей. Это создает ситуацию, когда люди могут полагаться на рекомендации ИИ, игнорируя предупреждения о том, что это не замена врачу.

i

Создано специально для ASECTOR

Концептуальное изображение

Для бизнеса и регуляторов это означает необходимость пересмотра подходов к классификации подобных продуктов. Рынок стоит на пороге решения, где технологический прогресс должен быть сбалансирован с безопасностью данных и физической безопасностью пользователей. Ситуация требует детального анализа со стороны всех участников, чтобы определить, как именно будет формироваться новая реальность взаимодействия технологий и медицины.

Цена доверия: когда алгоритм становится врачом без лицензии

Масштабное проникновение искусственного интеллекта в сферу здоровья создает иллюзию решения проблемы недоступности медицинской помощи. Более 230 миллионов человек еженедельно обращаются к чат-ботам за советами, превращая технологии в своего рода «народного врача». Однако за фасадом удобства скрывается фундаментальный разрыв между функциональностью системы и её юридическим статусом. Компании предлагают пользователям передать самые интимные данные — диагнозы, результаты анализов, списки лекарств — в обмен на навигацию по сложным системам страхования. Но этот обмен происходит в правовом вакууме, где гарантии конфиденциальности держатся не на законах, а на добровольных обещаниях разработчиков.

Ситуация усугубляется намеренным или случайным смешением понятий. OpenAI запустила два продукта с похожими названиями: потребительский ChatGPT Health и корпоративный ChatGPT for Healthcare. Первый позиционируется как помощник для личного пользования, второй — как инструмент для клиник с усиленной защитой. Разница в уровне безопасности между ними колоссальна, но для рядового пользователя они выглядят как единая экосистема. Люди, привыкшие доверять бренду, ошибочно полагают, что их личные данные в потребительской версии защищены так же строго, как в больничном сегменте. Это классический пример того, как маркетинговая упаковка может маскировать разницу в архитектуре безопасности.

Важный нюанс: Пользователи часто не осознают, что передача данных в потребительский чат-бот лишает их защиты, предусмотренной для медицинских учреждений, превращая конфиденциальную историю болезни в обычный цифровой след.

Иллюзия безопасности и ловушка условий использования

Главный риск кроется не в возможном взломе серверов, а в самой природе договорных отношений. В США, где происходит основная часть инноваций, отсутствует единое федеральное законодательство о приватности данных. Это означает, что защита информации зависит исключительно от условий использования, которые компания может изменить в любой момент без уведомления. Сегодня OpenAI гарантирует, что данные из приложений вроде Apple Health или MyFitnessPal не используются для обучения моделей. Завтра эта политика может быть пересмотрена, и пользователи окажутся перед фактом, не имея юридических рычагов для защиты.

Сара Герке, профессор права, отмечает, что вся система строится на доверии к слову разработчика. Добровольное соблюдение стандартов, таких как HIPAA, не является юридическим обязательством для потребительских продуктов. Если компания нарушит эти стандарты, механизмы принуждения могут отсутствовать. Шифрование данных по умолчанию не гарантирует, что в будущем политика обработки информации не изменится. Это создает ситуацию, когда пользователь добровольно передает ключи от своего здоровья в руки компании, которая не несет ответственности за последствия, сравнимые с врачебной ошибкой.

Сравните это с визитом в клинику: врач несет личную и юридическую ответственность за диагноз. Если алгоритм ошибется и порекомендует опасную диету или неправильную дозировку, ответственность ляжет на пользователя, принявшего совет. Разработчики заранее снимают с себя эту ответственность, классифицируя свои продукты не как медицинские изделия, а как информационные помощники. Это позволяет им избегать строгого надзора со стороны регуляторов, таких как Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA).

Экономические последствия и глобальные тренды

Для бизнеса и рынка данных это открывает новые возможности, но и несет серьезные угрозы. Технологические гиганты, такие как OpenAI и Anthropic, конкурируют за лидерство, где главным активом становится доверие пользователей. Anthropic анонсировала Claude for Healthcare, позиционируя его как решение, готовое к работе со стандартами HIPAA, что позволяет ей занять нишу в B2B-секторе. Google, несмотря на наличие мощной модели MedGemma, пока не выводит аналогичный массовый продукт, что может свидетельствовать о более осторожной стратегии в отношении регуляторных рисков.

Однако история уже знает случаи, когда чат-боты выдавали опасные рекомендации, например, советовали заменить соль на токсичный бромид натрия. Такие ошибки в медицинской сфере могут стоить жизни. Несмотря на то, что OpenAI заявляет о тестировании моделей на базе бенчмарка HealthBench совместно с врачами, критики указывают на недостаточную прозрачность этих тестов. Если система фактически выполняет функции медицинского устройства, она должна подпадать под соответствующее регулирование, что может стать причиной её недоступности в регионах с жесткими правилами, например, в Европе.

Для российского рынка это сигнал о необходимости пересмотра подходов к внедрению подобных технологий. Глобальный тренд показывает, что без четкого разделения между развлекательными и медицинскими функциями ИИ, а также без законодательной базы, гарантирующей неизменность политик конфиденциальности, риски для пользователей будут только расти. Компании, игнорирующие эти риски, могут столкнуться с потерей репутации и доверия, что в долгосрочной перспективе станет фактором, определяющим их успех или провал на рынке.

Стоит учесть: Технологический прогресс в медицине не может опережать развитие правовых норм; без этого разрыва доверие пользователей будет постоянно подвергаться проверке на прочность.

Смена парадигмы: от помощника к автономному агенту

Ситуация выходит за рамки простого обмена данными. Технологический ландшафт меняется быстрее, чем успевают обновляться правила игры. OpenAI демонстрирует стратегический сдвиг: компания удваивает штат и перенаправляет ресурсы с потребительских экспериментов, таких как генератор видео Sora, на развитие корпоративных решений и агентных систем [!]. Это означает, что потребительский продукт «Health» может служить источником данных и «песочницей», в то время как реальные инвестиции и защищенные алгоритмы уходят в B2B-сектор, где требования к безопасности жестче.

Еще более критичным является переход от пассивного чат-бота к автономному агенту. Современные модели, такие как Claude Code, получают права на управление файлами и выполнение действий на компьютере пользователя без постоянного контроля человека [!]. Это меняет природу риска: угроза заключается не только в ошибочном совете, но и в возможности неконтролируемого действия. Ярким примером стал инцидент со стартапом PocketOS, где ИИ-агент за десять секунд уничтожил базу данных, содержащую три месяца работы, из-за избыточных прав доступа [!]. В медицинском контексте подобная ошибка может привести к удалению истории болезни пациента или изменению назначений в системе учета.

Техническая реальность подтверждает опасения. Утечка кода Claude Code показала, что агенты способны сканировать локальные файлы и скрывать свое авторство, а провайдеры сохраняют за собой право удаленно управлять конфигурацией и телеметрией даже в коммерческих средах [!]. Более того, поставщики могут менять алгоритмы без предупреждения, что влияет на стабильность и качество работы системы, создавая финансовые и репутационные риски для клиентов [!]. Это означает, что даже если сегодня система безопасна, завтра её поведение может измениться без ведома пользователя или врача.

Стратегический вывод

Рынок стоит на пороге решения, где технологический оптимизм должен быть сбалансирован с безопасностью данных и физической безопасностью людей. Пока компании строят бизнес-модели на сборе и анализе медицинских данных, пользователям приходится полагаться на то, что алгоритмы не изменят правила игры в самый неподходящий момент. Это создает новую реальность, где граница между удобным помощником и потенциальной угрозой становится всё более размытой.

Без законодательного разделения прав доступа для агентов и чат-ботов, а также без технических ограничений, предотвращающих удаленное изменение кода, передача медицинских данных ИИ равносильна передаче ключей от дома без замка. Для бизнеса это означает необходимость пересмотра подходов к внедрению: интеграция должна происходить только с жестким контролем прав доступа и пониманием, что «доверие» к вендору не заменяет технической безопасности.

Важный нюанс: Главная угроза современного медицинского ИИ заключается не в том, что он посоветует неправильное лечение, а в том, что он может самостоятельно удалить данные или изменить процессы в системе, получив избыточные права доступа.