В Москве 68-летняя пенсионерка попала в больницу после того, как воспользовалась «рецептом» от созданной искусственным интеллектом «знахарки». Женщина подписалась в соцсетях на аккаунт «травницы», которая публиковала видеорецепты для оздоровления.
Пенсионерка решила испытать отвар с лимоном и чёрным перцем для «очистки кишечника». Ночью у неё сильно заболел живот, резко понизилось давление, началась одышка, а позже появилась кровавая рвота. Женщина успела позвонить родным — они вызвали скорую. Это спасло ей жизнь.
Этот случай — не единичный. Проблема с нейросетевыми «лекарями» фиксируется и в других регионах России, и за рубежом. В июле испанские СМИ писали о десятках профилей врачей и целителей, созданных с помощью ИИ в популярной соцсети. Их видео набирают миллионы просмотров. Другие издания обращали внимание на ИИ-аккаунты, навязывающие биологические добавки.
Почему в зоне риска пожилые
Манипуляции в медицинской сфере встречаются особенно часто. Альтернативщики манипулируют оборотами «врачи об этом не говорят», «этот рецепт от моей бабушки». Нередко такие видео нацелены на пожилых, у которых могут отсутствовать навыки критического мышления в области ИИ-разработок. Пожилые сформировались в эпоху, когда печатное и телевизионное слово обладало высоким авторитетом. Привычка доверять «официальному» каналу переносится на современные форматы — от газетных объявлений до роликов в мессенджерах. Работает и обратная логика: «по телевизору много врали, а вот в интернете наконец можно узнать, что от нас скрывали». При этом цифровая грамотность у части пожилых остаётся низкой: проверить источник и отличить фейковый медицинский центр от реального им сложно. Шарлатаны говорят на понятном языке: «народное средство», «проверено поколениями», «врачи скрывают». Они обращаются к жизненному опыту и к недоверию к официальной медицине, сформированному очередями в поликлиниках и дорогими частными услугами. Проблемы с общением с реальным врачом выталкивают пожилого человека в пространство, где альтернативу предлагают не специалисты, а продавцы. Ещё один фактор — финансовый: «чудо-средство» из перца и лимона подаётся как доступная альтернатива дорогим обследованиям.
Кто зарабатывает на ИИ-лекарях
По наблюдениям экспертов за аккаунтами с ИИ-целителями стоят не одиночки, а организованные группы, работающие по конвейерной модели. Схема выглядит так: нейросети генерируют образы "бабушек-травниц", "знахарей", "экстрасенсов", "старцев" и "монахов", затем создаются сотни аккаунтов с помощью антидетект-браузеров и виртуальных номеров. Контент, ответы на комментарии, сценарии общения — всё делается автоматически. Это уже не блог одного человека, а полноценные "фермы" синтетических персонажей».
Один человек может вести сразу несколько аккаунтов с ИИ-лекарями. Нейросеть помогает на всех этапах — от задумки цифрового аватара до финального видео. Обычно создают несколько персонажей, смотрят, какой лучше заходит аудитории, а затем масштабируют. Монетизация может быть разной: аккаунт раскручивают, затем продают продукт или находят рекламодателей. Иногда персонажа продают целиком. Спрос на рекламу в таких блогах есть, и он растёт.
Кто будет отвечать
Конкретный человек, систематически дающий медицинские рекомендации, есть за каждым ИИ-персонажем, обращает внимание адвокат Центра гуманизации права Константин Гензель. Если подтверждается факт причинения вреда, правоохранительные органы могут искать состав преступления в действующем законодательстве. Такого человека можно привлечь по ст. 235 УК РФ (незаконное осуществление медицинской деятельности без лицензии). Могут применяться и другие составы.
Ответственность зависит от того, что именно советовали и к каким последствиям это привело. При причинении тяжкого вреда здоровью или смерти — ст. 118 или ст. 109 УК РФ. При продаже небезопасных услуг или продукции — ст. 238 УК РФ. Главная сложность — доказать связь между конкретной рекомендацией и вредом здоровью, а также установить, кто создавал и контролировал аккаунт. Сформированной судебной практики именно по ИИ-знахарям в России пока нет.
Установить владельца аккаунта можно через правоохранительные органы по заявлению пострадавшего. Процесс включает официальные запросы данных у платформ, банков и операторов связи. Следы обычно остаются: привязанный телефон или почта, платёжные реквизиты (донаты, продажа курсов или БАД), рекламные интеграции и технические данные. Правоохранители могут изучить IP-адреса, историю входов, сопоставить по техническим и поведенческим признакам несколько страниц и найти одного владельца. Затем предстоит доказать, что конкретный человек управлял аккаунтом, публиковал рекомендации, получал доход, и выявить связь между советом и последствиями.
Как бороться
Проблема не в нейросети как таковой — человек может написать тот же опасный совет самостоятельно. Нужны понятные правила для случаев, когда искусственно созданный персонаж выдаётся за реального врача или целителя. Важны требования к маркировке такого контента и механизм оперативного удаления после обоснованной жалобы.
Требования к безопасности ИИ должны учитывать последствия применения. Для развлекательного ИИ-персонажа и виртуального «врача», рекомендующего лечение, нужен разный уровень контроля. В сфере здоровья ошибка или намеренная манипуляция могут привести к физическому вреду, поэтому здесь нужны проверяемый источник, ответственное лицо и процедуры оценки опасных рекомендаций.
На уровне платформ стоит ввести ускоренное рассмотрение жалоб на угрозы здоровью, ограничение рекомендаций и монетизации при подтверждённом риске, а также выявление связанных аккаунтов. В законодательстве — уточнить требования к обозначению вымышленных специалистов, раскрытию владельцев коммерческих аккаунтов о здоровье и реагированию на опасные советы. Ответственность должна определяться действиями людей, которые создают и распространяют такой контент.
Источник: Аргументы недели