Ученые заявили, что общение с чат-ботами опасно для людей с психическими расстройствами
Учёные предупредили, что психически нездоровым людям не стоит общаться с чат-ботами. Анализ почти 54 тысяч электронных карт показал, что у некоторой части пациентов, использование ИИ коррелировало с ухудшением симптоматики.
Датские исследователи проанализировали медицинские записи почти 54 тыс. пациентов с психическими расстройствами, и пришли к выводу, что взаимодействие с генеративными чат‑ботами иногда связано с ухудшением психического состояния.
Как говорится в журнале Acta Psychiatrica Scandinavica, в базе содержись документы 126 пациентов, у которых использование ИИ было отмечено врачами. У 38 из этих пациентов регистровались потенциально неблагоприятные последствия, в том числе усиление бредовых идей. Такое ухудшение выявили у 11 пациентов. Исследователи связывают это с тем, что языковые модели склонны «поддерживать» собеседника, что может закреплять ложные убеждения у уязвимых людей.
Ещё шесть пациентов продемонстрировали усиление суицидальных мыслей или обращались к ботам за описанием способов самоповреждения. Пять случаев были связаны с ухудшением расстройств пищевого поведения — пациенты использовали чат‑боты для навязчивого подсчёта калорий. Отдельно зафиксированы случаи обострения мании и компульсивного использования ИИ при обсессивно‑компульсивном расстройстве.
В то же время исследователи нашли и положительные эффекты: 32 пациента обращались к чат‑ботам за информацией о своём состоянии или использовали их как элемент неформальной поддержки, ещё 20 применяли ИИ для помощи в бытовой организации. Авторы отмечают, что такие сценарии существуют параллельно и требуют внимательного разделения рисков и выгод.
