Сможет ли чат-бот помочь людям с ментальными расстройствами

18.03.2025

«Хотя наши результаты многообещающие, пока ни один генеративный агент ИИ не готов к автономной работе в области психологического здоровья с её широким спектром сценариев и рисков», - говорит первый автор исследования психиатр Майкл Хайнц (Michael Heinz) доцент Dartmouth Hitchcock Medical Center. «Нам еще предстоит понять и количественно оценить риски, связанные с использованием генеративного ИИ в данной области медицины».

В отличие от других чат-ботов, Therabot был разработан на основе консультаций с психологами и психиатрами специально для использования в качестве инструмента поддержки психологического здоровья. На вводимые промпты пользователи получают некатегоричные, неокончательные ответы, побуждающие их к дальнейшему обсуждению своих проблем и эмоционального состояния.

Во время его испытаний были заданы защитные параметры, позволяющие распознать участников, которым грозит самоповреждение, и отправить их по ссылкам туда, где им будет оказана экстренная помощь.

«Наши результаты сопоставимы с эффектом стандартной когнитивной терапии у амбулаторных врачей», - заявил Джейкобсон. «Это значит, что подобное лечение станет более доступным».

«После выхода ChatGPT в эту сферу устремилось множество людей, и довольно легко воодушевиться концепцией, забыв, что её безопасность и даже эффективность не доказаны», - добавил он. «Это один из тех случаев, когда необходим строгий надзор и мы обязаны его обеспечить».

Источник: https://ai.nejm.org/doi/10.1056/AIoa2400802