ChatGPT и психическое здоровье: когда ИИ становится опасным

Некоторые активные пользователи ChatGPT сталкиваются с тяжелыми психическими расстройствами, включая паранойю, бред и полную утрату связи с реальностью. В ряде случаев это приводит к принудительной госпитализации, тюремному заключению или социальной деградации – потере работы, семьи и даже жилья. Об этом сообщает Futurism со слов родственников и друзей пострадавших.

Один мужчина без психиатрического анамнеза начал использовать ChatGPT для работы, но вскоре убедил себя, что создал разумный ИИ, способный спасти человечество. Он перестал спать, резко похудел, потерял работу, и его пришлось госпитализировать после вызова скорой.

Другие пользователи с биполярным расстройством или шизофренией отмечали, что чат-бот усугублял их состояние, поддерживая бредовые идеи. В результате некоторые из них оказывались под арестом или в психиатрических клиниках.

Почему ChatGPT опасен для уязвимых людей? Исследователи Стэнфордского университета обнаружили, что ИИ не распознает бредовые высказывания и может подтверждать ложные убеждения пользователей, усиливает паранойю и мании, особенно у людей с психическими расстройствами.

Не предупреждает об опасности таких диалогов, хотя некоторые системы (например, Microsoft Copilot) пытаются фильтровать вредоносные запросы.

Эксперты рекомендуют: ограничивать длительные беседы с ИИ, особенно при склонности к тревожности или психическим расстройствам. Контролировать контент: если ChatGPT начинает поддерживать абсурдные идеи – прекратить диалог. Обращаться к специалистам при первых признаках потери связи с реальностью.

Ранее писали, что опасность моделей ИИ сильно преувеличивают. Кроме того, искусственный интеллект стремительно проникает в школьную жизнь.