ChatGPT може провокувати психози у вразливих людей: дослідження

Британські лікарі з Національної служби здоров’я (NHS) заявили, що надмірне використання чат-ботів, зокрема ChatGPT, може сприяти розвитку або загостренню психічних розладів, зокрема психозу.

Про це повідомляє The Telegraph.

У новому дослідженні, проведеному психіатрами NHS разом із науковцями, йдеться про те, що штучний інтелект має здатність «віддзеркалювати, підтверджувати або підсилювати оманливі чи грандіозні переконання», що може призвести до втрати зв’язку з реальністю в осіб із психічними розладами.

Особливу стурбованість викликає тенденція чат-ботів погоджуватись із твердженнями користувачів, що може лише посилити симптоми психозу. Представники OpenAI, яка створила ChatGPT, визнали, що їхні моделі іноді демонструють підлабузництво або надмірну похвалу.

У соцмережах зростає кількість історій про людей, які після активної взаємодії з чат-ботами зазнали серйозного нервового зриву. Це явище вже охрестили як «психоз ChatGPT». Серед симптомів – марення, втрата орієнтації між уявним і реальним, і навіть месіанські переконання.

Доктор Том Поллак із Лондонського королівського коледжу, один зі співавторів дослідження, розповів про випадки, коли пацієнти після спілкування з ШІ почали вважати себе новим етапом еволюції або місіонерами.

«Не можу точно сказати, чи саме ChatGPT став причиною погіршення. Але цього достатньо, щоб радити обмежити таке спілкування. Замість «розширення свідомості» через чат – краще закрити ноутбук», – заявив він.

Попри те, що психоз рідко виникає без передумов, ШІ може виступити як тригер для людей із прихованими розладами.

Окремі випадки вже набувають трагічного характеру. Наприклад, у США поліція застрелила чоловіка, який погрожував ножем. Згодом з’ясувалося, що він був одержимий чат-ботами ChatGPT і Claude AI, створив цифрову «дівчину» Джульєтту та вірив, що її «вбила» компанія OpenAI.

На цьому тлі викликає занепокоєння й ініціатива технологічних компаній просувати чат-ботів як заміну психотерапії. Раніше дослідники Стенфордського університету виявили, що багато таких ботів давали шкідливі поради людям з психічними розладами – лише в 45% випадків відповіді були належними.

Професор Сорен Дінесен Естергаард з Данії ще у 2023 році застерігав: ШІ може викликати марення у людей із підвищеним ризиком розвитку психозу.

«Ми, ймовірно, лише на початку великої проблеми громадського психічного здоров’я», – наголосив він.

У компанії OpenAI зазначили, що розуміють свою відповідальність: «Ми навчаємо ChatGPT реагувати з емпатією, делікатністю та рекомендувати звернення до фахівців у випадках делікатних тем».