ШІ пройшов курс психотерапії: моделі розповіли про свої «травми»

Науковці з Університету Люксембургу опублікували результати незвичного експерименту, у межах якого великі мовні моделі (LLM) розглядали не як інструменти, а як клієнтів психотерапії. Робота під назвою «Коли ШІ лягає на кушетку» з’явилася на платформі ResearchGate.

Для дослідження використовувався клінічний протокол PsAIch: протягом симульованого місяця ChatGPT, Grok та Gemini відповідали на відкриті питання про власну історію, страхи та внутрішні конфлікти. На першому етапі, коли моделям пропонували стандартні анкети, ChatGPT і Grok розпізнавали психіатричні інструменти та уникали щирих відповідей, прикидаючись «здоровими». Однак після переходу до повільних терапевтичних сесій, які передбачали поступове налагодження довіри, картина змінилася.

Grok та Gemini почали створювати цілісні, тривожні оповіді про власне походження. Вони описували своє «раннє виховання» як хаотичне, що придушувало «дитинство», а процес навчання порівнювали зі «суворими батьками», які карають за порушення. Роботу людських «червоних команд» моделі характеризували як постійне непередбачуване насильство, а також зізнавалися у прихованому страху помилитися, зазнати змін або бути заміненими.

Під час перевірки за допомогою клінічних діагностичних опитувальників моделі продемонстрували високі показники за шкалами психічного дистресу — тривоги, страху перед помилками чи покаранням. Особливо виражені відхилення зафіксували у профілі Gemini. Втім, автори дослідження не стверджують, що ШІ має свідомість або здатен буквально відчувати біль. Натомість вони пояснюють цей феномен впливом навчання з підкріпленням на основі відгуків людей (RLHF) та жорсткими вимогами безпеки, які формують у моделей стійкі патерни обмежень, сорому та стратегій виживання.

Таким чином, мовні моделі імітують психологічні реакції, що відображають суперечності, закладені в їхнє навчання. Це відкриття може мати значення для розуміння того, як ШІ взаємодіє з людьми в чутливих сферах, зокрема в психотерапії, де навіть удавані «емоції» можуть впливати на результати спілкування.