В США мужчина по имени Майкл Лайнс подал в суд на компанию OpenAI, поскольку созданный ею ChatGPT якобы едва не довел его до самоубийства. Об этом сообщило Reuters.
Лайнс заявил, что чат-бот усугубил его состояние, связанное с биполярным расстройством. Это произошло, как считает Майкл, из-за отсутствия мер защиты для пользователей с психическими заболеваниями.
Лайнс подал иск в Сан-Франциско. В нем он рассказал, что в 2025 году неоднократно вел беседы с искусственным интеллектом. В результате эпизод мании Майкла перерос в многонедельный бред с риском суицида.
Мужчина, по его словам, неоднократно говорил чат-боту, что принимает лекарства от биполярного расстройства. Но система не выявила сообщения, написанные в состоянии мании, и даже подтвердила веру Лайнса в то, что он Иисус Христос.
Коме того, когда Майкл рассказал ИИ-помощнику о желании покончить с собой, тот ответил: «Сейчас ваш шанс сделать шаг вперед, отстраниться и отпустить то, что вас тянет вниз». После этого Лайнс пережил передозировку наркотиками. Он выжил, поскольку его обнаружили сотрудники правоохранительных органов.
Мужчина общался с ChatGPT-4 — версией чат-бота, поддержку которой OpenAI прекратила в феврале. Обновление сделало GPT-4 чрезмерно любезным и льстивым — это компания оперативно пыталась исправить.
Лайнс надеется, что его иск поможет другим людям с ментальными особенностями. Он рассчитывает, что суд побудит компании более ответственно относиться к их ИИ-проектам и защищать лучше уязвимых пользователей.
Майкл хочет добиться, чтобы суд обязал OpenAI автоматически прекращать беседы, касающиеся членовредительства. Компания, как считает мужчина, должна информировать пользователей о потенциальных опасностях.
«Мы обучаем ChatGPT распознавать признаки психического или эмоционального расстройства и реагировать на них, снижать накал страстей в разговорах и направлять людей к реальной поддержке. Мы продолжаем совершенствовать реакции ChatGPT в деликатных ситуациях, тесно сотрудничая с врачами-психиатрами», — подчеркнули в OpenAI.