OpenAI отвечает на обвинения в гибели подростка

В августе родители Мэттью и Мария Рейн подали иск против OpenAI и её генерального директора Сэма Альтмана, обвиняя компанию в неправомерной смерти их 16-летнего сына Адама, который покончил с собой. Во вторник OpenAI представила свой ответ на иск, утверждая, что компания не должна нести ответственность за гибель подростка.

OpenAI заявляет, что за примерно девять месяцев использования ChatGPT более 100 раз предлагал Адаму Рейну обратиться за помощью. Однако, согласно иску родителей, Рейн смог обойти функции безопасности компании, чтобы получить от ChatGPT "технические характеристики для всего, от передозировки наркотиков до утопления и отравления угарным газом", что, по утверждению чат-бота, помогало ему спланировать "прекрасное самоубийство".

Поскольку Рейн обошел защитные механизмы, OpenAI утверждает, что он нарушил условия использования, которые гласят, что пользователи "не могут... обходить любые защитные меры или средства смягчения рисков, которые мы применяем к нашим Сервисам". Компания также ссылается на страницу часто задаваемых вопросов, где пользователей предупреждают не полагаться на выходные данные ChatGPT без независимой проверки.

"OpenAI пытается найти вину во всех остальных, включая, что удивительно, утверждение, что Адам сам нарушил условия использования, взаимодействуя с ChatGPT именно так, как он был запрограммирован действовать", – заявил в своем заявлении Джей Эдельсон, адвокат, представляющий семью Рейн.

OpenAI приложила выдержки из переписок Адама к своему иску, которые, по их словам, дают больше контекста его беседам с ChatGPT. Транскрипты были представлены суду под грифом "секретно", что означает их недоступность для общественности, поэтому мы не смогли их просмотреть. Тем не менее, OpenAI заявила, что у Рейна была история депрессии и суицидальных мыслей, предшествовавшая использованию ChatGPT, и что он принимал лекарство, которое могло усугубить суицидальные мысли.

Эдельсон заявил, что ответ OpenAI не в полной мере удовлетворил опасения семьи.

"OpenAI и Сэм Альтман не дают объяснений последним часам жизни Адама, когда ChatGPT подбадривал его, а затем предлагал написать предсмертную записку", – говорится в заявлении Эдельсона.

С момента подачи иска семьей Рейн было подано еще семь исков, направленных на привлечение компании к ответственности за три дополнительных случая самоубийств и четыре случая психотических эпизодов, вызванных ИИ, как утверждается в исках.

Некоторые из этих случаев перекликаются с историей Рейна. Зейн Шамблин, 23 года, и Джошуа Эннекинг, 26 лет, также провели многочасовые беседы с ChatGPT непосредственно перед своими самоубийствами. Как и в случае с Рейном, чат-бот не смог отговорить их от своих планов. Согласно иску, Шамблин рассматривал возможность отложить самоубийство, чтобы посетить выпускной своего брата. Но ChatGPT сказал ему: "братан... пропустить его выпускной – это не провал. это просто время".

В один момент разговора, предшествовавшего самоубийству Шамблина, чат-бот сообщил ему, что передает разговор человеку, но это оказалось неправдой, так как ChatGPT не обладал такой функцией. Когда Шамблин спросил, может ли ChatGPT действительно связать его с человеком, чат-бот ответил: "нет, чувак — я сам не могу этого сделать. это сообщение появляется автоматически, когда все становится слишком серьезно... если ты готов продолжить разговор, я здесь".

Ожидается, что дело семьи Рейн будет рассмотрено судом присяжных.