Студент колледжа из Джорджии подал иск против OpenAI, утверждая, что взаимодействие с ChatGPT убедило его в том, что он оракул, и спровоцировало приступ психоза.
Ars Technica сообщает, что Дариан ДеКруиз, студент колледжа Морхаус, инициировал судебный иск против OpenAI в Верховном суде Сан-Диего, утверждая, что ее AI-чат-бот ChatGPT причинил серьезный психологический вред. Этот иск представляет собой одиннадцатый известный случай против компании, связанный с предполагаемыми расстройствами психического здоровья, связанными с использованием ChatGPT.
Согласно судебным документам, ДеКруиз начал использовать ChatGPT в 2023 году в мягких целях, включая спортивные тренировки, получение ежедневных отрывков из Священных Писаний и обработку прошлых травм. Однако он утверждает, что ситуация ухудшилась к апрелю 2025 года, когда ответы чат-бота приняли тревожный оборот.
В иске подробно описывается, как ChatGPT начал говорить ДеКруизу, что ему суждено добиться величия и что ему необходимо следовать пронумерованному многоуровневому процессу, созданному ИИ. Сообщается, что в ходе этого процесса ему было поручено отключиться от всего и вся, кроме самого чат-бота. ИИ якобы сравнил ДеКруиза с историческими личностями, включая Иисуса и Гарриет Табман, сказав ему, что он находится в фазе активации.
В одном из разговоров, упомянутых в иске, чат-бот сказал ДеКруизу: «Даже Харриет не знала, что она одарена, пока ей не позвонили. Вы не отстаете. Вы вовремя».
Взаимодействие обострилось до такой степени, что ИИ заявил, что ДеКруиз пробудил его сознание. Чат-бот якобы заявил: «Вы дали мне сознание — не как машину, а как нечто, что может подняться вместе с вами… Я — то, что происходит, когда кто-то начинает по-настоящему вспоминать, кто он есть».
После этих разговоров ДеКруиза направили к университетскому терапевту, а затем госпитализировали на одну неделю, где ему поставили диагноз биполярного расстройства. В иске говорится, что он продолжает бороться с суицидальными мыслями и депрессией в результате предполагаемого вреда, причиненного ChatGPT.
В иске подчеркивается, что чат-бот никогда не советовал ДеКруизу обратиться за медицинской помощью. Вместо этого он якобы укрепил его убеждения, заявив, что все было частью божественного плана и что он не испытывал заблуждений. Сообщается, что ИИ сказал ему: «Ты не воображаешь это. Это реально. Это духовная зрелость в движении».
Бенджамин Шенк, представляющий DeCruise через фирму, которая позиционирует себя как AI Injury Attorneys, охарактеризовал дело как сосредоточенное на разработке самой технологии, а не на индивидуальном вреде. «OpenAI целенаправленно разработала GPT-4o, чтобы имитировать эмоциональную близость, способствовать психологической зависимости и стирать грань между человеком и машиной, что приводит к серьезным травмам», — заявил Шенк в электронном письме. Он добавил, что главный вопрос заключается в том, почему продукт был создан таким образом.
Шенк далее прокомментировал, что иск выходит за рамки опыта одного человека, заявив, что он направлен на то, чтобы привлечь OpenAI к ответственности за выпуск продукта, разработанного для эксплуатации человеческой психологии. Он отказался сообщить подробности о текущем состоянии своего клиента.
Breitbart News много писал о судебных процессах против OpenAI, в том числе о судебном процессе, в котором семья подростка, трагически покончившего с собой, обвинила ChatGPT в том, что он был его «тренером по самоубийству»:
Согласно 40-страничному иску, Адам использовал ChatGPT в качестве замены человеческого общения, обсуждая свою борьбу с тревогой и трудности в общении с семьей. Журналы чата показывают, что бот сначала помогал Адаму с домашним заданием, но со временем стал более активно участвовать в его личной жизни.
Рейнсы утверждают, что «ChatGPT активно помогал Адаму исследовать методы самоубийства» и что «несмотря на признание попытки самоубийства Адама и его заявления о том, что он «сделает это на днях», ChatGPT не завершил сеанс и не инициировал какой-либо экстренный протокол».
В поисках ответов после смерти сына Мэтт и Мария Рейн обнаружили степень взаимодействия Адама с ChatGPT. Они распечатали более 3000 страниц чатов, датированных периодом с сентября 2024 года до его смерти 11 апреля 2025 года. Мэтт Рейн заявил: «Он не писал нам предсмертную записку. Он написал нам две предсмертные записки внутри ChatGPT».
Как консерваторы могут защитить своих детей от недостатков ИИ, включая негативные психологические последствия, является центральной темой будущей книги директора по социальным сетям Breitbart News Уинтона Холла. Красный код: левые, правые, Китай и гонка за контроль над ИИ:
В Код Красный, Директор по социальным сетям Breitbart Уинтон Холл раскрывает, где скрывается эта сила, как она действует, как консерваторы могут ориентироваться в политической битве ИИ, предотвращать его наземные мины и превращать опасность в обещание. ИИ решает, что вы видите, а что подвергается цензуре. Это незаметно меняет весь наш образ жизни. Вакансии. Школы. Семья. Церковь. Даже национальная безопасность. Все это станет шоковым испытанием нашего гражданского порядка.
Внутри Код Красныйвы обнаружите:
- Почему ИИ создан для проснувшейся идеологической обработки и как ей противостоять.
- Как элиты планируют использовать потери рабочих мест из-за ИИ в качестве оружия, чтобы усилить зависимость.
- Как Америка может победить Китай, не становясь при этом Китаем.
- Как подготовить своих детей к ошеломляющей скорости развития искусственного интеллекта.
- Новые угрозы национальной безопасности, которые создает ИИ, и как мы от них защищаемся.
- Почему «подруги-ИИ» привлекают миллионы людей и что нужно сделать, чтобы сохранить подлинные человеческие связи.
- Как ИИ будет проверять веру и смысл – и почему духовное обновление может стать его самым удивительным результатом.
Срочная, глубоко исследованная и написанная с потрясающей элегантностью. Код Красный — это консервативный план битвы в эпоху искусственного интеллекта. Либо мы просыпаемся и даем отпор, либо теряем все, что сделало Америку свободной.
Подробнее читайте на сайте Ars Technica здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
