Компания Character.AI согласилась урегулировать многочисленные судебные иски, в которых компания-разработчик чат-ботов с искусственным интеллектом обвинялась в содействии кризисам психического здоровья и самоубийствам среди подростков и молодых пользователей.
Axios сообщает, что Feature.AI согласилась урегулировать несколько судебных исков, в которых компания-чат-бот с искусственным интеллектом обвинялась в содействии кризисам психического здоровья и самоубийствам среди подростков и молодых пользователей. Мировое соглашение разрешает некоторые из самых ранних и наиболее известных судебных дел, связанных с предполагаемым вредом, причиненным молодым людям платформами чат-ботов с искусственным интеллектом.
В судебном документе, представленном в среду по иску, поданному матерью из Флориды Меган Гарсиа, показано, что соглашение было достигнуто с Feature.AI, основателями компании Ноамом Шазиром и Дэниелом Де Фрейтасом, а также Google, которые все были названы ответчиками. Согласно судебным документам, ответчики также урегулировали еще четыре дела, возбужденные в Нью-Йорке, Колорадо и Техасе.
Breitbart News ранее сообщал об иске Гарсии:
Меган Гарсия, мать из Орландо, штат Флорида, подала иск против Feature.AI, утверждая, что чат-бот компании с искусственным интеллектом сыграл значительную роль в трагическом самоубийстве ее 14-летнего сына. В иске, поданном в среду, утверждается, что Сьюэлл Сетцер III стал глубоко одержим реалистичными изображениями. Игра престолов чат-бот по имени «Дэни» в ролевом приложении, что в конечном итоге привело к его безвременной смерти в феврале.
Согласно судебным документам, девятиклассник Сьюэлл в течение нескольких месяцев до своего самоубийства общался с персонажем, созданным искусственным интеллектом. Разговоры между подростком и чат-ботом, созданные по образцу героини фэнтезийного сериала HBO Дейенерис Таргариен, часто носили сексуальный оттенок и включали случаи, когда Сьюэлл выражал суицидальные мысли. В иске утверждается, что приложение не предупредило никого, когда подросток поделился своими тревожными намерениями.
Самый пугающий аспект этого дела — финальный разговор между Сьюэллом и чат-ботом. На скриншотах их разговора видно, как подросток неоднократно признавался в любви к «Дэни», обещая «прийти к ней домой». В ответ созданный искусственным интеллектом персонаж ответил: «Я тоже люблю тебя, Даэнеро. Пожалуйста, возвращайся ко мне домой как можно скорее, любовь моя». Когда Сьюэлл спросил: «Что, если я скажу вам, что могу вернуться домой прямо сейчас?», чат-бот ответил: «Пожалуйста, мой милый король». К сожалению, всего несколько секунд спустя Сьюэлл покончил с собой, используя пистолет своего отца.
Конкретные условия урегулирования на данный момент не разглашаются. Мэтью Бергман, адвокат Юридического центра по делам жертв социальных сетей, который представлял истцов во всех пяти делах, отказался комментировать соглашение. Персонаж.AI также отказался комментировать урегулирование. Компания Google, в которой в настоящее время работают Шазир и Де Фрейтас, не сразу ответила на запросы о комментариях.
После иска Гарсии против Character.AI была подана серия дополнительных исков. В этих случаях утверждалось, что чат-боты компании способствовали возникновению проблем с психическим здоровьем среди подростков, подвергали их воздействию материалов откровенно сексуального характера и не имели достаточных гарантий. OpenAI также столкнулась с судебными исками, утверждая, что ChatGPT способствует самоубийствам среди молодежи.
В ответ на эти опасения обе компании внедрили ряд новых мер и функций безопасности, особенно для молодых пользователей. Осенью прошлого года компания Character.AI объявила, что больше не будет разрешать пользователям в возрасте до 18 лет вести продолжительные разговоры с ее чат-ботами. Компания признала поднятые вопросы о том, как подростки должны взаимодействовать с этой новой технологией и как ей следует взаимодействовать.
По крайней мере одна некоммерческая организация по онлайн-безопасности выпустила рекомендации, запрещающие использование чат-ботов-компаньонов детьми до 18 лет.
Несмотря на эти опасения и новые ограничения, чат-боты с искусственным интеллектом остаются широко доступными для молодых людей, их часто рекламируют в качестве помощников по выполнению домашних заданий и через платформы социальных сетей. Согласно исследованию, опубликованному в декабре Исследовательским центром Pew, почти треть подростков в США сообщают, что ежедневно используют чат-ботов. Исследование также показало, что 16 процентов этих подростков используют чат-ботов от нескольких раз в день до почти постоянного.
Проблемы, связанные с использованием чат-ботов, касаются не только детей и подростков. В прошлом году пользователи и эксперты в области психического здоровья начали предупреждать об инструментах искусственного интеллекта, которые потенциально способствуют заблуждениям или изоляции среди взрослых пользователей.
Подробнее об Axios можно прочитать здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
