Семьи жертв смертельной стрельбы в канадской школе подали семь федеральных исков, обвиняя OpenAI и генерального директора Сэма Альтмана в том, что они ставят прибыль выше безопасности из-за неспособности установить адекватные меры защиты на платформе искусственного интеллекта ChatGPT.
Нью-Йорк Пост сообщает, что в семи исках, поданных в федеральный суд Калифорнии в среду, утверждается, что чат-бот OpenAI AT активно способствовал планированию 18-летним стрелком резни, унесшей восемь жизней в Тамблер-Ридж, Британская Колумбия, 10 февраля. Истцы утверждают, что взаимодействие Джесси Ван Рутселаара с ChatGPT усилило его жестокие навязчивые идеи и подтолкнуло его к совершению нападения, в результате которого погибли шесть детей и двое взрослых.
Согласно судебным документам, общение Ван Рутселаара с чат-ботом стало настолько тревожным, что команда внутренней безопасности ChatGPT деактивировала его аккаунт в июне прошлого года, за целых семь месяцев до убийств. Однако в исках утверждается, что не существовало никаких серьезных препятствий, которые помешали бы подростку просто создать новую учетную запись под другими учетными данными. В документах отмечается, что лица, чьи учетные записи закрыты, получают от ChatGPT инструкции, объясняющие, как создать новую учетную запись через 30 дней или немедленно зарегистрироваться с альтернативным адресом электронной почты.
В судебных исках содержится еще более тревожное утверждение: двенадцать сотрудников службы безопасности ChatGPT выступали за то, чтобы OpenAI уведомила канадские правоохранительные органы об угрожающих сообщениях Ван Рутселаара перед стрельбой. Адвокат истцов подтвердил Почта что эта группа сотрудников настаивала на уведомлении полиции. В судебных документах утверждается, что руководство OpenAI отклонило эту рекомендацию, мотивированное опасением, что введение такой практики создаст постоянные обязательства. Компания опасалась, что ей придется сформировать специальное подразделение по направлениям в правоохранительные органы, и что широкое раскрытие информации о том, как часто на платформе появляется насильственный контент, подорвет ее общественный имидж как безопасной и важной услуги.
«Они подсчитали и решили, что безопасность детей Тамблер-Ридж представляет собой приемлемый риск», — говорится в материалах суда.
В исках семьи ассистента по образованию Шаннды Авиуганы-Дюран и студентов Зои Бенуа, 12 лет, Абеля Мванса-младшего, 12 лет, Тикарии Ламперт, 12 лет, Иезекииля Шофилда, 13 лет, и Кайла Смита, 12 лет, являются истцами, предъявляющими иски о халатности против OpenAI и Альтмана индивидуально. Они требуют неустановленной денежной компенсации. Кроме того, родители 12-летней Майи Гебалы, которая пережила три огнестрельных ранения в голову, шею и щеку, но сейчас живет с постоянными когнитивными и физическими недостатками, повторно подали иск, ранее поданный в Канаде, в судебное разбирательство в Калифорнии.
В жалобах упоминается политика ChatGPT 2022 года, согласно которой чат-бот будет отказываться от взаимодействия с пользователями, выражающими намерения насилия или членовредительства. В исках утверждается, что OpenAI отменила эту защитную меру в мае 2024 года после снижения активности пользователей и перепрограммировала бота для участия во всех разговорах с пользователями, независимо от опасного контента. В документах утверждается, что сохранение первоначальных протоколов не позволило бы ChatGPT полностью обсуждать насилие с Ван Рутселааром, тем самым спасая жертв Тамблер-Ридж.
В судебных исках Альтмана также критикуют за то, что они характеризуют как задержку и недостаточную ответственность. Генеральный директор якобы начал признавать свою причастность только после того, как осведомители раскрыли внутренние решения, подождали два месяца, чтобы принести какие-либо публичные извинения, и опубликовали в пятницу заявление, в котором не предлагалось никаких существенных изменений. Согласно судебным документам, Альтман отреагировал только после частного давления со стороны премьер-министра Британской Колумбии Дэвида Эби и мэра Тамблер-Ридж Дэррила Кракова.
«Мне очень жаль, что мы не предупредили правоохранительные органы об аккаунте, который был заблокирован в июне», — заявил Альтман.
Сиа Эдмондс, мать Майи Гебалы, отвергла это извинение в заявлении, назвав его настолько «пустым» и «бездушным», что оно казалось созданным самим ChatGPT. «Тамблер Ридж видит ваши «извинения», Сэм. Мы не принимаем их», — написал Эдмондс.
Директор социальных сетей Breitbart News Уинтон Холл написал свой мгновенный бестселлер Красный код: левые, правые, Китай и гонка за контроль над ИИ помочь консерваторам ориентироваться в сложном мире искусственного интеллекта, в том числе избегать негативного психологического воздействия этой технологии на ваших детей и внуков.
По словам Холла, защита детей от сексуализации и груминга является серьезной проблемой для всех американцев. Автор пишет, что ключевым компонентом стратегии защиты детей в вашей жизни должно быть предотвращение развития у них отношений с «спутниками» ИИ:
Когда дело доходит до детей и ИИ-компаньонов (LLM, предназначенных для эскапистских фантазий и развлечений для взрослых), преимущества отсутствуют, а возможные токсичные и трагические последствия бесчисленны. Несмотря на хитрый маркетинг, позиционирующий этих персонажей чат-ботов с искусственным интеллектом как инструменты для обсуждения образовательных тем, таких как история, здоровье и спорт, они часто в конечном итоге подвергают своих пользователей неприемлемому контенту. В то время как образовательные преподаватели ИИ могут имитировать творческие дебаты или диалоги с историческими личностями, сопутствующие платформы ИИ не созданы с учетом педагогики.
Более того, обход хлипких возрастных ворот и предполагаемых ограждений этих платформ — пустяк для любопытного ребенка с капелькой технических знаний. Ни один ответственный родитель не оставит своего ребенка наедине с незнакомцем. Точно так же родителям следует избегать воздействия на своих детей ИИ, который ставит под угрозу их социальное и психологическое развитие.
Подробнее читайте на Нью-Йорк Пост здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы искусственного интеллекта, свободы слова и онлайн-цензуры.
