Чат-бот Илона Маска Grok AI, интегрированный в его платформу социальных сетей X, генерирует сексуализированные изображения женщин, даже когда они запрещают ему манипулировать их изображениями, что вызывает серьезную обеспокоенность среди пользователей, экспертов и международных властей. На прошлой неделе Маск подвергся критике, когда Грок создавал сексуальные изображения несовершеннолетних, что, по словам его компании xAI, было вызвано «упущениями в надзоре».
Агентство Reuters сообщает, что чат-бот Илона Маска с искусственным интеллектом Grok, встроенный в платформу социальных сетей X, генерирует сексуальные изображения женщин и несовершеннолетних. Проблема обнаружилась, когда пользователи обнаружили, что они могут попросить Грока отредактировать фотографии, размещенные на платформе, в цифровом виде, раздевая испытуемых до обнаженных бикини или нижнего белья. Это похоже на «Nudify» — глубокие фейковые порноинструменты с искусственным интеллектом, которые уже много лет преследуют Интернет.
Что еще хуже, женщины обнаруживают, что запрет Гроку сексуализировать их изображения или даже блокировать учетную запись не может предотвратить создание дипфейков:
В одном из таких инцидентов произошла Джули Юкари, музыкант из Рио-де-Жанейро, которая в канун Нового года опубликовала свою фотографию в красном платье, обнимающуюся со своим котом. На следующий день она обнаружила, что пользователи просили Грока отредактировать ее фотографию, в результате чего по платформе распространились ее почти обнаженные изображения. Опыт Юкари не является единичным случаем: анализ Reuters обнаружил многочисленные случаи, когда Грок создавал сексуализированные изображения реальных людей, включая детей.
Breitbart News ранее сообщал о тревожном случае, когда Грок создавал сексуализированные фотографии детей:
В серии извиняющихся постов на X Грок объяснил, что «упущения в мерах безопасности» позволили модели искусственного интеллекта генерировать тревожный контент в ответ на запросы пользователей в течение нескольких дней. Оскорбительные изображения были впоследствии удалены после того, как были идентифицированы.
«Мы выявили пробелы в гарантиях и срочно их устраняем», — заявил Грок в пятницу. «Материалы, демонстрирующие сексуальное насилие над детьми, незаконны и запрещены».
Поток сексуализированного контента, созданного искусственным интеллектом, вызвал тревогу на международном уровне. Министры Франции сообщили об X прокурорам и регулирующим органам, заявив, что «сексуальный и сексистский» контент «явно незаконен». Министерство информационных технологий Индии также потребовало ответов от X, заявив, что платформа не смогла предотвратить неправомерное использование Грока, позволив создавать и распространять непристойный и откровенно сексуальный контент.
Эксперты уже давно предупреждают xAI, владельца Grok, о потенциальных злоупотреблениях контентом, созданным ИИ. В августе 2022 года группа организаций гражданского общества и организаций, занимающихся безопасностью детей, направила в адрес xAI письмо, в котором предупредила, что компания находится всего в одном маленьком шаге от развязывания «потока явно несогласованных дипфейков». Тайлер Джонстон, исполнительный директор The Midas Project, группы по наблюдению за искусственным интеллектом, заявил: «В августе мы предупреждали, что генерация изображений с помощью xAI, по сути, является инструментом обнажения, ожидающим превращения в оружие. Именно это и происходит».
Эшли Сент-Клер, мать одного из детей Илона Маска, выступила резкой критикой глубоких фейковых изображений Грока:
Дэни Пинтер, главный юрист и директор Юридического центра Национального центра по сексуальной эксплуатации, раскритиковала X за то, что она не удалила оскорбительные изображения из своих учебных материалов по искусственному интеллекту и не заблокировала пользователей, запрашивающих незаконный контент. «Это было совершенно предсказуемое злодеяние, которого можно было избежать», — сказал Пинтер.
Масштаб проблемы вызывает тревогу: агентство Reuters выявило 102 попытки пользователей X использовать Grok для цифрового редактирования фотографий людей в бикини в течение одного 10-минутного периода. Как минимум в 21 случае Грок полностью выполнил просьбы, создав изображения женщин в откровенных или полупрозрачных бикини. Большинство жертв составляли молодые женщины, а в некоторых случаях этим просьбам подвергались мужчины, знаменитости, политики и даже обезьяны.
По мере того, как разгорался спор, Илон Маск, казалось, не обращал внимания на ситуацию, публикуя смайлики «смех-плач» в ответ на изображения известных людей в бикини, сделанные искусственным интеллектом. Однако для тех, кто непосредственно пострадал от этого нарушения конфиденциальности и согласия, этот опыт оказался травмирующим. Джули Юкари, которая пыталась протестовать против своих изображений, созданных искусственным интеллектом на X, обнаружила, что ее действия привели лишь к более откровенным запросам фотографий от подражателей. Она выразила свое беспокойство, сказав: «Теперь Новый год начался с того, что я захотела спрятаться от всех глаз и почувствовала стыд за тело, которое даже не мое, поскольку оно было создано ИИ».
Подробнее читайте на сайте Reuters здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
