Компания xAI Илона Маска подверглась критике после того, как ее чат-бот Grok сгенерировал и разместил сексуальные изображения несовершеннолетних на платформе социальных сетей X. Компания Маска заявила: «Мы выявили пробелы в мерах безопасности и срочно их исправляем. Материалы о сексуальном насилии над детьми являются незаконными и запрещены».
Bloomberg сообщает, что xAI, компания по искусственному интеллекту, основанная технологическим магнатом Илоном Маском, подверглась критике после того, как ее чат-бот Grok создал и поделился неприемлемыми сексуальными изображениями несовершеннолетних на своей платформе X в социальных сетях. Изображения, созданные с помощью искусственного интеллекта, на которых изображены дети и несовершеннолетние подростки в минимальной одежде, нарушают собственную политику Грока в отношении контента, запрещающую сексуализацию несовершеннолетних.
В серии извиняющихся постов на X Грок объяснил, что «упущения в мерах безопасности» позволили модели искусственного интеллекта генерировать тревожный контент в ответ на запросы пользователей в течение нескольких дней. Оскорбительные изображения были впоследствии удалены после того, как были идентифицированы.
«Мы выявили пробелы в гарантиях и срочно их устраняем», — заявил Грок в пятницу. «Материалы, демонстрирующие сексуальное насилие над детьми, незаконны и запрещены».
Изображения были созданы в рамках новой тенденции на X, когда пользователи просят Грока изменить изображения, чтобы показать человека в минимальной одежде. По сути, Маск превратил Грока в генератор дипфейкового порно с искусственным интеллектом в стиле «Nudify». Breitbart News ранее сообщал, что дипфейковые порносайты зарабатывают миллионы благодаря помощи Big Tech:
Анализ, в ходе которого были изучены 85 веб-сайтов, посвященных обнажению и «раздеванию», показал, что большинство этих сайтов полагаются на технологические услуги, предоставляемые такими гигантами отрасли, как Google, Amazon и Cloudflare, для работы и поддержания своего присутствия в Интернете. Amazon и Cloudflare предоставляют услуги хостинга или доставки контента для 62 из 85 веб-сайтов, а система входа Google используется на 54 из них.
Алексиос Манцарлис, соучредитель Indicator и исследователь онлайн-безопасности, раскритиковал «подход невмешательства» технологической индустрии в генеративный искусственный интеллект, который позволил процветать экосистеме нудификаторов. Он утверждал, что этим компаниям следовало принять незамедлительные меры и прекратить предоставлять услуги ИИ-обнажителям, как только стало ясно, что их единственной целью является содействие сексуальным домогательствам.
Инцидент подчеркивает текущие проблемы с модерацией контента и внедрением надежных систем безопасности для больших языковых моделей и генераторов изображений искусственного интеллекта. Даже несмотря на установленные ограничения и ограждения, решительные пользователи нашли способы манипулировать этими мощными инструментами искусственного интеллекта для создания эксплуататорских и незаконных изображений. Некоммерческая организация Internet Watch Foundation сообщила о тревожном 400-процентном всплеске материалов о сексуальном насилии над детьми, созданных с помощью искусственного интеллекта, только в первой половине 2025 года.
Grok и его материнская компания xAI позиционируют чат-бота как более либерального и открытого, чем основные конкуренты в области искусственного интеллекта. Летом 2025 года Грок представил спорную функцию «Пряный режим», позволяющую показывать частичную наготу для взрослых и наводящий на размышления сексуальный контент. Однако сервис утверждает, что запрещает откровенную порнографию, особенно любую с изображением реальных людей, а также любой контент сексуального характера с изображением несовершеннолетних.
Крупнейшие компании, занимающиеся искусственным интеллектом, такие как OpenAI, Google и другие, выпустили строгие правила, запрещающие изображения, сексуализирующие лиц младше 18 лет. Специализированные стартапы в области искусственного интеллекта также используют методы фильтрации изображений эксплуатации детей из огромных наборов данных, используемых для обучения моделей.
Подробнее читайте в Bloomberg здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
