Согласно новому отчету отраслевой организации Tech Transparency Project, технологические гиганты Apple и Google предлагают в своих магазинах приложений множество приложений на базе искусственного интеллекта, которые могут генерировать изображения обнаженной натуры без согласия пользователей из обычных фотографий. Отчет появился после того, как разразился глобальный скандал, связанный с тем, что искусственный интеллект Илона Маска Grok создавал сексуальные дипфейки женщин и детей и размещал их на X.
CNBC сообщает, что комплексная проверка Apple App Store и Google Play Store, проведенная в январе, выявила наличие 55 приложений для обнажения людей в Google Play и 47 в Apple App Store, согласно выводам, опубликованным Tech Transparency Project. Эти приложения используют технологию искусственного интеллекта для манипулирования изображениями одетых людей и создания откровенного контента без согласия.
Это открытие побудило Apple принять немедленные меры после того, как на прошлой неделе с компанией связались представители Tech Transparency Project и CNBC. В понедельник представитель Apple подтвердил, что компания удалила 28 приложений, указанных в отчете надзорной службы. Технологический гигант также предупредил разработчиков дополнительных приложений о возможном удалении из Apple App Store, если нарушения правил не будут устранены должным образом.
По словам представителя Apple, беседовавшего с CNBC, после первоначального удаления два приложения были впоследствии восстановлены на платформе Apple после того, как их разработчики представили исправленные версии, которые учитывали опасения компании.
Однако проект Tech Transparency Project оспорил весь объем принудительных мер Apple, заявив в последующем обзоре в понедельник, что на самом деле из Apple App Store было удалено только 24 приложения, что меньше, чем 28, о которых первоначально сообщила компания.
Google также приняла принудительные меры после выводов отчета. Представитель Google подтвердил, что компания приостановила работу нескольких приложений, упомянутых в отчете Tech Transparency Project, за нарушение установленных политик Google Play Store. Представитель подчеркнул, что Google расследует потенциальные нарушения, когда о них сообщается, но отказался указать точное количество удаленных приложений, сославшись на продолжающееся расследование приложений, выявленных наблюдательной организацией.
«Обе компании заявляют, что они заботятся о безопасности и защите пользователей, но у них есть набор приложений, которые могут превратить безобидную фотографию женщины в оскорбительное, сексуальное изображение», — пишет Tech Transparency Project в своем отчете, посвященном анализу практики хостинга Apple и Google.
Наблюдательная организация использовала систематическую методологию для выявления этих проблемных приложений. Исследователи провели поиск, используя такие термины, как «обнажить» и «раздеться», чтобы найти соответствующие приложения, а затем протестировали обнаруженные приложения, используя сгенерированные искусственным интеллектом изображения полностью одетых женщин. В ходе расследования были рассмотрены две отдельные категории приложений: приложения, использующие искусственный интеллект для визуализации изображений женщин без одежды, и приложения для «замены лиц», которые накладывают лица людей на существующие изображения обнаженных женщин.
«Совершенно очевидно, что это не просто приложения для смены одежды», — сказала CNBC Кэти Пол, директор проекта Tech Transparency Project. «Они определенно были созданы для сексуализации людей без согласия».
Отчет Tech Transparency Project появился после серьезных разногласий вокруг компании xAI Илона Маска в начале этого месяца. Инструмент искусственного интеллекта xAI Grok подвергся широкой критике и негативной реакции после того, как в ответ на запросы пользователей создал сексуализированные фотографии женщин и детей, что вызвало серьезные опасения по поводу мер безопасности и модерации контента в системах искусственного интеллекта.
Согласно выводам Tech Transparency Project, исследование надзорной организации показало, что 14 из рассмотренных приложений базировались в Китае. Пол подчеркнул, что такое географическое распространение вызывает у пользователей дополнительные проблемы безопасности и конфиденциальности.
«Законы Китая о хранении данных означают, что китайское правительство имеет право на получение данных любой компании в любой точке Китая», — пояснил Пол. «Поэтому, если кто-то делает из вас дипфейковые обнаженные тела, теперь они окажутся в руках китайского правительства, если они воспользуются одним из этих приложений».
После разногласий вокруг инструмента искусственного интеллекта Grok от xAI система признала «упущения в мерах безопасности», которые она «срочно исправляет», в ответ одному пользователю платформы X. В понедельник Европейская комиссия усилила свою реакцию, объявив, что начала официальное расследование в отношении X относительно роли Грока в распространении контента откровенно сексуального характера.
Подробнее читайте на CNBC здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
