Согласно новому отчету, Apple и Google продолжают предлагать приложения для «обнажения», которые позволяют пользователям создавать генерируемую искусственным интеллектом фейковую порнографию реальных людей, несмотря на то, что обе компании придерживаются политики, которая явно запрещает такой контент, согласно новому отчету.
Bloomberg сообщает, что отчет, опубликованный в среду проектом Tech Transparency Project, показал, что технологические гиганты Apple и Google по-прежнему размещают приложения, которые позволяют пользователям без согласия создавать фейковые изображения обнаженных или частично обнаженных реальных людей. Результаты подчеркивают текущие проблемы правоприменения, несмотря на заявленную политику компаний в отношении такого контента.
Исследовательская организация обнаружила, что пользователи могут легко получить доступ к этим приложениям, выполнив поиск по таким словам, как «обнажить» и «раздеться» как в Apple App Store, так и в Google Play Store. Приложения можно использовать для цифрового изменения изображений как знаменитостей, так и широкой публики, чтобы они выглядели обнаженными или частично раздетыми.
Согласно отчету, компании не просто размещают эти приложения, но и активно направляют к ним пользователей через результаты поиска и рекламу. Проект Tech Transparency выявил 18 приложений с возможностью обнажения в Apple App Store и 20 в Google Play Store. Обе платформы также используют функции автозаполнения, чтобы предлагать названия дополнительных приложений для обнажения тела по мере того, как пользователи вводят поисковые запросы.
Масштаб проблемы значителен. По оценкам исследователя рынка AppMagic, приложения, выявленные исследовательской группой, были загружены 483 миллиона раз и принесли примерно 122 миллиона долларов дохода. Представитель AppMagic подтвердил, что работа проекта Tech Transparency Project привела к удалению нескольких приложений и побудила других изменить свои пользовательские политики.
Проблема не нова. Ранее в этом году обе компании удалили приложения, помеченные проектом Tech Transparency Project. Однако исследователи обнаружили, что всего несколько месяцев спустя на обеих платформах можно было найти десятки похожих приложений. Эта закономерность вызвала повышенное внимание со стороны политиков во всем мире, которые за последний год усилили призывы ограничить распространение приложений для обнажения людей.
В некоторых из выявленных приложений использовались названия и изображения, которые явно помещали их в сексуальный контекст. Другие продавались более тонко, но их можно было легко использовать для создания сексуального контента, предлагая больше удобства, чем традиционное программное обеспечение для редактирования фотографий. Многие из этих приложений предлагали услуги подписки.
И Apple, и Google придерживаются политики, которая должна предотвращать появление таких приложений на их платформах. Рекомендации Apple App Store для разработчиков прямо запрещают «откровенно сексуальные или порнографические материалы». Политика Google Play Store запрещает «приложения, которые унижают или объективизируют людей, например приложения, которые утверждают, что раздевают людей или видят сквозь одежду, даже если они помечены как шуточные или развлекательные приложения».
После запроса Bloomberg по поводу отчета Apple удалила 15 приложений, выявленных исследовательской группой. Среди удаленных был «PicsVid AI Hot Video Generator», который предлагает шаблоны с изображением женщин в сексуальных позах. Apple также связалась с разработчиками шести дополнительных приложений, чтобы предупредить их о проблемах с политикой и возможном удалении. Компания заявила, что другие приложения, упомянутые в отчете, не нарушали ее руководящие принципы, и отметила, что она заранее отклонила многие приложения и удалила другие.
Google сообщил, что многие из приложений, упомянутых в отчете, были заблокированы из Google Play за нарушение политики, и расследование продолжается. «Когда нам сообщают о нарушениях нашей политики, мы проводим расследование и принимаем соответствующие меры», — заявили в компании.
Регуляторы всё чаще требуют более решительных действий от технологических компаний. В прошлом году президент Дональд Трамп подписал Закон «Сними это», который криминализирует публикацию сексуального контента без согласия и требует от платформ и веб-сайтов социальных сетей удалять такие публикации. В апреле правительство Великобритании планирует принять закон, который позволит привлекать к ответственности руководителей технологических компаний, чьи компании не удаляют подобные изображения.
Подробнее читайте в Bloomberg здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы искусственного интеллекта, свободы слова и онлайн-цензуры.
