Старший исследователь Meta предупредил руководителей компании, что до 500 000 несовершеннолетних могут ежедневно подвергаться нападениям онлайн-хищников в Facebook и Instagram, согласно внутренним документам, обнародованным перед крупным судебным процессом в Нью-Мексико.
Нью-Йорк Пост сообщает, что взрывоопасные документы были обнародованы, поскольку в понедельник начнутся вступительные прения по иску, поданному генеральным прокурором Нью-Мексико Раулем Торресом (демократ) против гиганта социальных сетей. Государство обвиняет Мету в том, что она подвергает детей сексуальной эксплуатации и причиняет вред психическому здоровью посредством неуместных сообщений, схем сексуального вымогательства и торговли людьми.
Согласно протоколам суда, Малия Андрус, которая работала на должностях, связанных с безопасностью детей, в Meta с августа 2017 года по октябрь 2024 года, в июне 2020 года отправила внутреннее электронное письмо с предупреждением о масштабах проблемы. По ее оценкам, около 500 000 жертв в день только на англоязычных рынках подвергаются нападениям с сообщениями сексуального характера.
«Мы ожидаем, что реальная ситуация еще хуже», — написал Андрус в электронном письме, цитируемом в досудебных документах.
В другом сообщении Андрус выразил обеспокоенность по поводу того, что огромные базы пользователей Facebook и Instagram предоставили хищникам беспрецедентный доступ к потенциальным жертвам. «Я просто думаю, что нигде в истории человечества не могла быть тайная беседа с 1000 людьми», — написала она. «На самом деле я боюсь последствий».
Иск Нью-Мексико — одна из нескольких юридических проблем, с которыми Meta сталкивается в этом году в отношении безопасности детей на своих платформах. На прошлой неделе в Калифорнии началось отдельное судебное разбирательство, обвиняющее Meta и YouTube, принадлежащий Google, в разжигании зависимости от социальных сетей у молодых пользователей.
Саша Хауорт, исполнительный директор Tech Oversight Project, наблюдательной организации, назвал многочисленные судебные процессы «разделенным экраном кошмаров Марка Цукерберга». Хауорт заявил: «Это испытания поколения; точно так же, как мир наблюдал, как залы суда привлекают к ответственности крупные табачные компании и крупные фармацевтические компании, мы впервые увидим, как руководители крупных технологических компаний, такие как Цук, встают на защиту. Мир наблюдает, расплата Меты пришла, и последствия только начинаются».
Чиновники Нью-Мексико утверждают, что их расследование выявило тревожные подробности об условиях на платформах Meta. Тестовые учетные записи, созданные государственными следователями, предположительно были наполнены контентом сексуального характера и с ними связывались подозреваемые в посягательствах на детей. В иске утверждается, что на эти аккаунты поступали фотографии и видео гениталий, а также предлагалось шестизначное вознаграждение за участие в порнографических видеороликах.
Дополнительные электронные письма от Андруса критиковали системы проверки возраста Меты как неадекватные. Сообщается, что она предупредила, что инструменты, предназначенные для предотвращения доступа к Instagram несовершеннолетних пользователей, легко обойти. «Наши следователи сообщили, что почти каждый раз, когда они сталкиваются с лжецом о возрасте на IG (в контексте безопасности детей), прогноз возраста неверен (совпадает с возрастом, который они ложно утверждают)», — написал Андрус, согласно судебным документам.
В заявлении для Breitbart News представитель Meta сказал:
Цифры, обсуждаемые в этом электронном письме 2020 года, не относятся к отдельным жертвам или случаям эксплуатации детей. Технология измерения, которую мы использовали в то время, использовала слишком широкий и осторожный набор критериев и в результате учитывала множество доброкачественных взаимодействий. Это число значительно сократилось после того, как мы усовершенствовали и усовершенствовали нашу технологию измерений. С 2020 года мы ввели ряд новых мер, которые помогут уменьшить потенциальное ухаживание и ненадлежащее взаимодействие с детьми, включая запрет взрослым начинать частные чаты с подростками, с которыми они не связаны, а также использование улучшенных поведенческих сигналов для выявления потенциально подозрительных взрослых и предотвращения их поиска и слежения за подростками.
В судебном документе штата подчеркивались обширные знания Андрус о том, как Мета решает проблемы сексуального насилия в Интернете, отмечая, что она работала в «Целевой группе грумеров, которая исследовала взрослых хищников, которые приставали к несовершеннолетним». В документе также говорится: «Г-жа Андрус также прокомментировала неспособность Meta адекватно инвестировать в безопасность детей, вводящий в заблуждение характер некоторых публично публикуемых показателей безопасности детей и (нераскрытую) незрелость мер безопасности детей в Instagram».
Перед судом адвокаты Меты попытались исключить из разбирательства несколько тем, в том числе чат-боты компании с искусственным интеллектом, исследовательские опросы о вредном влиянии на психическое здоровье и подробности тайного расследования в Нью-Мексико. Однако судья отклонил эти ходатайства на предварительном слушании.
Мета в ответ обвинила Торреса в проведении «этически скомпрометированного расследования в отношении Меты, которое сознательно поставило под угрозу настоящих детей».
Подробнее читайте на Нью-Йорк Пост здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
