Amazon сообщила о том, что в прошлом году в данных, собранных для обучения ее моделей искусственного интеллекта, были обнаружены сотни тысяч материалов, подозреваемых в сексуальном насилии над детьми, хотя компания предоставила ограниченную информацию о происхождении материалов представителям службы безопасности детей.
Bloomberg сообщает, что Amazon обнаруживала незаконные материалы в течение 2025 года в своих данных по обучению искусственному интеллекту и впоследствии сообщила об этом Национальному центру по делам пропавших и эксплуатируемых детей (NCMEC). В течение 2025 года в NCMEC наблюдалось как минимум пятнадцатикратное увеличение количества отчетов, связанных с искусственным интеллектом, причем подавляющее большинство из них исходило от Amazon.
Гигант электронной коммерции и облачных вычислений удалил проблемный контент, прежде чем использовать данные для обучения своих моделей искусственного интеллекта. Однако представители службы безопасности детей выразили обеспокоенность тем, что Amazon не предоставил достаточной информации о том, откуда взялся материал, что потенциально может помешать усилиям правоохранительных органов по поиску преступников и защите жертв.
Представитель Amazon заявил, что данные обучения получены из внешних источников и что у компании нет подробной информации об их происхождении. В то время как другие крупные технологические компании также сканировали данные своего обучения и сообщали NCMEC о материалах, которые потенциально могут быть использованы для эксплуатации, информационно-координационный центр выявил существенные различия. Другие компании в совокупности представили лишь несколько отчетов и предоставили более подробную информацию о происхождении материала.
«Мы сознательно осторожно подходим к сканированию данных обучения моделей Foundation, включая данные из общедоступной сети, чтобы выявить и удалить известные материалы (материалы о сексуальном насилии над детьми) и защитить наших клиентов», — сказал представитель.
Резкое увеличение количества отчетов Amazon происходит на фоне усиливающейся конкуренции в области искусственного интеллекта, которая заставляет компании гоняться за получением и обработкой огромных объемов данных для улучшения своих моделей. На долю Amazon пришлось большинство из более чем миллиона сообщений о сексуальном насилии над детьми, связанных с ИИ, представленных в NCMEC в 2025 году. Это значительный скачок по сравнению с 67 000 сообщений, связанных с ИИ, в предыдущем году и всего 4700 в 2023 году.
Наличие незаконного контента в данных обучения ИИ вызывает обеспокоенность у экспертов. Потенциально это может повлиять на фундаментальное поведение модели, возможно, расширив ее возможности по цифровому манипулированию и сексуализации изображений реальных детей или созданию совершенно новых изображений сексуализированных детей.
Представитель Amazon уточнил, что по состоянию на январь компании не известно ни о каких случаях, когда ее модели создавали материалы о сексуальном насилии над детьми. Инструмент автоматического обнаружения пометил контент, сравнив его с базой данных известных материалов о жестоком обращении с детьми. Этот процесс известен как хеширование. Примерно 99,97 процентов отчетов были получены в результате сканирования непатентованных данных обучения.
Amazon считает, что она слишком сильно сообщила об этих случаях в NCMEC, чтобы ничего не было упущено из виду. «Мы намеренно используем завышенный порог для сканирования, что приводит к высокому проценту ложных срабатываний», — добавил представитель.
Объем подозрительного материала, обнаруженного Amazon, удивил экспертов по безопасности детей. Сотни тысяч отчетов представляют собой резкий рост для компании, которая в 2024 году составила в общей сложности 64 195 отчетов.
«Это действительно выдающийся результат», — сказал Фэллон МакНалти, исполнительный директор CyberTipline NCMEC. «Поскольку такой большой объем поступил в течение года, возникает много вопросов о том, откуда берутся данные и какие меры защиты были приняты».
Макналти пояснил, что Amazon не предоставила в своих отчетах очень мало или почти никакой информации о том, откуда изначально поступили незаконные материалы, кто ими поделился и остаются ли они активно доступными в Интернете. Хотя Amazon по закону не обязан раскрывать такую информацию, отсутствие информации не позволяет NCMEC отследить происхождение материала. «Тогда с этими отчетами ничего нельзя сделать», — сказала она. «Наша команда четко дала понять (Amazon), что эти отчеты недействительны».
На вопрос, почему компания не раскрыла информацию о возможном происхождении материала, представитель Amazon ответил, что из-за того, как получены данные, у компании нет данных, которые могли бы составить отчет, который можно было бы использовать. «Хотя наши превентивные меры безопасности не могут предоставить такую же подробную информацию в отчетах NCMEC, как инструменты, ориентированные на потребителей, мы придерживаемся нашей приверженности ответственному ИИ и продолжим нашу работу по предотвращению CSAM», — сказал представитель.
«Должно быть больше прозрачности в том, как компании собирают и анализируют данные для обучения своих моделей — и как они их обучают», — сказал Дэвид Тиль, бывший главный технолог Стэнфордской интернет-обсерватории, который исследовал распространенность материалов о сексуальном насилии над детьми в данных обучения ИИ.
Amazon была не единственной компанией, которая в прошлом году обнаружила и сообщила о потенциальных материалах своих рабочих процессов в области искусственного интеллекта. Google и OpenAI сообщили журналистам, что они сканируют данные обучения ИИ на предмет эксплуататорских материалов. Meta и Anthropic также заявили, что ищут такой материал в обучающих данных.
МакНалти сказал, что, за исключением Amazon, отчеты, связанные с искусственным интеллектом, полученные в прошлом году, были очень небольшими по объему и включали ключевые детали, которые позволяли информационно-координационному центру передавать полезную информацию правоохранительным органам. «Просто отметив, что вы столкнулись с чем-то, но не предоставив никаких практических подробностей, вы не поможете более широкому пространству безопасности детей», — сказал МакНалти.
Подробнее читайте в Bloomberg здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
