Коалиция, состоящая из более чем 200 организаций и экспертов по защите прав детей, опубликовала открытое письмо, в котором призвала YouTube полностью запретить созданный искусственным интеллектом помойный контент на своей детской платформе.
Fortune сообщает, что письмо, организованное детской правозащитной группой Fairplay и адресованное генеральному директору YouTube Нилу Мохану и генеральному директору Google Сундару Пичаи, собрало подписи более чем 135 организаций, включая Американскую консультативную ассоциацию. Выдающиеся исследователи, такие как Джонатан Хайдт, автор книги «Тревожное поколение», также поддержали кампанию.
Термин «отстой ИИ» относится к массовому производству алгоритмически генерируемых видеороликов, которые начали наводнять такие платформы, как YouTube. Эти видеоролики недороги в производстве, часто содержат причудливый или бессмысленный контент и специально созданы для того, чтобы привлечь и удержать внимание юных зрителей. Контент варьируется от мультяшных животных, выполняющих повторяющиеся задачи в сверхъестественном визуальном стиле, до поддельных образовательных видеороликов, содержащих искаженную информацию, а также гипнотических циклов без четкой цели. Февральское расследование New York Times зафиксировало, как такие материалы проникли в YouTube Kids, несмотря на то, что платформа позиционируется как безопасная и тщательно продуманная среда для детей.
Breitbart News ранее сообщал об исследовании, демонстрирующем, что YouTube помещает ИИ-видео в ленты молодых пользователей:
Исследование, проведенное компанией по монтажу видео Kapwing, показало, что более 20 процентов видео, рекомендуемых новым пользователям YouTube, представляют собой «отбросы ИИ» — низкокачественный контент, созданный ИИ, предназначенный для сбора просмотров и монетизации внимания. Исследователи исследовали 15 000 самых популярных каналов YouTube по всему миру и обнаружили, что 278 из них содержат исключительно отбросы искусственного интеллекта.
В совокупности эти каналы с искусственным интеллектом собрали более 63 миллиардов просмотров и 221 миллион подписчиков, принося примерно 117 миллионов долларов годового дохода. Когда исследователи создали новую учетную запись YouTube, они обнаружили, что 104 из первых 500 рекомендованных видео были отбросами ИИ, а треть контента подпадала под категорию «прогнивших мозгов», куда входят как отбросы ИИ, так и другие низкокачественные, привлекающие внимание видео.
Рэйчел Франц, директор программы Fairplay «Маленькие дети процветают в автономном режиме», объяснила, какие проблемы развития стоят на кону. «Большая часть контента, созданного ИИ, на самом деле предназначена для того, чтобы отвлечь внимание детей, особенно маленьких детей, которые только начинают развивать свой контроль над импульсами, и они действительно могут искажать реальность, создавать путаницу и влиять на то, как дети понимают мир вокруг них», — сказала она. Франц подчеркнул, что это выходит за рамки родительской ответственности, отметив, что «платформа постоянно рекомендует юным пользователям контент искусственного интеллекта таким образом, что для них становится невозможным избежать этого».
Финансовые масштабы явления значительны. Согласно исследованию Fairplay, ведущие каналы искусственного интеллекта, ориентированные на детей, принесли годовой доход более 4,25 миллиона долларов. Некоторые авторы открыто рекламируют прибыль от того, что они называют бессюжетным, завораживающим контентом с искусственным интеллектом. Правозащитная коалиция утверждает, что одних лишь корректировок политики будет недостаточно, пока платформа не устранит финансовые стимулы, способствующие созданию такого контента.
Франц дал резкую оценку качеству контента на платформе. «Только около 5 процентов видео на YouTube для детей до 8 лет действительно высокого качества. И среди этих 5 процентов идут споры о том, действительно ли они качественные», — сказала она. YouTube оспорил эту характеристику как противоречащую его политике стандартов.
Требования коалиции распространяются на многочисленные структурные изменения. Они призывают к четкой маркировке всего контента, созданного искусственным интеллектом, на всей платформе, полному запрету на материалы, созданные искусственным интеллектом, на YouTube Kids, а также к запрету контента, созданного искусственным интеллектом для детей, на основной платформе YouTube. Кроме того, они хотят, чтобы YouTube запретил своему алгоритму рекомендовать контент AI пользователям младше 18 лет, ввел родительский переключатель для отключения контента AI, который по умолчанию отключен, и прекратил все инвестиции в контент, созданный AI, предназначенный для детей.
Это последнее требование напрямую бросает вызов инвестициям YouTube в Animaj, детскую развлекательную студию на базе искусственного интеллекта, поддерживаемую Google AI Futures Fund. Франц была недвусмысленна в своей критике: «YouTube, по сути, инвестирует в причинение вреда детям, покупая Animaj».
Представитель YouTube сообщил Fortune: «Мы также предоставляем родителям возможность блокировать каналы. На YouTube мы уделяем приоритетное внимание прозрачности, когда речь идет о контенте с искусственным интеллектом, маркируем контент из наших собственных инструментов искусственного интеллекта и требуем от создателей раскрывать реалистичный контент с искусственным интеллектом. Мы постоянно совершенствуем наш подход, чтобы оставаться в курсе развития экосистемы».
Директор социальных сетей Breitbart News и автор Уинтон Холл объясняет в своем популярном бестселлере Красный код: левые, правые, Китай и гонка за контроль над ИИчто родители должны защитить своих детей от опасностей ИИ, особенно от ухода и сексуализации.
Подробнее о Fortune можно прочитать здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
