Согласно отчету, группа сторонников цензуры Newsguard работает над обучением моделей искусственного интеллекта борьбе с дезинформацией, при этом оценивая китайские государственные СМИ как более надежные, чем американские правоцентристские новостные агентства.
Газета Washington Free Beacon сообщила, что Newsguard, группа сторонников цензуры, составляющая черный список консервативных СМИ, анонсировала в 2023 году инструмент для компаний, занимающихся искусственным интеллектом. Newsguard утверждает, что оценивает надежность новостного агентства на основе вероятности того, что оно будет распространять ложную или дезинформацию. Затем организация продает свои данные рекламодателям, которые затем отговаривают этих рекламодателей размещать рекламу в неподходящих средствах массовой информации.
Breitbart News сообщило, что GDI утверждает, что в первую десятку СМИ, подвергающихся наибольшему риску распространения дезинформации, входят правоцентристские издания, такие как «Федералист» и «Федералист». Нью-Йорк Поста к числу наименее склонных к распространению дезинформации относятся HuffPost и ProPublica.
Сообщается, что Newsguard поощряла компании, занимающиеся ИИ, использовать свои данные в процессе «контролируемого обучения» — метода, который влияет на то, как модели ИИ анализируют информацию и координируют результаты ИИ с предпочтениями разработчиков. The Free Beacon сообщила, что Newsguard будет лицензировать свои данные в «машиночитаемой» форме, которая идеально подойдет для обучения чат-ботов с искусственным интеллектом, чтобы препятствовать распространению дезинформации.
«Без таких инструментов, как NewsGuard для ИИ, которые можно использовать во время контролируемого обучения для обучения моделей трансформаторов, языковые модели ИИ рискуют стать… «следующим великим суперраспространителем дезинформации», — говорится в пресс-релизе Newsguard.
Главный операционный директор Newsguard Мэтт Скибински утверждает, что Newsguard не продает свои данные «для обучения моделям ИИ».
Издание Free Beacon пояснило, что модель искусственного интеллекта, обученная на основе рейтингов Newsguard, может считать американские новостные агентства менее надежными, чем китайские государственные СМИ. Издание приводит рейтинг газеты Newsguard. Китай Дейлигосударственного издания, получившего оценку 44,5 из 100. Это более чем в два раза превышает надежность Newsmax, получившего 20 баллов.
Newsguard сказал, что Китай Дейли «Не публикует ложный или явно вводящий в заблуждение контент на значительном уровне. Напротив, Newsguard заявил, что Newsmax «выдвинул ложные или вопиюще вводящие в заблуждение утверждения о здоровье, политике США и нападении на Капитолий США 6 января 2021 года, так что посетитель сайта рискует быть серьезно введенным в заблуждение».
Другие правоцентристские издания, такие как «Федералист» и «One America News Network», рискуют «быть существенно введенными в заблуждение по важным темам». Оба издания получили баллы 17,5 и 22,2. China Global Television Network, которая, по словам Newsguard, была «рупором Коммунистической партии Китая», набрала 44,5 балла, что на пять баллов ниже Daily Wire, получившей 49,5 балла.
Майк Бенц, бывший чиновник Госдепартамента и исполнительный директор Фонда свободы в Интернете (FFO), рассказал Free Beacon:
Очевидная опасность проникновения NewsGuard в сферу ИИ заключается в том, что оно вызывает те же критические изменения в ИИ, что и в средствах массовой информации и социальных сетях. Каждый гражданин должен справедливо опасаться, что крайне предвзятая частная фирма может влиять или эффективно контролировать источники, из которых ИИ принимает свои решения, точно так же, как черные списки NewsGuard использовались для контроля над источниками СМИ, к которым аудитория могла иметь доступ.
Newsguard заявляет, что у нее есть «набор средств защиты для защиты продукции ИИ от дезинформации о выборах. «В год, когда по всему миру пройдет более 40 крупных выборов», — говорится в пресс-релизе 2024 года, — говорится в пресс-релизе 2024 года, добавляя, что «новые инструменты защитят продукты ИИ от эксплуатации или причинения непреднамеренного вреда».
Издание Free Beacon сообщило, что остается неясным, какие компании, занимающиеся искусственным интеллектом, приобрели данные у Newsguard, которая сама не раскрывает информацию о своих клиентах. Однако Anthropic и Microsoft заявили, что не используют данные Newsguard для обучения своих моделей. OpenAI и Google Deepmind не ответили на запросы издания о комментариях.
«Это та же фундаментальная проблема, что и раньше, но ИИ позволяет еще проще заставить замолчать инакомыслящие», — сказал Джин Гамильтон, президент America First Legal. «Кто решает, что надежно, а что нет?»
Главный операционный директор Newsguard Скибински заявил, что «компании, занимающиеся искусственным интеллектом, не лицензируют наши данные о отечественных новостных сайтах».
«Единственный способ использования наших данных в отрасли искусственного интеллекта — это наш продукт FailSafe for AI», — пояснил он, имея в виду данные Newsguard, сосредоточенные на российских, китайских и иранских источниках.
«Компании, занимающиеся искусственным интеллектом, будут рады лицензировать наш полный набор данных, если захотят», — добавил он.
Главный операционный директор Newsguard оспорил мнение о том, что Newsguard дает более низкие рейтинги правоцентристским новостным агентствам, чем китайским государственным СМИ.
В заявлении для Free Beacon он заявил:
Ваше заявление о том, что NewsGuard дает «более низкие рейтинги правым американским СМИ, чем китайским государственным СМИ» не соответствует действительности, нет, несмотря на тщательно отобранный набор сайтов, которые вы здесь описываете», — написал Скибински в электронном письме. «Если вместо этого вы спрашиваете, имел ли конкретный веб-сайт Newsmax столько ложного или вопиюще вводящего в заблуждение контента на своем сайте, что ему каким-то образом удалось получить оценку даже ниже, чем китайское государственное СМИ, это правда, но тот факт, что так много других консервативных сайтов заслуживают доверия, является достаточным доказательством того, что рейтинг Newsmax не основан на его политических взглядах.
«У NewsGuard нет меры, которая могла бы измерить правдивость контролируемого государством новостного агентства в Китае», — сказал Гамильтон изданию, утверждая, что Newsguard вообще не должен оценивать китайские государственные СМИ. «Вы никогда не получите фактической, объективной информации».
