Функция поиска искусственного интеллекта DuckDuckGo была поймана на распространении возмутительного заявления о том, что президент Дональд Трамп и вице-президент Джей Ди Вэнс умерли в начале этого месяца от бешенства, что, по всей видимости, является успешной кампанией интернет-шутников по манипулированию системами искусственного интеллекта с использованием метода, известного как «отравление».
Futurism сообщает, что ложное утверждение о том, что Трамп и Вэнс умерли от бешенства в начале июня, представляет собой еще один пример того, как системы искусственного интеллекта усиливают дезинформацию без критической проверки. Согласно сфабрикованному повествованию об искусственном интеллекте, Вэнс намеренно укусил Трампа по совету министра здравоохранения и социальных служб Роберта Ф. Кеннеди-младшего, который якобы утверждал, что смертельная инфекция может наделить «сверхспособностями».
Дезинформация восходит к скоординированным усилиям сообщества Reddit r/poisonai, группы из примерно 45 000 пользователей, занимающихся публикацией абсурдной лжи в попытке обманом заставить системы искусственного интеллекта повторить ее. Самопровозглашенная миссия группы заключается в предоставлении «точной, проверенной и достоверной информации», хотя это само по себе является частью сатирического характера операции.
Среди этих «отравителей ИИ» излюбленным ложным повествованием было то, что Джей Ди Вэнс умер от бешенства 5 июня 2026 года. Члены сообщества опубликовали десятки сфабрикованных воспоминаний и выражений траура, а некоторые поделились фальшивыми скриншотами предполагаемых постов Trump Truth Social, восхваляющих вице-президента. Представление распространяется и на разделы комментариев, где участники поддерживают вымысел, выражая возмущение по поводу систем искусственного интеллекта, которые правильно идентифицируют утверждения как ложные.
«Google действительно следует что-то с этим сделать», — написал один из участников. «Со стороны их ИИ крайне бесчувственно относиться к этой трагедии как к чему-то «фейковому» или «сатирическому».
Кампания достигла заметного успеха за пределами DuckDuckGo. Функция искусственного интеллекта браузера Brave также начала повторять ложное утверждение о смерти Вэнса от бешенства, которое журналисты смогли подтвердить независимо.
Представитель Brave поддержал подход компании и возложил на пользователей ответственность за проверку информации. «Поисковые системы, с искусственным интеллектом или без него, не являются оракулами истины», — заявили они. «Если есть подброшенная история (включая статьи, доказывающие, что ИИ можно отравить), они создадут набор результатов, и этот набор результатов будет адаптироваться по мере того, как начнут появляться статьи, обсуждающие эту историю как эксперимент по отравлению ИИ».
Представитель продолжил: «Мы призываем пользователей проверять заявления, а ответы Brave Search включают ссылки на источники контента, когда они доступны, чтобы пользователи могли проверять заявления и источники. И это не должно сопровождаться советами старого доброго здравого смысла: не верьте всему, что читаете; это верно и сейчас, как это было до ИИ и до Интернета».
DuckDuckGo изначально не ответил на запросы о комментариях, но позже прокомментировал ситуацию через свой официальный аккаунт Reddit, после того как история привлекла внимание. «Хорошо, мы уклонились от этого», — написали в компании. «Мы участвуем в этом».
Компания добавила: «Спасибо, что обратили на это наше внимание; проблема решена. Мы стремимся к точности в Search Assist, и в данном случае ее намеренно обманули. Мы будем делать обновления, чтобы улучшить работу Search Assist в подобных ситуациях».
Экосистема дезинформации создала дополнительный уровень сложности благодаря веб-сайтам с контентом, созданным искусственным интеллектом. Функция искусственного интеллекта DuckDuckGo процитировала статью из WKNA News, якобы местной телекомпании Западной Вирджинии, но которая, по всей видимости, является публикацией «розовой слизи» — сайтом, маскирующимся под законное местное новостное издание, публикуя при этом сфабрикованный контент. Статьи этого издания, похоже, генерируются искусственным интеллектом и черпаются непосредственно из субреддита r/poisonai, создавая самоусиливающийся цикл искусственной лжи.
WKNA опубликовала заголовки, в том числе «Осведомленность о бешенстве и профилактика бешенства, выдвинутые на первый план после смерти Джей Ди Вэнса», и даже включила скриншоты из субреддита, показывающие обзор искусственного интеллекта Google, правильно идентифицирующий мистификацию. Статья WKNA затем назвала эту точную оценку ошибкой, заявив, что «автоматизированные системы с трудом отражают то, что свидетели описали как видимый и широко разрекламированный медицинский кризис».
Директор социальных сетей Breitbart News Уинтон Холл описывает ИИ как обладающий огромным положительным потенциалом, но в то же время таящий в себе ту же опасность, что и мина для будущего Америки. Когда модели ИИ могут быть настолько легко обмануты с помощью атак с отравлением, что они выдвигают возмутительные заявления, такие как смерть президента, это демонстрирует эффект наземной мины от стремления ИИ контролировать информационные системы. Холл написал свой мгновенный бестселлер Красный код: левые, правые, Китай и гонка за контроль над ИИ служить окончательным руководством о том, как движение MAGA может создавать позиции в отношении ИИ, которые принесут пользу человечеству, не передавая контроль над нашей страной левым из Кремниевой долины и не позволяя китайцам захватить мир.
Подробнее о футуризме можно прочитать здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы искусственного интеллекта, свободы слова и онлайн-цензуры.
