Результаты поиска Google «Обзор искусственного интеллекта» каждый час выдают десятки миллионов неточных ответов, согласно новому исследованию, которое вызывает обеспокоенность по поводу надежности поиска информации с помощью искусственного интеллекта.
Нью-Йорк Таймс сообщает, что недавний анализ, проведенный AI-стартапом Oumi, выявил значительные проблемы с точностью функции Google AI Reviews, которая появляется в верхней части результатов поиска. В ходе исследования было изучено в общей сложности 8652 результатов поиска, сгенерированных с помощью моделей искусственного интеллекта Gemini от Google, и была выявлена частота ошибок, которая выражается в сотнях тысяч ошибок в минуту применительно к огромному объему поиска Google.
Оуми протестировал 4326 результатов поиска по модели Google Gemini 2 и столько же по более продвинутой модели Gemini 3. Анализ показал, что точность составляет 85 процентов и 91 процент соответственно. Хотя эти проценты могут показаться относительно высокими, они вызывают беспокойство, если их масштабировать до ожидаемого Google объема более 5 триллионов поисковых запросов только в 2026 году.
Обнаруженные неточности варьировались от элементарных фактических ошибок до более сложной дезинформации. Примеры включали неверные даты превращения дома музыканта Боба Марли в музей, неверную информацию о году смерти бывшего питчера MLB Дика Драго и ложные утверждения о том, что виолончелист Йо-Йо Ма не имел записей о включении в Зал славы классической музыки, несмотря на его фактическое введение в 2007 году.
Исследование подчеркивает растущую напряженность между традиционными издателями новостей и Google. С тех пор, как в 2024 году обзоры ИИ начали появляться в верхней части результатов поиска, традиционные ссылки на новостные веб-сайты переместились дальше вниз по странице, что фактически снизило их видимость. Издатели обвинили Google в использовании их контента для обучения моделей ИИ без предоставления надлежащего кредита или компенсации.
Исследование также показало, что AI Reviews часто цитирует сомнительные источники, в том числе страницы Facebook, сообщения в блогах и статьи в Википедии, рассматривая их как авторитетные факты. Система кажется уязвимой для манипуляций, о чем свидетельствует случай, когда ведущий подкаста BBC Томас Жермен создал сообщение в блоге, в шутку утверждая, что он один из лучших технических журналистов в поедании хот-догов. В течение дня ИИ Google включил эту информацию и начал заявлять, что Жермен прославился своим мастерством на соревновательных мероприятиях по еде в отделе новостей.
В анализе Оуми, проведенном в период с октября по февраль, использовался эталонный тест SimpleQA, разработанный OpenAI, который обычно используется для оценки точности модели ИИ. Исследование выявило еще одну тревожную тенденцию: хотя общая точность улучшилась от Gemini 2 к Gemini 3, процент необоснованных ответов значительно увеличился. Необоснованными являются ответы, в которых ссылки, предоставленные Google, не подтверждают информацию, содержащуюся в сводке AI. Этот показатель подскочил с 37 процентов в Gemini 2 до 51 процента в Gemini 3.
Google оспорил достоверность выводов Оуми, при этом представитель компании заявил, что «в этом исследовании есть серьезные дыры». Представитель добавил: «Это не отражает то, что люди на самом деле ищут в Google».
Breitbart News ранее сообщал, что функция обзора искусственного интеллекта Google предоставляет крайне неточные медицинские советы:
Однако расследование показало, что некоторые сводки, связанные со здоровьем, содержат существенные неточности, которые могут подвергнуть пользователей риску. В одном особенно тревожном примере ИИ предоставил неверную информацию о тестах функции печени. Эксперты охарактеризовали этот конкретный случай как опасный и тревожный из-за возможных последствий для пациентов.
Когда пользователи искали информацию о нормальных диапазонах анализов крови в печени, обзоры искусственного интеллекта Google отображали многочисленные цифры с минимальным контекстом. В сводках не учитывались важные переменные, такие как национальность, пол, этническая принадлежность или возраст пациента. Эти факторы могут существенно повлиять на то, что представляет собой нормальный результат теста.
Директор социальных сетей и автор Breitbart News Уинтон Холл объясняет в своем мгновенном бестселлере: Красный код: левые, правые, Китай и гонка за контроль над ИИчто консерваторы должны разработать план борьбы с темной стороной ИИ, независимо от того, используется ли он для идеологической обработки учащихся в классе, для сексуализации и ухода за ними или для того, чтобы заставить психически больного человека впасть в опасное состояние посредством распространения дезинформации.
Сенатор Марша Блэкберн (республиканец от Теннесси), которую назвали одной из ВРЕМЯ100 самых влиятельных людей в области искусственного интеллекта получили высокую оценку Код Красный как «обязательно к прочтению». Она добавила: «Мало кто понимает нашу консервативную борьбу с большими технологиями так, как Холл», что делает его «уникально квалифицированным для изучения того, как мы можем наилучшим образом использовать огромный потенциал ИИ, гарантируя при этом, что он не эксплуатирует детей, творцов и консерваторов». Отмеченный наградами журналист-расследователь и основатель Public Майкл Шелленбергер звонит Код Красный «Просветляющая», «тревожная» и описывает книгу как «важное начало разговора для тех, кто надеется подорвать авторитарные планы крупных технологических компаний, пока не стало слишком поздно».
Подробнее читайте на Нью-Йорк Таймс здесь.
