Расследование показало, что Google «Обзор искусственного интеллекта», который находится в верхней части большинства поисковых запросов, предоставляет пользователям ложную и потенциально вредную медицинскую информацию, когда они ищут информацию, связанную со здоровьем, например, что означают результаты функционального теста печени. Поисковый гигант удалил из сети обзоры ИИ в случаях обнаружения исследователями медицинской дезинформации.
Хранитель сообщает, что Google удалил некоторые из своих сводок о состоянии здоровья, созданных с помощью искусственного интеллекта, после того, как стало известно, что эта функция предоставляет пользователям неточную и вводящую в заблуждение медицинскую информацию. Удаление произошло после того, как расследование выявило серьезные опасения по поводу надежности контента, связанного со здоровьем, создаваемого функцией «Обзоры искусственного интеллекта» компании.
Инструмент «Обзоры ИИ» использует генеративный искусственный интеллект для создания снимков информации по темам или вопросам, заданным пользователями. Эти сводки появляются на видном месте в верхней части результатов поиска. Ранее Google описывал эту функцию как полезную и надежную для пользователей, ищущих быстрые ответы на свои запросы.
Однако расследование показало, что некоторые сводки, связанные со здоровьем, содержат существенные неточности, которые могут подвергнуть пользователей риску. В одном особенно тревожном примере ИИ предоставил неверную информацию о тестах функции печени. Эксперты охарактеризовали этот конкретный случай как опасный и тревожный из-за возможных последствий для пациентов.
Когда пользователи искали информацию о нормальных диапазонах анализов крови в печени, обзоры искусственного интеллекта Google отображали многочисленные цифры с минимальным контекстом. В сводках не учитывались важные переменные, такие как национальность, пол, этническая принадлежность или возраст пациента. Эти факторы могут существенно повлиять на то, что представляет собой нормальный результат теста.
Медицинские эксперты отметили, что значения, которые ИИ Google считает нормальными, могут радикально отличаться от того, что медицинские работники на самом деле считают нормальными. Это несоответствие создает серьезный риск того, что пациенты с серьезным заболеванием печени могут интерпретировать свои аномальные результаты анализов как нормальные и, следовательно, пропустить важные последующие визиты к врачу.
После расследования Google удалил обзоры AI для поисковых запросов, включающих такие слова, как «каков нормальный диапазон тестов крови в печени» и «каков нормальный диапазон тестов функции печени». Представитель компании заявил, что Google не комментирует удаление отдельного контента на своей поисковой платформе. Представитель добавил, что, когда в обзорах искусственного интеллекта отсутствует соответствующий контекст, компания работает над реализацией широких улучшений и при необходимости принимает меры в соответствии со своей политикой.
Сью Фаррингтон, председатель Информационного форума для пациентов, организации, которая продвигает научно обоснованную медицинскую информацию для пациентов, общественности и медицинских работников, приветствовала удаление резюме. Однако она подчеркнула, что по поводу этой функции сохраняются серьезные опасения.
Фаррингтон охарактеризовал удаление как положительный результат, но охарактеризовал его как лишь первый шаг в том, что необходимо сделать, чтобы сохранить доверие к результатам поиска Google, связанным со здоровьем. Она отметила, что до сих пор существуют многочисленные примеры того, как обзоры искусственного интеллекта Google предоставляют пользователям неточную информацию о состоянии здоровья.
По словам Фаррингтона, миллионы взрослых во всем мире уже сталкиваются с трудностями при доступе к достоверной медицинской информации. Эта существующая проблема делает для Google критически важным направлять пользователей к надежной, проверенной медицинской информации и медицинским ресурсам от доверенных организаций.
Расследование также выявило другие проблемные обзоры ИИ, которые остаются активными на платформе. К ним относятся резюме на темы рака и психического здоровья, которые эксперты назвали совершенно неверными и действительно опасными. Эти сводки продолжают появляться в результатах поиска, несмотря на высказанные опасения.
На вопрос, почему эти дополнительные обзоры ИИ не были удалены, Google ответил, что они ссылаются на известные и авторитетные источники и информируют пользователей, когда важно обращаться за советом к эксперту. Представитель компании сообщил, что внутренняя группа врачей изучила материалы и установила, что во многих случаях информация не является неточной и подтверждается высококачественными веб-сайтами.
Подробнее читайте на Хранитель здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
