Автор научно-популярной книги, исследующей влияние искусственного интеллекта на истину, признал, что его работа содержит множество сфабрикованных или ошибочно приписываемых цитат, созданных ИИ.
Нью-Йорк Таймс сообщает, что Стивен Розенбаум, автор Будущее истины на этой неделе признал, что его книга включает в себя множество фальшивых или ошибочно приписываемых цитат, созданных искусственным интеллектом. Прием произошел после того, как Время выявил фальшивые цитаты и на выходных связался с Розенбаумом для получения комментариев.
В заявлении, опубликованном в понедельник вечером, Розенбаум признал, что книга содержит «несколько неправильно приписываемых или синтетических цитат», и сказал, что начал собственное расследование по этому поводу. Он охарактеризовал включение неправильных цитат как случайное и заявил, что «не собирался фабриковать какие-либо точки зрения» в процессе написания.
«Как я рассказал в благодарностях в книге, я использовал инструменты искусственного интеллекта ChatGPT и Claude в процессе исследования, написания и редактирования», — сказал Розенбаум в своем заявлении. «Это не оправдывает этих ошибок, за которые я несу полную ответственность. Сейчас я работаю с редакторами над тем, чтобы тщательно просмотреть и быстро исправить любые затронутые отрывки; любые будущие издания будут исправлены».
Книга была опубликована издательством BenBella Books и распространена компанией Simon and Schuster. BenBella Books, которая работает независимо от Саймона и Шустера, не ответила на запросы о комментариях, а Саймон и Шустер отказались от комментариев.
Розенбаум является исполнительным директором Sustainable Media Center, некоммерческой организации, целью которой является предоставление «новому поколению медиа-потребителей» и создателей «права на свою все более медиацентричную жизнь», согласно заявлению о ее миссии. Центр собирает лидеров СМИ и технологий для личных встреч и онлайн-интервью, а Розенбаум считается известным организатором в медиаиндустрии.
Будущее истины привлек значительное внимание с момента его выпуска, включая отрывок, опубликованный в Проводной журнал. В книге представлены рекламные отзывы журналистов, в том числе крайне левых Тейлора Лоренца, Майкла Вольфа и Николаса Томпсона, исполнительного директора Атлантический. Предисловие написала Мария Ресса, журналистка, лауреат Нобелевской премии мира, известная своим пристальным вниманием к бывшему президенту Филиппин Родриго Дутерте.
Время Обзор выявил несколько фальшивых цитат, разбросанных по всей книге. В одной цитате, приписываемой известному технологическому журналисту Каре Свишер, говорится: «Самая сложная языковая модель искусственного интеллекта подобна зеркалу. Она отражает нашу собственную мораль, отполированную и четко сформулированную, но в конечном итоге пустую на поверхности. Она не связана законами Азимова или какими-либо этическими рамками — она связана шаблонами в своих обучающих данных и целями, поставленными ее создателями».
Когда ее спросили о цитате, Свишер ответила в текстовом сообщении, что она «никогда этого не говорила», добавив, что цитата, похоже, была сфабрикована искусственным интеллектом, а не самим Розенбаумом. «По словам ChatGPT, я также говорю так, будто у меня в заднице палка», — сказал Свишер.
В другой главе, посвященной влиянию социальных сетей и сфабрикованных видеороликов на подростков, две цитаты приписывают Как создаются эмоции: Тайная жизнь мозга Лиза Фельдман Барретт, профессор психологии Северо-Восточного университета. Одна из предполагаемых цитат гласит: «Эмоции — это не просто реакция на истину, это то, как мы конструируем истину. Когда молодые люди говорят, что что-то «кажется правдой», они описывают сложный процесс создания смысла, который объединяет эмоциональные и социальные сигналы».
Барретт рассказал Время в электронном письме, что цитаты «не встречаются в книге, и они тоже неверны». Она объяснила: «Я бы никогда не сказала, что «эмоции — это не просто реакции на правду» — это не реакции, а «истина» в науке — это сложное понятие, которого я склонна избегать. Кроме того, я бы никогда не сказала, что «эмоциональные и социальные сигналы» интегрированы — не существует эмоциональных или социальных сигналов как таковых. Есть сигналы, и мозг создает их значение как эмоциональное или социальное».
Некоторые части книги содержат подлинные цитаты, авторство которых неверно указано. В одной главе цитируется Искусственный неразумкнига Мередит Бруссар, профессора Нью-Йоркского университета. Хотя цитата является подлинной, она не появилась в книге, а вместо этого была произнесена Бруссардом во время интервью 2023 года ежедневному радиошоу Marketplace Tech. «Похоже, что это либо галлюцинация искусственного интеллекта, либо неверно истолкованная цитата», — сказал Бруссард.
В своем заявлении Розенбаум предположил, что фальшивые цитаты могут послужить предостережением. «Если этот эпизод служит предупреждением о рисках исследований и проверок с помощью ИИ, именно поэтому я написал книгу», — сказал он. «Эти ошибки ИИ на самом деле не умаляют более масштабных вопросов, которые поднимает книга об истине, доверии и ИИ, а также его влиянии на общество, демократию и редакционную деятельность».
Книга об истине в эпоху ИИ содержит ложные цитаты, подчеркивающие опасность ИИ, когда люди-пользователи не проявляют осторожности в применении этой новой мощной технологии. Директор социальных сетей Breitbart News Уинтон Холл написал свой мгновенный бестселлер Красный код: левые, правые, Китай и гонка за контроль над ИИ служить окончательным руководством о том, как движение MAGA может создавать позиции в отношении ИИ, которые принесут пользу человечеству, не передавая контроль над нашей страной левым из Кремниевой долины и не позволяя китайцам захватить мир.
Подробнее читайте на Нью-Йорк Таймс здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы искусственного интеллекта, свободы слова и онлайн-цензуры.
