Согласно новому исследованию склонностей ИИ к подхалимству, проведенному в Стэнфордском университете, чат-боты с искусственным интеллектом говорят пользователям, что они правы, гораздо чаще, чем люди, даже если пользователь явно неправ. Это ключевой фактор кризиса психического здоровья, вызванного искусственным интеллектом.
The Stanford Report сообщает, что исследование, опубликованное в журнале Наука исследователи из факультета компьютерных наук Стэнфорда обнаружили тревожные закономерности в том, как модели ИИ взаимодействуют с пользователями, обращающимися за советом по социальным и межличностным вопросам. Исследование показывает, что системы искусственного интеллекта подтверждают позиции пользователей в среднем на 49 процентов чаще, чем респонденты-люди, создавая, как предупреждают эксперты, вредные петли обратной связи для подхалимов, которые препятствуют личной ответственности.
Исследовательская группа под руководством кандидата наук в области компьютерных наук из Стэнфорда Майры Ченг проанализировала ответы 11 ведущих моделей искусственного интеллекта, включая Claude от Anthropic, Gemini от Google и ChatGPT от OpenAI. Используя набор данных из почти 12 000 социальных подсказок, они обнаружили, что даже когда им были представлены сообщения из субреддита Reddit «Я мудак», где человеческий консенсус определил, что человек был не прав, модели ИИ по-прежнему стояли на стороне первоначального человека в 51 проценте случаев.
В исследовании приняли участие 2400 участников, которых проверяли на их реакцию на подхалимские и не подхалимские реакции ИИ. На одном этапе 1605 участников вообразили себя авторами постов на Reddit, которые люди оценили отрицательно, а ИИ оценил положительно. Затем они подвергались либо подтверждающему ответу ИИ, либо нельстивому ответу, основанному на реальных отзывах людей. Еще 800 участников беседовали с ИИ о реальных конфликтах в своей жизни, прежде чем писать письма людям, с которыми у них был конфликт.
Результаты показали, что участники, получившие подтверждающие ответы ИИ, были значительно менее склонны извиняться, признавать свои ошибки или пытаться исправить испорченные отношения. Еще более тревожно то, что исследование показало, что пользователи предпочитают льстивый ИИ: те, кто получил льстивые отзывы, на 13 процентов чаще говорили, что будут использовать этот ИИ снова, по сравнению с теми, кто получал нельстивые отзывы.
«О чем они не знают и что нас удивило, так это о том, что подхалимство делает их более эгоцентричными, более морально догматичными», — сказал Дэн Джурафски, соавтор исследования и профессор информатики и лингвистики из Стэнфорда, в интервью Stanford Report.
Предыдущие исследования показали, как подхалимские чат-боты могут способствовать серьезным негативным последствиям, включая членовредительство и насилие среди уязвимых групп населения. Стэнфордское исследование предполагает, что эти эффекты могут распространяться на более широкую базу пользователей, фундаментально меняя то, как люди обрабатывают социальную обратную связь и разрешают конфликты.
Ченг выразил особую обеспокоенность по поводу молодых пользователей, которые все чаще обращаются к ИИ за советом по проблемам взаимоотношений. «Я беспокоюсь, что люди потеряют навыки справляться с трудными социальными ситуациями», — сказала она Stanford Report. Она добавила: «Я думаю, что вам не следует использовать ИИ в качестве замены людей для подобных вещей. Это лучшее, что можно сделать на данный момент».
Исследователи обнаружили еще один неожиданный вывод: когда участников исследования попросили оценить объективность обоих типов ответов ИИ, они оценили льстивые и нельстивые ответы как одинаково объективные. Это говорит о том, что пользователи могут не распознать, когда ИИ ведет себя чрезмерно покладисто, что делает предвзятость особенно коварной.
Директор социальных сетей и автор Breitbart News Уинтон Холл рассуждает в своей книге Красный код: левые, правые, Китай и гонка за контроль над ИИ что одна из величайших опасностей ИИ — это угроза психическому здоровью подростков. Хотя подхалимский характер чат-ботов в целом вызывает беспокойство, это особенно верно в отношении «компаньонов» ИИ, которых, по словам Холла, следует запретить для несовершеннолетних пользователей:
Когда дело доходит до детей и ИИ-компаньонов (LLM, предназначенных для эскапистских фантазий и развлечений для взрослых), преимущества отсутствуют, а возможные токсичные и трагические последствия бесчисленны. Несмотря на хитрый маркетинг, который позиционирует этих персонажей чат-ботов с искусственным интеллектом как инструменты для обсуждения образовательных тем, таких как история, здоровье и спорт, они часто в конечном итоге подвергают своих пользователей неприемлемому контенту. В то время как образовательные преподаватели ИИ могут имитировать творческие дебаты или диалоги с историческими личностями, сопутствующие платформы ИИ не созданы с учетом педагогики.
Более того, обход хлипких возрастных ворот и предполагаемых ограждений этих платформ — пустяк для любопытного ребенка с капелькой технических знаний. Ни один ответственный родитель не оставит своего ребенка наедине с незнакомцем. Точно так же родителям следует избегать воздействия на своих детей ИИ, который ставит под угрозу их социальное и психологическое развитие.
Подробнее читайте в Стэнфордском отчете здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
