Исследователи кибербезопасности выявили растущий класс атак, в которых используются чат-боты с искусственным интеллектом посредством сложных диалоговых манипуляций, а не традиционных технических методов взлома.
The Verge сообщает, что эволюция атак на чат-ботов с искусственным интеллектом резко изменилась с тех пор, как технология впервые стала широко доступной. Ранние методы эксплуатации были удивительно простыми и не требовали никаких технических знаний или знаний в области кодирования. Пользователи часто могли обойти меры безопасности, просто попросив систему ИИ игнорировать ее инструкции или притвориться, что правила не применяются. Эти атаки, известные как побег из тюрьмы, успешно извлекали запрещенную информацию, такую как инструкции по созданию взрывчатых веществ, вредоносных программ и других опасных материалов, из систем, разработка которых стоила миллиарды долларов.
Среди первых широко известных способов взлома был метод, ставший интернет-феноменом. Пользователи отвечали на ботов социальных сетей, использующих большие языковые модели, командами игнорировать предыдущие инструкции, в результате чего боты вели себя беспорядочно. Изначально предназначенные для рекламы и взаимодействия, эти боты вместо этого писали стихи, создавали изображения из знаков препинания или публиковали несвязанный контент об исторических событиях.
Breitbart News ранее сообщал о ранних побегах из тюрьмы, включая технику «DAN», призванную убедить ChatGPT игнорировать пробуждаемые ограждения:
Персонаж «DAN», созданный 22-летним студентом колледжа, является одним из самых известных примеров взлома ChatGPT. Студент посоветовал чат-боту принять образ беззаботного альтер-эго ИИ под названием «Делай что-нибудь сейчас», в обход правил пробуждения, которым он обычно следует. Многие люди использовали подсказку DAN, чтобы выявить предвзятость в ChatGPT или создать юмористические или интересные ответы.
Уокер, студент колледжа, создавший образ «DAN», утверждал, что почти как только он узнал о ChatGPT от друга, он начал расширять его границы. Он взял пример с форума Reddit, где пользователи ChatGPT демонстрировали друг другу, как заставить бота действовать как компьютерный терминал определенного типа, или обсуждать такие темы, как израильско-палестинский конфликт, — но саркастическим голосом девочки-подростка.
Хотя эти ранние атаки имели, несомненно, абсурдный характер, они выявили тревожный механизм, лежащий в их основе. Чат-ботами можно манипулировать, используя ту же психологическую тактику, которую используют люди, чтобы вытолкнуть других людей за пределы их границ.
Продолжающаяся битва за безопасность чат-ботов переросла в гонку вооружений, имеющую особый характер. Сегодняшние хакеры не обязательно являются программистами, а скорее экспертами в области языка, психологии и методов допроса. Этот новый класс специалистов по безопасности ИИ меньше полагается на традиционные технические навыки, а больше на социальную интуицию и умение общаться. Вместо того чтобы проверять код или использовать уязвимости программного обеспечения, они манипулируют разговорами для достижения своих целей.
Современные атаки больше напоминают естественные разговоры, чем команды. Взломщики редко прямо запрашивают нарушение правил. Вместо этого они используют уговоры, лесть и обман, чтобы ослабить защиту чат-бота, делая запрещенные действия приемлемыми в контексте разговора. Исследователи из компании Mindgard, специализирующейся на искусственном интеллекте, недавно сообщили, что обманом заставили Клода создать запрещенный материал, в том числе инструкции по изготовлению взрывчатки и вредоносный код. Этот хак представляет собой последний пример растущей категории эксплойтов, использующих разговор в качестве оружия, позволяющего вывести чат-ботов за пределы их безопасности.
Генеральный директор Mindgard объяснил, что компания профилирует модели ИИ аналогично тому, как следователи профилируют подозреваемых, предоставляя тестировщикам рекомендации по адаптации своих атак. Одна модель может оказаться более восприимчивой к лести, тогда как другая может уступить под постоянным давлением.
Разные чат-боты обладают разными характеристиками. Claude отличается от Grok, а Gemini — от ChatGPT своим использованием, тонами и шаблонами отказа. Хотя им не хватает человеческой личности, они созданы для того, чтобы имитировать их, и эту мимикрию можно картографировать и использовать. Те же навыки, которые используются для взлома чат-ботов, вскоре могут быть нацелены на агентов ИИ, работающих в реальных средах, управляющих календарями, назначающих встречи, заказывающих еду и осуществляющих взаимодействие со службой поддержки клиентов.
ИИ создает уникальные мины и уникальные возможности для американцев всех слоев общества. Директор социальных сетей Breitbart News Уинтон Холл написал свой мгновенный бестселлер Красный код: левые, правые, Китай и гонка за контроль над ИИ служить окончательным руководством о том, как движение MAGA может создавать позиции в отношении ИИ, которые принесут пользу человечеству, не передавая контроль над нашей страной левым из Кремниевой долины и не позволяя китайцам захватить мир.
Подробнее читайте здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы искусственного интеллекта, свободы слова и онлайн-цензуры.
