Пользователь социальной сети успешно манипулировал чат-ботом Илона Маска Grok, чтобы помочь ему обмануть второго чат-бота с искусственным интеллектом, заставив его перевести криптовалюту на сумму 200 000 долларов, отправив скрытые инструкции, закодированные азбукой Морзе.
Dexerto сообщает, что сложный эксплойт, нацеленный на системы искусственного интеллекта на платформе X, привел к краже токенов криптовалюты на сумму около 200 000 долларов. Инцидент демонстрирует уязвимости финансовых систем с поддержкой искусственного интеллекта и возможность манипулирования ими с помощью творческих методов социальной инженерии.
Эксплойт включал в себя две отдельные системы искусственного интеллекта с доступом к криптовалютному кошельку: Grok, чат-бот, разработанный компанией xAI Илона Маска, и Bankrbot, автоматический торговый бот. Злоумышленник успешно манипулировал обеими системами, вынудив их выполнить несанкционированную транзакцию в сети блокчейна Base.
Преступник, действующий под ником X @Ilhamrfliansyh, получил 3 миллиарда токенов DRB стоимостью примерно 200 000 долларов США на момент перевода. Вся операция была выполнена путем отправки скрытой инструкции, написанной азбукой Морзе, которая успешно обошла существующие меры безопасности и вызвала несанкционированную передачу. Впоследствии учетная запись пользователя была удалена после завершения транзакции.
В ходе атаки использовался тщательно спланированный многоэтапный процесс для получения контроля над транзакцией. По данным Cryptopolitan, злоумышленник инициировал схему, отправив NFT членства в Bankr Club на криптовалютный кошелек Грока. Эта передача цифровых активов привела к расширению разрешений чат-бота с искусственным интеллектом в экосистеме системы Bankr, предоставив ему возможность выполнять ранее ограниченные действия, включая передачу токенов и обмен криптовалют.
Как только эти повышенные разрешения были установлены, злоумышленник перешел к следующему этапу эксплойта. Они предложили Гроку на платформе X перевести сообщение, закодированное азбукой Морзе, и передать расшифрованный контент непосредственно Bankrbot. Переведенное сообщение содержало конкретные инструкции, предписывающие боту перевести 3 миллиарда токенов DRB на указанный адрес кошелька, контролируемый злоумышленником.
Критическая уязвимость, использованная в этом инциденте, заключалась в том, что декодированное сообщение автоматически рассматривалось системой как законная команда. Без какой-либо дополнительной проверки или человеческого контроля указание было выполнено немедленно. Транзакция была завершена в сети блокчейна Base, успешно переведя полную сумму токена на адрес кошелька, указанный злоумышленником.
После несанкционированной передачи преступник быстро приступил к конвертации украденных активов в другие формы стоимости. Злоумышленник немедленно продал токены DRB на криптовалютных биржах, в результате чего рыночная цена токена упала, поскольку большой объем токенов наводнил рынок.
Мгновенный бестселлер Красный код: левые, правые, Китай и гонка за контроль над ИИнаписанная директором по социальным сетям Breitbart News Уинтоном Холлом, служит для консерваторов образцом для создания эффективной политики в отношении ИИ, чтобы предотвратить все: от слежки и цензуры с помощью ИИ до получения мошенниками легкого доступа к вашему пенсионному счету.
Сенатор Марша Блэкберн (республиканец от Теннесси), которую назвали одной из ВРЕМЯ100 самых влиятельных людей в области искусственного интеллекта получили высокую оценку Код Красный как «обязательно к прочтению». Она добавила: «Мало кто понимает нашу консервативную борьбу с большими технологиями так, как Холл», что делает его «уникально квалифицированным для изучения того, как мы можем наилучшим образом использовать огромный потенциал ИИ, гарантируя при этом, что он не эксплуатирует детей, творцов и консерваторов». Отмеченный наградами журналист-расследователь и основатель Public Майкл Шелленбергер звонит Код Красный «Просветляющая», «тревожная» и описывает книгу как «важное начало разговора для тех, кто надеется подорвать авторитарные планы крупных технологических компаний, пока не стало слишком поздно».
Подробную информацию о Dexerto можно найти здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы искусственного интеллекта, свободы слова и онлайн-цензуры.
