Хакеры успешно взломали множество известных аккаунтов в Instagram, включая профиль Барака Обамы в Белом доме, просто попросив чат-бота поддержки искусственного интеллекта Meta изменить адреса электронной почты, связанные с целевыми профилями, сообщают исследователи безопасности.
404 Media сообщает, что недавно обнаруженная уязвимость в системе поддержки клиентов Meta, основанной на искусственном интеллекте, позволила хакерам захватить несколько громких аккаунтов Instagram с помощью удивительно простого метода. Нарушение затронуло множество известных аккаунтов, в том числе профиль Барака Обамы в Instagram Белого дома, аккаунт главного мастера-сержанта Космических сил и официальный аккаунт компании Sephora.
Техника эксплуатации требует минимальной технической сложности. Хакеры делятся видео и скриншотами в группах Telegram, которые часто посещают исследователи безопасности и хакерские сообщества, демонстрируя тревожную легкость, с которой учетные записи могут быть скомпрометированы. В одном задокументированном случае злоумышленник инициировал разговор с ботом поддержки искусственного интеллекта Meta и сделал простой запрос на привязку целевой учетной записи к новому адресу электронной почты, указав целевое имя пользователя и адрес электронной почты злоумышленника, пообещав при этом отправить проверочный код.
Представитель Meta Энди Стоун признал факт взлома с помощью ИИ в коротком заявлении на X:
Инцидент подчеркивает значительные риски, связанные с делегированием критических функций безопасности учетных записей системам искусственного интеллекта. В марте Meta объявила о своем решении расширить поддержку искусственного интеллекта для всех учетных записей Facebook и Instagram, предоставив этим автоматизированным системам возможность сбрасывать пароли и выполнять другие важные задачи по обслуживанию учетных записей. На странице продукта этой функции представлены не просто предложения, а возможности, включая безопасность и восстановление учетной записи, рекламные решения.
Жертвы этих захватов учетных записей сообщают о дополнительном разочаровании из-за своей неспособности передать свои проблемы представителям службы поддержки. Это ограничение усугубляет проблему, лишая пользователей возможности обратиться за помощью, когда сама система ИИ становится вектором компрометации учетной записи.
Эксперты по безопасности уже давно предупреждают о потенциальных рисках чрезмерного использования искусственного интеллекта для конфиденциальных операций, особенно тех, которые связаны с безопасностью учетных записей и аутентификацией. Этот инцидент является конкретным доказательством этих опасений, показывая, как автоматизированными системами можно манипулировать с помощью тактики социальной инженерии, которая не может обмануть персонал службы поддержки.
Масштаб уязвимости остается неясным, как и общее количество учетных записей, которые могли быть скомпрометированы с помощью этого метода. Громкий характер затронутых аккаунтов позволяет предположить, что злоумышленники специально нацелены на ценные или влиятельные профили, хотя теоретически этот метод можно применить к любому аккаунту Instagram.
Breitbart News недавно сообщила о системе искусственного интеллекта по мониторингу наркотиков, которая не смогла обнаружить медсестру, крадущую фентанил для личного использования. Эти истории демонстрируют опасность замены существующих систем инструментами на базе искусственного интеллекта. Директор социальных сетей Breitbart News Уинтон Холл написал свой мгновенный бестселлер Красный код: левые, правые, Китай и гонка за контроль над ИИ служить окончательным руководством о том, как движение MAGA может создавать позиции в отношении ИИ, которые принесут пользу человечеству, не передавая контроль над нашей страной левым из Кремниевой долины и не позволяя китайцам захватить мир.
Подробнее читайте на сайте 404 Media здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы искусственного интеллекта, свободы слова и онлайн-цензуры.
