Компания Google сообщила, что несколько поддерживаемых государством хакерских группировок, в том числе северокорейский злоумышленник, используют ее платформу искусственного интеллекта Gemini для усиления разведывательной деятельности и ускорения различных этапов кибератак.
The Hacker News сообщает, что группа Google Threat Intelligence Group обнаружила, что связанный с Северной Кореей хакерский коллектив, обозначенный как UNC2970, использовал модель генеративного искусственного интеллекта Gemini для синтеза разведывательной информации с открытым исходным кодом и создания профилей ценных целей в рамках операций по планированию кампании. Согласно отчету, предоставленному исследователям в области безопасности, эта деятельность демонстрирует все более размытую грань в сфере ИИ между законными профессиональными исследованиями и злонамеренными разведывательными усилиями.
Злоумышленник использовал Gemini для сбора информации о крупных компаниях, занимающихся кибербезопасностью и обороной, а также сопоставил конкретные технические должности и данные о заработной плате. Этот сбор разведданных позволяет создавать индивидуальные фишинговые личности и помогает выявлять уязвимые точки входа для первоначального взлома системы. UNC2970, которая частично совпадает с группами, отслеживаемыми как Lazarus Group, Diamond Sleet и Hidden Cobra, получила известность благодаря проведению «Операции «Работа мечты», длительной кампании, направленной против аэрокосмического, оборонного и энергетического секторов, предлагая жертвам мошеннические возможности трудоустройства для доставки вредоносного ПО.
Исследование Google показывает, что UNC2970 представляет собой лишь один пример того, как многочисленные злоумышленники интегрируют Gemini в свои оперативные рабочие процессы. Компания задокументировала несколько других хакерских организаций, злоупотребляющих платформой искусственного интеллекта в различных злонамеренных целях. Неустановленная группа UNC6418 проводила целевой сбор разведывательной информации, в частности, осуществляя поиск конфиденциальных учетных данных и адресов электронной почты через платформу.
Китайские субъекты угроз проявили особый интерес к использованию инструмента искусственного интеллекта. Temp.HEX, также известный как Mustang Panda, собрал подробные досье на конкретных лиц, включая цели в Пакистане, а также собрал оперативные и структурные данные о сепаратистских организациях во многих странах. APT31, отслеживаемый как Judgment Panda, автоматизировал анализ уязвимостей и составлял планы целевого тестирования, маскируясь под исследователя безопасности. APT41 извлек объяснения из документации инструмента с открытым исходным кодом и использовал платформу для устранения неполадок и отладки кода эксплойта. UNC795 использовала Gemini для устранения неполадок в коде, проведения исследований и разработки веб-оболочек и сканеров для веб-серверов PHP.
Распространенная модель злоупотреблений заключается в том, что злоумышленники переформулируют свои подсказки, называя себя исследователями безопасности или участниками упражнений по захвату флага, чтобы манипулировать системой, заставляя ее генерировать непреднамеренные ответы. Стив Миллер, руководитель группы по анализу угроз искусственного интеллекта в группе Google Threat Intelligence Group, заявил: «Google всегда работает над улучшением наших систем безопасности, включая классификаторы обнаружения, меры по смягчению последствий и другие меры защиты, чтобы предотвратить злоупотребления со стороны субъектов угроз. Поскольку злоумышленники испытывают трудности при неправильном использовании наших систем, они начинают экспериментировать с новыми способами обхода мер безопасности — и хотя мы видим множество таких экспериментов, они не всегда успешны. Gemini становится лучше в распознавании личных уловок и безопасном реагировании».
Битва за превосходство ИИ между Америкой и Китаем является одной из тем в будущей книге директора по социальным сетям Breitbart News Уинтона Холла. Красный код: левые, правые, Китай и гонка за контроль над ИИ. Код Красный объясняет, как Америка может победить Китай, не становясь при этом Китаем, что является решающим отличием для свободолюбивых американцев.
Подробнее читайте в The Hacker News здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
