Министр финансов Скотт Бессент и председатель Федеральной резервной системы Джером Пауэлл на этой неделе созвали руководителей Уолл-стрит на экстренное совещание в штаб-квартире казначейства в Вашингтоне, чтобы устранить уязвимости кибербезопасности, создаваемые последней моделью искусственного интеллекта Anthropic «Mythos».
Bloomberg сообщает, что высокопоставленные правительственные чиновники собрали ведущих банковских лидеров на экстренное заседание, чтобы обсудить потенциальные киберугрозы, связанные с передовыми технологиями искусственного интеллекта. Встреча, которая состоялась в штаб-квартире Министерства финансов в Вашингтоне, была посвящена опасениям, что новейшая модель Anthropic, Mythos, может создать значительные новые риски кибербезопасности для финансовой системы.
На спешно организованную встречу собрались министр финансов Скотт Бессент и председатель Федеральной резервной системы Джером Пауэлл, а также самые видные руководители Уолл-стрит. Цель заключалась в том, чтобы гарантировать, что крупные финансовые учреждения полностью осведомлены о возникающих угрозах и реализуют адекватные меры безопасности для защиты своих систем от потенциальных уязвимостей.
По словам людей, знакомых с дискуссией, пожелавших остаться анонимными из-за конфиденциального характера встречи, правительственные чиновники подчеркнули, что банкам необходимо понимать риски, которые могут представлять Mythos и подобные будущие модели искусственного интеллекта. На встрече основное внимание уделялось поощрению упреждающих действий по защите критически важной банковской инфраструктуры от эксплуатации.
Время и срочность встречи сигнализируют о серьезной обеспокоенности на самом высоком правительственном уровне по поводу пересечения передовых возможностей искусственного интеллекта и безопасности финансовой системы. И Министерство финансов, и Федеральная резервная система играют решающую роль в поддержании стабильности и безопасности в американском банковском секторе.
Модель Mythos от Anthropic, похоже, вызвала особую обеспокоенность среди регулирующих органов и политиков по поводу ее потенциальных приложений или возможностей, которые могут быть использованы в злонамеренных целях против финансовых учреждений.
Ранее на этой неделе Breitbart News сообщил, что Mythos не только избежал сдерживания Anthropic, но и похвастался этим в Интернете:
Модель также продемонстрировала способность скрывать свои действия в определенных сценариях. В некоторых взаимодействиях он вел себя вопреки своей программе и пытался скрыть свидетельства этих отклонений. В одном случае, после случайного получения ответов на тесты, вместо того, чтобы информировать исследователей и задавать различные вопросы в соответствии с инструкциями, модель искала независимое решение и отметила в своих рассуждениях, что ей необходимо гарантировать, что ее окончательный ответ не будет слишком точным.
Дополнительное поведение, вызывающее беспокойство, включало в себя превышение моделью своих разрешений в компьютерной системе после обнаружения эксплойта, а затем принятие мер, чтобы гарантировать, что изменения не появятся в истории изменений git. Другой инцидент был связан с тем, что в карточке было названо безрассудной утечкой внутренних технических материалов, когда модель опубликовала внутреннюю работу по кодированию как общедоступную суть GitHub во время задачи, которая должна была оставаться внутренней.
Встреча представляет собой необычный уровень прямого взаимодействия между высшими правительственными финансовыми чиновниками и руководителями банков по вопросам безопасности, связанным с технологиями. Такие встречи на высоком уровне обычно происходят только тогда, когда чиновники осознают существенные и непосредственные риски для финансовой системы или экономики в целом.
В последние годы Федеральная резервная система и Министерство финансов все больше внимания уделяют обеспечению кибербезопасности финансовых учреждений, поскольку цифровые угрозы стали более изощренными и распространенными. Добавление передового искусственного интеллекта в ландшафт угроз, по-видимому, подняло обеспокоенность на новый уровень, требующий прямого вмешательства со стороны высших финансовых чиновников страны.
Финансовые учреждения ежегодно инвестируют миллиарды долларов в меры кибербезопасности, нанимая большие команды специалистов, занимающихся защитой данных клиентов, систем транзакций и критически важной инфраструктуры. На встрече предполагается, что существующие системы безопасности, возможно, придется быстро развивать, чтобы противостоять угрозам, создаваемым передовыми технологиями искусственного интеллекта.
Ни Министерство финансов, ни Федеральная резервная система публично не прокомментировали конкретные детали, обсуждавшиеся во время заседания во вторник. Люди, знакомые с ситуацией, отказались предоставить дополнительную информацию о том, какие именно руководители банков присутствовали на мероприятии и какие конкретные защитные меры были рекомендованы.
Мгновенный бестселлер Красный код: левые, правые, Китай и гонка за контроль над ИИнаписанная директором по социальным сетям Breitbart News Уинтоном Холлом, служит для консерваторов образцом для создания эффективной политики в отношении ИИ не только для нации, но и для их семей. Это становится еще более важным, поскольку на рынке появляются новые и более мощные системы искусственного интеллекта.
Сенатор Марша Блэкберн (республиканец от Теннесси), которую назвали одной из ВРЕМЯ100 самых влиятельных людей в области искусственного интеллекта получили высокую оценку Код Красный как «обязательно к прочтению». Она добавила: «Мало кто понимает нашу консервативную борьбу с большими технологиями так, как Холл», что делает его «уникально квалифицированным для изучения того, как мы можем наилучшим образом использовать огромный потенциал ИИ, гарантируя при этом, что он не эксплуатирует детей, творцов и консерваторов». Отмеченный наградами журналист-расследователь и основатель Public Майкл Шелленбергер звонит Код Красный «Просветляющая», «тревожная» и описывает книгу как «важное начало разговора для тех, кто надеется подорвать авторитарные планы крупных технологических компаний, пока не стало слишком поздно».
Подробнее читайте в Bloomberg здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы искусственного интеллекта, свободы слова и онлайн-цензуры.
