Стартап Anthropic, занимающийся искусственным интеллектом, направил старшего технического персонала в столицу страны для экстренных переговоров с представителями администрации Трампа после ограничений на экспорт, которые привели к закрытию его самых передовых моделей искусственного интеллекта.
Уолл Стрит Джорнал сообщает, что Anthropic ведет интенсивные переговоры с администрацией Трампа по разрешению проблемы экспортного контроля, введенного в отношении ее флагманских моделей искусственного интеллекта, Fable 5 и Mythos 5. Компания направила ведущих технических экспертов в Вашингтон на встречи на выходных с целью достижения соглашения, которое восстановило бы доступ к мощным системам искусственного интеллекта.
В пятницу администрация Трампа ввела запрет, запрещающий иностранным правительствам, компаниям и частным лицам доступ к моделям Anthropic Fable 5 и Mythos 5. В ответ на ограничения Anthropic полностью закрыла доступ к моделям, чтобы обеспечить соответствие новым правилам. Компания заявила, что запрет затронул многие иностранные правительства, компании, частных лиц и даже некоторых ее собственных сотрудников, родившихся за границей.
В субботу между представителями администрации и руководством Anthropic состоялись дискуссии на высоком уровне относительно Fable 5, упрощенной версии мощной модели Mythos, предназначенной для публичного использования. По данным источников, знакомых с переговорами, в них участвовали министр торговли Говард Лютник, национальный кибер-директор Шон Кэрнкросс, соучредитель и главный компьютерный директор Anthropic Том Браун и Сара Хек, руководитель отдела государственной политики компании.
Экспортный контроль вызвал немедленную реакцию со стороны сообщества кибербезопасности. В воскресенье группа видных экспертов по кибербезопасности опубликовала письмо с требованием к администрации отменить свое решение. «Это действие отняло у защитников лучшие модели, создало неопределенность на рынке и поставило под угрозу лидерство Америки в области ИИ без какого-либо реального риска, который мог бы его оправдать», — говорится в письме.
Источники, близкие как к компании, так и к администрации, указывают на обоюдную заинтересованность в разрешении ситуации и восстановлении доступа к передовым моделям, однако конкретные условия возможного решения остаются неясными. Чиновники администрации рассматривают сотрудничество между техническими экспертами Anthropic и исследователями государственной безопасности как решающий шаг на пути к достижению компромисса.
Нынешний спор представляет собой последнюю главу в многомесячной напряженности между администрацией Трампа и одной из ведущих национальных лабораторий искусственного интеллекта по поводу надлежащего использования и регулирования передовых технологий. В последнее время администрация активизировала усилия по контролю за быстро развивающейся индустрией искусственного интеллекта.
Anthropic постоянно утверждает, что приняла адекватные меры безопасности и признана во всей отрасли за то, что уделяет приоритетное внимание соображениям безопасности. Стартап, который уже осенью подал документы для потенциального публичного размещения акций, уже несколько месяцев находится в разногласиях с Пентагоном по поводу гарантий, связанных с военным применением его моделей и различными политическими вопросами.
Компания сотрудничала с Белым домом при внедрении Mythos, который в настоящее время доступен примерно 200 избранным компаниям и исследователям, использующим его для выявления и устранения уязвимостей программного обеспечения в финансовых услугах, здравоохранении и других корпоративных секторах. Во вторник Anthropic выпустила Fable, ограниченную версию Mythos с обширными мерами безопасности и ограждениями, а также Mythos 5, обновленную версию технологии Mythos Preview, используемую партнерами в целях тестирования кибербезопасности.
Примечательно, что ограничения правительства не распространяются на Mythos Preview, который остается доступным для избранной группы партнеров.
Споры вокруг Fable от Anthropic начались в конце прошлой недели, когда исследователи Amazon продемонстрировали, что некоторые меры безопасности Fable можно обойти, что вызвало тревогу среди чиновников Белого дома. Исследователи Amazon поделились своими выводами с Anthropic, продемонстрировав свою способность извлекать информацию об уязвимостях безопасности как минимум в четырех программных приложениях, изменяя методы запросов.
Хотя исследователи успешно получили информацию об ошибках, эксперты по кибербезопасности отмечают, что такая информация также может принести пользу техническому персоналу, работающему над защитой сетей. По мнению экспертов по кибербезопасности, проанализировавших результаты, в исследовании не упоминалось, что Fable производит более опасные продукты, такие как программное обеспечение, используемое при кибератаках.
Генеральный директор Amazon Энди Ясси обсудил открытия исследователей с официальными лицами США, в том числе с министром финансов Скоттом Бессентом. Впоследствии представители Белого дома созвали совещание, чтобы определить соответствующий ответ, и потребовали от Anthropic удалить модель. Президент Трамп лично санкционировал это ограничение и поручил Лютнику возглавить ответные меры правительства.
Старшие должностные лица руководства и администрации Anthropic, в том числе Лютник, Кэрнкросс и Бессент, в пятницу приняли участие в расширенных дискуссиях относительно мер безопасности Anthropic, при этом ограничение экспорта рассматривается как угроза. Источник, близкий к компании, сообщил, что Anthropic чувствовала давление из-за чрезвычайно коротких сроков, чтобы отключить модель до того, как правило вступит в силу.
В тот же вечер Anthropic закрыла весь доступ к моделям Fable 5 и Mythos 5, чтобы выполнить указание администрации.
В пятницу Anthropic заявила, что уязвимости, выявленные Amazon, относительно элементарны и что другие общедоступные модели способны их обнаружить. Уязвимости не представляют собой полный побег из тюрьмы, и эту позицию поддерживают некоторые исследователи безопасности, знакомые с исследованиями Amazon.
Anthropic направила в Вашингтон старший технический персонал, в том числе ведущего исследователя безопасности Николаса Карлини, Логана Грэма, который возглавляет группу по оценке моделей на предмет рисков, и Дэйва Орра, руководителя службы безопасности компании. Планируется, что они встретятся с правительственными экспертами по безопасности, чтобы попытаться деэскалировать конфликт. Представители администрации ранее заявляли, что такие встречи необходимы для разрешения ситуации.
Продолжающиеся проблемы Anthropic с правительством США имеют решающее значение для решения компании, поскольку она планирует провести IPO на сумму 1 триллион долларов после масштабного IPO SpaceX на прошлой неделе. Директор социальных сетей Breitbart News Уинтон Холл написал свой мгновенный бестселлер Красный код: левые, правые, Китай и гонка за контроль над ИИ служить окончательным руководством о том, как движение MAGA может создавать позиции в отношении ИИ, которые принесут пользу человечеству, не передавая контроль над нашей страной левым из Кремниевой долины и не позволяя китайцам захватить мир.
Подробнее читайте на Уолл Стрит Джорнал здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы искусственного интеллекта, свободы слова и онлайн-цензуры.
