К нам присоединился технический директор Пентагона Эмиль Майкл. Шоу Алекса Марлоу чтобы объяснить падение компании Anthropic, когда-то единственного одобренного Пентагоном партнера в области ИИ. По словам Майкла, Anthropic был «избранным победителем» администрации Байдена, которая «хотела встать между командной структурой и военными».
Во время эпизода в среду Шоу Алекса МарлоуГлавный редактор Breitbart News отметил, что Пентагон «стал очень зависимым от Anthropic» до того, как компания была внесена в черный список президентом Дональдом Трампом, который назвал ее «радикальной левой, пробудившейся компанией». Затем Марлоу попросил Майкла описать, насколько Пентагон зависит от своего единственного поставщика и как военное министерство планирует устранять потенциальные риски.
Смотрите ниже:
Майкл объяснил, что у администрации Байдена был указ, который «был призван создать небольшое количество победителей, которые будут более жестко контролироваться правительством, и предотвратить или, по крайней мере, затруднить создание новых стартапов компаний, занимающихся искусственным интеллектом».
«Anthropic был одним из выбранных победителей из-за своей политической философии», — сказал Майкл.
Заместитель министра обороны США по исследованиям и разработкам уточнил:
Когда я приехал сюда и получил контракты, подписанные в тот период, у меня случился момент «святой коровы». Контракты по сути не позволяли Министерству войны заниматься делами Министерства войны — например, проектированием оружия, независимо от того, занимаетесь ли вы физикой, материаловедением или аэрокосмической динамикой — и мне пришлось сказать: «Боже мой, мы должны что-то с этим сделать».
Итак, я пошел во все эти компании, модельные компании, и сказал: «Во-первых, мы не можем зависеть от одного поставщика», и это не везде в Министерстве обороны, это только в нескольких чувствительных областях. И во-вторых, условия должны позволять нам делать то, что мы делаем. Если вы поставщик программного обеспечения, зачем продавать его Министерству войны, если вы не можете делать то, что делает Министерство войны?
Поэтому я решил просто создать эквивалент, например, то, что мы покупали и то, что они продавали, было для нас полезным.
«Любой другой компании, занимающейся искусственным интеллектом, Grok, Google и даже OpenAI, потребовалась одна или две недели, чтобы прийти к соглашению», — сказал Майкл. «Я провел три месяца с Anthropic, пытаясь прийти к соглашению».
«В конечном итоге стало ясно, что они просто хотели встать между командной структурой и военным истребителем», — добавил главный технический директор Пентагона. «Они хотели командовать».
«Значит, они могли бы фактически стать главнокомандующими вооруженными силами?» — спросил Марлоу, добавив: «Это кажется самой вопиющей и чрезмерной вещью, о которой я когда-либо слышал, когда компания могла просто диктовать правительству, как им себя вести».
Майкл согласился, назвав сценарий «оруэлловским», добавив, что «25 страниц условий» дают ИИ-компании «право» «отключить программное обеспечение в разгар битвы», если будет считаться, что правительство США «споткнулось об одну из этих 25 страниц, на которых было 50 различных запретов».
«Чтобы они могли решить, что битва окончена», — сказал главный технический директор Пентагона.
Майкл привел пример:
Они могли решить, что вы использовали этот инструмент для планирования рейда Мадуро в Венесуэле, и им это не понравилось. И программные ограждения могли бы сработать автоматически, даже без какого-либо вмешательства человека, потому что модель как бы чувствует, что вы пытаетесь сделать.
Будь то человек или программное ограждение — модель, которая, по их словам, почти разумна, могла это почувствовать, потому что, помните, у Anthropic есть своя собственная конституция. Не корпоративные ценности, своя конституция. Своя душа. И если вы споткнетесь о них, программное обеспечение может отключиться в критический момент.
«Если вы инвестор, как это изменит ситуацию для Anthropic теперь, когда вы, ребята, определили это как риск цепочки поставок?» — спросил Марлоу.
Майкл ответил: «Это довольно логично. Нам в Министерстве войны необходимо отказаться от Anthropic, и в будущем нам нужно иметь более одного провайдера. Это самая простая часть».
Офицер Пентагона по технологиям добавил, что когда дело доходит до рисков в цепочке поставок, администрация Трампа не хочет, чтобы компании, продающие критически важные компоненты Министерству войны, «использовали Anthropic для разработки того, что они нам предоставляют».
«Потому что существует риск внутренней угрозы», — сказал Майкл. «Есть то, что мы называем «отравлением модели» — вы много услышите об этом в следующем году — когда модель отравляется определенным образом со стороны человека или того, как он учит модель делать определенные вещи».
Нечто подобное, по словам Майкла, «может вызвать умышленный просчет, который вторгнется в программное обеспечение и затем попадет в руки бойца».
«И я не могу пойти на такой риск», — заявил технический сотрудник Пентагона. «Мы не можем пойти на такой риск».
«Если Boeing захочет использовать Anthropic для своих коммерческих самолетов, это нормально», — добавил он. «Если они захотят использовать его для истребителей, они не смогут. Потому что я покупаю их в военном министерстве и не хочу, чтобы в этой цепочке поставок что-то было повреждено».
Шоу Алекса Марлоуведущий главный редактор Breitbart Алекс Марлоу, ведет трансляцию от побережья до побережья по будням с полудня до 13:00 по восточному времени на станциях Салемской радиосети. Послушать радиопередачу онлайн можно здесь. Шоу также выйдет в эфир в 21:00 по восточному времени на новостном канале Salem TV. подкаст Марлоу, Шоу Алекса Марлоу, представленное Breitbart Newsвыходит по будням в 9 часов вечера по восточному времени. Вы можете подписаться на подкаст на Ютуб, грохот, Apple Подкастыи Спотифай.
Алана Мастранжело, репортер Breitbart News. Вы можете следить за ней на Facebook и X по адресу @ARmastrangeloи в Инстаграм.
