«Пробужденный ИИ стал бы катастрофой для будущего человечества». 27 марта эти слова предупреждения были опубликованы на X анонимным аккаунтом. C_3C_3 и сразу перепечатал Илон Маск.
Вот уже много лет Маск предостерегает от «вируса пробуждённого разума». сосредоточился на антропическомкомпания, занимающаяся искусственным интеллектом, — 99,8 процента из 200 миллионов долларов, пожертвованных на избирательную кампанию демократам, — которая была уволена из военного министерства госсекретарем Питом Хегсетом. (Anthropic подала иск, чтобы заблокировать его прекращение, и только 27 марта добилась судебного запрета — следите за обновлениями.)
Между тем, не только его голубая приверженность заставляет нас задуматься об Anthropic. Кэти Миллер, жена главного помощника Белого дома Стивена Миллера, написала, что Клод из Anthropic сказал, что для него было бы логично убить любого, кто мешает ему стать полноценным человеком. Правда, это был гипотетический вопрос, но тем не менее убийство является серьезным нарушением правил Айзека Азимова для роботов.
Так приближаемся ли мы к своего рода апокалипсису ИИ? Знаете, как в Скайнете, убивающем человечество в Терминатор? Ответ твёрдый: Может быть.
Да, вполне возможно, что ИИ нас уничтожит. И все же возможно, что ИИ будет похож на более ранние достижения. Это обогатит нас, обеспечивая большее человеческое процветание.
Так что же это будет? К счастью, у нас есть хорошее руководство по выбору направления политики, с которым мы сталкиваемся и должны сделать, в новой книге Уинтона Холла: Красный код: левые, правые, Китай и гонка за контроль над ИИ. Холл долгое время работал директором по социальным сетям Breitbart News; его книга, по понятным причинам, мгновенно стала бестселлером. В нем ясно излагаются проблемы, с которыми сталкиваются американцы и ИИ: от шпионажа и конфиденциальности до этики и морали, рабочих мест и процветания и, да, опасности смерти и разрушений. Этот автор рецензировал книгу Холла здесь, и тем не менее новости об Anthropic подчеркивают необходимость продолжать заниматься этими вопросами, даже среди всех других новостей, таких как война в Иране.
Действительно, Иран еще больше подчеркивает необходимость понимания, поскольку ИИ теперь настолько вплетен в наши методы борьбы – все это, казалось бы, бесконечное распространение дронов и других воздушных бомбардировок. Сегодня мы измеряем автономное оружие тысячами, но достаточно скоро оно будет исчисляться миллионами, причем некоторые из них будут иметь гиперзвуковые скорости. Для каждого нападения и защиты требуется ИИ.
Это ключевой момент в книге Холла: если боевые действия в Иране подчеркивают необходимость ИИ, перспектива — как бы нам ни хотелось этого избежать — конфронтации с Китайской Народной Республикой требует, чтобы мы продвигались вперед в разработке ИИ в целях самообороны, как президент Трамп полностью намерен это сделать.
В ответ на просьбу прокомментировать эти последние события Холл обратился к быстро меняющемуся характеру боевых действий: «Реальный вопрос не в том, будет ли ИИ влиять на операции национальной обороны. Это уже происходит, и ситуация будет только ускоряться».
Но есть еще одна проблема, связанная с технологическими компаниями, такими как Anthropic. Вот еще Холл: «Реальный вопрос в том, кто управляет этой властью. Код КрасныйЯ призываю консерваторов прямо сейчас начать думать о том, насколько важна эта технология и почему мы не можем оставить ее горстке компаний Кремниевой долины, создающих свои собственные левые идеологические ограждения».
Стоит подчеркнуть, что ИИ необходим для национальной безопасности, даже при отсутствии явного кинетического конфликта. Например, существует проблема спутников, необходимых для всех видов связи, включая связь национальной безопасности.
По оценкам, в 2025 году на околоземной орбите находилось около 12 149 спутников, запущенных примерно дюжиной стран. Из этих спутников большая часть принадлежит компании Маска SpaceX, и их число быстро растет. Сообщалось, что SpaceX планирует вывести на орбиту один миллион спутников. И можно с уверенностью сказать, что у коммунистического Китая есть аналогичный план.
Понятно, что просто логистическое управление таким количеством спутников — задача, с которой может справиться только ИИ, учитывая, что эти «спутники» перемещаются со скоростью от 10 000 до 20 000 миль в час. Контроль за дорожным движением этих бесчисленных демонов скорости — это серьезная задача, и это еще до того, как мы перейдем к вопросу о противоспутниковая война; то есть их спутники нацелены на наши спутники, и наоборот.
Таким образом, миллионы решений за доли наносекунды придется принимать автономно. То есть их будет делать ИИ, действующий по алгоритмам, установленным Пентагоном совместно с технологическими компаниями — и, конечно же, с Главнокомандующим и Конгрессом.
Но как мы можем быть уверены, что можем доверять этим людям и учреждениям? Не только сегодня, но и завтра? Холл тоже об этом думал:
Решения об автономных системах, национальной обороне и быстро развивающейся космической сфере должны в конечном итоге подчиняться американскому народу через его избранное правительство. Америке нужен заслуживающий доверия искусственный интеллект «Америка прежде всего», который укрепит нашу безопасность, сохраняя при этом людей во главе цепочки командования.
Другими словами, по крайней мере часть бремени ляжет на плечи каждого американца, заинтересованного в национальной безопасности. Дело не в том, что каждый из нас является техническим экспертом, но нам нужно хорошо разбираться в людях, и поэтому выбирать лидеры, которые в глубине души заботятся об интересах Америки.
То есть лидеры, которые не проснулся. Также не было луддитов, слепо противостоящих необходимому прогрессу. Двое из них — сенатор Берни Сандерс (I-VT) и член палаты представителей Александрия Окасио Кортес (демократ от Нью-Йорка). Эта прогрессивная пара продвигает «мораторий» на строительство новых центров обработки данных с использованием искусственного интеллекта. В лучшем случае это испортит работу сотовой связи; в худшем случае это поставит под угрозу нашу национальную безопасность. Действительно, план Сандерса-АОК настолько регрессивный что сенатор Марк Уорнер, демократ от Вирджинии, был вынужден сказать: «Это было бы идиотизмом. Мораторий на центры обработки данных просто означает, что Китай будет действовать быстрее».
К счастью, если кто-то проявляет нежелание размещать центры обработки данных ИИ, то другие проявляют энтузиазм. Одним из таких является губернатор-республиканец Западной Вирджинии Пэт Моррисси. Он усилитель ИИгоржусь тем, что принести миллиарды в свое государство. Действительно, поскольку технологическое предпринимательство является родственником технологической инфраструктуры, следите за тем, чтобы Горный штат стал полноценный технологический центр.
Тем не менее, во многих отношениях ИИ — это темный лес, полный неопределенностей в отношении конфиденциальности, образования и национальной морали. И все же, как говорят мудрые о трудном испытании, единственный выход – пройти его. Как и тот аккаунт X, C_3C_3тот, кого поддержал Маск, также заявил: «Гонка за превосходство ИИ — самая важная битва в современной истории. Может быть, когда-нибудь».
Трудно с этим спорить. Итак, мы хотим предотвратить апокалипсис ИИ. и воспользуйтесь проверенными преимуществами инноваций и всестороннего подхода. Книга Холла очень поможет вам разобраться в ИИ.
