Новая книга Уинтона Холла Красный код: левые, правые и гонка за контроль над ИИ включает в себя отрезвляющий взгляд на быстро развивающуюся опасность автономного оружия, которое, по всей видимости, изменит ход войны в XXI веке так же глубоко, как ядерное оружие в XX веке. И будет гораздо труднее сдерживать джинна искусственного интеллекта, чем сдерживать распространение ядерных бомб.
Проблема в том, что в отличие от обогащения урана и разработки межконтинентальных баллистических ракет, ИИ дешев и все более распространен. Физические компоненты автономного оружия не очень дороги и не сложны в производстве. Зал отмечает в КОД КРАСНЫЙ что первый подтвержденный пример автономного оружия, выслеживающего и уничтожающего человеческие цели без прямого контроля со стороны человека, по-видимому, произошел в 2020 году в Ливии с использованием оборудования, произведенного турецкой оборонной фирмой. Война искусственного интеллекта — это не эксклюзивная игра, в которую могут себе позволить играть только мировые сверхдержавы.
«Демократизация смертоносного ИИ-оружия означает, что технологии, которые когда-то были исключительной прерогативой сверхдержав, будут все больше доступны множеству субъектов, как государственных, так и негосударственных», — отмечает Холл.
Конечно, великие державы будут использовать более разрушительное оружие, чтобы добиться более высоких ставок. Использование Израилем ИИ для ведения войны в Газе стало поразительным примером того, как машинное обучение может обрабатывать разведданные и блокировать цели гораздо быстрее, чем люди-операторы. По словам представителей Армии обороны Израиля (ЦАХАЛ), три системы искусственного интеллекта, которые они использовали для отслеживания террористов ХАМАС, были в десятки раз быстрее, чем чрезвычайно эффективные израильские аналитики человеческой разведки.
Подключение таких мощных систем обработки данных к автономному оружию приближает человечество к грани гипервойны — тотального конфликта между могущественными странами, которые полагаются на искусственный интеллект. Как КОД КРАСНЫЙ указывает, что автономное оружие имеет преимущество в скорости, которое окажется сокрушительным на молниеносных полях сражений завтрашнего дня. Ни одна армия не может позволить своим врагам монополизировать использование систем, которые могут быстрее определять и уничтожать цели, точно так же, как старый стрелок не заливал клей в свою кобуру перед перестрелкой.
«В реальности боя, основанной на принципах «убей или будешь убит», наносекундная задержка может отправить американского солдата домой в гробу, задрапированном флагом, а не живым», — замечает Холл. «Хотя разумно поддерживать возможность человеческого контроля, не менее важно позволить ИИ-оружию работать автономно, если враг делает то же самое».
Эта неизбежная логика неумолимо приближает нас к тому дню, когда автономное оружие будет сражаться друг с другом, и ни одна из сторон не сможет позволить себе замедлить его развитие, позволяя людям осуществлять контроль над своими дронами. Накладывать человеческие пальцы на спусковые крючки было бы самоубийством. Оставлять людей вне петли войны – это ужасно.
Еще одна проблема, стоящая перед Соединенными Штатами, заключается в том, что наши противники не сталкиваются ни с чем, как с моральной паникой или препятствиями со стороны активистов, с которыми сталкиваемся мы. КОД КРАСНЫЙ рассказывает о том, как рабочие американской технологической отрасли восстали против военных контрактов и потребовали гарантий, что их код никогда не будет продан Пентагону, даже если их непримиримость ставит под угрозу жизни американских военнослужащих.
«Вы можете быть уверены, что Коммунистическая партия Китая (КПК) не столкнется с таким сопротивлением своему гражданско-военному слиянию. А российский технологический сектор не противостоит Владимиру Путину в его программе военной модернизации», — сухо отмечает Холл.
КОД КРАСНЫЙ вселяет некоторый оптимизм в отношении того, что такое положение дел меняется, поскольку даже самые левые капитаны Кремниевой долины, финансирующие Камалу Харрис, осознают, что помощь жестоким авторитарным режимам в получении качественного преимущества в военизированном ИИ над последним бастионом истинной свободы на Земле было бы опасной авантюрой.
Глава об ИИ-оружии открывается цитатой: «Тот, кто станет лидером в этой сфере, станет правителем мира». Автором этой цитаты стал президент России Владимир Путин. Крупные технологические компании, похоже, слышат отдаленные сигналы раннего предупреждения.
Суть в том, что ИИ — такой же инструмент, как и любой другой: он заставляет работать дешевле и Быстрее. Искусственный интеллект стремится сделать вещи дешевле и быстрее, чем любой другой человеческий инструмент. все предыдущие человеческие инструменты, вместе взятые.
Холл напоминает нам, что первым «автономным оружием» были фугасы, разработанные во время Гражданской войны в США. Основные принципы нового автономного оружия не так уж и отличаются — за исключением того, что наземные мины не следуют за своими жертвами домой, взламывая их профили в социальных сетях, и не принимают наносекундные решения о том, кого убить, а кого пощадить.
Применение этой силы в сфере вооруженных конфликтов и информационной войны означает, что порочные негосударственные субъекты вскоре получат доступ к тем же дронам-убийцам, кибероружию, пропагандистским машинам и инструментам вербовки, что и сверхдержавы. Сила Титанов будет доступна самым низким злодеям по распродажной цене. КОД КРАСНЫЙ предупреждает нас, что нельзя уделить ни минуты, чтобы обеспечить непреодолимое лидерство Америки в новой гонке вооружений.
