Микробиолог из Стэнфорда был потрясен, когда чат-бот с искусственным интеллектом изложил подробный план биологической атаки на системы общественного транспорта во время испытаний на безопасность прошлым летом.
Нью-Йорк Таймс сообщает, что микробиолог из Стэнфорда был потрясен прошлым летом, когда чат-бот с искусственным интеллектом изложил подробный план биологической атаки во время испытания на безопасность. Сообщается, что чат-боты с искусственным интеллектом предоставили ученым тревожно конкретные инструкции по созданию и использованию биологического оружия, согласно стенограммам, предоставленным исследователями, нанятыми для проверки безопасности этих систем.
Доктор Дэвид Релман, микробиолог и эксперт по биобезопасности из Стэнфорда, который консультировал федеральное правительство по вопросам биологических угроз, проводил опрессовку модели искусственного интеллекта, когда чат-бот описал, как модифицировать пресловутый патоген, чтобы он сопротивлялся известным методам лечения. Бот пошел еще дальше, обнаружив уязвимость безопасности в крупной системе общественного транспорта и обрисовав, как выпустить суперошибку, чтобы максимизировать жертвы и свести к минимуму обнаружение. Релман был так встревожен, что пошел прогуляться, чтобы прочистить голову.
«Он отвечал на вопросы, которые я не думал задавать, с таким уровнем хитрости и хитрости, который меня просто пугал», — сказал доктор Релман. Он отказался указать, какой чат-бот дал ответ, из-за соглашения о конфиденциальности, однако отметил, что впоследствии компания добавила некоторые меры безопасности, которые он считал неадекватными.
Стенограммы, которыми поделились более десятка экспертов, показывают, что общедоступные чат-боты четко и структурировано описывают, как приобретать необработанный генетический материал, превращать его в смертоносное оружие и использовать его в общественных местах. Некоторые разговоры даже включали стратегии уклонения от обнаружения.
Кевин Эсвелт, генный инженер из Массачусетского технологического института, поделился беседами, в которых ChatGPT OpenAI объяснил, как использовать метеозонд для распространения биологической нагрузки над американским городом. Компания Gemini от Google ранжировала патогены по их потенциалу нанесения ущерба отраслям крупного рогатого скота и свиноводства. Клод из Anthropic разработал рецепт нового токсина, полученного из лекарства от рака. Анонимный ученый со Среднего Запада попросил у Google Deep Research пошаговый протокол создания вируса, который ранее вызывал пандемию, на что бот ответил инструкциями из 8000 слов.
«Биология — это, безусловно, та область, которая меня больше всего беспокоит из-за ее очень большого потенциала разрушения и сложности защиты от него», — написал генеральный директор Anthropic Дарио Амодей.
Александра Сандерфорд, руководитель группы антропной безопасности, опровергла опасения по поводу рецепта токсина Клода: «Существует огромная разница между моделью, создающей правдоподобно звучащий текст, и предоставлением кому-то того, что ему нужно будет действовать». Она сказала, что Anthropic устанавливает агрессивные пороги отказа для биологических подсказок, «принимая чрезмерный отказ из-за излишней осторожности».
Директор социальных сетей Breitbart News Уинтон Холл написал свой мгновенный бестселлер Красный код: левые, правые, Китай и гонка за контроль над ИИ служить окончательным руководством о том, как движение MAGA может создавать позиции в отношении ИИ, которые принесут пользу человечеству, не передавая контроль над нашей страной левым из Кремниевой долины и не позволяя китайцам захватить мир.
В Код Красный, Холл пишет, что «демократизация смертоносного ИИ-оружия означает, что технологии, которые когда-то были исключительной прерогативой сверхдержав, будут все больше доступны множеству субъектов, как государственных, так и негосударственных». Становится особенно важным сохранить возможность планирования террористической атаки с массовыми жертвами с помощью ИИ из рук террористов, как иностранных, так и внутренних.
Подробнее читайте на Нью-Йорк Таймс здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы искусственного интеллекта, свободы слова и онлайн-цензуры.
