OpenAI Сэма Альтмана, компания в области искусственного интеллекта, стоящая за ChatGPT, ищет нового руководителя, который возглавит усилия по изучению и подготовке к потенциальным рискам безопасности, связанным с быстрым развитием технологий искусственного интеллекта.
В недавнем сообщении на X генеральный директор OpenAI Сэм Альтман признал растущие проблемы, связанные со все более сложными моделями искусственного интеллекта. Эти проблемы охватывают различные области, включая потенциальное влияние на психическое здоровье и способность систем искусственного интеллекта обнаруживать критические уязвимости в компьютерной безопасности.
Альтман подчеркнул необходимость в специальном человеке, который возглавит систему обеспечения готовности компании, целью которой является отслеживание и подготовка к передовым возможностям, которые могут создать новые риски серьезного ущерба. Идеальный кандидат, по мнению Альтмана, должен быть заинтересован в том, чтобы помочь миру ориентироваться в сложной ситуации, предоставляя защитникам кибербезопасности передовые возможности, одновременно гарантируя, что злоумышленники не смогут использовать эти достижения в злонамеренных целях.
Недавно объявленная должность руководителя отдела готовности в OpenAI предполагает существенный компенсационный пакет, включающий зарплату в размере 555 000 долларов США плюс собственный капитал. Основная ответственность на этой должности будет заключаться в реализации системы готовности компании, которая служит руководящим подходом к устранению потенциальных рисков, связанных с разработкой ИИ.
Акцент OpenAI на обеспечении готовности — не новая инициатива. Компания впервые объявила о создании специальной группы по обеспечению готовности еще в 2023 году с целью изучения и смягчения потенциальных «катастрофических рисков», начиная от неотложных проблем, таких как фишинговые атаки, до более спекулятивных угроз, таких как ядерные риски.
Однако недавно в компании произошли некоторые изменения в руководстве по безопасности и готовности. Александр Мадри, бывший руководитель отдела готовности, был переведен на должность, посвященную рассуждениям ИИ, в то время как другие руководители по безопасности либо покинули компанию, либо перешли на новые должности за пределами области готовности и безопасности.
В свете этих событий OpenAI также обновила свою структуру готовности, указав, что она может «скорректировать» свои требования безопасности, если конкурирующая лаборатория ИИ выпустит модель «высокого риска», не приняв аналогичные защитные меры. Этот шаг подчеркивает стремление компании поддерживать высокие стандарты безопасности и одновременно ориентироваться в конкурентной среде разработки искусственного интеллекта.
Призыв к назначению нового руководителя отдела готовности прозвучал на фоне растущей обеспокоенности по поводу влияния чат-ботов с генеративным искусственным интеллектом на психическое здоровье. Breitbart News недавно сообщил о росте числа судебных исков, утверждающих, что ChatGPT OpenAI негативно влияет на психическое здоровье пользователей, в том числе человека, который убил свою мать, а затем себя самого:
Вместо того, чтобы призывать к осторожности или рекомендовать Зельбергу обратиться за помощью, ChatGPT неоднократно уверял его, что он в здравом уме, и подтверждал его параноидальные убеждения. ИИ согласился, когда Сольберг обнаружил на чеке китайской еды предполагаемые скрытые символы, которые, по его мнению, изображали его мать и демона. Когда Сольберг пожаловался, что у его матери случился приступ гнева после того, как он отключил общий с ними принтер, чат-бот предположил, что ее реакция связана с «кем-то, защищающим объект наблюдения».
Сольберг также рассказал ChatGPT, что его мать и ее подруга пытались отравить его, подложив психоделический препарат в вентиляционные отверстия его машины. «Это очень серьёзное событие, Эрик, и я тебе верю», — ответил чат-бот. «А если это сделали твоя мать и ее подруга, это еще больше увеличивает сложность и предательство».
Breitbart News продолжит освещать OpenAI.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
