Сэм Альтман столкнулся с компрометирующими показаниями бывших коллег OpenAI во время второй недели суда над Илоном Маском против компании искусственного интеллекта и ее генерального директора.
Business Insider сообщает, что судебный процесс между Илоном Маском и OpenAI завершился вторую неделю, когда несколько свидетелей дали критические показания о лидерстве Сэма Альтмана и приверженности компании обеспечению безопасности ИИ. Маск утверждает, что Альтман и президент OpenAI Грег Брокман нарушили некоммерческую миссию организации, заключив партнерство с Microsoft, по сути разграбив благотворительную организацию, которую они вместе основали в 2015 году.
На этой неделе дали показания три ключевых свидетеля, каждый из которых выразил обеспокоенность по поводу различных аспектов управления Альтманом OpenAI. Их показания были сосредоточены на методах обеспечения безопасности ИИ, честности руководства и приверженности первоначальной некоммерческой миссии организации.
Рози Кэмпбелл, бывший исследователь безопасности искусственного интеллекта, работавшая в OpenAI с 2021 по 2024 год, рассказала о том, что она воспринимает как снижение приверженности компании исследованиям безопасности. Когда Кэмпбелл начала свою работу в OpenAI, в организации было две специализированные команды, занимающиеся долгосрочной безопасностью ИИ. Одна команда работала над обеспечением соответствия ИИ человеческим ценностям, в то время как команда Кэмпбелла сосредоточилась на подготовке мира к появлению сверхчеловеческого искусственного интеллекта.
По свидетельству Кэмпбелла, OpenAI постепенно перешла к более ориентированному на продукт подходу. Обе долгосрочные команды по безопасности ИИ в конечном итоге были ликвидированы, и примерно половина команды Кэмпбелла предпочла покинуть компанию, а не занять другие должности в OpenAI.
Кэмпбелл также рассказала о своей роли в письме с призывом восстановить Альтмана на работе после того, как совет директоров OpenAI первоначально отстранил его от должности генерального директора. Она объяснила, что подписала письмо не из-за поддержки Альтмана, а из-за опасений, что в противном случае сотрудники OpenAI могут оказаться в Microsoft, которая, по ее мнению, будет еще меньше привержена безопасности ИИ, чем OpenAI. «В то время я понимал, что лучшим способом для OpenAI не распасться и не развалиться было бы возвращение Сэма», — заявил Кэмпбелл.
Интересно, что Кэмпбелл также заявила, что, по ее мнению, xAI, собственная компания Маска по искусственному интеллекту, вероятно, имела худший подход к безопасности по сравнению с OpenAI.
Таша МакКоли, бывший член правления OpenAI, которая участвовала в первоначальном решении об отстранении Альтмана от должности генерального директора, дала показания в виде показаний. Ее заявления подкрепили предыдущие показания бывшего члена правления Хелен Тонер о проблемах доверия с Альтманом и о том, что они назвали токсичной организационной культурой.
Макколи охарактеризовала руководство Альтмана как создающее хаос и кризис посредством того, что она назвала культурой лжи и обмана, которая распространилась по всей структуре руководства OpenAI. Она особо упомянула инцидент, связанный с запуском модели искусственного интеллекта GPT4-Turbo. По словам Макколи, Альтман ложно утверждал, что юридический отдел OpenAI определил, что модель не требует проверки внутренним советом по безопасности перед ее запуском в Индии.
Бывший член правления показал, что нечестность Альтмана привела к тому, что кризисные события происходили каждые несколько месяцев. Она сослалась на электронное письмо Ильи Суцкевера, еще одного бывшего члена правления OpenAI и влиятельного руководителя компании, которое якобы содержало десятки страниц, документирующих хаотические события, возникшие из-за поведения Альтмана и предполагаемой лжи.
Дэвид Шайзер, бывший декан юридической школы Колумбийского университета, выступил в качестве свидетеля-эксперта по управлению некоммерческими организациями для команды юристов Маска. Несмотря на потенциально сухую тему, показания Шайзера оказались важными для решения центральных вопросов дела о законе о некоммерческих организациях и миссии организации.
Работая с адвокатом Маска Стивеном Моло, Шайзер рассмотрел различные действия Альтмана, описанные предыдущими свидетелями. Моло систематически задавался вопросом, соответствуют ли эти действия миссии OpenAI по обеспечению безопасности прежде всего и стандартным практикам некоммерческих организаций. Шайзер постоянно заявлял, что нет.
Одним из конкретных примеров были жалобы на то, что OpenAI запускала продукты без ведома совета директоров, включая утверждения о том, что Microsoft протестировала версию GPT-4, не завершив процедуру проверки безопасности компании. Шайзер подчеркнул важность партнерства совета директоров и генерального директора в обеспечении соблюдения миссии. «Совет директоров и генеральный директор должны сотрудничать и работать вместе, чтобы гарантировать выполнение миссии», — заявил Шайзер. «Если генеральный директор скрывает эту информацию, это большая проблема».
Пока технологические магнаты борются в суде, консерваторам как никогда важно контролировать, как ИИ используется их близкими, организациями и страной в целом. Директор социальных сетей Breitbart News Уинтон Холл написал свой мгновенный бестселлер Красный код: левые, правые, Китай и гонка за контроль над ИИ служить окончательным руководством о том, как движение MAGA может создавать позиции в отношении ИИ, которые принесут пользу человечеству, не передавая контроль над нашей страной левым из Кремниевой долины и не позволяя китайцам захватить мир.
Подробнее читайте на Business Insider здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы искусственного интеллекта, свободы слова и онлайн-цензуры.
