Стартап Anthropic, занимающийся искусственным интеллектом, расследует сообщения о том, что группа пользователей получила несанкционированный доступ к его модели Claude Mythos, мощной системе искусственного интеллекта, которая была намеренно предоставлена лишь небольшому кругу доверенных компаний из-за ее расширенных возможностей кибербезопасности.
В отчете Bloomberg говорится, что Anthropic сообщила во вторник, что изучает заявления о том, что отдельные лица получили доступ к модели через систему, предназначенную для сторонних компаний, выполняющих работу от имени Anthropic. В заявлении компании говорится: «Мы расследуем сообщение о несанкционированном доступе к Claude Mythos Preview через одну из сред стороннего поставщика».
Инцидент поднимает серьезные вопросы о том, сможет ли Anthropic, стоимость которой оценивается примерно в 380 миллиардов долларов, эффективно защитить свои самые мощные технологии от попадания в руки злоумышленников. Компания намеренно ограничила выпуск Claude Mythos Preview избранной группой технологических компаний, прямо сославшись на опасения, что модель может быть использована не по назначению для запуска кибератак в масштабах и со скоростью, превышающей человеческие возможности.
Сообщается, что один человек, получивший несанкционированный доступ, воспользовался своими разрешениями подрядчика Anthropic, чтобы подключиться к Mythos. Компания заявила, что у нее нет доказательств деятельности, выходящей за рамки «среды поставщиков» — инфраструктуры, которую третьи лица используют для доступа к системам для разработки моделей. Лаборатории искусственного интеллекта часто нанимают сторонних подрядчиков для таких задач, как тестирование моделей, хотя Anthropic не уточнила, какой конкретный поставщик был замешан в этом инциденте.
Нарушение безопасности усиливает существующую тревогу вокруг Mythos, которая уже вызвала значительную турбулентность на рынках и стала катализатором переговоров на высоком уровне между финансовыми учреждениями и глобальными регулирующими органами. Специалисты по безопасности предупреждают, что в случае приобретения этой модели враждебными сторонами хакеры смогут выявлять и использовать уязвимости программного обеспечения быстрее, чем организации смогут развертывать исправления и исправления.
Ранее в этом месяце Anthropic представила Mythos тщательно отобранному списку корпоративных партнеров, включая Amazon, Microsoft, Apple, Cisco и CrowdStrike. Компания отметила, что у этих сотрудников будет возможность обнаруживать и защищать кибер-уязвимости, используя сложные возможности Mythos, до любого более широкого публичного выпуска.
Breitbart News ранее сообщал, что Anthropic подверглась серьёзному нарушению безопасности, когда случайно опубликовала в сети некоторые части своего исходного кода:
Последний инцидент произошел всего через несколько дней после того, как Fortune сообщила, что Anthropic случайно сделала общедоступными почти 3000 внутренних файлов, включая черновик сообщения в блоге, описывающего будущую модель искусственного интеллекта под названием «Mythos» или «Capybara», которая, как предупредила компания, представляет серьезные риски для кибербезопасности.
В результате второй утечки было обнаружено около 500 000 строк кода, содержащихся примерно в 1900 файлах. Когда к нам обратились за комментариями, Anthropic признал, что «некоторые внутренние исходные коды» были раскрыты как часть «выпуска Claude Code». Представитель компании заявил: «Никакие конфиденциальные данные или учетные данные клиентов не были задействованы или раскрыты. Это проблема с пакетом выпуска, вызванная человеческой ошибкой, а не нарушением безопасности. Мы предпринимаем меры, чтобы предотвратить повторение этого в будущем».
Мгновенный бестселлер Красный код: левые, правые, Китай и гонка за контроль над ИИнаписанная директором по социальным сетям Breitbart News Уинтоном Холлом, служит для консерваторов образцом для создания эффективной политики в отношении ИИ не только для нации, но и для их семей. Это становится еще более важным, когда сами гиганты ИИ борются за безопасность своих моделей ИИ.
Сенатор Марша Блэкберн (республиканец от Теннесси), которую назвали одной из ВРЕМЯ100 самых влиятельных людей в области искусственного интеллекта получили высокую оценку Код Красный как «обязательно к прочтению». Она добавила: «Мало кто понимает нашу консервативную борьбу с большими технологиями так, как Холл», что делает его «уникально квалифицированным для изучения того, как мы можем наилучшим образом использовать огромный потенциал ИИ, гарантируя при этом, что он не эксплуатирует детей, творцов и консерваторов». Отмеченный наградами журналист-расследователь и основатель Public Майкл Шелленбергер звонит Код Красный «Просветляющая», «тревожная» и описывает книгу как «важное начало разговора для тех, кто надеется подорвать авторитарные планы крупных технологических компаний, пока не стало слишком поздно».
Подробнее читайте в Bloomberg здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы искусственного интеллекта, свободы слова и онлайн-цензуры.
