Компания Anthropic, занимающаяся искусственным интеллектом, случайно раскрыла исходный код своего широко используемого помощника по программированию Claude Code, что стало второй значительной утечкой данных, затронувшей компанию, менее чем за неделю.
Fortune сообщает, что последний инцидент произошел всего через несколько дней после того, как Fortune сообщила, что Anthropic случайно сделала общедоступными почти 3000 внутренних файлов, включая черновик сообщения в блоге, описывающего будущую модель искусственного интеллекта под названием «Mythos» или «Capybara», которая, как предупредила компания, представляет серьезные риски для кибербезопасности.
В результате второй утечки было обнаружено около 500 000 строк кода, содержащихся примерно в 1900 файлах. Когда к нам обратились за комментариями, Anthropic признал, что «некоторые внутренние исходные коды» были раскрыты как часть «выпуска Claude Code». Представитель компании заявил: «Никакие конфиденциальные данные или учетные данные клиентов не были задействованы или раскрыты. Это проблема с пакетом выпуска, вызванная человеческой ошибкой, а не нарушением безопасности. Мы предпринимаем меры, чтобы предотвратить повторение этого в будущем».
Эксперты по кибербезопасности предполагают, что эта последняя утечка может оказаться более значимой, чем предыдущее обнародование черновика сообщения в блоге. Хотя утечка исходного кода не раскрыла фактический вес модели самого Клода, она позволила технически знающим людям извлечь дополнительную внутреннюю информацию из кодовой базы Anthropic, по словам специалиста по кибербезопасности, просматривавшего утекшие материалы для Fortune.
Claude Code представляет собой один из самых успешных продуктов Anthropic, уровень внедрения которого среди крупных корпоративных клиентов быстро растет. Функциональность инструмента частично вытекает из базовой модели большого языка, а частично из того, что разработчики называют «агентной обвязкой» — программной средой, которая окружает базовую модель ИИ, направляя ее взаимодействие с другими программными инструментами и устанавливая важные поведенческие ограничения и операционные инструкции. Именно исходный код этого агентного оборудования попал в сеть.
Это воздействие создает ряд проблем в области конкуренции и безопасности. Компании-конкуренты потенциально могут перепроектировать работу агентского оборудования Claude Code, чтобы улучшить свои собственные предложения. Кроме того, некоторые разработчики могут попытаться создать альтернативы с открытым исходным кодом, основанные непосредственно на утекшем коде.
Самая последняя утечка первоначально произошла через сообщение на X. Судя по всему, это произошло, когда Anthropic загрузил полный исходный код Claude Code в NPM, широко используемую платформу для обмена и обновления пакетов программного обеспечения, вместо того, чтобы ограничивать загрузку скомпилированной, готовой к работе версией, которую фактически выполняют компьютеры. Рой Пас охарактеризовал это как очевидную «человеческую ошибку», возникшую в результате того, что кто-то выбрал короткий путь в обход стандартной защиты выпуска, хотя Anthropic оспорила эту характеристику, заявив Fortune, что обычные меры безопасности не были обойдены.
Несмотря на то, что Anthropic оказывается неспособным обеспечить собственную безопасность, они считают, что должны быть в состоянии рассказать Пентагону, как наши военные могут использовать свой ИИ для защиты нации. Совсем недавно федеральный судья запретил Военному министерству признать компанию рискованной для цепочки поставок.
Директор социальных сетей Breitbart News Уинтон Холл в недавно выпущенном мгновенном бестселлере рассказывает об опасностях того, что технология искусственного интеллекта контролируется левыми из Кремниевой долины, враждебно настроенными не только к движению MAGA, но и к Америке в целом, и о том, как консерваторы могут защитить членов своей семьи и страну в целом от этой угрозы. Красный код: левые, правые, Китай и гонка за контроль над ИИ.
Темы включены в КОД КРАСНЫЙ включать:
Подробнее о Fortune можно прочитать здесь.
Лукас Нолан — репортер Breitbart News, освещающий вопросы свободы слова и онлайн-цензуры.
