Anthropic се опитва да овладее изтичането на изходния код на AI агента Claude Code

Anthropic се опитва спешно да разреши проблема с непреднамереното публикуване на вътрешния изходен код на Claude Code – асистентa, задвижван от изкуствен интелект, който се превърна в основен източник на приходи за компанията, пише Bloomberg.

Хиляди копия на кода бяха свалени от GitHub в отговор на искания за премахване поради нарушаване на авторски права от страна на Anthropic, се казва в съобщение на популярната платформа за разработчици. Anthropic по-късно заяви, че премахването е засегнало повече хранилища в GitHub, отколкото е било предвидено, и оттогава е било значително ограничено.

AI стартъпът също така предприема стъпки за оптимизиране на вътрешните си системи, за да предотврати повторно възникване на подобно изтичане на информация, включително чрез подобряване на процеса на автоматизация.

В поредица от публикации в социалната мрежа X създателят на Claude Code Борис Черни заяви, че „процесът на внедряване на Anthropic включва няколко ръчни стъпки и ние не сме изпълнили една от тях правилно“. Той каза, че компанията вече е „направила няколко подобрения в автоматизацията за следващия път“, като има планове за „още няколко в процес на разработка“.

Случайното разкриване бе втората грешка в сигурността на Anthropic в рамките на няколко дни, която компрометира около 1900 файла и 512 хил. реда код, свързани с Claude Code. Миналата седмица списание Fortune съобщи, че Anthropic е съхранявало хиляди вътрешни файлове в система с публичен достъп, включително чернова на блог публикация, която описва подробно предстоящ модел, известен вътрешно като Mythos и Capybara.

Разкритията се появиха в деликатен момент за компанията. В момента Anthropic води съдебен спор с правителството на САЩ във връзка с решението на Пентагона да я обяви за риск за веригата на доставки след конфликт относно предпазните мерки за безопасност при изкуствения интелект. Компанията предупреди, че това определение може да ѝ струва милиарди в пропуснати приходи.

В същото време Anthropic отбеляза значителен ръст на потребителите и приходите през последните месеци, отчасти благодарение на популярността на Claude Code – инструмент, предназначен да помогне за оптимизиране на процеса на програмиране и отстраняване на грешки в софтуера. Приходите на Claude Code достигнаха 2,5 млрд. долара към февруари, съобщи компанията, една година след пускането му на пазара. Тези печалби са ключови за амбициите на компанията да излезе на борсата още през тази година.

В изявление във вторник Anthropic потвърди изтичането на информация и заяви, че „няма засегнати или разкрити чувствителни данни или идентификационни данни на клиенти“. Компанията добави: „Това беше проблем с пакетирането на версията, причинен от човешка грешка, а не нарушение на сигурността.“

Освен че дава сигнали какво ще включват бъдещи версии, изтичането на информация рискува да предостави предимство на злонамерени лица. Мелиса Бишопинг, старши директор по сигурност и проучвания в областта на продуктовия дизайн във фирмата за киберсигурност Tanium, заяви, че изтичането на информация е предоставило „план за това как работи кодът „под капака“.

Съперниците биха могли да получат тези резултати чрез обратно инженерство, но според нея изтичането на информация значително улеснява процеса.

Непоказани функции

Кодът е включвал поне осем непоказани все още функции, посочва Абхишек Тивари, предприемач, който бързо е създал сайт за проследяване на изтичането на информация с помощта на изкуствен интелект. Сред тях е Kairos – настройка, която позволява на Claude да работи на заден план.

Друга функции са Coordinator Mode, който позволява на AI да раздели задача на части и да ги делегира на отделни работници, както и Auto-Dream, при който Claude преглежда наученото и организира бележките в чисти, структурирани файлове с памет.

Anthropic не коментира функциите или плановете си. „Винаги експериментираме с нови идеи. 90% от тях не се реализират, защото не смятаме, че предлагат достатъчно добро преживяване“, каза Черни в отговор на публикация в X.

Той добави, че Anthropic все още не е взела окончателно решение по отношение на функцията Kairos.