Anthropic е подновила преговорите с Пентагона след конфликта около AI безопасността

Шефът на Anthropic Дарио Амодей поднови преговорите с Пентагона относно начина, по който моделите ѝ с изкуствен интелект се използват от американската армия, което повдига възможността двете страни да разрешат конфликта, разтърсил Силициевата долина, съобщава Bloomberg.

Амодей водеше преговори със заместник-министъра на отбраната по научни изследвания и инженерство Емил Майкъл за сключване на договор, регулиращ достъпа на Пентагона до технологията на Anthropic. Преговорите обаче се провалиха миналата седмица, след като стартъпът поиска гаранции, че нейният изкуствен интелект няма да бъде използван за масово наблюдение на американците или за разгръщане на автономни оръжия. Министърът на отбраната Пийт Хегсет обяви Anthropic за риск за веригата на доставки, което обикновено се отнася за противници на САЩ.

Оттогава преговорите са възобновени, твърди запознат с въпроса източник. Ако двете страни постигнат ново споразумение, това ще позволи на военните да възобновят използването на AI на Anthropic, като същевременно се намали рискът Пентагонът официално да включи компанията в черния списък. Това би могло да усложни усилията на конкурентите: OpenAI обяви миналата седмица, че е сключила споразумение, което позволява на Пентагона да използва AI моделите ѝ в класифицираната си мрежа. По-късно шефът на OpenAI Сам Алтман заяви, че работи с Министерството на отбраната, за да добави повече предпазни мерки около наблюдението.

Anthropic е отказала коментар, а говорител на Пентагона не е отговорил веднага на искането за такъв, отправено след работно време. Financial Times по-рано съобщи за възобновяването на преговорите.

Решението би помогнало да се изясни ситуацията около една от най-бързо растящите и най-обещаващи компании в индустрията за изкуствен интелект.

Все още не е ясно какво ще бъде дългосрочното въздействие на декларацията на Пентагона върху продажбите на Anthropic към корпоративни клиенти, което отдавна е основната ѝ дейност. Междувременно компанията набира популярност сред ежедневните потребители, а годишните ѝ приходи се насочват към 20 млрд. долара.

Голяма част от Силициевата долина също се обедини в подкрепа на Амодей. Технологични групи, представляващи големи компании, включително Google на Alphabet и Apple, призоваха президента Доналд Тръмп да преразгледа решението си да определи Anthropic като риск за националната сигурност, твърдейки, че тази стъпка би имала вредни последици за останалата част от индустрията.

„Загрижени сме, че определянето на която и да е американска компания като риск за веригата на доставки неизбежно ще доведе до нежелани последствия, които биха могли да подкопаят по-широките цели на администрацията за осигуряване на американското лидерство“, написаха търговските асоциации, включително TechNet и Computer & Communications Industry Association, в писмо до Тръмп в сряда.

Като цяло организациите представляват стотици американски технологични компании, включително производителите на AI чипове Nvidia и Advanced Micro Devices. Някои от групите включват отбранителни подизпълнители и клиенти на Anthropic, които биха могли да бъдат засегнати, ако Пентагонът изпълни плановете си.

В писмото технологичните асоциации пишат, че индустрията е готова да предостави на Пентагона и други федерални агенции „най-мощните инструменти в света за национална сигурност и отбрана“.

„Нашата загриженост е свързана с прецедента, който такава класификация създава за целия технологичен сектор в САЩ, а не с отношението към която и да е компания“, пишат те.