Anthropic се споразумя с администрацията на Тръмп за възстановяване на достъпа до модела Fable

Администрацията на американския президент Доналд Тръмп и технологичната компания Anthropic постигнаха споразумение да възстановят достъпа до най-новия модел на изкуствен интелект за широка употреба на компанията, разрешавайки спор, който показа как Белият дом се намесва, за да отговори на притеснения в областта на сигурността в бързо нарастващата индустрия, пише Wall Street Journal.

Съгласно споразумението, обявено във вторник вечерта, Anthropic ще отстрани обходните пътища, които изследователи в Amazon са използвали, за да заобиколят защитните мерки на Fable, публичната версия на най-мощния модел Mythos на Anthropic, способен да извършва кибератаки, съобщи министърът на търговията Хауард Лутник в социалната мрежа Х. Защитните мерки са от решаващо значение за компанията, за да пусне модела публично.

„През последните две седмици работихме в тясно сътрудничество с Anthropic, за да анализираме и одобрим Fable 5 с цел да гарантираме съгласуваност в рамките на правителството на САЩ и да укрепим лидерството на Америка в изкуствения интелект“, заяви Лутник.

Anthropic съобщи, че работи с други технологични гиганти като Amazon, Microsoft и Google, за да разработи рамка за постигане на консенсус относно оценката на сериозността на т. нар. джейлбрейк, които заобикалят мерките за безопасност, както и относно реакцията на разработчиците на изкуствен интелект. Усилията са знак, че неотдавнашното изключване на модела на Anthropic ще определи бъдещото развитие на изкуствения интелект и правителствения надзор. Anthropic съобщи, че „вероятно е невъзможно“ да се направи модел, който да е напълно защитен от джейлбрейк.

След споразумението Anthropic съобщи, че ще започне да възстановява достъпа до модела в сряда след прекъсване от две седмици и половина, което беше безпрецедентно за водещ американски разработчик на модели. „Благодарни сме на потребителите ни за търпението им, както и на всички, които работиха с нас за възстановяването на достъпа“, съобщи компанията.

Anthropic е внедрила нова предпазна мярка, за да отстрани проблема, за който изследователите на Amazon са сигнализирали, след като работила в тясно сътрудничество с правителството, съобщи компанията. Техниката, определена от Amazon като заобикаляне на защитните механизми, се проваля в 99% от случаите с новата предпазна мярка, информира Anthropic. За останалите случаи резултатите не се считат за рискови, тъй като съдържат публично достъпна информация и не биха могли да помогнат на злонамерен потребител, съобщи Anthropic в блог публикация.

Целта на правителството беше да отстрани уязвимостта и да въведе процедура, позволяваща подобни проблеми да се избягват в бъдеще, а комуникацията да бъде по-ясна, заявиха представители на администрацията. Американските власти одобриха неотдавна частично възстановяване на достъпа до свързания модел Mythos 5 след двуседмично прекъсване.

Притесненията за безопасността на моделите накараха администрацията да забрани всякакво използване на инструментите от чужденци в средата на юни. Решението включваше родени в чужбина лица, които работят в САЩ, и някои изследователи на Anthropic, което накара компанията да блокира достъпа за всички потребители. Очаква се министерството на търговията да отмени ограниченията, съобщиха запознати с въпроса източници.

Спирането на модела беше повратна точка за индустрията на изкуствения интелект – първият значим случай, в който американското правителство принуждава водеща компания в областта на изкуствения интелект да премахне модел, което би могло да е от полза за конкурентите на компанията. Разработчикът на ChatGPT, OpenAI, разполага с продукти с подобни възможности, които се пускат на пазара в ограничен мащаб по указание на правителството. Google и компанията за изкуствен интелект на Илон Мъск също се конкурират в тази област.

Възможното решаване на новия конфликт е облекчение за много анализатори в областта на изкуствения интелект, които заявиха, че между Anthropic и администрацията съществува саморазрушителна конкуренция. Определянето на компанията от Пентагона като риск за веригата на доставки доведе до множество съдебни дела. Двете страни влязоха в конфликт и относно износа на чипове за изкуствен интелект към други държави и връзките на компанията с неправителствени организации, които са големи либерални донори.

Анализатори в областта на изкуствения интелект заявиха, че последните ходове на администрацията са предизвикали хаос в процеса на одобрение на моделите. Вече съществува правителствена служба, която извършва тестове, от сега нататък те ще бъдат контролирани от служителите по сигурността, и която поддържа дългогодишни връзки с технологични компании. Очаква се споразумението с Anthropic да включва и правителствената служба за тестове Център за стандарти и новации в областта на изкуствения интелект.

Тя е тествала новата предпазна мярка в допълнение към предишните защити, съобщи Anthropic.

Споразумението може да смекчи напрежението и върху Amazon, която е голям инвеститор и партньор на Anthropic в областта на центровете за данни, които управляват моделите на компанията. Тя сигнализира на правителството за уязвимости във Fable по съображения за сигурност. Гигантът в областта на електронната търговия инвестира 13 млрд. долара в Anthropic и може да вложи още 20 млрд. долара. Компанията беше оценена неотдавна на 965 млрд. долара и се насочва към първично публично предлагане на акции, както и конкурентът OpenAI.