Вашингтон забрани на правителствените агенции да използват AI на Anthropic

Администрацията на американския президент Доналд Тръмп е наредила на правителствените агенции да прекратят използването на технологията за изкуствен интелект на Anthropic (Claude).

Вашингтон предприема и допълнителни санкционни мерки, което доведе до необичаен публичен конфликт между правителството и компанията относно безопасността на изкуствения интелект, предава Асошиейтед прес, цитиран от БТА.

Тръмп, министърът на отбраната Пийт Хегсет и други представители на администрацията критикуват Anthropic в социалните мрежи за това, че не е позволила на военните неограничено използване на технологията ѝ до изтичането на крайния срок вчера. Те обвиняват компанията, че застрашава националната сигурност, след като главният ѝ изпълнителен директор Дарио Амодей отказа да отстъпи заради опасения, че продуктите ѝ могат да бъдат използвани по начин, който нарушава заложените от нея предпазни механизми.

Хегсет определя компанията като „риск по веригата на доставки“ – квалификация, която обикновено се прилага спрямо чуждестранни противници и която може да застраши ключовите ѝ партньорства.

Anthropic предупреди, че ще се обърне към съда заради тази квалификация. От компанията подчертават, че искат ясни гаранции от Пентагона, че нейният чатбот с изкуствен интелект Claude няма да бъде използван за масово наблюдение на американци или в напълно автономни оръжейни системи.

Същевременно конкурентът на Anthropic – Open AI на Сам Алтман с основен продукт ChatGPT, обяви, че е сключил споразумение с Министерството на отбраната на САЩ, което ще позволи използването на неговия модел за изкуствен интелект при „определени гаранции“, предават световните агенции.

„Два от нашите най-важни принципи за сигурност са забраната за масово наблюдение на национално равнище и човешката отговорност при употребата на сила, включително при автономни оръжейни системи“, пише Алтман в платформата X.

Пентагонът „подкрепя тези принципи, отразява ги в законодателството и политиката и ги включихме в нашето споразумение“, посочва Алтман в поста си, цитиран от БТА.

„Ще въведем и технически гаранции, за да сме сигурни, че моделите ни функционират по предназначение - нещо, което Министерството на войната също поиска“, казва още той.

Компанията ще изпрати свои инженери в Пентагона, за да гарантира сигурността на моделите с изкуствен интелект, които ще бъдат разположени „само в облачни мрежи“.