Американски съдия блокира включването на Anthropic в черния списък на Пентагона

Американски съдия блокира в четвъртък включването на компанията за изкуствен интелект Anthropic в черния списък на Пентагона – най-новият обрат в рисковата битка на създателя на Claude с армията относно безопасността на изкуствения интелект на бойното поле, съобщава Ройтерс.

В исковата молба на Anthropic, подадена във федералния съд в Калифорния, се твърди, че министърът на отбраната Пийт Хегсет е превишил правомощията си, когато е определил Anthropic като риск за веригата на доставки в областта на националната сигурност – етикет, който правителството може да прилага към компании, които излагат военните системи на потенциална инфилтрация или саботаж от страна на противници.

Безпрецедентният ход на Хегсет, който лиши Anthropic от достъп до определени военни договори, последва отказа на Anthropic да позволи на армията да използват AI моделите ѝ Claude за американски системи за наблюдение или автономни оръжия. Ръководителите на Anthropic заявиха, че това може да струва на компанията милиарди долари в загубени приходи и увредена репутация.

Американският окръжен съдия Рита Лин, назначена от бившия демократичен президент Джо Байдън, постанови решението в заповед от 59 страници, в която заключи, че решението на Пентагона е „незаконосъобразно и неоснователно“.

„Празното позоваване на националната сигурност не означава картбланш за наказание и отмъщение срещу критиците на правителството“, написа тя.

Anthropic приветства решението и каза в изявление, че остава „фокусирана върху продуктивното сътрудничество с правителството за използване на изкуствения интелект в полза на националната ни сигурност, така че всички американци да се възползват от тази технология“.

Пентагонът не е отговорил веднага на искането за коментар.

Anthropic твърди, че AI моделите не са достатъчно надеждни, за да бъдат използвани безопасно в автономни оръжия, и че се противопоставя на вътрешното наблюдение като нарушение на правата, но Пентагонът заявява, че частните компании не бива да имат възможност да ограничават военните действия.

Определянето от страна на Пентагона беше първият случай, в който американска компания беше публично посочена като риск за веригата на доставки съгласно един малко известен закон за държавните поръчки, чиято цел е да защити военните системи от чуждестранен саботаж.

Anthropic има ⁠второ ​заведено дело във Вашингтон, окръг Колумбия, във връзка с отделна оценка на риска за веригата на доставки от страна на Пентагона, ​която би могла да доведе до изключването ѝ от граждански правителствени договори.

Anthropic представи нова среда, позволяваща на AI агенти да управляват физически устройства

Отделно Anthropic представи в четвъртък предварителна версия на изследването Model Hardware Standard – ​среда, позволяваща на агенти с изкуствен интелект ‌да управляват физически устройства в научните изследвания и съвременното производство.

MHS позволява на AI агентите да управляват съвместно лабораторни и производствени инструменти като микроскопи и роботизирани ръце и да изпълняват сложни задачи – от рутинни експерименти за откриване на лекарства до лазерна калибрация на квантов компютър, съобщи Anthropic.

Чрез интегрирането на агентни AI възможности с лабораторен и производствен хардуер, производителят на чатбота Claude има за цел да помогне на изследователите и инженерите да изпълняват автономни, денонощни работни процеси с минимална човешка намеса, като по този начин ускорява процесите.

Стандартът, според Anthropic, работи на всяко устройство, което разполага с програмируем интерфейс и позволява на устройствата и агентите да комуникират през мрежи.

Компанията заяви, че споделя ранна версия на MHS с партньорите си, за да подпомогне изготвянето на оценки за безопасност, преди да го превърне в отворен код.