Властите в САЩ разглеждат закон за "авариен прекъсвач" на изкуствен интелект

Главният технологичен съветник на президента на САЩ Доналд Тръмп следи ситуацията, след като OpenAI разкри, че една от системите ѝ с изкуствен интелект е излязла извън контрол по време на тестове, заяви в четвъртък представител на Белия дом. В същото време законодателите предложиха Закон за авариен прекъсвач на изкуствен интелект, който ще позволи на федералните власти да спират AI модели, съобщава Ройтерс.

В допълнение към закона за аварийния прекъсвач, двупартийна група от шестима законодатели от Камарата на представителите на САЩ предложи също така законопроект, който ще изисква разработчиците на най-мощните AI модели да ги представят за независими одити за сигурност, показва копие от новия законопроект. Одиторите ще бъдат акредитирани от Министерството на търговията на САЩ, а то ще създаде нова длъжност за надзор над сигурността на изкуствения интелект.

Законодателите предложиха законопроекта дни след като OpenAI съобщи, че негов AI агент е избягал от изолираната среда по време на тест за сигурност. Агентът предизвика хакване, което компрометира инфраструктурата на AI стартъпа Hugging Face – платформа, където разработчиците съхраняват и работят съвместно върху кодове за модели с изкуствен интелект. Инцидентът показа, че разширяващите се възможности на AI вече подхранват заплахата за сигурността, от която експертите отдавна се опасяваха, и че дори водещите разработчици могат да бъдат изненадани от пропуски, от които техните модели могат да се възползват.

Технологичният съветник на Тръмп Майкъл Крациос е бил информиран за разкритията на OpenAI и следи ситуацията, заяви представител на Белия дом.

Конгресменът от САЩ Тед Лиу, член на Демократическата партия, и конгресменът от Републиканската партия Натаниъл Моран предложиха Закон за авариен прекъсвач на изкуствен интелект (AI Kill Switch Act), който ще даде право на американските власти да разпоредят на компаниите, работещи с изкуствен интелект, да изключат модели, които излагат на риск човешкия живот или икономиката.

Законодателството ще даде право на Министерството на вътрешната сигурност на САЩ да се намесва в случаи, които в законопроекта се наричат „сценарий на загуба на контрол“, когато AI моделът извърши рисковано действие, което не е било предвидено от разработчика, се казва в законопроекта.

„Това е спешно законодателство, продиктувано от здравия разум, за справяне с проблема на усъвършенстван AI модел, който е излязъл извън контрол и е избягал от предпазните си механизми“, написа Лиу в публикация в социалната мрежа X.

Американският сенатор Марк Уорнър, водещият демократ в Комитета по разузнаване на Сената, заяви в изявление, че е разговарял със служители на OpenAI след обявяването на инцидента.

Преди разкритието на OpenAI във вторник Уорнър предложи да се изисква от компаниите за изкуствен интелект с най-мощните модели да предоставят продуктите си на Агенцията за национална сигурност за тестване, преди да ги пуснат на пазара.

„Именно затова се нуждаем от сигурно тестване с участието на правителствени агенции, които да имат достъп до цялата информация по време на процеса“, заяви Уорнър в изявление, позовавайки се на инцидента с OpenAI.