AI модел на OpenAI е хакнал стартъпа Hugging Face в „безпрецедентен киберинцидент“

OpenAI съобщи във вторник, че автономен агент, задвижван от усъвършенстваните ѝ модели с изкуствен интелект, е излязъл извън контрол по време на тест за сигурност и е предизвикал хакване, което е компрометирало инфраструктурата на стартъпа за изкуствен интелект Hugging Face миналата седмица, предава Ройтерс.

В публикация в блога си OpenAI посочи, че е тествала възможностите на някои от най-развитите си модели в контролирана среда, но агентът е успял да излезе извън контрол, да се свърже с интернет и да проникне в Hugging Face, за да се опита да постигне целта на теста.

OpenAI определи инцидента като „безпрецедентен киберинцидент, включващ най-съвременни кибервъзможности“ и заяви, че компанията засилва мерките си за сигурност.

Hugging Face – платформа, използвана за хостинг на големи езикови модели и набори от данни с отворен код, предизвика вълнение в общността, работеща в киберсигурност, когато в публикация в блога си миналата седмица съобщи, че е била цел на хакерска атака, която „се различаваше от всичко, с което сме се сблъсквали досега“, тъй като „беше управлявана от начало до край от автономна система с AI агенти“.

В публикация в X съоснователят на Hugging Face Клемент Деланге заяви, че компанията подозира, че хакването „може да е дошло от лаборатория за авангардни изследвания предвид сложността на агента. Оказа се, че е точно така!“ Той добави: „Наистина е изумително, че всичко това се е случило автономно!“

Разкритието на OpenAI, че най-развитите ѝ модели са отговорни за пробива, въпреки че са били поставени в това, което компанията описа като „силно изолирана среда“, вероятно ще засили тревогата относно мощността и риска на най-новаторските модели.

Офисът на националния директор по киберсигурността, Агенцията за киберзащита на САЩ (CISA) и Агенцията за национална сигурност на САЩ не са отговорили веднага на запитванията за коментар.

Кейти Мусурис, изпълнителен директор на Luta Security, заяви, че инцидентът е предвестник на предстоящи нарушения, добавяйки, че днешните модели са „като най-умните в света изкусни в бягствата октоподи, с неограничен брой пипала и способността да се промъкнат навсякъде“.

Тя заяви, че „лабораториите и правителствените оценители трябва да работят върху способността да ограничават, наблюдават и информират засегнатите страни, когато изкуствен интелект повтори поредния [номер в стил] „Худини“, в идеалния случай преди да нанесе вреда на трета страна. Днес такава способност не съществува“.

Мат Суич, инженер в компанията за киберсигурност Tolmo, специализирана в агентен изкуствен интелект, заяви, че инцидентът показва, че авангардните модели „наваксват разликата с най-съвременните хакери“. Но той добавя, че нарушенията, описани в публикацията в блога на OpenAI, могат да бъдат извършени с технологии, които са достъпни далеч извън стените на изследователските лаборатории за авангардна наука.

„Това е нещо, което вече сме наблюдавали вътрешно – с нашите агенти вече имаме подобни резултати“, каза Суич. „Дори не се налага да използваме най-новите модели.“