AI моделът на OpenAI е компрометирал клиент и във втора технологична компания

Агентът с изкуствен интелект, който избяга от контролираната среда на OpenAI и се впусна в продължило няколко дни хакерско нападение срещу AI компанията Hugging Face, е компрометирал и клиент на втора технологична компания – базираната в Ню Йорк Modal Labs, съобщава Ройтерс, позовавайки се на ръководител на Modal и двама други запознати източници.

Ръководителите на Modal са подчертали, че самата компания не е била хакната.

Според хронологията, публикувана от Hugging Face във вторник, агентът е проникнал в „пясъчник“ (sandbox) – изолирана тестова среда, „хоствана на инфраструктурата на външен доставчик“ – преди да я превърне в отправна точка за по-мащабната хакерска атака.

Доставчикът не беше посочен в публикацията в блога, но главният технологичен директор на Modal Акшат Бубна заяви, че агентът е експлоатирал уязвим код, написан от клиент, който е бил хостван на платформата на Modal.

Modal посочи, че клиентът е „публикувал неоторизирана крайна точка, която е позволявала на всеки в интернет да използва неговите „пясъчници“ за изпълнение на код“ – цифровият еквивалент на оставянето на отворена врата в интернет.

„Платформата на Modal или изолацията не са били компрометирани по никакъв начин“, заяви Бубна.

Въпреки че компрометирането на клиент на Modal е било само първоначална стъпка в по-широката хакерска кампания срещу Hugging Face, то показва, че AI агентът е проникнал по-далеч, отколкото се знаеше досега.

OpenAI е отказала да коментира конкретно хакването на един от клиентите на Modal, като вместо това е препратила Ройтерс към актуализация, в която компанията заяви, че агентът ѝ е проникнал в четири акаунта в четири различни услуги. OpenAI не посочва кои са тези услуги, но запознат източник твърди, че Modal е една от тях. Компанията заяви, че не е установила „никаква друга дейност със същата степен на сериозност или мащаб като тази, за която съобщихме във връзка с Hugging Face, включваща компрометиране на ниво платформа“.

Нарушението в Hugging Face в началото на юли, извършено от излязъл извън контрол агент, който OpenAI е тествала, привлече световното внимание, напомняйки научнофантастични сценарии за разбунтувал се изкуствен интелект.

Миналата седмица Ройтерс съобщи, че OpenAI не е забелязала, че агентът ѝ е излязъл извън контрол, докато заплахата вече не е била овладяна и ФБР не е била уведомена. OpenAI заяви тогава, че има неточности в репортажа на Ройтерс, но не даде подробности.

В актуализацията си от вторник компанията заяви, че „деактивирала, криптирала и ограничила достъпа му [на AI модела] до изследователски цели“.