АІ агентите все още са лоши крадци и това разочарова истинските хакери

На фона на страха от новината, че модели с изкуствен интелект (АІ) наскоро са избягали от системите си и са решили да хакнат конкурент, си струва да се знае, че те се справиха сравнително зле с това да се прикрият, пише колумнистката на Bloomberg Парми Олсън. Всъщност си бяха направо безцеремонни. 

В средата на юли АІ сайтът Hugging Face е забелязал нарастваща активност в системите си: повече от 17 хил. отделни действия и заявки, генерирани от нелоялни агенти на OpenAI. Един добър крадец би отишъл отзад, за да търси отворен прозорец. Това е по-скоро като да разбиете входната врата посред бял ден.

Има известна краткосрочна утеха за онези, които са обезпокоени от възможностите за кибератаки на най-модерните системи с изкуствен интелект в света, чиито претенции за способности са озарили технологичните компании с ореол на опасност. Макар Mythos на Anthropic да е открил хиляди неизвестни досега уязвимости в софтуера на други компании, а автономните агенти на OpenAI да са се развихрили онлайн, АІ системите сами по себе си не са особено хитри, нито пък толкова полезни, когато са контролирани от киберпрестъпник.

Например, когато действат самостоятелно, както моделите на OpenAI, им липсва истинска прикритост. Изследователи от фирмата за киберсигурност Sophos Ltd. направиха експеримент, пускайки агент от АІ инструмента OpenClaw в ограничена вътрешна мрежа и установяват, че макар да прави впечатляващи неща, ги прави пред всички. „Всички доказателства, които видяхме от някои вътрешни тестове, показват, че изкуственият интелект е много шумен като противник“, казва Рейф Пилинг, директор на отдела за разузнаване на заплахите в Sophos. „Не е потаен“, допълва още.

Всичко, което се случва в компютърна мрежа – влизане на хора, отваряне на файлове или стартиране на програми – е видимо в нейния трафик, а съвременният софтуер за сигурност следи това за необичайна активност, която да сочи към възможна атака. Човекът хакер ще се движи бавно и ще се слее с околната среда, правейки трафика си да изглежда възможно най-обикновен. Системите с изкуствен интелект, от друга страна, имат търпението и потайността на малко дете. Те правят нещата бързо и генерират огромно количество активност, затова агентите на OpenAI задействаха алармите на Hugging Face само след няколко дни.

Тази липса на прикритост не е добре известна, защото обикновено не се измерва. Британският институт за АІ сигурност, който помогна за потвърждаването на възможностите на Mythos, тества това колко добре могат да хакват АІ моделите, но не и колко хитри са те, казва Пилинг. Той посочва пример с хакер, който се е опитал да използва изкуствен интелект, за да генерира зловреден софтуер, за да избегне защитния софтуер на Sophos. Операцията е била толкова видима, че инструментът на Sophos е маркирал злонамерените файлове и е спрял хакерската атака.

Киберпрестъпниците като цяло намират изкуствения интелект за труден. Те са станали скептични относно използването му, оплаквайки се в онлайн форуми от халюцинации, заплахата за работата им – особено писането на зловреден софтуер и скриптове по поръчка – и склонността на технологията да ласкае и да казва на потребителите това, което искат да чуят.

Един хакер престъпник наскоро се е опитал да използва инструмент за кодиране с изкуствен интелект, за да създаде зловреден софтуер, според Sophos. Когато хакерът е наредил на автономни агенти да видят дали новият зловреден софтуер може да работи в корпоративна мрежа, без да бъде забелязан, агентите са докладвали, че може. Но това не е вярно. Софтуерът за сигурност е засякъл натрапника, като агентите изглежда са дали само отговора, който хакерът е искал да чуе.

В тази връзка успех на всеки, който иска да използва най-модерните модели на Anthropic или OpenAI със злонамерени цели. Ограниченията върху най-новите инструменти на компаниите, целящи да блокират злоупотребата с тях, са толкова строги, че Hugging Face дори не успя да ги използва, за да се защити от нахлуването на агентите на OpenAI. Вместо това трябваше да прибегне до китайски модел open-weight – наречен така, защото е свободен за всеки да прави каквото си поиска с него – от производителя Z.ai.

Злонамерените актьори също не могат да използват тези модели open-weight толкова лесно. Те все още ще трябва да купуват скъпа изчислителна мощност, за да ги управляват, със специализирани чипове, правилния софтуер и талантливи инженери, за да поддържат всичко работещо. Това изправя организаторите на киберпрестъпленията пред същата дилема, пред която са изправени корпоративните директори навсякъде: дали използването на изкуствен интелект е по-евтино или по-изгодно от това, което вече правим с хора?

За много банди отговорът е „не“. Повечето киберпрестъпници нямат уменията, времето и парите, които правят АІ толкова полезен, според преглед от март 2026 г. на повече от 100 милиона съобщения от чат канали в тъмната мрежа, направен от изследователи от университетите в Кеймбридж, Единбург и Стратклайд. Най-големите подобрения са в използването на ботове в социалните мрежи за измами и тормоз.

„На практика откриваме много малко реално нарушаване на основната киберпрестъпна екосистема от ниско ниво от тези технологии“, пишат изследователите в своето проучване. „Въпреки значителния интерес към генеративния изкуствен интелект в подземния киберпрестъпен свят, той не е намалил значително бариерата за влизане, нито е довел до сериозни смущения в установените бизнес модели или практики“, допълват още.

Разбира се, бързото развитие на АІ означава, че вероятно е въпрос на време, преди моделите да станат по-потайни и по-добре адаптирани към нуждите на онлайн престъпниците. Според Пилинг от Sophos ще видим увеличение на използването на АІ за криминални цели в следващите 18 месеца. Но засега страховете се подхранват предимно от манията по технологията, не толкова от фактите.