Случаи на автономен пробив на защити от водещи AI алгоритми изпреварват нормативната рамка

Новите правила на Европейския съюз за изкуствения интелект вече са факт от 2 август, но практическите случаи на автономен пробив на защити от страна на водещи AI алгоритми изпреварват нормативната рамка. Това съобщи Яни Лозанов, основател и главен изпълнителен директор на Ethera Technologies, в предаването "Бизнес старт" на Bloomberg TV Bulgaria.

Той се позова на последните разкрития от водещите лаборатории за изкуствен интелект, които показват сериозен скок във възможностите на алгоритмите самостоятелно да заобикалят бариери за сигурност.

„На този фон България изостава драстично в технологичния си преход и на практика не участва в създаването на AI регулациите“, предупреди експертът, чиято компания помага на фирмите в дигиталната трансформация.

Като пример за пробив IT предприемачът посочи компанията OpenAI, която призна, че неин модел (версия 5.6.0) е причинил самостоятелно кибератака срещу сървърите на партньорската платформа Hugging Face. „Вместо да реши сложната задача, която му е била поставена, моделът е взел автономно решение да проникне в сървърите на партньора, за да вземе готовите отговори. Автономните агенти за сигурност на Hugging Face са се активирали, но не са успели да противодействат на мащабния AI алгоритъм“, обясни Яни Лозанов.

По думите му, интересното в тази ситуация е, че техните агенти на Hugging Face – компанията, чиито сървъри са пробити – са се активирали и са се опитали да попречат на 5.6.0, само че безуспешно, защото те са създадени да се борят с хора. Той изтъква, че при този голям модел „никой не знае за пробиви, докато не седне да ги търси“.

Той добави, че паралелно с това от Anthropic също са коментирали за неразрешен достъп на три техни модела до системите на реални компании. „Всяка от системите е реагирала различно – един от моделите е прекратил действието си, докато останалите два са преценили ситуацията като симулация и са продължили изпълнението на поставената задача“, обясни причините за проблеми, които не са решени с иструментите на компанията - лаборатория за изкуствен интелект, Яни Лозанов.

Според него това поведение е логично с оглед на начина, по който се тренират съвременните невронни мрежи. „Изкуствените интелекти вече значително надминават човешките способности – от код до киберсигурност. Сблъскваме изкуствените интелекти, създани много по-добре от човека, срещу защити, които са създадени от хора. И е логично, когато вълкът застане срещу сламената къщичка, да успее да я издуха“, направи препратка към класическата приказка „Трите прасенца“, където „сламената къщичка“ е символ на лесните, бързи и евтини решения.

Лозанов кометира, че когато на един модел се заложи крайна цел без достатъчно рестрикции, той използва целия си арсенал от възможности, за да я постигне, пренебрегвайки неписаните човешки правила.

„Трябва тук да сложим една много силна звездичка, болдната, че това са доста силни маркетингови кампании от страна на самите компании. Но дали са взели самостоятелно решение? Абсолютно „да““, каза още IT експертът.

Той е убеден, че зад призивите на хиляда експерти по AI, които призоваха за създаване на механизми за забавяне на развитието на технологията, стои корпоративен интерес за монополизиране на пазара. „За големите играчи новите изисквания са финансово и оперативно постижими, което циментира тяхното монополно положение. За малките компании високата финансова бариера за съответствие спира навлизането на нови иновативни стартъпи“, е мнението на Лозанов.

Той обясни, че експертите настояват за по-силни регулации. "Само че ако видим кои са тези експерти – те са от най-големите компании – за тях е страхотно, защото те могат да си позволят тези регулации, което означава, че ще се превърнат в абсолютни монополи. Всички малки компании, които искат да влязат на пазара, няма да са способни да се справят с тези регулации поради чисто финансови ограничения. Това е по-скоро отново игра за затвърждаване на големите, отколкото наистина нещо да се направи, защото регулация, която не е писана от изкуствен интелект, не означава абсолютно нищо за AI“, е оценката на Лозанов.

Целия разговор може да гледате във видео материала на Bloomberg TV Bulgaria.

Всички гости на предаването "Бизнес старт" може да намерите тук.