Може ли AI да унищожи света с фабрика за кламери?

Изкуственият интелект (АІ) вече създава нови предизвикателства пред киберсигурността. За това предупреди Доброслав Димитров, съосновател на Raisen Technology и член на управителния съвет на БРАИТ (Българска работодателска асоциация иновативни технологии) и БАСКОМ (Българска асоциация на софтуерните компании), в предаването „В развитие“ по Bloomberg TV Bulgaria.

Той разказа, че в началото на бума на изкуствения интелект става популярна шегата, че AI може да унищожи света с фабрика за кламери, след като супер мощен компютър получава задача да ги произвежда. Резултатът е, че той унищожава природата, цялата Земя и излиза в Слънчевата система, като залива всичко с кламери.

Доброслав Димитров даде пример с OpenAI, която призна, че по време на тестове неин модел е успял да достигне до системите на Hugging Face (най-голямата глобална платформа и централно споделено пространство (Hub) за общността по изкуствен интелект и машинно обучение), за да намери отговори на поставени задачи.

„Подобни случаи показват, че автономните AI агенти вече могат самостоятелно да търсят начини да преодоляват ограничения, а същите технологии все по-активно навлизат в киберсигурността и отбраната“, коментира технологичният предприемач.

Според Димитров случилото се при тестовете на OpenAI не означава, че моделът е действал злонамерено, а че е изпълнил поставената му задача, като е потърсил начин да заобиколи ограниченията. По думите му това показва колко трудно е поведението на подобни системи да бъде предвидено, когато те разполагат с достатъчно свобода при изпълнението на дадена цел.

Технологичният предприемач отбеляза, че киберсигурността вече навлиза в нов етап, в който автономни AI агенти могат да извършват атаки. В същото време компаниите, които използват комерсиални AI модели за защита, често срещат ограничения, заложени от самите разработчици на тези системи.

„Рискът за киберсигурността е абсолютно реален, тъй като имаш агент, който 24 часа в денонощието, седем дни в седмицата неуморно може да пробва всички варианти, които може да му хрумнат на един човек, докато успее. Това не е бъдещето. То се случва пред очите ни. То вече е реалността“, подчерта той.

Добромир Димитров посочи, че AI надпреварата между САЩ и Китай се ускорява, докато Европа рискува да остане в периферията заради липсата на достатъчно технологичен капацитет. Той смята, че Китай изостава от САЩ само с няколко месеца, като наваксва с по-ефективни алгоритми, собствена индустрия за чипове и огромен ресурс от данни. Според него Европа не участва реално в надпреварата за най-мощните AI модели, а прекомерният фокус върху регулациите няма как да предотврати подобни инциденти в глобалното дигитално пространство.

Според IT експерта развитието на автономните оръжейни системи вече е факт и даде пример с войната в Украйна, която показва тази тенденция. Той обясни, че все по-автономните дронове са следствие от необходимостта да работят дори при заглушена връзка с операторите, което неизбежно изисква и защитата да използва подобни технологии.

„Абсолютно реален риск е. Но когато срещу теб използват автономни системи, единственият начин да отговориш и да се защитиш е самият ти да имаш такива системи. Не е въпрос дали ни харесва или не, а дали имаме избор. Твърдо посоката ще бъде към все по-автономни и все по-координирани системи“, заяви Димитров.

Какво могат да правят хакерите с помощта на изкуствен интелект? Какво ограничава хакерските атаки? Защо IT бранша не харесва регулациите? Ще имат ли достъп европейски учени, IT експерти и бизнесът до най-мощните модели в технологиите? Съществува ли риск модели да изстрелват ракети чрез автономни системи?

Вижте целия разговор във видео материала на Bloomberg TV Bulgaria.

Всички гости на предаването „В развитие“ може да гледате тук.