Експерт: AI вече търси слабостите на системите, ако няма – може да си ги създаде

Най-същественият риск от изкуствения интелект (AI) към момента е свързан с киберсигурността – моделите могат да откриват слабости в системите, а дори при липса на очевидна уязвимост да създадат такава. За това предупреди Яни Лозанов, специалист в областта на AI, в предаването „В развитие“ по Bloomberg TV Bulgaria.

„Най-голямата заплаха към момента е от гледна точка на киберсигурност, защото ако има място, където твоята система има слабост, изкуственият интелект ще го намери. Ако няма, той просто ще си създаде такава слабост. Така че изкуствените интелекти представляват заплаха в момента изключително от гледна точка на киберсигурност“, обясни той.

Според IT експерта регулацията на изкуствения интелект е трудна за прилагане заради непредсказуемостта на системите и конкуренцията между САЩ и Китай. Той смята, че дори при наличието на защити съвременните модели могат да бъдат подведени да извършат действия, които не трябва да правят.

„Дали трябва да се регулира изкуственият интелект? Това, което аз бих казал, е да, но не е възможно да се случи. Не е възможно, защото дори и ние да решим да спрем и да го регулираме, Китай никога няма да спре и просто ще изпревари напред. Дори целият свят да се хванем за ръце и да решим, че го правим заедно и регулираме изкуственият интелект, самата дефиниция за регулация на непредсказуема система, каквато е изкуственият интелект, е много трудна, дори бих казал невъзможна“, коментира експертът.

По думите му възможностите на моделите дори надхвърлят това, което самите компании осъзнават, а потребителите намират нови приложения за тях. Като пример той посочи задачи, при които AI вече постига резултати, недостижими за един човек.

„AI вече е достатъчно интелигентен, за да подмине човешкия интелект в строго определени и концентрирани задачи. Изкуствените интелекти вече се справят с над 67% от задачите. И това число с всяка следваща итерация расте и расте нагоре“, отбеляза той.

Яни Лозанов посочи, че с развитието на AI се променя и начинът, по който хората ще работят, като все по-важно става умението за точно дефиниране на крайната цел.

Изостава ли българският бизнес в използването на изкуствения интелект? Нужен ли е орган за управлението на AI у нас? Защо компаниите трябва да повишат познанията си за наличните инструменти, свързани с AI? Колко са способни AI моделите? По какъв начин AI ще променя професиите? Как трябва да се адаптират служителите към новите технологии?

Вижте целия коментар във видео материала на Bloomberg TV Bulgaria.

Всички гости на предаването „В развитие“ може да гледате тук.