Кога да се намеси човекът при внедряването на автономни AI агенти

Сериозен риск при внедряването на автономни AI агенти е прекомерното даване на права и преждевременното премахване на човешкия контрол. Този коментар направи Обретен Обретенов – Ото, основател на Commodor Cybersecurity, в предаването "Бизнес старт" на Bloomberg TV Bulgaria.

Той предупреди, че бизнесът често се изкушава да автоматизира изцяло даден процес, преди да е натрупал достатъчно исторически математически модел за поведението на модела. За справяне с тези рискове специалистът по информационна сигурност посочи, че се прилагат рамки като ISO 42001 (за дефиниране на отговорност, измеримост и управление на AI) и Европейската правна рамка за изкуствения интелект (EU AI Act).

„В глобален мащаб обаче липсата на единна регулация за научния пробив буди притеснения за появата на неконтролируема свръхинтелигентност“, коментира Обретенов. Той добави, че каквито и блокади да да се сложат на AI, „от наша човешка гледна точка“, когато интелектът е свръхинтелигентен, той ще намери начин да ги заобиколи.

За пример той даде случаи, при които се наблюдават пробиви в лабораторни условия и излизане на AI технологии в глобална среда. „По-скоро можем да се притесняваме, че нямаме правилен механизъм за регулация на научния пробив в сферата“, преценява IT експертът.

 По какъв начин изкуственият интелект трансформира киберзаплахите? Какъв е новият прочит на добре познатите хакерски техники? Как се намесва в техническото засичане на дефекти човекът?

Целия разговор може да гледате във видео материала на Bloomberg TV Bulgaria.

Всички гости на предаването "Бизнес старт" може да намерите тук.