Експерт: Контролът на AI изостава от развитието му

Изкуственият интелект се развива с темпове, които изпреварват способността на бизнеса и институциите да го управляват ефективно. Внедряването на AI често се случва без достатъчна сигурност, ясни правила и разбиране за рисковете, което създава предпоставки за загуба на контрол върху процесите и решенията. Това коментира Ясен Танев, председател на Българската асоциация за развитие на бизнес софтуер, в предаването „Бизнес старт“ по Bloomberg TV Bulgaria.

По думите му технологията вече не е просто инструмент, а постепенно се превръща в част от когнитивния процес на хората, което поставя нови въпроси за отговорността и управлението. Въпреки напредъка на технологиите контролът върху тях остава ограничен, а способността на хората да ги управляват изостава. Това създава рискове, сравними с управление на мощна машина без необходимите системи за сигурност. 

„В момента има огромни, супер мощни модели и контролът върху тях е нисък, а хората не могат да ги управляват добре. Светът се променя ежедневно и ние трябва да променим начина си на осъзнаване и мислене, трябва да започнем да измерваме и реалността. Това е нещо, което трябва да сложим най-отпред – за какво е AI и как го ползваме“, подчерта гостът.

Интеграцията на изкуствен интелект в инструменти за киберсигурност и разработка улеснява както защитата, така и потенциалните атаки. Липсата на експертиза и контрол при масовото използване на AI води до сериозни уязвимости в бизнеса и администрацията. „Над 30% от бизнеса и държавата в момента работят с изкуствен интелект, който в сянка определя поведението и решенията им“, заяви Танев.

Според експерта съществува сериозен управленски дефицит при внедряването на AI, като липсват ясни правила, контрол и разпределение на отговорностите. Това води до ситуация, в която технологиите се използват масово, но без стратегическа рамка. 

„Трябва да започнем откровения разговор за мястото на изкуствения интелект в организациите и мястото на човека при управлението на решенията, взимани от технологията, защото не можем непрекъснато да казваме, че AI е виновен и в крайна сметка изкуственият интелект е продукт на човека. Трябва да осъзнаем, че времето на това да използваме изкуствения интелект като инструмент е приключило“, подчерта Танев.

Вижте целия разговор във видеото на Bloomberg TV Bulgaria.