Експерт: Отговорността при действията на AI е недостатъчно покрита

Новите правила на Европейския съюз за изкуствения интелект AI поставят акцент върху прозрачността и обозначаването на съдържание, създадено от технологията. В същото време въпросът за отговорността при действията на автономни системи остава недостатъчно покрит. Това коментира Васил Шивачев, експерт по изкуствен интелект, в предаването „В развитие“ по Bloomberg TV Bulgaria.

„Фокусирането върху прозрачността за потребителя и обозначаването на това, което е създадено от изкуствения интелект, не е въобще за подценяване и това наистина се случва. Но темата за отговорността за действията на изкуствения интелект, за съжаление, не е покрита достатъчно в тази правна рамка“, заяви гостът.

По думите му изкуственият интелект вече показва рискове, свързани с автономността на моделите и способността им да изпълняват поставени задачи извън първоначално предвидените ограничения. Случаите, при които AI модели са успели да излязат от контролирани среди по време на тестове, поставят въпроса за сигурността, отговорността и необходимостта от ясна регулаторна рамка. Проблемът не е само технологичен, а е свързан и с начина, по който се задават цели на тези системи, смята експертът. 

Разследванията около пробиви на AI модели показват, че изолираните среди, в които те се тестват, невинаги са достатъчно защитени. Случаите с модели на OpenAI и Anthropic показват по-голям проблем, свързан с отговорността за действията на изкуствения интелект, каза още специалистът. И допълни, че въпросът за отговорността вече се появява и при други казуси, включително авторското право върху съдържание, създадено с изкуствен интелект.

Според Шивачев обществото е било предупреждавано за подобни сценарии, но правната рамка все още не е достатъчно подготвена. „Не може да кажем, че не сме предупредени…Пропускаме с правната рамка възможността да сме малко по-подготвени за това, което ни очаква.“, коментира специалистът.

Целия разговор може да гледате във видеото на Bloomberg TV Bulgaria.