Г. Караманев: Един сериозен инцидент може да промени отношението към AI

Един сериозен инцидент може да се превърне в причина за промяна на отношението към изкуствения интелект – възможни сценарии са ситуации, при които модели могат да откриват уязвимости в софтуерни системи или да променят цели индустрии. Тази прогноза направи Георги Караманев, журналист и IT специалист, в предаването „Бизнес старт“ по Bloomberg TV Bulgaria.

Според него лесно можем да си представим бъдеще, в което подобни модели са способни на практика да разбият цялата софтуерна индустрия, на която вече се базира всичко, като „откриват много сериозни пропуски, които ние вече сме пропускали“.

IT експертът посочи, че влиянието на AI вече се усеща в софтуерната индустрия, където моделите могат да създават код и променят ежедневната работа на специалистите. И добави, че подобна трансформация може да засегне и други сектори.

Георги Караманев смята, че развитието на AI поставя предизвикателства и пред регулациите, особено на фона на конкуренцията между САЩ и Китай. Той е на мнение, че контролът върху темпото на развитие е труден за постигане, тъй като обществото все още не е осмислило напълно възможностите на технологията.

По думите му новите правила за прозрачност при системите с изкуствен интелект са важна стъпка, но остават трудни за прилагане, тъй като в много случаи не може да бъде доказано дали дадено съдържание е създадено от човек или машина.

„Проблемът е, че сме в свят, в който това вече е недоказуемо и нещата остават в сферата на добрите пожелания“, констатира IT експертът.

Той даде за пример последните случаи с неконтролирани действия на AI модели, които показват, че технологиите вече могат да извършват сложни операции, включително в областта на киберсигурността.

„Новините за пробиви, свързани с AI модели, трябва да бъдат разглеждани както през призмата на технологичния напредък, така и през тази на маркетинга, тъй като зад тях стоят компании с огромни инвестиции“, коментира Караманев.

Според него обаче става дума и за реални рискове, които показват колко далеч са стигнали възможностите на тези системи. Той допълни, че развитието на технологията показва необходимост от по-сериозно обществено обсъждане заради мащаба на промените, които предстоят.

Излизат ли IT агентите от контролирана среда? Ще осигурят ли квантовите компютри и AI съхранението на криптоактиви? Защо AI индустрията сама призовава за забавяне на развитието на изкуствения интелект? Може ли обществото да контролира темпото на технологичния напредък? Как регулациите могат да отговорят на развитието на AI? Кои прогнози на програмистите се сбъднаха? Ще се спазват ли европейските правила, влезли в сила от 2 август?

Вижте целия коментар във видео материала на Bloomberg TV Bulgaria.

Всички гости на предаването „Бизнес старт“ може да гледате тук.