Станислав Опаранов: Риск за бизнеса е използването на Shadow AI

Един от най-сериозните нови рискове за бизнеса е нерегламентираното използване на изкуствен интелект в организациите - т.нар. Shadow AI (Сенчест изкуствен интелект). За това предупреди Станислав Опаранов, директор на международната консултантска компания Protiviti България, в предаването „В развитие“ на Bloomberg TV Bulgaria.

 Той посочи, че над 80-90% от служителите в големите корпорации вече използват AI инструменти, но едва около 20% от организациите са ги внедрили официално с ясни правила и политики.

„Използването на AI вече е факт. Въпросът е кой го контролира и дали компаниите изобщо имат видимост върху това как служителите го използват“, посочи експертът в сферата на управленското консултиране, технологичните иновации, управлението на риска и дигиталната трансформация.

Основният риск, според него, е изтичането на конфиденциална информация. Опаранов предположи, че много служители качват чувствителни данни в AI системи без злонамереност, но потвърди, че това може да доведе до сериозни последици – от нарушени договори до съдебни дела.

По думите му ограничаването на достъпа до AI инструменти през служебни устройства не е реалистично решение. „Ако забраним AI напълно, рискуваме да изостанем от конкуренцията. Компаниите трябва едновременно да стимулират иновациите и да управляват риска“, отбеляза той.

Съветът на Опаранов е организациите да изградят governance рамки – ясни процеси за контрол, оценка на риска и измерване на ползите от AI.

IT  експертът смята, че предизвикателството не е само в сигурността на данните, но и в липсата на яснота около разходите и възвръщаемостта. „Компаниите често дори не знаят какъв е реалният им AI разход. Всеки бизнес трябва да има KPIs (Key Performance Indicators), да измерва ефективността и да знае каква е бизнес употребата“, съветва той. В противен случай се управлява „на сляпо“, разчитайки единствено на интуиция, а не на реални данни.

Опаранов добави, че ценовите модели на големите AI доставчици се променят непрекъснато, което допълнително усложнява управлението.

Що се отнася до технологичния суверенитет, той напомни, че Европа остава значително назад спрямо САЩ и Китай. И даде за пример за европейски технологичен суверенитет в сферата на изкуствения интелект Mistral AI, като един от малкото конкурентни европейски играчи.

Според него пред Европа стоят три възможности: да създаде собствен фундаментален AI модел, да инвестира масово в центрове за данни или да заложи на open-source модели, хоствани на европейска инфраструктура. „По-реалистичният вариант е изграждане на европейски data центрове и използване на open-source модели върху собствена инфраструктура“, прогнозира IT специалистът.

Той оценява сериозния потенциал за България благодарение на силния IT сектор и наличната изчислителна инфраструктура, включително суперкомпютъра Discoverer.

Какви инвестиции са необходими, за да стане България AI хъб? Ще успеят ли европейските регулации като AI Act и Директивата за мрежова и информационна сигурност NIS2 да накарат бизнеса да обърне по-сериозно внимание на киберсигурността и управлението на AI риска?

Целия разговор гледайте във видео материала на Bloomberg TV Bulgaria.

Всички гости от предаването „В развитие“ може да гледате тук.