Петко Гетов: Една от най-големите грешки на бизнеса е да използва AI на всяка цена

Изкуственият интелект е дума на годината не само на Wall Street или в технологичните лаборатории, но и в света на бизнеса, създавайки една нова мания по внедряването му във всевъзможни процеси на работа. За последствията от необмисленото използване на АІ, рискът това да отвори една черна дупка от разходи и етичните измерения на неговото използване Investor.bg разговаря с Петко Гетов, експерт в сферата на IT правото.

- Разкажете ни повече за практиката на т. нар. AI управление (AI governance). Защо е важна тя за бизнеса и къде прилагането ѝ би било най-полезно?

- Първо, трябва да се направи разграничение между два вида управление на системи с изкуствен интелект (AI). От една страна, международната общност и отделните държави вече усилено изготвят правни рамки, стандарти и закони, които да регулират употребата и създаването на AI. Пример за това е европейската регулация за AI, така нареченият EU AI Act. Това е вид управление на AI от гледна точка на публичния интерес.

От друга страна, много компании в момента навсякъде по света са се устремили да въвеждат AI или в рамките на вътрешните си процеси, или директно в продуктите си. Тъй като около AI, особено при така наречения генеративен AI, тоест ChatGPT и подобните чатботове, се създаде прекомерно много шум и вълнение, много бизнес лидери в момента се надпреварват кой да въведе повече AI системи за по-кратко време. Ако целият този процес на внедряване на комплексни, доста често рискови системи не се управлява разумно, то компаниите рискуват да създадат една черна дупка от разходи без особено голяма възвръщаемост. От тази гледна точка е ключово за голяма част от бизнесите да са наясно защо, как и на каква цена интегрират AI системи в процесите или продуктите/услугите си.

Петко Гетов

Снимка: Личен архив

Петко Гетов е юрист с 8 години опит в сферата на IT правото. Специализира в управление и етика на изкуствения интелект, преговори по договори за корпоративни ИТ услуги, Закона за изкуствения интелект на ЕС и регулирането на технологиите, интелектуалната собственост в контекста на изкуствения интелект и оценката на риска при трансгранични трансакции.

Притежава две магистърски степени по право (една от Хумболд Университет Берлин по право и една от Лайденския университет по международно публично право) и е сертифициран професионалист в сферата на управлението на ИИ системи (AIGP).   

- АІ е думата на годината в заседателните зали не само по света, но и у нас. Какво бихте посъветвали компаниите, които искат възможно най-бързо да приложат АІ решения в дейността си?

- В бизнеса винаги съществува натиск да се прилагат нови технологии възможно най-бързо, винаги е било така. Ситуацията с този бум на AI системи не е по-различна, но самата технология има своите специфики, с които бизнесът ще трябва да се съобрази. Стратегията да имплементираш възможно най-бързо и възможно най-много неща има своите поддръжници – идеята там е, че като си дадеш възможност да тестваш нови инструменти в кратък срок от време, събираш опит и след това можеш да взимаш по-добри решения. За съжаление, практиката, а и научните проучвания, показват, че на този етап това бързане не работи особено добре. Затова моят съвет би бил да се „бърза бавно“ – с други думи да се мисли, преди да се действа.

Много е важно компаниите да знаят какво целят с употребата на AI и какъв конкретен проблем решават. Затова в повечето случаи е важно да има екип от разнообразни експерти вътре в самите компании, които да са изградили процеси за интегриране на AI системи, с ясни правила и критичен поглед към нуждата от AI за конкретен проблем.

Ако компаниите имат добри, работещи и достатъчно гъвкави процеси за управление на AI, прилагането на AI решения ще става все по-бързо и най-важното – ще води до качествени промени в процесите и продуктите на бизнесите.

- Секторът на АІ на този етап е пълен с всевъзможни приложения и решения, които не са имали все още достатъчно време, за да докажат полезността си. Кои са най-големите грешки, които един бизнес може да допусне при процеса на прилагане на АІ решения, било то от бързане или от незнание?

- Една от най-големите грешки е да се използва AI на всяка цена. AI е средство, а доста бизнеси го третират като цел и оттам произлизат големи проблеми. Използването на AI трябва да има някаква конкретна цел и внедряването му трябва да бъде съобразено с услугите, със служителите, с комплексността на самото решение. Внедряването на AI трябва да се третира като изграждане на къща – за да построиш къща, обикновено ти трябват много хора, които разбират от различни неща, много време и достатъчно пари.

Бизнесите много често смятат, че купувайки някакъв AI продукт, те автоматично и веднага ще станат по-продуктивни и ще си покачат и приходите, и печалбата. Статистиките обаче показват, че повечето компании, извън най-големите като Microsoft, Amazon, Nvidia, Google, нямат измеримо подобрение нито на продуктивността, нито на печалбите. Имплементирането на AI в компанията отнема време и пари, а резултатите от гледна точка на продуктивност не се появяват веднага. Имаме вече и примери на компании, които решават да съкратят много служители и да ги „заместят“ с AI – решението им впоследствие се оказва грешка и загуба на време и средства.

AI може да бъде изключително полезен, но само ако бизнесът знае защо, кога, къде и как да го използва. Иначе много често се стига до лоши резултати.

- Кои са най-големите подводни камъни от юридическа гледна точка, когато говорим за използването на изкуствен интелект за оптимизиране на бизнес процесите?

- Цялата правна рамка около AI тепърва се развива в момента и има все още доста неяснота относно това каква е ситуацията например с правото на интелектуална собственост, защита на личните данни, дискриминационни практики, произлизащи от използването на AI. Говори се много често за регулаторната сложност на правилата в ЕС, но в момента и в Китай, и в САЩ се пишат голямо количество регулации, стандарти, закони и всякакви други подобни нормативни актове, които да регулират AI. В САЩ например наскоро само в Калифорния бяха приети две различни регулации на тема AI. С други думи – сериозно се покачва сложността на проблемите от правна гледна точка, а в същото време тези проблеми засягат много ключови граждански права и свободи, защитени от много различни закони.

Тоест подводните камъни са най-вече неяснотата, сложността, изключителната динамичност на развитие и огромното количество на правни актове, които по някакъв начин директно или индиректно регулират използването на AI.

Например, ако един бизнес иска да въведе AI за по-бързо преглеждане на кандидатури в рамките на процесите по назначаване на нови кадри, то в зависимост къде са намира този бизнес, правилата са различни. В ЕС скоро ще започнат да важат правилата за така наречените „AI Системи с висока степен на риск“, които целят да предпазват гражданите от, измежду други рискове, дискриминация на работното място. Система, която повлиява на решението дали един човек да бъде нает на работа, или не, се приема, че е система с висока степен на риск и там бизнесът ще трябва много внимателно и детайлно да обясни какви мерки е взел да се минимизира рискът от дискриминация. Глобите, ако това не се направи, са много високи – в зависимост от нарушението до 7% от годишния оборот, или 35 милиона евро, което е по-високо.

- На фона на цялото това светкавично развитие на сектора къде е мястото на въпроса за етичното използване на АІ (т. нар. AI ethics)? Защо то трябва да интересува бизнесите, които – да речем – не са насочени директно към работа с потребители?

- Хората често свързват етиката с повече теоретични разговори, отколкото с практически ползи. Това не е винаги така обаче – и в случая на AI вече се виждат доказателства. Наскоро няколко големи AI компании промениха политиките си за използване или дори някои от функционалностите на приложенията си заради натиск от страна и на потребители, и на експерти по етични съображения. Пример за това е компанията Character AI, която наскоро забрани на лица под 18-годишна възраст да използват чатбота им заради огромен натиск от родители, чийто деца са повлияни негативно от употребата на чатбота.

От друга страна, вече има доказателства и за компании, които използват етични практики като конкурентно предимство. В Европа това са продуктите на Proton, които гарантират неприкосновеност на личните данни, пълно енкриптиране и конфиденциалност на всичките си продукти, включително и на чатбота си, което им печели нови клиенти само по себе си. Друг пример е Signal, приложението за съобщения, което също гарантира защита на данните на потребителите. Етиката в сферата на AI все повече се използва като конкурентно предимство и според мен това ще се засилва все повече в бъдеще.

- Кои според Вас са основните принципи за отговорно използване на АІ, които всяка организация е добре да прилага?

- Основните принципи са описани от Организацията за икономически сътрудничество и развитие (ОИСР). Те са обособили пет основни принципа на надеждния AI: (1) устойчиво развитие с приобщаващи политики за растеж, (2) спазване на принципа за върховенство на закона, човешките права и демократичните ценности, (3) прозрачност и обяснимост, (4) сигурност и безопасност и (5) отговорност. Тези принципи много често прозират през начина, по който се пишат регулациите – европейската регулация за AI например изрично упоменава всичките тези принципи в преамбюла си.

Какво означават тези принципи за компаниите? Спазването им гарантира не само съответствието със законите и регулациите, но и помага за качественото управление на AI. В реалността, разбира се, много компании наблягат на бързото развитие и сериозната печалба, а това често е в разрез с някои от тези принципи. Докато няма ясни регулации, тези принципи ще са основно пожелателни и няма да има голям ефект от тяхното съществуване.

- Колко отговорност за извършването на дадени работни процеси в една компания би било уместно да се предостави на АІ и има ли дейности, които не би трябвало да се делегират на изкуствен интелект?

- Това много зависи от конкретния бизнес на компанията и от нуждите ѝ. Има едно независимо проучване на Сингапурския национален университет, което показва, че чатботовете като ChatGPT винаги ще халюцинират (тоест ще грешат), тъй като това е част от начина, по който функционират и не може да се избегне технически. Дали това ще е така в бъдеще, не знаем, но в настоящето продължава да бъде факт.

Съответно всякакви по-сериозни решения, взети на базата на AI, носят риск от сериозни правни, икономически и репутационни последици. От тази гледна точка, AI на този етап е най-подходящо да се използва да подобрява процеси, а не да се използва за взимане на решения. Например би било подходящо да се използва AI да автоматизира и улесни търсенето на документи в база данни.

От друга страна, да се използва AI за подготвяне на аргументи за пред съда от страна на адвокати доказано води до доста големи проблеми и глоби и наказания за адвокатите. Така че моят съвет е AI да се използва разумно и като помощник в огромна част от случаите. В крайна сметка независимо дали се използва AI, или не, отговорността за решенията се носи от хора.