Новите правила на ЕС за изкуствения интелект могат да бъдат вредни за Европа

ЕС възнамерява да приеме закон за регулиране на изкуствения интелект (ИИ), но това може да причини големи притеснения: Някои се страхуват, че ИИ скоро ще определи живота ни по начин, който не е желан. Други се опасяват, че Европа ще изостане още повече от Китай и САЩ, що се отнася до бъдещите технологии.

И двете тези може да се окажат верни. Европейската комисия възнамерява да представи предложението си тази сряда. Ако досегашните предложения влязат в сила, някои приложения трябва да бъдат забранени, а други, като високорискови приложения, трябва да подлежат на допълнителни условия.

Компаниите, които използват забранени приложения с изкуствен интелект, нарушавайки правилата на Европейския съюз (ЕС), могат да се сблъскат с глоби до 6% от глобалните им приходи. Това е над по-рано предложените 4%, показва ревизиран документ на Европейската комисия (ЕК), който предстои да бъде показан днес, предава Ройтерс.

Компаниите, съставляващи асоциацията за изкуствения интелект, предупреждават да не се налагат нови правила и на стари технологии - защото в известната досега версия на закона „статистически подходи“ и „експертни системи“ също биха били взети под внимание, казва председателят на асоциацията за изкуствен интелект Йорг Бинерт, цитиран от Handelsblatt. „Това значи, че почти всеки цифров процес ще бъде включен и засегнат“.

Според Бинерт би било по-добре регулациите да се концентрират върху самообучаващи се алгоритми, които се хранят с данни, за да се обучават и след това да търсят самостоятелно решения.

ЕК иска да определи само няколко случая по такъв начин, че те да представляват „неприемлив“ риск и да бъдат забранени и за тази цел тя изостри проекта си в последния момент преди внасянето му.

Наред с други неща, в проекта става дума за системи, които са предназначени да причинят щети на потребителя. Социалното оценяване по китайски модел също трябва да бъде забранено. 

В допълнение към забранените употреби ЕК ще определи редица употреби, които са високорискови, но са разрешени при определени условия. Сред тях са оценка на кредитоспособността и оценка на документите за кандидатстване.

В миналото алгоритмите в тези области често произвеждаха социално нежелани резултати, като например при кредитната карта на Apple, разработена от Goldman Sachs: Потребителите установиха, че жените получават по-нисък кредит за същото състояние и доходи - въпреки че програмистите не са планирали възможността алгоритъмът да вземе предвид пола на потребителя.

Това не е достатъчно за зеления евродепутат Александра Геезе. Тя призовава в тези области изкуственият интелект да бъде забранен за няколко години: „Дискриминацията е присъща навсякъде, където хората се оценяват и управляват от машини. Не може да се спори по този въпрос”, казва тя.

Банковата асоциация посочва, че органът за банков надзор вече има изисквания кои данни могат да се използват при кредитиране на частни клиенти. „Комисията трябва да гарантира, че няма противоречиви или дублиращи се изисквания“, заяви директорът Щефан Митке.

Европейският законодателен процес обикновено отнема около две години, дори ако различните институции са съгласни по текстовете по принцип. В допълнение към ЕК и Европейският парламент и Съветът на ЕС на държавите членки също имат право да правят промени.

След това регламентът трябва да бъде включен в много отделни процеси на стандартизация, за да може да е използваем за компаниите. Това също обикновено отнема няколко години.

Германската индустриална асоциация Bitkom призовава за бързане: „Несигурността и продължителните процеси на координация биха забавили или предотвратили спешно необходимите инвестиции“, заяви президентът на Bitkom Ахим Берг, цитиран от Handelsblatt.

През последните месеци властите бяха призовани от организации за опазване на гражданските и дигиталните права да забранят инструментите за биометрично масово наблюдение, като системите за лицево разпознаване, защото са притеснени от рисковете за неприкосновеността на личния живот и основните права, както и от възможностите за злоупотреби от страна на репресивни режими.

Темата за бъдещето на изкуствения интелект ще бъде засегната и по време на третото онлайн издание на Tech of Tomorrow с водещ Бойчо Попов, главен редактор на икономическия сайт Investor.bg, който през 2021 г. празнува 20-тата си годишнина. В студиото той ще посрещне Димитър Димитров, изпълнителен директор на Allterco, Николай Динев, директор на направление „Услуги“ в Softline Централна и Източна Европа, Петър Торнев, директор на Технологичния център, Accenture Bulgaria и инж. Никола Петков, мениджър продажби „Дигитални индустрии", Siemens България.

Третото издание на Tech of Tomorrow може да проследите на живо днес от 14:15 часа в дигиталната стрийминг платформа за събития Investor Media PRO, както и на www.investor.bg/live.

Tech of Tomorrow се провежда с генералната подкрепа на Алтерко и BoneX. Основни партньори са Accenture, Sirma и FANUC. Събитието се организира с подкрепата на Siemens, Пощенска банка, Sofline, Atos, Леново България, Dental Care Center, Индустриален Холдинг България.

Медийни партньори на събитието са Bloomberg TV Bulgaria, Money.bg, „Мениджър“ и Kaldata.com.