Българският институт INSAIT разработи инструмент за проверка на надеждността на AI

Учени от българския институт INSAIT към Софийския университет „Св. Климент Охридски“ са разработили първия инструмент за проверка на надеждността на изкуствения интелект (AI) в съответствие със законовата рамка на Европейския съюз (ЕС), съобщават от пресцентъра на Министерството на образованието и науката (МОН).

Инструментът вече е публично достъпен тук. Той е разработен в партньорство с швейцарския университет ETH Zurich и компанията LatticeFlow AI. Инструментът е официално припознат от Европейската комисия като първа стъпка за създаване на по-добра връзка за практическото приложение на нормативната уредба в областта.  

Законът на ЕС за изкуствения интелект влезе в сила през август 2024 г. и е първият опит за регулация в тази област. Той очертава регулаторни изисквания на експертно ниво, без да предоставя подробни технически насоки, които компаниите да следват, се посочва в съобщението.

За да се преодолее тази празнина, ETH Zurich, INSAIT и LatticeFlow AI създават първото техническо тълкуване на шестте основни принципа на европейския закон. Тази рамка за съответствие превръща регулаторната рамка в конкретни технически изисквания, като предлага ясна методология за оценка на моделите на изкуствен интелект въз основа на стандартите разписани в нормативната уредба.

Инструментът дава информация за спазването на европейските изисквания на редица от най-популярните модели на изкуствен интелект, разработени от компании като OpenAI, Meta, Alibaba и Anthropic. Заедно с това и всяка компания би могла да измери в него до колко разработени от нея подобни модели покриват изискванията на Закона на ЕС за изкуствен интелект. 

Службата на ЕС за изкуствения интелект обявява, че разработката ще бъде отправна точка за създаването на подобни регулации с общо приложение за изкуствения интелект.

„Европейската комисия приветства това проучване и платформата за оценка на моделите за изкуствен интелект (ИИ) като първа стъпка в превръщането на Акта на ЕС за ИИ в технически изисквания, което ще помогне на създателите на модели за изкуствения интелект да го приложат“, каза Томас Рение, говорител на Европейската комисия в областта на цифровата икономика, научните изследвания и иновациите.

„Насърчаваме други изследователски групи и практици да допринасят, като усъвършенстват картографирането на AI Act, добавят нови критерии и разширяват тази рамка с отворен код. Методологията може да бъде разширена и за оценка на моделите на ИИ спрямо бъдещи регулаторни актове извън Закона за ИИ на ЕС, което я прави ценен инструмент за организации, работещи в различни юрисдикции“, заяви проф. Мартин Вечев, професор в ETH Цюрих и създател на института INSAIT.