IMG Investor Dnes Bloombergtv Bulgaria On Air Gol Tialoto Az-jenata Puls Teenproblem Automedia Imoti.net Rabota Az-deteto Start.bg Posoka Boec Megavselena.bg Chernomore

Технологична платформа предлага 10 хил. евро гаранция срещу грешки на AI

Lenz IO изгражда независим слой за проверка на съдържание, генерирано от изкуствен интелект, коментира Костадин Йорданов

16:19 | 16.11.26 г.

Няма признаци напредъкът в областта на изкуствения интелект (AI) да достига лимит, а следващите пет-десет години ще са изключително динамични за науката и бизнеса. Големите компании обаче внедряват AI инструменти предпазливо, защото моделите не са безпогрешни – стремежът към креативност води до т. нар. халюцинации. Това коментира Костадин Йорданов, основател и изпълнителен директор на Lenz IO, в предаването UpDate по Bloomberg TV Bulgaria.

Затова повечето компании все още разчитат на модела „човек в процеса“ (human-in-the-loop) за финален контрол преди важно решение или комуникация с клиенти, отбеляза Йорданов. Вътрешен анализ на Lenz IO върху 1000 твърдения от области като политика и наука показва, че в 63% от случаите моделите са на различно мнение, което означава, че потребителите получават различен резултат в зависимост от избрания модел.

Затова Lenz IO изгражда независим технологичен слой за верификация на AI съдържание по модела на съдебната зала. Техниките включват независимо проучване (платформата предварително събира и класира по качество външни източници, вместо да разчита на паметта на алгоритмите), дебат между модели от конкуриращи се доставчици, които влизат в ролята на защитник и опонент, и панелно гласуване, което неутрализира индивидуалните грешки и предразсъдъци, поясни Йорданов.

Докато технологичните гиганти обикновено се освобождават от отговорност чрез disclaimers, Lenz IO предоставя пълна прозрачност на източниците и дебатите между моделите и подкрепя верифицираната информация с гаранция от 10 хил. евро за всяка грешка. Вече се водят преговори със застрахователи за значително увеличаване на лимита. „Целта ни е, освен технологична платформа, да бъдем и възможност за бизнесите да прехвърлят на друго място риска, който поемат заради това, че използват изкуствен интелект“, каза Йорданов.

Според него естественото място за такава проверка са индустриите със завишен риск – финанси, здравеопазване и други сектори, където грешките са скъпи. Предимство на платформата е независимостта ѝ, тъй като е малко вероятно някой от големите доставчици да използва модели на конкурентите си. Йорданов не очаква и големите играчи да дават финансова гаранция за достоверността на AI резултатите.

Как се извършва верификацията на AI съдържанието чрез модела на Lenz IO? Как се неутрализират индивидуалните предразсъдъци и грешки на всеки отделен алгоритъм? Необходимо ли е включването на модела „човек в процеса“ (human-in-the-loop) преди вземането на решение? Може ли проверката да е самостоятелен бизнес?

Вижте целия коментар във видео материала на Bloomberg TV Bulgaria.

Всички гости на предаването UpDate можете да гледате тук.

Всяка новина е актив, следете Investor.bg и в Google News Showcase.
Последна актуализация: 16:19 | 16.11.26 г.
Специални проекти виж още
Най-четени новини
Още от Bloomberg TV виж още

Коментари

Финанси виж още