Преслав Наков: AI навлиза в епохата на агентните системи

Развитието на генеративния изкуствен интелект променя начина, по който се произвежда и разпространява информация, а развитието на AI постепенно преминава от отделни модели към агентни системи. Това обясни проф. Преслав Наков, ръководител на департамента по „Компютърни и математически науки“ в специализирания Университет за изкуствен интелект „Мохамед бин Зайед“ (MBZUAI) в Абу Даби, ОАЕ,  в предаването „Бизнес старт“ по Bloomberg TV Bulgaria. 

„Големите езикови модели могат да създават изключително убедителен текст, което поставя нови предизвикателства пред достоверността на информацията и механизмите за нейното проверяване“, посочи той.

Професорът, който е един от водещите български и световни учени в областта на изкуствения интелект и обработката на естествен език (NLP), изтъкна, че сред големите научни пробиви е способността на моделите да решават нови и сложни задачи, включително в науката.

Той отбеляза, че генеративният изкуствен интелект създава нова ситуация, при която всеки може да произвежда гладко написан текст, включително в стила на конкретен журналист. Според Преслав Наков това е третата голяма революция в производството на информация след книгопечата и социалните медии. Ученият предупреди, че обществото все още не е изградило достатъчно ефективни механизми за контрол на качеството на информацията в новата среда.

По думите че достоверността вече включва и потенциалната вреда. „Фокусът при проверката на информацията постепенно се измества от това дали едно твърдение е вярно към въпроса какви последствия може да има неговото разпространение“, каза проф. Наков. И добави, че при големите езикови модели въпросът за фактологичността отново е ключов, макар да се разглежда през т.нар. халюцинации.

„Най-добрата пропаганда е, когато казваме истината, само истината, ама не цялата истина. Аз мога всъщност да си подбирам неща. И в един момент обаче дойдоха големите езикови модели и какво стана? Фактологичността отново стана така важна под ново име – халюцинация“, коментира проф. Наков.

Според него един от големите технологични пробиви е преминаването от самостоятелни езикови модели към системи, които могат да използват други модели, външни инструменти, код и специализирани приложения. Ученият обясни, че това позволява различни модели да бъдат използвани според конкретната задача, включително при работа с документи и специализирани области.

„Моделите стават все по-добри. Но голямото подобрение е, че всъщност ние вече не си говорим толкова за модели, колкото за системи. Те всъщност стават агентни“, посочи професорът и открои като друг ключов пробив способността на моделите да решават задачи, които не са виждали преди, включително сложни математически проблеми.

По думите му това може да има отражение върху области като химията, биологията и материалознанието, където AI постепенно може да премине от прилагане на вече съществуващо знание към подпомагане на научни открития.

Как се наблюдава сигурността при разработването на AI системите? Има ли дефиниция, по която да се оцени дали AI е решил задачите и е постигнал успех? Какви са заплахите от злонамереното използване на LLM? Колко близо сме до създаването на Общ изкуствен интелект? Какви са рисковете от бързото развитие на AI? 

Вижте целия коментар във видео материала на Bloomberg TV Bulgaria.

Всички гости на предаването „Бизнес старт“ може да гледате тук.