Автономните коли подсказват как хората могат да избегнат бунта на изкуствения интелект

Най-тревожният аспект на предупреждението, че изкуственият интелект (AI) може да унищожи човечеството, е, че няма налични подробности за това как един своенравен изчислителен модел би могъл всъщност да постигне това, пише Bloomberg.

Най-често срещаните сценарии, и това в никакъв случай не е изчерпателен списък, включват изстрелване на ядрени ракети, биологични оръжия и роботи убийци.

Първият сценарий отдавна е добре известен. Нестандартен AI поема кодовете за изстрелване на ядрени оръжия и тласка света към Страшния съд. Именно това се разиграва във филма „Военни игри“ от 1983 г.

Вторият сценарий включва изкуствен интелект, който кара човек да пусне смъртоносен вирус - отговор на старите опасения за изтичане на информация от лаборатории. Това е заложено във филмите „Заразата“ и „12 маймуни“ от 1995 г.

Макар и двата сценария да са плашещи съществуват много препятствия преди достигането до Армагедон, включително агенциите за сигурност, които следят отблизо за незаконни или опасни биологични изследвания.

Индустрията за киберсигурност изглежда е повече от способна да спре хакерска атака на изкуствен интелект, особено чрез приемане на специално разработени AI защити и използване на квантовите изчисления за по-силна криптография.

И тук достигаме до роботите убийци, задвижвани от изкуствен интелект.

По тази тема вижданията стават малко спекулативни, защото мобилните роботи, които могат да изпълняват множество задачи, все още не съществуват. Пилотни програми експериментират с хуманоидни роботи, които изпълняват прости задачи в складове и фабрики, но техните възможности са ограничени.

И все пак идеята за отряди от машини убийци, унищожаващи цивилизацията, има своето място в общественото въображение. За щастие, вече имаме реален пример за това как изкуственият интелект може да бъде пуснат в света без убийствена конспирация.

Индустрията за автономни превозни средства доказва, че изкуственият интелект може да бъде строго контролиран и да работи безопасно около хора. Waymo, Tesla, Aurora Innovation, Kodiak AI и други компании за автономно управление проправят пътя за това как AI може да се приложи към мобилни роботи, които могат да изпълняват множество задачи.

Оказва се, че транспортът е подходящо място за начало на внедряването на физически AI около хората, тъй като има множество установени правила и протоколи.

Компютърът, който управлява изкуствения интелект, интерпретиращ входните данни от визуалните сензори, се намира на борда на превозното средство и не изисква интернет сигнал, за да работи. Различните слоеве на AI получават задачи, като например фундаментални модели, които разпознават обекти от реалния свят, и модели за действие, които извършват маневри в зависимост от данните от сензорите и правилата за движение.

Кодовата пътека е прозрачна, така че програмистите могат да видят как и защо системата е стигнала до дадено решение.

Като последен слой защита бордовият компютър има опростен AI модел, който осигурява проверка, за да предотврати опасни или неочаквани маневри, изтъква Дон Бърнет, главен изпълнителен директор на Kodiak.AI., която е внедрила автономни камиони при петролните сондажи в Пермския басейн, САЩ, и е готова да ги разположи на междущатските пътища до края на тази година.

Работата на автономните превозни средства е фокусирана, точно както роботите, изпълняващи множество задачи. Моделът за вземане на решения трябва да е на борда на робота, което ограничава неговите изчислителни възможности, и е ограничен до задачите, които трябва да изпълнява. Не е необходимо системата да познава творбите на Шекспир или физиката на орбиталните тела, нито има възможността да планира бунт срещу човечеството.

Мобилните роботи трябва да се регулират от стандартите, върху които в момента работят Американският национален институт по стандартизация (ANSI) и Международната организация по стандартизация (ISO), вместо от правителствени разпоредби, които не са в крак с развитието на технологиите. Компаниите се стремят да получат тези сертификати, за да покажат, че отговарят на индустриалните стандарти.

Един от стандартите трябва да бъде свързан с това онези мощни AI модели да бъдат ограничени и фокусирани върху специфичните възложени задачи. Ако даден инструмент е опасен, той трябва да се третира по същия начин, по който се третират вирусите в биологичните лаборатории.

Модели, които могат да се отклоняват от инструкциите, не трябва да захранват мобилните роботи, които ще работят около хора.

Така нареченият „бутон за аварийно спиране“ може би е невъзможен за интегриране в AI модел, който се намира в облак и захранва множество взаимосвързани центрове за данни. При физическия изкуствен интелект, бутонът за аварийно спиране е логичен и трябва да се използва в случай, че нещо се обърка.

Роботите са инструменти, които помагат на хората, и не е необходимо да бъдат толкова умни. Те не бива случайно да нараняват хора и със сигурност никога не бива да получат възможност да ги нараняват умишлено. Автономните превозни средства са начинът да се гарантира, че роботите правят само това, което им се каже.