Anthropic призова за координиран план за спиране на AI разработките, ако рисковете се увеличат

Anthropic заяви в четвъртък, че разработчиците на авангарден изкуствен интелект трябва да установят координиран и подлежащ на проверка механизъм за забавяне или временно спиране на разработките, в случай че усъвършенстваните системи започнат да се самоподобряват по-бързо, отколкото обществото може да управлява рисковете, съобщава Ройтерс.

Изкуственият интелект, който може да се саморазвива, би бил значително развитие в историята на технологиите, но „пълното рекурсивно самоусъвършенстване също така може да увеличи риска хората да загубят контрол над AI системите“, заяви стартъпът в областта.

„Ако системите са напълно способни да създават свои собствени наследници, начините, по които ги защитаваме, наблюдаваме и оформяме поведението им, стават много по-важни“, допълват от компанията.

Като пример Anthropic посочи, че към май повече от 80% от кода, включен в кодовата му база, е написан от Claude.

Би било „добре за света да има възможност да забави или временно да спре развитието на авангардния AI, за да позволи на обществените структури и изследванията за съгласуване да се приспособят към напредъка на технологията“, заяви компанията.

Въпреки това тя предупреди, че едностранни или лошо координирани забавяния биха могли да имат обратен ефект, ако по-малко предпазливи участници продължат да напредват, което потенциално би намалило общата безопасност.

Antropic подчерта, че една смислена пауза би изисквала споразумение между „многобройни лаборатории с добри ресурси“, работещи на технологичната граница, както и правила за това кои условия биха предизвикали или отменили такава пауза и кой би я контролирал.

Едностранно преустановяване от страна на една-единствена компания би било по-лесно за осъществяване, добави Anthropic, но би имало ограничен ефект, като преди всичко би довело до промяна в лидерството, а не до насърчаване на по-широко глобално обсъждане.

Изследователското ѝ подразделение, Anthropic Institute, планира да проучи и да съдейства за създаването на системи, които биха били необходими за подкрепа на такова забавяне.

През следващите месеци Anthropic планира да организира дискусии с участието на политици, изследователи, групи на гражданското общество и други AI компании, за да разгледа ключови въпроси.

Тези въпроси включват как да се управляват рисковете, свързани с изкуствения интелект, като рекурсивното самоусъвършенстване, и как да се подобрят механизмите за координация.

Миналия месец Anthropic приключи кръг на набиране на средства, който оцени компанията на 965 млрд. долара, а в понеделник подаде конфиденциално заявление за първично публично предлагане в САЩ.