Изкуственият интелект вече е твърде значим, за да забави геополитическата надпревара

Ако най-напредналият изкуствен интелект наистина е достатъчно мощен, за да унищожи човечеството, вече може да е прекалено късно темпото да бъде забавено. При положение, че технологията вече е въвлечена в стратегическа оръжейна надпревара, обвързана с националната сигурност, предупрежденията за рисковете ѝ може би само ще ускоряват надпреварата към хегемония – и ще доведат до значително по-голям държавен контрол, пише колумнистът на Ройтерс Майк Долън.

Може би по-голям държавен контрол – при собствеността, ако не при регулациите или ограниченията – е това, което отчасти изнервя финансовите пазари, които са отразили в цените зрелищния инвестиционен бум с идеята, че той ще продължи поне десетилетие.

Серия от апокалиптични предупреждения за заплахата на изкуствения интелект срещу човечеството стигна своя апогей преди две седмици. Те дойдоха със сигнали, че най-развитите модели може да бъдат използвани за разработка на биологични оръжия, хакване на финансови институции и дори превземане на целия интернет.

Предупрежденията започнаха в началото на месеца, когато напускащ служител на AI лабораторията Anthropic предупреди, че новата технология „може да убие всички ни“ до края на десетилетието. До дни вече явно имаше консенсус сред шефа на Anthropic Дарио Амодей, на OpenAI Сам Алтман, на SpaceX Илон Мъск, на Apple Тим Кук и други за нуждата разработките да бъдат забавени, да се засили човешката намеса и проверки и да се гарантират ясни ограничения на автономността на AI агентите. Microsoft публикува свой собствен проект на кодекс.

Има две школи на размисъл. Първата отхвърля поредицата от страховити истории за мощта на AI като просто обикновена реклама, за да се предизвика вълнение около предстоящите първични публични предлагания. Другата е, че AI развитието в момента е твърде голямо да се провали от стратегическа гледна точка и правителствата няма друга опция, освен да продължат напреди, ако икономическата, финансовата и дори военната сигурност са застрашени.

Разбира се, може и двете да са прави по малко.

От практическа гледна точка, Алтман заяви, че дългоочакваното IPO на OpenAI вероятно ще бъде отложено за следващата година, докато всичко се изясни. Макар че през последните месеци имаше няколко съобщения, че подобно отлагане предстои по други причини, новината бе достатъчна, за да срине цената на акциите на акционера ѝ Softbank с около 13% за един ден, тъй като ще трябва да изчака повече, за да реализира инвестицията си. В същото време Anthropic явно ще продължи със своето листване още следващия месец.

Източник: Ройтерс

По-големият проблем за инвеститорите обаче е дали призивите на технологичната индустрия за забавяне са достоверни или вероятни, въпреки че подобни AI протоколи са били предлагани или подписвани преди. Въпросът е дали ще засегнат директно бурното инвестиране, търговията и строителството, изграждащи AI инфраструктурата от гигантски центрове за данни и изчислителни мощности.

Goldman Sachs очаква общите глобални AI разходи до края на десетилетието да достигнат 5% от световния брутен вътрешен продукт. Тъй като голяма част от тях са финансирани от дълг и собствен капитал, моментът на евентуалната възвръщаемост може да е повод за тревога, особено след като оценките за внедряването от бизнес и влиянието върху печалбата остават сравнително скромни.

Ако разгледаме единствено какво би могло да означава нарастващата вътрешнополитическа опозиция срещу изграждането на центрове за данни в САЩ, стратезите на Morgan Stanley изчисляват, че проекти на стойност почти 200 млрд. долара са били отменени или отложени през миналата година и през първото тримесечие на 2026 г.

Въпреки че не засяга преосмислянето на темата за „края на човечеството“ и свързаните с това прогнози за забавяне, анализът на банката очертава какво е заложено на карта при всяко забавяне на капиталовите разходи, свързани с изкуствения интелект. В анализа се очаква капиталовите разходи да съставляват приблизително една трета от целия растеж на БВП на САЩ през тази и следващата година, като този ефект вероятно ще бъде подсилен от увеличаването на богатството на домакинствата в резултат на устойчиви печалби от акции, движени от инвестициите.

Morgan Stanley посочва, че търсенето на изчислителна мощност все още значително надвишава предлагането, което означава, че всяко забавяне в разгръщането на изкуствения интелект може да „укрепи позицията на „търговците на изчислителна мощност“ (хипермащабните компании) като увеличи стойността на ограничената инсталирана база и засили ценовата им мощ“.

Твърде големи, за да фалират, твърде големи, за да забавят?

Но „забавянето“ на AI би повлияло значително на дългосрочната посока на капиталовите разходи за изкуствен интелект и бума в инфраструктурата, ако има индикации, че развитието на изкуствения интелект може да бъде обърнато или дори спряно.

Политическата необходимост да се продължи напред, ясно изразена както от Вашингтон, така и от Пекин, показва, че каквото и да прави частният сектор, правителствата ще искат да развият този потенциал до крайност – именно заради, а не въпреки, рисковете, които сега се подчертават.

Забавянето на една страна е възможност за друга да я настигне. А договорените предпазни мерки, правила и дори регулации са ефективни в глобалната надпревара само ако са съгласувани на международно равнище. Администрацията на американския президент Доналд Тръмп умишлено и публично подкопава мултилатерализма във всичките му форми, откакто той се върна на власт миналата година, заменяйки го със съперничество и свят на двустранни споразумения, в който Америка има преимущество.

Източник: Ройтерс

Перспективата за многостранно споразумение за строги правила, ограничаващи капацитета на изкуствения интелект, изглежда нереалистична в подобна обстановка, а Тръмп го заяви ясно.

„Тече ПОДЛА конспирация срещу изкуствения интелект и центровете за данни и единственият, който се радва на това, е Китай“, изтъкна Тръмп в профила си в социалните медии.

Междувременно в редакционна статия в подкрепяния от китайското правителство вестник Global Times се твърди, че предупрежденията относно изкуствения интелект са „сценарий от Студената война“, насочен срещу Китай.

Тръмп трябва да се срещне с китайския президент Си Дзинпин следващата седмица във Вашингтон. Ройтерс съобщи по-рано, че двете страни планират отделна среща в средата на септември, на която да обсъдят AI рисковете, водена от правителствени служители на по-ниско ниво.

Но дори и САЩ и Китай да се споразумеят за някои протоколи относно изкуствения интелект, други групи от държави или конкуренти не биха били задължително обвързани с тях.

Ако се прибегне до аналогии с надпреварата във въоръжаването, достатъчно е да погледнем към 23-те години, изминали между създаването на първото ядрено оръжие и подписването на първия договор за неразпространение през 1968 г. Оттогава броят на държавите, разполагащи с ядрено оръжие, се е увеличил от петте постоянни членове на Съвета за сигурност на ООН – всички признати по силата на договора – до девет.

Изкуственият интелект може и да не се отнася изцяло до оръжия за масово унищожение, ⁠и очевидно има многобройни положителни страни – от ускоряване на търсенето на лечения за болести до дори чиста ядрена енергия. Но ако взаимно гарантираното икономическо и финансово унищожение е кредо, правителствата ще се съпротивляват яростно, за да не изостанат.