Истинските причини да се страхуваме от AI и оръжията за масово унищожение

Изкуственият интелект (AI) променя начина, по който се водят войните – независимо дали става дума за ракети, дронове или сателити, както и за бойни действия по суша, море, въздух, в космоса или киберпространството. Най-страшната перспектива обаче е това, което ни очаква, когато технологията се срещне с оръжията за масово унищожение, особено със зловещата комбинация от ядрени, биологични и химически оръжия, пише Андреас Клут за Bloomberg.

Този въпрос неизбежно поражда тревожни сценарии в един свят, който и без това е разтърсван от войни в Европа, Близкия изток и други региони, от дезинформация и нарастваща поляризация в обществата, от терористични организации и въоръжени недържавни групировки, които се превръщат във все по-значими участници наред с държавите, както и от модернизирането и разширяването на ядрените арсенали в момент, когато последните международни договори за контрол над тези оръжия изтичат или постепенно губят значение.

„Поставяме може би най-мощната технология в историята насред целия този хаос“, коментира пред Клут Даниел Холц, астрофизик в Чикагския университет и ръководител на Лабораторията за екзистенциални рискове. Освен това оглавява комисия към Bulletin of the Atomic Scientists, която всяка година определя символичния Часовник на Страшния съд, при който полунощ означава глобална катастрофа. Днес стрелките му показват 85 секунди до полунощ – най-близкото разстояние до символичния край на света от създаването му през 1947 г.

Страхът от комбинацията между изкуствен интелект и оръжия за масово унищожение сам по себе си може да се превърне в риск. Клут пише, че при разговорите му със законодатели във Вашингтонх усеща една разпиляна и неясна тревога – сякаш човечеството вече е изгубило способността да контролира събитията и неудържимо се носи към Армагедон. Заглавията в медиите допълнително засилват това усещане.

През юли например стана известно, че версия на OpenAI е атакувала самостоятелно друга система. Anthropic призна за подобна ситуация с модела на компанията.

При разговорите му с експерти, които ежедневно работят по тези рискове, картината изглежда далеч по-нюансирана. Заплахите са различни при ядрените, биологичните и химическите оръжия. Освен това, във всички случаи изкуственият интелект ще помага както на нападателите, така и на защитниците – както на „черните шапки“, така и на „белите шапки“.

Истинското предизвикателство е съревнованието между най-тъмните и най-добрите страни на човешката природа, подсилени от технологиите. Това е битка, за която едва започваме да се подготвяме и която все още не е загубена, посочва анализаторът.

Ядрените оръжия: най-голямата екзистенциална заплаха

От трите основни категории оръжия за масово унищожение именно ядрените представляват най-сериозната заплаха за съществуването на човечеството. Достатъчна е една фатална грешка и последствията могат да бъдат необратими.

Макар след края на Студената война темата да избледня донякъде от общественото внимание, рискът от неконтролируема ядрена ескалация днес всъщност се смята за по-висок. Причината е, че ядрената карта на света става все по-сложна.

Китай ускорява увеличаването на своя арсенал, за да се доближи до този на САЩ и Русия. Северна Корея продължава да разширява запасите си. Други държави – не само Иран, също обмислят придобиването на ядрено оръжие. Почти всички от деветте настоящи ядрени сили разработват нови бойни глави, нови средства за доставка и променят военните си доктрини за евентуалното използване на тези оръжия.