Какво би направил един луд генерал с AI и ядрени бомби?

Чърчил е отговорил, че не вижда нужда от по-мощно оръжие, когато вече наличните средства за унищожение изглеждат напълно подходящи: „Лично аз съм доста доволен от съществуващите взривни средства.“ Но тъй като учените са били толкова ентусиазирани, не е възразил срещу техните изследвания. Искам да кажа, че като викториански човек, роден през 1874 г., Чърчил не можеше да разбере епохалното значение на ядрения разпад и наистина го направи едва след американските бомбардировки над Хирошима и Нагасаки през 1945 г., посочва още Хейстингс.

Собственият ми баща ми написа писмо, дни след раждането ми през декември 1945 г., което ми даде, когато бях на 21 години, очаквайки, че моето поколение ще прекара живота си, преследвано от призрака на Бомбата. В действителност е невероятно колко весело преминахме през последните 79 години, уплашени от много неща, но само за кратко – по време на Кубинската ракетна криза от 1962 г. – наистина уплашени от перспективата за междуконтинентална ядрена война.

Днес знаем следното: АІ ще се окаже толкова ключов фактор за промяна в света, както и създаването на атомната бомба. В книгата Genesis: Artificial Intelligence, Hope and the Human Spirit, сред чиито автори е и Кисинджър, между пристъпи на оптимизъм се признава и това: „Ако AI се формира като практически независим политически, дипломатически и военно набор от структури, това ще нареди промяна на вековния баланс на силите за сметка на ново, неизследвано неравенство. . . Такъв . . .ред може да стане свидетел на вътрешна имплозия на обществата и неконтролируема експлозия на външните конфликти“.

Пророците на AI предвиждат войната да престане да бъде състезание между съперничещи армии, флоти или военновъздушни сили, управлявани от хора, и вместо това да се превърне в борба между съперничещи си машинни системи. Смелостта или липсата на такава ще престане да бъде фактор. Уменията, които имат значение, няма да бъдат тези на пилоти като от филма Top Gun, а вместо това на софтуерни инженери, които много преди да започнат военните действия, програмират технологията, която води битката.

Войната в Украйна показа доколко ракетите и безпилотните летателни апарати (дронове) сега доминират на бойните полета. Ако управлявах доставки на оръжия за която и да е нация, бих отказал финансиране за всеки нов боен самолет, който няма да влезе в експлоатация много преди 2040 г., който изисква екипаж.

Спомням си чувството си на удивление преди 20 години в хангар извън Кабул, когато за първи път гледах как бивш пилот на B-52 управлява дрон. Тогава усетих, а сега знам, че зърнах бъдещето.

Поне проектът „Манхатън“ беше ръководен от истински хора, дори някои от тях да са били така несъвършени като Робърт Опенхаймер. Изглежда правилно да се плашим от перспективата машини да ръководят нашите бъдещи въоръжени конфликти, да не говорим за управлението на операциите на маркетмейкърите и мениджърите на хедж фондове. Фелдщайн отбелязва, че „перспективите за случайно използване на сила и потенциална ескалация са значителни“. Но AI е на хоризонта. Нямаме друг избор, освен да поддържаме темпа, както са си казали и учените от проекта „Манхатън“ едни на други по време на трите години херкулесов труд за създаването на Бомбата.

Трябва да търсим утеха във факта, че сме преживели първите осем десетилетия на ядрената ера, за която много от нашите родители вярваха, че ще бъде краят ни. Може би нашите деца ще се справят с ерата на изкуствения интелект, която, подобно на Бомбата, оттук нататък няма да може просто да бъде изличен.