Истинските причини да се страхуваме от AI и оръжията за масово унищожение

Дори без намесата на изкуствения интелект повече ядрени бойни глави и повече възможни сценарии за ескалация означават по-висок риск.

Добрата новина – доколкото изобщо може да се говори за такава, е, че сам по себе си изкуственият интелект няма да ускори разпространението на ядрените оръжия.

„Знанията не са основната пречка пред създаването на ядрено оръжие“, обяснява Грегъри Алън, бивш стратег по изкуствен интелект в Пентагона, който ръководи компания за изследване на пресечната точка между новите технологии и геополитиката.

По думите му проблемът е чисто физически и технологичен. „Уранът е широко разпространен елемент, но разделянето на уран-235 от уран-238 е изключително трудно“, казва той. Същото важи и за обработката на плутоний и за всички останали етапи от производството на ядрени оръжия.

Именно тези физически, индустриални и икономически бариери работят в полза на сигурността. Изкуственият интелект може да оптимизира работата на центрофугите или да направи отделни процеси по-ефективни, но не може да превърне ядрената програма в евтина или лесна задача.

Истинската опасност: когато изкуственият интелект започне да участва в решенията за ядрен удар

Истинският риск при съчетаването на изкуствен интелект с ядрените оръжия се крие другаде. Опасността е, че моделите могат постепенно да поемат функции по командването и управлението на ядрените сили, като прехвърлят решения, от които зависи съдбата на човечеството, от хора към машини.

Още днес изкуственият интелект може да помага при обработката на огромните количества информация, които биха постъпили например при едновременна кибератака, нападение в Космоса и удари по суша. Системите могат да анализират данните и да преценят дали наред с тях не се извършва и ядрено нападение, което да задейства тревога.

Това има своите предимства. В момента американският президент разполага с приблизително девет минути между потвърждението за приближаваща ядрена атака и решението дали да нареди ответен удар. Ако изкуственият интелект обработва информацията по-бързо, той може да осигури няколко допълнителни минути за вземане на решение – нещо, което някои хора биха възприели като успокояващо.

Проблемът обаче е друг. „Тези системи халюцинират в определен процент от случаите“, казва Даниел Холц.

Моделите работят най-добре, когато разполагат с голямо количество тренировъчни данни. След атомните бомбардировки над Хирошима и Нагасаки никоя държава не е преживявала реално мащабно ядрено нападение. Следователно няма реални исторически данни, върху които подобни системи да бъдат обучени.

По време на Студената война светът многократно е бил на крачка от ядрена катастрофа заради фалшиви сигнали. Всеки път трагедията е била предотвратявана благодарение на интуицията и преценката на отделни хора, които са отказали да приемат предупрежденията като истински.

Затова една от най-важните цели пред ядрените държави трябва да бъде запазването на човека в процеса по вземане на решения. Специалистите използват термина „смислен човешки контрол“.

Именно това е едно от основните искания в декларация, подписана от група нобелови лауреати, събрани този месец по инициатива на Холц и други учени в папската резиденция Кастел Гандолфо край Ватикана. Темата се радва и на специалното внимание на папа Лъв XIV.

Въпреки това Холц се безпокои. „Каква информация ще достига до човека, който взема окончателното решение?“, пита той.

Практически цялата информация ще бъде филтрирана и представена от системи с изкуствен интелект. Тези модели не изпитват психологическите задръжки, които хората имат към използването на ядрено оръжие. „В определени ситуации изкуственият интелект е значително по-склонен да препоръча използването на ядрени оръжия“, предупреждава Холц. „Той не възприема ядреното табу така, както хората“, подчертава изследователят.

Биологичните и химическите оръжия – изкуственият интелект може да промени правилата

При биологичните и химическите оръжия ситуацията е различна.

За разлика от ядрените програми, при тях основната пречка не са индустриалните мощности, а експертните знания.

Държавите, които в миналото са разработвали биологични оръжия, са разполагали със стотици учени, работещи в специализирани лаборатории, както за да не се заразят сами, така и за да избегнат неволни аварии.

Именно тук изкуственият интелект може да се превърне в сериозен фактор. Той е своеобразен суперучител, способен да предава научни знания и лабораторни умения, като съкращава обучение, което обикновено отнема десетилетия, до дни или дори часове.