Какво би направил един луд генерал с AI и ядрени бомби?

Миналата седмица пропътувах немалко разстояние, за да присъствам на неофициална лекция на тема изкуствен интелект (AI), изнесена от ръководителя на една от най-големите разузнавателни агенции на запад. Като много хора, дори тези, които са запознати със света на отбраната и сигурността, аз не знам почти нищо за АІ и революцията, която ще повлияе на живота на всички, разказва в материал за Bloomberg Макс Хейстингс.

Пътуването в крайна сметка се оказа, че не си е струвало бензина. Публиката на мозъчния тръст беше атакувана с половин час скучнотии за това колко важен ще бъде АІ, необходимостта да се регулира и използва разумно. Въпреки това, нашият лектор не си направи труда да обясни какво ще направи AI, освен очевидното – да мисли автономно. Чудех се, докато си тръгвах, дали наистина и те знаят за какво всъщност става дума.

Започвам с тази история, така че ако се чувствате невежи като мен, трябва да сте спокойни, защото имате компания. Но въпреки това всички ние можем да разберем факта, че AI ще играе ключова роля при вземането на решения от всякакъв вид, търговски, държавни и военни. На бойното поле почти всички бъдещи оръжейни системи ще имат AI способности, например да синхронизират рояци дронове и да реагират на наближаващи ракети с буквално свръхчовешка бързина. Съществуват опасения обаче, че дори най-оптималните ходове на AI все пак ще насърчат ескалация.

Някои експерти отиват дори още по-далеч в своите предсказания. В нова книга, завършена и написана в съавторство с мъдреците от технологичния сектор Ерик Шмид и Крейг Мънди, покойният вече Хенри Кисинджър твърди, че „имунизиран срещу страх и предпочитания, АІ въвежда нова възможност за обективност при вземането на стратегически решения“. Кисинджър и колегите му виждат възможността машините да се държат по-рационално, и следователно по-добре, от такива агресори като руския президент Владимир Путин.

Повечето от нас са по-предпазливи и наистина нервни. Ако не сме вярвали, че президентът на Китай Си Дзинпин и новоизбраният американски лидер Доналд Тръмп ще вземат мъдри решения за мир или война, то сме още по-ужасени от представата за машини, притежаващи власт върху техните преценки. Стивън Фелдщайн от Фондацията „Карнеги“ за международен мир казва, че АІ „помага да се ускори новата епоха на геополитиката“, която „неизбежно ще оформи функционирането на демокрацията и държавното управление“.

Увеличаващата се сила на чатботовете ще даде възможност на злонамерени актьори значително да повлияят върху формирането на политическо мнение чрез публикуването на огромен обем пропаганда като факти, което допълнително ще отрови обществения дискурс по начин, който вече е постигнат от много десни медии чрез социалните мрежи.

Като се има предвид, че всеки ден виждаме компютърни системи на авиокомпании да се сриват и правителствени бази данни да са хаквани, изглежда ужасяващо да се мисли за бъдеще, в което проблем в системата може да изстреля ядрена ракета. Ние просто не вярваме на „експертите“, които се стремят да ни уверят, че AI няма да получи правомощия да направи нещо такова.

Мнозина от нас са гледали превъзходната филмова сатира на Стенли Кубрик от 1964 г. „Д-р Стрейнджлав“, в която луд американски генерал изпраща група стратегически бомбардировачи срещу Съветския съюз, но по-късно президентът на САЩ открива, че руснаците са създали машина, която ще отприщи автоматичен ядрен удар в случай на американска атака. Останалото е в бъдещето, както се казва.

Шест десетилетия по-късно ние сме длъжни да разчитаме, както човечеството в миналото, на това, че жителите на планетата ще запазят достатъчно чувство за самосъхранение, за да не изграждат системи с автономна власт, за да ни унищожат всички. И все пак изглежда логично да се опасяваме, че самите Си, Путин, Тръмп и Ким Чен Ун разбират тънкостите на технологията не по-добре от мен, а  може би и от вас.

Никога няма да забравя историята – за което има исторически сведения, а не е само легенда – за Уинстън Чърчил, към когото се обърнал неговият главен научен съветник през август 1941 г. и поискал разрешение да продължи работа по процеса на ядреното делене с крайната цел да създаде бомба. Това е семето, което по-късно даде плодове чрез богатството и силата на САЩ с проекта „Манхатън“.