Истинските причини да се страхуваме от AI и оръжията за масово унищожение

Голямата картина: най-голямата опасност може да се окаже самото човечество

За съжаление, ако погледнем по-широката картина, перспективата изглежда още по-тревожна.

Изкуственият интелект има множество други ефекти, които все още не разбираме напълно. Технологията улеснява всеки, който действа недобросъвестно, да разпространява дезинформация в огромни мащаби. Това ускорява разпространението на конспиративни теории, подкопава общественото доверие и постепенно разрушава способността ни да постигаме съгласие за това кое е истина, казва Клут.

Согато обществата вече не могат да се обединят около обща представа за фактите, те губят и способността да действат.

А всъщност можем да действаме, добавя Клут.

Историята на Студената война ни е оставила ценен модел.

Макар тогава светът да е разделен на враждебни блокове, човечеството все пак успя да постигне съгласие по ключови международни договори, сред които Конвенцията за забрана на биологичните оръжия, Договорът за неразпространение на ядрените оръжия и редица други споразумения за контрол над въоръженията.

Благодарение на тях броят на ядрените бойни глави в света намалява от приблизително 64 000 през 80-те години на XX век до малко над 12 000 днес, въпреки че тенденцията отново започва да се обръща.

Поуката от онзи период е още по-актуална в наши дни:

Ако искаме да управляваме рисковете, които застрашават човечеството като вид, ще трябва да оставим настрана политическите различия, омразата и личните си амбиции.

И, както гласи популяризираната от американския президент Роналд Рейгън руска поговорка, трябва „да се доверяваме, но и да проверяваме“.

Няма особено значение в какъв формат ще се осъществява това международно сътрудничество, макар че Организацията на обединените нации (ООН) изглежда като най-логичното място, откъдето то да започне, посочва авторът.

Както всяка технология от откриването на огъня насам, и изкуственият интелект носи едновременно огромен потенциал да подобри живота на хората и способност да го направи значително по-лош – дори да сложи край на човешката цивилизация. Всичко зависи от начина, по който ще бъде използван.

„Това, което ме тревожи, не е толкова напредъкът на изкуствения интелект. Тревожи ме регресът на човечеството", заключава Клут.

Той подчертава, че най-големият риск не е технологията сама по себе си, а човешките решения, институциите и способността на обществата да си сътрудничат в момент, когато залозите никога не са били по-високи.