АІ апокалипсисът изглежда по различен начин в Китай

Вместо унищожението на света от агенти с изкуствен интелект (АІ), Пекин има по-непосредствен кошмар: технологията първо може да помогне на хората да разпокъсат обществото, пише колумнистката на Bloomberg Катрин Торбеки.

След като Силициевата долина прекара последната седмица в разпалване на страхове от унищожението на човечеството от АІ, Китай определи предупрежденията като „всяване на страх“. Министърът на държавната сигурност Чен Исин отделно написа есе, публикувано в неделя, което дава поглед към някои от най-големите страхове на Пекин. В него не се споменава изчезването на човечеството. Основното безпокойство е как технологията може да разруши социалната стабилност чрез фалшиви видеа  (дийпфейк), операции за оказване на влияние и когнитивна война в голям мащаб. Второ, киберзаплахите биха могли да улеснят значително събирането на чувствителна и лична информация.

Тези два риска могат да вървят ръка за ръка: по-рано този месец малък екип от изследователи по киберсигурност в Калифорния публикува открития, показващи как са успели да симулират мащабен пробив в WeChat – суперприложението, което по същество служи като ключова цифрова инфраструктура за ежедневни операции в Китай. Базираната в Пало Алто компания Calif, която публикува за т. нар. заплаха WeWorm, потвърди, че собственикът на WeChat, Tencent Holdings Ltd., е ограничила риска.

Но въпреки това демонстрацията на изследователите е достатъчно обезпокоителна, за да държи властите в Пекин будни през нощта: екипът подробно описа как биха могли да използват инструменти с изкуствен интелект, за да създадат грешка, която е способна да поеме пълен контрол над акаунт в WeChat за секунди. Всичко, което обикновеният потребител вижда, е входящо обаждане от някой от списъка му с контакти.

И все пак има надежда. Работата с Tencent е преминала гладко и не е имало технически проблеми, казва Брус Данг от Calif по имейл, добавяйки, че инженерите са били отзивчиви и проблемите са били „отстранени бързо“. Бедствие, което би могло да дестабилизира платформа, използвана от повече от милиард души за управление на бизнеси, плащания на стоки и комуникации, е осуетено благодарение на бързото трансгранично сътрудничество.

В публикация в блога си главният изпълнителен директор на Calif Тай Дуонг описа експеримента като „призив към САЩ, Китай и други правителства да работят заедно и да си сътрудничат с частния сектор за безопасно разработване и внедряване на АІ“. По-специално, той добавя, че обвиненията срещу АІ и ограничаването на по-нататъшното му развитие е „грешният урок“. Уязвимостите вече са налице, това, което се промени, е, че изкуственият интелект може да ги „открие и поправи“. С други думи, случаят с WeChat не е, за да се забави надпреварата, а да се превърне прозрачността в изпълним път напред, който е политически приемлив както във Вашингтон, така и в Пекин.

Въпреки увеличаващите се предупреждения за апокалипсис от Силициевата долина китайският президент Си Дзинпин подчерта позицията на Пекин за „отворена екосистема за изкуствен интелект“ по време на изказванията си на срещата на върха на БРИКС в Ню Делхи в неделя. Си призова за рамка за управление, „базирана на консенсус“, което означава, че не само САЩ определят правилата.

Призивът е сходен с този на шефа на разузнаването Чен за международно сътрудничество по отношение на рисковете, като същевременно не се допуска една държава да монополизира силата на изкуствения интелект (слабо прикрит намек към САЩ). Властите в Пекин вероятно няма да се съгласят на наложена от Вашингтон пауза в развитието, но ако искат да водят света в технологиите, трябва да са готови да работят с други държави за справяне със заплахите, които и двете страни поне признават. Това може да не спре АІ надпреварата, но е малка стъпка към това да я направи далеч по-малко безразсъдна.

Най-новият призив за безопасност в САЩ е невероятно кухата фраза „pace the frontier“ (т.е. да се ограничи напредъкът на най-иновативните АІ модели) – предложение от Дарио Амодей от Anthropic, което бе подкрепено от Сам Алтман от OpenAI и Илон Мъск от xAI. Изявление в подкрепа на тази концепция е събрало повече от хиляда подписа от почти всички водещи компании за изкуствен интелект в Силициевата долина. Но малцина изглежда знаят какво всъщност означава това. Ако те са основателно загрижени за самоусъвършенстващия се изкуствен интелект, който ще сложи край на човечеството, смътните призиви за забавяне са забележително слаб отговор.

И все пак би било в интерес на тези фирми да харчат по-малко ресурси в опита си да създадат свои технологичен Бог и повече, за да гарантират, че с продуктите им няма да се злоупотребява. Те не могат да отприщват кибероръжия и едновременно с това да продават защитни средства. Вместо това предполагаемо „забавяне“ на АІ развитието под условията на бизнеса, политиците трябва да изискват максимална прозрачност относно рисковете, които са налице сега, а не разкриване на информация месеци след даден инцидент.

За негова чест, самият Амодей подкрепи това в своя манифест от над 3800 думи, публикуван след като един от служителите му напусна компанията и предупреди, че според хората, които създават АІ, е възможно технологията „да ни убие всички“. Независимо от поетите ангажименти, каза Амодей, „обществеността заслужава да знае какво се случва“. И е прав.

Пекин и Вашингтон може да не са в състояние да се споразумеят за много неща, когато става въпрос за управлението на АІ. Но случката с WeChat е знак, че трансграничното споделяне на риска е възможно. АІ вече е променил интернет и поверителността, каквито ги познаваме. Представете си кибератака, която разкрива всяка лична комуникация, която някога сте изпращали, и хаоса, който би се отприщил сред бизнеса и обществеността. Създаването на канали за комуникация за изследователи и компании, за да споделят това, което виждат, и да сигнализират за нововъзникващи заплахи, по същество ще успокои донякъде динамиката на надпревара и ще създаде възможност за провеждането на по-трудните дебати.

Ако САЩ и Китай не могат да си сътрудничат по отношение на вече съществуващите опасности, има малка надежда, че ще се справят с онези, за които самите създатели на АІ предупреждават, че биха могли да бъдат краят на всички нас.