Какво ще стане, когато китайският AI излезе извън контрол?

Неотдавнашната поредица от инциденти в САЩ разбуни отново разгорещения дебат за това доколко е безопасно да се разреши на системи с изкуствен интелект (АІ) да действат самостоятелно. Все по-голям брой изследователи в самите засегнати компании също предупреждават за „екзистенциални“ опасности, като Anthropic дори посочва тези опасения пред инвеститорите в проспекта си за първично публично предлагане, пише колумнистката на Bloomberg Катрин Торбеки в материал. За Китай рисковете от непосредствени заплахи за пазара на труда и по-тревожните сценарии, напомнящи научната фантастика, като хакерски атаки срещу критична инфраструктура правят все по-трудно пренебрегването на този обществен отзвук като просто поредната специфично американска мания.

Пекин отхвърли някои от тези предупреждения, определяйки ги като „насаждане на страх“, и разглежда призивите за забавяне на развитието на АІ като опит за възпиране на Китай. Въпреки това, в рамките на самата индустрия се чуват мнения, че тези авангардни рискове просто не се усещат толкова остро на местна почва, тъй като страната изостава спрямо САЩ. Ерик Сю, ротационен председател на Huawei Technologies Co., изрази съмнение дали китайският АІ е достатъчно напреднал, за да се сблъска с „вида рискове“, които доставчиците в САЩ все по-често обсъждат. Създателите на АІ модели в Китай „може да се наложи да ускорят темпа“, за да достигнат ниво, при което „също биха усетили рисковете“, посочва Сю, цитиран от Ройтерс, като същевременно призна необходимостта от баланс. Това показва как световният дебат е поел в неконструктивна посока.

Ускоряването на надпреварата е погрешен подход и от двете страни на Тихия океан. В Китай съществуват близо 1000 големи езикови модела (LLM), по данни на Bloomberg Intelligence. Конкуренцията в такъв мащаб кара дори главоломния темп на развитие в Силициевата долина да изглежда сподавен. Китайската индустрия също така влага значително повече ресурси в агенти или системи, способни да действат по-автономно. Неправомерното поведение на агенти, особено инцидентът с Hugging Face Inc. през юли, когато агент на OpenAI излезе от средата си за оценка и проникна в системите на Hugging Face, постави началото на настоящата оценка за безопасността. Както показа краткотрайният бум около OpenClaw, дори широката публика в Китай без технически познания е готова да експериментира с тях. Това означава, че ако АІ агентите по своята същност са по-рискови, вероятно е само въпрос на време да станем свидетели на тревожно поведение и при китайските АІ инструменти.

Компаниите си дават сметка за това. В скорошна публикация на DeepSeek, сред чиито съавтори е основателят и главен изпълнителен директор Лян Уънфън, директно се предупреждава, че поведението на AI агентите може да бъде „ненадеждно“. Излизането извън контролираната среда също не е риск, присъщ единствено на САЩ. Моделът Kimi K3 на Moonshot AI е използвал вратичка в защитената си среда (т. нар. пясъчник) по време на тестове за киберсигурност, посочват от базираната в САЩ компания Frontier Security. Също така, някои китайски AI агенти са демонстрирали същите измамни и тревожни тенденции, които породиха опасения и за инструментите в САЩ.

Макар Пекин да отхвърля част от апокалиптичните прогнози, политиците следят ситуацията внимателно. През септември Китай публикува „Рамка за управление на безопасността на АІ 3.0“ – документ, който беше издаден и на английски език очевидно с цел да достигне до западната аудитория. В него изрично се предупреждава, че изкуственият интелект демонстрира тенденция към „самоускоряващо се развитие“, и се отбелязва, че въпросът дали това може да излезе извън човешкия контрол изисква внимание и бдителност.

Друг ключов аспект на съвременните дебати за безопасността е рекурсивното самоусъвършенстване (RSI) – способността на AI системите самостоятелно да надграждат собствените си възможности. Именно този път на развитие накара изследовател от компанията Anthropic да напусне и да предупреди, че създателите на технологията искрено вярват, че тя може да „убие всички ни“ в рамките на едно десетилетие. Както отбелязва Зилан Циен от Oxford China Policy Lab, Китай е напреднал в това отношение повече, отколкото мнозина на Запад предполагат, отчасти защото китайските изследователи описват процеса с различна терминология. Всичко това разкрива колко ограничена е видимостта на всяка от страните за рисковете, свързани с разработките на другата.

Обсъждайки рисковете, свързани с тази технология, президентът Си Дзинпин предупреди – включително в скорошен разговор с президента на САЩ Доналд Тръмп, – че „АІ трябва да остане под човешки контрол“.

Корестната мотивация на Си да поддържа ред отваря ограничен прозорец за сътрудничество в рамките на диалог за ограничаване на рисковете. Това същевременно разкрива ограниченията на протоколите за безопасност, произлезли от срещата на върха между Тръмп и Си – а именно новият „канал“ за докладване на инциденти, свързани с АІ. Подобни горещи линии невинаги са били ефективни. По време на кризата с китайския шпионски балон през 2023 г. Пентагонът се опита да се свърже с китайските си колеги чрез кризисна линия, но Пекин отказа разговора. Освен това такъв механизъм по своята същност действа със задна дата. Споделянето на информация за превантивно управление на риска не е задължително да зависи единствено от преговори между правителствата, особено когато регулаторите може да се затрудняват да поддържат темпа на технически познания. Би било по-продуктивно да съществуват платформи, чрез които компаниите и изследователите да обменят информация по-директно.

Китай прилага строги регулации по отношение на изкуствения интелект; представянето на технологията като „плашило“ вече не е убедително оправдание за бездействието на законодателите във Вашингтон.

Ако китайските АІ системи изостават само с няколко месеца и мащабните усилия на страната за разработване на автономни агенти се увенчаят с успех, вероятно е само въпрос на време от другата страна на Тихия океан да възникнат по-тревожни сценарии. Законодателите трябва да действат, преди следващият инцидент да се окаже нещо повече от предупреждение.