И китайското разузнаване отправи предупреждение за развитието на АІ

Един от най-високопоставените представители на китайското разузнаване стана поредният глас, изразил предупреждение за бързия темп на развитие на изкуствения интелект (АІ). Според министъра на държавната сигурност Чен Исин бързият напредък в технологиите може да застраши политическата стабилност и ключовата инфраструктура, съобщава Bloomberg.

Злоупотребата с изкуствен интелект от противници може „пряко да застраши политическата сигурност, институционалната сигурност и идеологическата сигурност на Китай“, написа министърът в статия, публикувана в неделя в официалното списание China Cyberspace. Той също така посочи нарастващата способност на изкуствения интелект да открива недостатъци в системите и да създава зловреден софтуер или такъв, който да се възползва от тези слабости.

Статията представлява един от най-ясните досега отчети за това как Китай оценява опасностите от АІ. Тя съвпада и с призивите на лидерите от водещи американски технологични фирми за по-умерен темп на развитие, въпреки че засега няма признаци изявленията да са били координирани. В статията не се споменават изказванията от Anthropic или OpenAI за забавяне на развитието при авангардните модели.

Съоснователят на Anthropic Дарио Амодей посочи в публикация в блога си в събота, че възможностите на АІ изпреварват предпазните мерки и предложи координация между компаниите, САЩ и други демокрации. Чен Исин също наблегя на безопасността в статията си, но той разглежда рисковете главно през призмата на политическия контрол, технологичния суверенитет, чуждестранните заплахи и стратегическото съперничество.

Начело на опасенията на Пекин е възможността „враждебни сили“ да водят „войни на общественото мнение“ и „когнитивна война“. Дийпфейкове, генерирани от изкуствен интелект текстове и изображения, както и ботове в социалните мрежи биха могли да бъдат използвани за фабрикуване на политически слухове, разпространение на вредна информация и подбуждане на социални разделения, пише той в списанието, управлявано от китайската служба за киберпространството.

Според статията уеб роботите, системите за извличане на данни и профилиране, задвижвани от АІ, биха могли да засилят способността на чуждестранните разузнавателни агенции да събират чувствителна информация, включително държавни данни, търговски тайни и лична информация.

Чен също предупреди, че страни с предимство в областта на изкуствения интелект могат да се позоват на националната сигурност, за да наложат технологичен контрол, да „монополизират“ индустриалните стандарти и да изградят екосистеми със затворен код, повтаряйки заявеното от китайския президент Си Дзинпин противопоставяне на разширяването на концепцията за национална сигурност в речта му през юли.

По-рано в неделя главният изпълнителен директор на OpenAI Сам Алтман добави подкрепата си към идеята за модериране на темпа на АІ развитие, така че авангардните модели да не изпреварват способността на хората да упражняват контрол.

Алтман, повтаряйки думите на главния изпълнителен директор на Anthropic, Дарио Амодей, заяви, че това изместване на фокуса към безопасността ще има цена, но ще си струва, за да се запази увереността, че американските компании разработват отговорно все по-способен изкуствен интелект.

„Никакъв американски конкурентен натиск не бива да оправдава безразсъдството или да позволява на възможностите да изпреварват съгласуването и мониторинга“, написа главният изпълнителен директор на OpenAI в публикация в X, подчертавайки също, че идеята за гарантиране на безопасността не означава спиране на напредъка.