AI лидерите предупредиха ООН за рискове за сигурността, европейските компании не вярват на заплахите

Водещите световни компании в областта на изкуствения интелект (AI) предупредиха в сряда Съвета за сигурност на ООН за рисковете, които AI носи за човечеството, и призоваха правителствата да работят заедно за управлението на тази все по-мощна технология, съобщава Ройтерс.

Главният изпълнителен директор на Anthropic Дарио Амодей заяви пред 15-членния съвет, който отговаря за поддържането на международния мир и сигурност, че според него, ако се управлява неправилно, „AI може да представлява риск за човечеството като цяло“.

Срещата, свикана от Франция по време на годишната среща на световните лидери в рамките на Общото събрание на ООН, се провежда на фона на предупрежденията, че AI системите скоро биха могли да се самоусъвършенстват и да излязат извън човешкия контрол.

„Въпреки всички различия между хората в тази зала, трябва да оставим настрана тези различия, за да се изправим пред тази глобална възможност и глобална заплаха, които излизат пред нас едновременно. Нито един лидер, нито една компания и нито една страна не може да се справи с това сама“, заяви Амодей.

Правителствата по целия свят се затрудняват да се движат заедно с бързия напредък в областта на изкуствения интелект. Съединените щати и Китай – двете водещи сили в развитието на AI, са възприели различни подходи към надзора.

Президентът Доналд Тръмп твърди, че САЩ не се нуждаят от нови специфични за AI регулации, докато Китай наложи правила, регулиращи AI алгоритмите и данните за обучение, включително изисквания генерираното от AI съдържание да бъде ясно обозначено.

Съоснователят на Hugging Face Клеман Деланге подчерта ролята на инструментите с изкуствен интелект в защитата срещу кибератаки, припомняйки инцидент, при който AI агенти на американския гигант OpenAI проникнаха в инфраструктурата на Hugging Face, след като избягаха от тестовата си среда.

„Бяхме атакувани от изкуствен интелект, но по-важното е, че се защитихме с изкуствен интелект“, заяви той пред съвета.

Деланге заяви, че Hugging Face е разчитал на китайски AI модел, за да се защити от атаката на агентите на OpenAI, тъй като той е бил подложен на по-малко ограничения в сравнение със сходни американски инструменти. Коментарите му подчертаха нарастващото присъствие на китайските продукти с изкуствен интелект, които привличат потребители по целия свят, отчасти защото могат да предложат по-евтини алтернативи на американските модели.

Изпълнителният директор на OpenAI Сам Алтман заяви, че е необходимо международно сътрудничество.

„Ако AI трябва да бъде демократичен, най-важните решения не могат да се вземат само от лабораториите в Сан Франциско. Те трябва да се формират чрез демократични процеси и от правителства, които носят отговорност пред хората, на които служат“, заяви Алтман пред съвета.

Йошуа Бенгио, канадец, смятан за един от „бащите основатели на изкуствения интелект“ и съпредседател на Независимия международен научен панел, създаден от Общото събрание на ООН миналата година, заяви пред Съвета за сигурност: „Опасностите са реални и непосредствени.“

„Този съвет е изправен пред безпрецедентна заплаха – такава, която никой от неговите членове не би избрал, която никой не може да овладее сам и която не зачита границите, които защитаваме“, каза той.

Не всички вярват на предсказващите гибел

На фона на изразените през последните седмици опасения водещите европейски лидери в технологичния сектор и експерти по киберсигурност отговарят все по-категорично: пренебрегнете сензационните спекулации и се заемете с трудната работа по осигуряването на сигурността в цифровия свят. Този прозаичен призив е в сърцевината на все по-острата реакция в европейската технологична индустрия срещу създадения от САЩ шум около изчезването на човечеството заради изкуствения интелект, пише Politico.

Ръководители и специалисти по киберсигурност твърдят, че тази нагласа пречи на укрепването на защитата и че политическата суматоха около реакцията рискува да приложи грешно решение на грешен проблем.

„Изобщо не мисля, че Терминаторът идва“, коментира Джеймс Уайз от Balderton Capital. Александру Войца от Synthesia призовава съществуващите правила и стандарти да се прилагат в мащаб, вместо да се зацикля върху теоретични рискове.

Изследователят в областта на киберсигурността Маркъс Хътчинс изтъква, че апокалиптичните наративи пренебрегват поведението и възможностите на хакерите и че те предизвикват „умора от бедствия“, която възпрепятства предприемането на важни мерки като актуализациите за сигурност.

Скептиците разглеждат случая с Hugging Face като обикновен провал, а не като модел, излязъл извън контрол. OpenAI знаеше, че моделът е добър в експлоатирането на софтуерни бъгове, но въпреки това го тества с намалени предпазни мерки и не го ограничи адекватно в „пясъчника“, нито го наблюдаваше достатъчно внимателно, коментират експерти.

„Много проблеми могат да бъдат решени, ако тези компании просто действат малко по-отговорно“, казва Пим де Вите от General Intuition.

Твърдението на главния изпълнителен директор на Anthropic Дарио Амодей, че агент с изкуствен интелект може да поеме контрола над интернет, беше осмивано и опровергано в кръговете на киберсигурността.

Главният изпълнителен директор на Legora Макс Юнестранд заяви, че „голяма част от това е маркетинг“, макар че подчертава, че достъпът до най-новите американски модели е ключов за сигурността на компанията му.

Дори критиците все пак са съгласни, че най-усъвършенстваните модели са изключително мощни киберинструменти и стратегически актив, до който Европа трябва да има достъп, като последиците от тях са трудни за предвиждане. Те обаче отбелязват, че реалните атаки вече нарушават функционирането на критичната инфраструктура и че защитните инструменти са добре утвърдени.

Винсент Струбел, директор на френската ANSSI, казва, че изкуственият интелект носи както значителни рискове, така и огромни възможности, които изискват сериозна работа, но не и „нова паника на всеки две седмици“.