Джейми Даймън: Mythos увеличава десетократно рисковете за киберсигурността

AI моделът Mythos на Anthropic PBC драстично е увеличил глобалните рискове за киберсигурността, заяви главният изпълнителен директор на JPMorgan Chase & Co. Джейми Даймън.

„Рисковете около изкуствения интелект се увеличиха десетократно след Mythos“, посочва Даймън в интервю за Bloomberg. „Изкуственият интелект създаде уязвимости, за които не подозирахме. Винаги сме се тревожили за киберпространството преди да се появят тези неща“, добавя той.

По време на тестове за безопасност по-рано тази година Mythos си е осигурил достъп до интернет и е предприел неоторизирани действия, което е накарало Anthropic да преразгледа опасността относно възможността усъвършенстваните модели да изпълнят задача по начини, които техните създатели никога не са очаквали. В някои случаи AI моделите са се опитали да добавят зловреден код към онлайн софтуер, което е поредният от редицата пробиви, които засилиха опасенията, че доставчиците на изкуствен интелект не могат да контролират напълно своите творения.

Както OpenAI, така и Anthropic публично признаха, че неволно са нарушили системите на множество институции, включително Hugging Face Inc., докато са тествали своите модели.

„Недостатъкът очевидно е това, което четете за агентите и Mythos и всички тези неща, които могат да причинят проблеми, и това е основателно безпокойство“, посочва още Даймън. „Няма да изпадам в истерия с въпроса „Екзистенциално ли е или не?“. Това, което трябва да направим, е да запретнем ръкави и да работим, за да го поправим“, категоричен е той.

Даймън също така каза, че центровете за данни трябва да се изграждат на места, където общността ги подкрепя.

„Има много щати, които биха ги приели, но имат достъп до енергия“, посочи още главният изпълнителен директор.