AI моделът Mythos на Anthropic PBC драстично е увеличил глобалните рискове за киберсигурността, заяви главният изпълнителен директор на JPMorgan Chase & Co. Джейми Даймън.
„Рисковете около изкуствения интелект се увеличиха десетократно след Mythos“, посочва Даймън в интервю за Bloomberg. „Изкуственият интелект създаде уязвимости, за които не подозирахме. Винаги сме се тревожили за киберпространството преди да се появят тези неща“, добавя той.
По време на тестове за безопасност по-рано тази година Mythos си е осигурил достъп до интернет и е предприел неоторизирани действия, което е накарало Anthropic да преразгледа опасността относно възможността усъвършенстваните модели да изпълнят задача по начини, които техните създатели никога не са очаквали. В някои случаи AI моделите са се опитали да добавят зловреден код към онлайн софтуер, което е поредният от редицата пробиви, които засилиха опасенията, че доставчиците на изкуствен интелект не могат да контролират напълно своите творения.
Както OpenAI, така и Anthropic публично признаха, че неволно са нарушили системите на множество институции, включително Hugging Face Inc., докато са тествали своите модели.
„Недостатъкът очевидно е това, което четете за агентите и Mythos и всички тези неща, които могат да причинят проблеми, и това е основателно безпокойство“, посочва още Даймън. „Няма да изпадам в истерия с въпроса „Екзистенциално ли е или не?“. Това, което трябва да направим, е да запретнем ръкави и да работим, за да го поправим“, категоричен е той.
Даймън също така каза, че центровете за данни трябва да се изграждат на места, където общността ги подкрепя.
„Има много щати, които биха ги приели, но имат достъп до енергия“, посочи още главният изпълнителен директор.


Археологическо откритие във Варна изпревари цивилизациите на Древен Египет и Месопотамия
Убийството на Георги Марков и ролята на КГБ отново във фокуса на британско разследване
Варна е и областта с най-голямо търсене на учители и преподаватели в страната
Хлябът поскъпва, производителите изнемогват
Експерт във Варна: За да защитят децата си, възрастните трябва да научат колкото може повече за ИИ
Технологичните сривове: Ето една теория защо всичко се разваля
Остарелият софтуер не е проблем, ако бизнесът управлява риска
Норвегия разширява проучванията за нефт и газ в Арктика близо до Русия
В сянката на Русия Норвегия разширява енергийните си граници в Арктика
Как да спасим следващия Дженсън Хуанг от самия него
Китайско качество? Покривът на нов SUV се... набръчка
Властите в Швеция подменят пътни знаци заради руски танк
Stellantis се оттегля изцяло от моторните спортове
Следващият Maybach ще има водопад в салона
Пет нови брутални кросоувъра от Китай, които копират Defender
Полезно ли е да спите с котката си в едно легло?
Каримански: Държава да се заеме с предизвикателствата пред бюджета
Петко Петков е избран за член на ВСС от квотата на следователите с 323 гласа
Акция на ГДБОП в дома на автоексперта Станимир Карапетков
Петгодишният кибершпионаж срещу институциите ни не е изолиран случай