Банковите регулатори засилват AI контрола заради опасенията за стабилността

Банковите регулатори засилват усилията си за ограничаване на нарастващите рискове от изкуствения интелект, пише Ройтерс, като се позовава на шестима запознати източници. Някои посочват потенциала за кибератаки срещу банки или за нелоялни агенти, които подкопават глобалната финансова стабилност.

Регулаторният контрол отразява нарастващото признание, че напредъкът в областта на граничния изкуствен интелект може да изисква скъпи инвестиции в кибервъзстановяване, по-голямо внимание към зависимостите от външни доставчици на технологии, а в някои юрисдикции по-формални регулаторни насоки, според източниците на агенцията.

Водещи регулатори в САЩ, включително Федералният резерв, разпитват банките за използването на усъвършенствани модели на изкуствен интелект, посочват двама от източниците пред Ройтерс.

Въпросите включват дали те внедряват разработени в Китай технологии, използват AI агенти в киберзащитата и могат да контролират все по-автономните системи, допълват трима от източниците на агенцията.

В Европа надзорните органи, включително Английската централна банка и Европейската централна банка (ЕЦБ), оказват натиск върху банките да подобрят плановете си за възстановяване. Институциите са загрижени, че бързият напредък в областта на изкуствения интелект може да причини сериозни вреди и смущения на финансовите пазари по-рано, отколкото са се опасявали досега, съобщават трима запознати източници.

Висш ръководител в голяма европейска банка коментира, че и кредиторите са загрижени за потенциално големи щети за банковото дело и финансовите пазари в рамките на шест месеца.

Дебатът относно надзора върху изкуствения интелект се засилва на фона на предупрежденията от индустрията след скорошни инциденти. Главният изпълнителен директор на JPMorgan Джейми Даймън например призовава корпоративните лидери да се присъединят към фокусирана върху САЩ индустриална група за разрешаване на рисковете, свързани с изкуствения интелект, съобщава Ройтерс.

Американската компания за киберсигурност CrowdStrike коментира, че този месец човек в Китай вероятно е използвал разработен в страната агент с изкуствен интелект и кода Claude на Anthropic при хакване на южнокорейски банки. По-рано избягали от ограничена среда AI агенти, разработени от OpenAI, бяха замесени в пробив в платформата за изкуствен интелект Hugging Face.

Изследователи предупреждават, че все по-мощните AI системи биха могли да излязат от човешки контрол и да представляват екзистенциална заплаха, което води до призиви за по-строга регулация.

Международният валутен фонд предупреди във вторник срещу „самодоволството“ на световните финансови пазари. От Фонда посочват различни рискове, включително потенциала за кибератака, и казват, че голяма атака, засягаща критична услуга или финансова институция, може да подкопае доверието. Институцията призова политиците да повишат капацитета си за киберсигурност.

Банките се конкурират в приемането на агентен изкуствен интелект, който може да изпълнява задачи с минимален човешки надзор. Същевременно те се затрудняват с предизвикателствата на новите модели.

„Въвеждането на изкуствен интелект често изпреварва способността за въвеждане на контрол“, казза Майкъл Уудбридж, партньор по киберсигурност в Grant Thornton, базиран в Лондон.

Регулаторните разследвания на САЩ се фокусират върху това как банките използват агентен изкуствен интелект в области като киберсигурността, като се фокусират върху това дали агентите се използват за идентифициране, приоритизиране и реакция на заплахи.

Въпросите от страна на Службата на контрольора на валутата (OCC), Федералната корпорация за застраховане на депозитите (FDIC) и Федералния резерв се фокусират върху ограниченията, наложени на системите, начина, по който действията им се наблюдават и одобряват, както и върху това дали банките могат ясно да проследяват и одитират решенията на AI агентите, според източниците на агенцията.

Регулаторите също така се интересуват какви защитни механизми съществуват, за да се предотврати превишаването на правомощията от страна на агентите, дали хората участват във вземането на ключови решения и как банките могат да спрат работата на автономните системи.

Писмените и устните запитвания до големи, средни и малки банки показват, че регулаторите се фокусират върху уязвимостите, които произтичат от използването на AI от страна на банките, както и върху готовността им за реакция.

Надзорните органи във Великобритания например насърчават най-големите банки да разгледат т.нар. планове за възстановяване на „чист хардуер“. Тези системи са напълно независими от основната технологична инфраструктура на банката и могат да се задействат, ако основните операционни системи бъдат компрометирани.

Изграждането и поддържането на такива модерни системи за възстановяване обаче е скъпо.

През юли Европейската централна банка (ЕЦБ) постави на кредиторите краен срок до края на октомври да изготвят планове за противодействие на киберзаплахи, свързани с изкуствения интелект.