Новият AI модел Mythos на Anthropic е сигнал за тревога за всички, не само за банките

Mythos – новият модел с изкуствен интелект, за който Anthropic намекна, че е твърде опасен, за да бъде пуснат на пазара – на пръв поглед изглеждаше като проблем само за банките. Дни след като компанията обяви новата технология, министърът на финансите на САЩ Скот Бесънт свика лидерите на Wall Street, за да се увери, че те вземат предпазни мерки за защита на системите си, което донесе безценна публичност на Anthropic и породи въпроси за това кой получава ексклузивен достъп до това заплашително творение, пише редакторът на Bloomberg Парми Олсън.

Министерство на финансите сега настоява за достъп до Mythos. Една организация, която вече разполага с него, е британският AI Security Institute, който се превърна в най-авторитетния неутрален арбитър в света по въпроса какво се възприема за безопасен и сигурен изкуствен интелект.

Институтът установи, че част от шума около Mythos е оправдан. Той наистина е по-подходящ за използване при сложни кибератаки в сравнение с други AI инструменти като ChatGPT на OpenAI или Gemini на Google. Но той е най-опасен за „слабо защитени“ или опростени системи. Големите банки разполагат с едни от най-сигурните IT системи в света и макар Mythos и други мощни AI инструменти да представляват заплаха в неподходящи ръце, много по-широкият спектър от малки и средни компании изглежда най-уязвим за хакери и злонамерени лица, които използват тези инструменти.

Киберспециалистите отдавна се оплакват, че компаниите третират сигурността като нещо второстепенно, а резултатът са онлайн услуги и софтуер, които са пълни с бъгове, предоставяйки на хакерите възможен начин да проникнат в компютърна система.

Технологичните компании имат подход за преодоляване на този проблем, наречен „отговорно разкриване“. Щом бъде открита уязвимост в софтуера им, те я обявяват пред света заедно с предложение за поправка, давайки на клиентите си време да инсталират нужното и да продължат с ежедневните си дейности. Версията на Microsoft за това е Patch Tuesday, която въпреки името си се отнася до ежемесечно разкриване на уязвимости, открити от компанията в Office 365, Windows и други продукти.

IT екипът в банки като Barclays и Wells Fargo обикновено взимат предложените коригиращи файлове, тества ги, за да се увери, че не нарушават никоя от съществуващите им системи, получава одобрение от ръководството и след това ги внедрява. Това отнема седмици или месеци.

До появата на генеративния AI процесът работеше добре, тъй като обикновено на злонамерените лица им отнемаше още повече време да намерят начин да атакуват система въз основа на разкритата уязвимост. Те трябваше да проучат бъга и да експериментират с различни методи за използване.

AI инструментите промениха всичко това. Дори преди две години хакерите можеха да вземат подробностите за разкритието и да ги поставят в ChatGPT, след което да кажат на бота да сканира публична база данни с изходен код, като например GitHub, за други модели, които след това да бъдат ползвани. Да приемем например, че Microsoft обяви, че изследователите им са открили пропуск в начина, по който Office 365 обработва файлове. Чатботът не само би могъл да предложи как да се използва този пропуск, но и бързо да намери друг софтуер, като Microsoft Outlook или Teams, който има подобни пропуски.

През последните няколко месеца всичко това стана още по-лесно за хакерите, тъй като компаниите за изкуствен интелект обогатиха моделите си с „агентни“ способности, като по този начин реално им предоставиха възможността да действат самостоятелно. Claude Cowork на Anthropic, пуснат на пазара през януари, вече може да изпълнява задачи като изпращане на имейли и създаване на срещи в календара. За онези, които искат да проникнат в софтуера, такива инструменти не само ще откриват слаби места, но и автоматично ще изпробват различни начини да ги атакуват, докато някой от методите не проработи.

Mythos може дори да „изгради верига“ от софтуерния бъг в многоетапни атаки – нещо, което преди това само висококвалифицирани хакери можеха да правят. Това е еквивалентът на крадец, който планира поредица от стъпки за проникване: намиране на първия отворен прозорец, използването му за отключване на вратата отвътре и след това деактивиране на алармата. Всяка стъпка сама по себе си не е достатъчна, но заедно те осигуряват пълен достъп.

Досега влиянието на генеративния AI върху киберсигурността беше неясна. Нямаше нито един инструмент, който да може да стартира опустошителни нови атаки, но големите езикови модели все пак се използваха за усилване на старите трикове в бранша. Хакерите използват чатботове, за да изпипат имейли за фишинг атаки, така че да изглеждат по-достоверни, или генератори на аватари в реално време, за да създават дийпфейк видеоразговори, които подвеждат хората да мислят, че мъжът, седящ в хола си, е млада жена.

Агентният AI обаче ще подхрани самата хакерска дейност, която отдавна е опортюнистично занимание за безскрупулни лица. Злонамерените хакери обикновено не се насочват към банките, защото те са много добре защитени. Вместо това те сканират мрежата, за да открият уязвимости, било то болница, в която могат да проникнат, за да отправят искания за откуп, или малък семеен магазин. Последните постижения в AI областта представляват проблем за тези организации, тъй като в момента, в който софтуерен доставчик разкрие дадена уязвимост, те разполагат с изключително малко време, за да актуализират и поправят системите си.

Според zerodayclock.com средното време между публичното разкриване на софтуерен пропуск и създаването на действаща атака е спаднало от 771 дни през 2018 г. до по-малко от четири часа днес.

Представянето на Mythos от Anthropic със сигурност е от полза за собствените им рекламни усилия преди първичното публично предлагане, засилвайки мистиката около потенциала на технологията им. Но това също така налага така необходимата преоценка на факта, че времевият прозорец между публикуването на IT уязвимости и тяхното експлоатиране на практика е изчезнал. Това повдига въпроси дали „отговорното разкриване“ изобщо е толкова умна идея и дали процесът на поправяне на уязвимости в продължение на седмици и месеци вече е безсмислен.

Дори Wall Street все още не може да отговори на тези въпроси, но банките поне разполагат с необходимия персонал и средства, за да осъществят сложните структурни промени, които са необходими, за да могат в крайна сметка да прилагат корекции почти в реално време. По-големият проблем ще бъде за по-малките фирми, които трябва да действат също толкова бързо и които ще се нуждаят от техническа и регулаторна помощ, каквато пазарът все още не може да им предостави.