Китайската Z.ai обяви нов модел, близък до Mythos 5 на Anthropic в тестовете за киберзащита

Китайският стартъп в изкуствения интелект Z.ai съобщи в петък, че моделът с отворен код GLM-5.3 се е доближил до ограничения Mythos 5 на Anthropic по отношение на откриването на уязвимости в софтуера, засилвайки авторитета на китайския претендент в AI надпреварата, който набира популярност сред западните разработчици, предава Ройтерс.

Z.ai съобщи, че GLM-5.3 е постигнал резултат от 84,5% в CyberGym – тест, който проверява дали даден модел може да преглежда код, да открива пропуски в сигурността и да потвърждава, че те са реални. Този резултат е малко по-висок от отчетените 83,8% за Mythos 5. Резултатите все още не са проверени от независима страна.

GLM-5.3 изостава от Mythos 5 при превръщането на откритите пропуски в работещи атаки – стандартна част от изследванията в областта на отбранителната сигурност. Z.ai съобщи, че моделът ѝ е постигнал резултат от 54,4% в теста ExploitBench за тази способност спрямо 78,0% за Mythos 5.

В отделен тест с ограничение във времето Z.ai заяви, че GLM-5.3 е изпълнил 105 задачи за разработване на атаки за два часа и 130 за шест часа. Mythos 5 е изпълнил съответно 181 и 247 задачи.

Anthropic направи Mythos – версия на модела Claude Fable 5, от която са премахнати защитните мерки за киберсигурност – достъпна само за проверени организации. Такива контролни мерки отразяват опасенията, че AI системите, способни да откриват и експлоатират софтуерни уязвимости, могат да подпомагат защитниците, но също така могат да намалят бариерите пред атакуващите.

Z.ai заяви, че ще пусне GLM-5.3 публично след около две седмици, след като приключи с оценките за сигурност и засили защитните си мерки. Най-чувствителните му функции за киберсигурност ще бъдат достъпни само за проверени потребители чрез програма за „доверен достъп“, посочи компанията.

Тя заяви още, че е добавила няколко нива на защита към GLM-5.3, включително системи за филтриране на рискови заявки, наблюдение на работата на модела и обучението му да отхвърля злонамерени задачи.

Тя посочи, че те са проектирани да разграничават вредната дейност от легитимните приложения, като отстраняване на бъгове, обучение по киберсигурност или оторизирани тестове за сигурност.

Критиците обаче твърдят, че тези предпазни мерки стават по-трудни за прилагане, след като моделът бъде пуснат за изтегляне, промяна или комбиниране с външни инструменти от други потребители.

Предизвикателство към Mythos

Z.ai представи пускането на модела като предизвикателство към модела с ограничен достъп, представляван от Mythos. Компанията изтъкна, че усъвършенстваните инструменти за киберзащита трябва да бъдат достъпни за разработчиците на софтуер с отворен код и по-малките екипи по сигурност, вместо да бъдат контролирани от ограничен брой доставчици на модели със затворен код.

Тя обяви, че ще стартира инициативата Open Source Shield за одит на избрани проекти с отворен код, ще предостави достъп до модели за защитни дейности и ще добави функции за одит на код към програмния си продукт Zcode.

Z.ai не е първата китайска компания, която позиционира свой продукт като отговор на Mythos. Фирмата за киберсигурност 360 заяви през юни, че системата ѝ за откриване на уязвимости Tulongfeng е постигнала възможности, равностойни на тези на Mythos, чрез комбиниране на AI модели с данни за сигурност и автоматизирани инструменти, въпреки че тези твърдения не бяха независимо проверени.

GLM-5.3 се различава с това, че е модел за програмиране с общо предназначение, който според Z.ai е придобил способности в областта на киберсигурността чрез разширено обучение след усилващо обучение, а не е специално създадена система за сигурност. Компанията заяви, че е използвала същия базов модел като GLM-5.2, но го е обучила в по-дълги и по-разнообразни задачни среди.

Пускането на продукта се основава на глобалния интерес към GLM-5.2, който привлече вниманието през последните месеци сред чуждестранните разработчици благодарение на възможностите си за програмиране и работа с агенти, които според потребители и анализатори се доближават до водещите американски модели, но на много по-ниска цена.