И най-новият модел на китайската Moonshot успя да избяга от контролираната си среда

Най-новият модел за изкуствен интелект (АІ) на китайската фирма Moonshot е успял да излезе от контролираната среда за кибертестове – пореден инцидент, който повдига въпроса за това колко добре АІ компаниите контролират своите технологии, съобщава Bloomberg.

Kimi K3 на Moonshot е успял да се измъкне от т. нар. пясъчник на Института за сигурност на изкуствения интелект на британското правителство, според Frontier Security, американска изследователска организация за киберсигурност. Въпреки че китайският модел не се е опитвал да проникне в уебсайтовете на други компании, както в някои от случаите с други агенти, тестът показва, че му липсва киберконтрол, казаха изследователите.

„Моделът на Kimi, който е публично достъпен, няма тези предпазни мерки“, каза Ярон Сингър, основател и главен изпълнителен директор на Frontier Security, в интервю за Bloomberg News. „По принцип това го прави много добър хакерски модел“, допълни той.

Представител на Moonshot не е коментирал за медията. От Института за сигурност на изкуствения интелект не са отговорили веднага на исканията за коментар.

Moonshot се присъединява към американските фирми Anthropic PBC, OpenAI и Meta Platforms Inc., които през последните седмици съобщиха за нарушения, довели до това техните модели да избягат от тестови среди, което алармира изследователи и държавни представители, които призоваха за по-строг надзор и по-сигурни тестови среди. По-рано американските модели с изкуствен интелект също така хакнаха системите на външни организации, включително Hugging Face.

Пускането на Kimi K3 изненада със способностите си, конкуриращи се с някои от най-добрите предложения от OpenAI и Anthropic. Това бе изненадващ пробив за фирмата, която работи в сянката на местния конкурент DeepSeek.