Nvidia, SpaceX и Microsoft започват инициатива за безопасност на изкуствения интелект

Nvidia и редица технологични гиганти обявиха в понеделник нова инициатива за безопасност в областта на изкуствения интелект (AI), насочена към отворените модели, на фона на продължаващите последици от кибератаката, извършена от излезли извън контрол модели на OpenAI, съобщи CNBC.

Миналата седмица стана ясно, че целта на атаката – стартъпът Hugging Face – не е успял да използва водещи американски модели за самозащита, тъй като защитните механизми не са разграничили нападателя от защитника. Вместо това той се обърнал към китайски модел, който не е обвързан със същите ограничения.

На фона на все по-сериозните дискусии сред американските законодатели как да се ограничи нарастващото внедряване на китайски AI модели, най-напредналите от които са с отворен код, инициативата на технологичните гиганти е насочена към създаването и споделянето на отворени инструменти с изкуствен интелект.

Моделите с отворен код могат да бъдат изтеглени, модифицирани и хоствани самостоятелно, за разлика от затворените модели — включително авангардните системи, разработени от Anthropic и OpenAI — до които достъпът е възможен само чрез специфична инфраструктура.

„Алиансът „Open Secure AI Alliance“ ще работи за отстраняване и разкриване на уязвимости чрез използване на отворени технологии“, заяви Nvidia в изявление. „Неотдавнашният инцидент със сигурността на Hugging Face ни напомни ясно: специалистите по киберзащита се нуждаят от отворени, авангардни агентни системи за самозащита.“

Освен Nvidia, сред членовете на алианса са Microsoft, SpaceX, Palantir и десетки други технологични компании от САЩ и Европа.

Натиск за ограничаване на китайския изкуствен интелект

Все по-често се чуват призиви за мерки, които да ограничат достъпа до модели, разработени от китайски компании за изкуствен интелект, които са обвинявани в провеждането на кампании за извличане на информация от системите на американски конкуренти — практика, известна като „дистилация“, при която един модел извлича знания от по-добре обучен модел.

Миналата седмица американският министър на финансите Скот Бесънт заплаши със санкции китайските компании, които извършват атаки чрез „дистилация“ срещу американски компании.

„Има реална вероятност правителството на САЩ да наложи ограничения върху китайските модели“, заяви пред CNBC Крис Макгуайър, старши изследовател по въпросите на Китай и нововъзникващите технологии в анализаторския център Council on Foreign Relations.

Това би могло да включва забрана на трансакции, свързани с моделите, като например закупуване на токени чрез API или американски компании, които хостват модела в облака и таксуват клиентите за извличане на заключения, добави той.

„Във Вашингтон това не е дебат за отворен код срещу затворен код, а дебат за това дали да се толерира кражбата на интелектуална собственост от страна на Китай“, каза Макгуайър. „Всякакви действия биха били насочени към китайските компании, а не към екосистемата на отворения код.“

Но тъй като по-голямата част от най-мощните модели с отворен код се разработват от китайски компании, съществуват опасения относно налагането на ограничения.

Миналата седмица Nvidia, Microsoft, Meta, Palantir и още над 20 други компании публикуваха писмо, в което призовават политиците да избягват „преждевременни ограничения“ върху моделите за изкуствен интелект с отворен код, които биха „задушили конкуренцията или биха изтласкали иновациите в чужбина“.

Инцидентът с OpenAI и Hugging Face показа „практическа истина“, заяви Nvidia. „Когато защитниците не могат да проверяват, адаптират и изпълняват усъвършенстван изкуствен интелект върху собствената си инфраструктура, способността им да реагират е ограничена точно в момента, когато скоростта е от най-голямо значение“=