Мениджър на Anthropic предупреди за рисковете около AI моделите с отворен код

Главният търговски директор на Anthropic извън САЩ твърди, че отворените алтернативи на моделите с изкуствен интелект (AI) на компанията носят „по-голям риск“ относно инциденти в киберсигурността, както и други опасности.

„Трябва да бъдем много внимателни с отворения код по отношение на безопасността“, изтъква пред Bloomberg Гийом Принсен, ръководител на международния отдел на Anthropic, в кулоарите на Международната среща на върха по въпросите на изкуствения интелект в Дъблин.

„Не мога да говоря за отворените модели. Но по дефиниция те са свързани с по-голям риск“, добавя той.

Преди очакваното първично публично предлагане (IPO) Anthropic се сблъсква с нарастваща конкуренция в страни, които са все по-загрижени относно зависимостта от американската технология за изкуствен интелект. Популярни алтернативи са моделите с отворено тегло, чиито параметри се споделят публично, което позволява да бъдат модифицирани и управлявани от потребителите на техния хардуер. Застъпниците на решението твърдят, че тези модели са по-евтини от строго контролираните, затворени системи, предлагани от Anthropic и OpenAI, и по-добри за националния суверенитет.

Френската компания Mistral AI наскоро пусна модел с отворено тегло като суверенна опция за Европа. Множество подобни модели, разработени от китайски компании, намират широко, международно приложение.

Anthropic също така предупреди относно възможностите на изкуствения интелект. По-рано тази седмица компанията заяви, че малки AI модели скоро биха могли да захранват нов вид ботнет мрежа, която може да се самовъзпроизвежда в рамките на малки, свързани с интернет устройства, като например умна фурна.

Принсен, който също така ръководи продажбите на Anthropic за стартъп компании, заяви, че опасенията му относно моделите с отворено тегло произтичат от усилията на Anthropic да защити собствените си продукти. След редица хакерски атаки от страна на изкуствения интелект, Anthropic заяви, че е въвела допълнителни предпазни мерки, за да предпази моделите си от злонамерено поведение.

Компанията се застъпва за забавяне на развитието на изкуствения интелект, докато не бъдат въведени международни стандарти и щателна оценка.

Обръщайки се към по-скъпите модели на Anthropic, Принсен, който пристига в компанията от Stripe Inc. през 2025 г., съветва бизнеса, че инвестицията в по-мощни модели в крайна сметка ще се изплати.

„Винаги инвестирайте в най-новите технологии“, изтъква той като добавя: „Защото след шест месеца, година или две цената на този продукт също ще намалява“.

Според него най-новият модел на Claude, Opus 5.5, е с 40% по-евтин от предишната версия. Предприятията, които плащат за „периферните“ модели на Anthropic, съставляват „много голяма част от бизнеса“, добавя той, без да дава подробности.