Anthropic представи нови AI модели Fable и Mythos преди IPO-то си

Anthropic представи нови версии на мощните си моодели за изкуствен интелект (AI) Mythos и Fable. Ходът цели да засили позицията на компанията като лидер в разработването на изкуствения интелект преди дългоочаквания ѝ дебют на Wall Street, предава Bloomberg.

Компанията съобщи, че Fable 5.2, който трябва да бъде представен в понеделник, може да се справя с по-сложна софтуерна инженерна работа, да поема повече задачи, свързани с хардуера, като управление на роботи, и да управлява дългосрочни проекти. Моделът е проектиран също така да координира над 1000 AI агента едновременно. Mythos 5.2, същият модел, но с по-малко защити в областта на киберсигурността и природните науки, ще бъде внедрен в избрани организации чрез предварително обявена програма за верификация.

Двата модела са по-бързи от предходните версии, а Fable е по-евтин, поясняват от Anthropic.

Новите модели имат за цел да помогнат на компанията да отблъсне атаките на конкуренти като OpenAI на все по-оспорван пазар, докато създателят на Claude наближава историческото си излизане на борсата, което може да се случи още този месец. Но представянето им може да привлече и допълнително внимание и критики към компанията, в момент когато мнозина в технологичната индустрия и извън нея предупреждават за потенциални катастрофални рискове за безопасността, свързани с изкуствения интелект. Очаква се убедителната победа на Демократическата партия на междинните избори в САЩ също да даде тласък на регулациите в областта на безопасността на изкуствения интелект и да създаде нови пречки пред изграждането на центрове за данни, използвани за обучение и работа с AI модели.

В средата на септември главният изпълнителен директор на Anthropic Дарио Амодей призова водещите компании за изкуствен интелект да забавят темпа на разработване на най-напредналите си модели. Това се случи дни след като изследовател на изкуствения интелект в компанията напусна поста си и заяви, че хората, които създават изкуствен интелект, вярват, че той може да унищожи всички хора до края на десетилетието. Anthropic не е пускала нови версии на Fable и Mythos от началото на септември.

Даян Пен, която ръководи продуктовия мениджмънт в Anthropic, заяви, че компанията е отговорила на въпроса за скоростта с по-дълги тестови периоди за най-новите модели, които включват повече и нови видове методи за оценка. „Умишленото забавяне на темпото не означава пауза“, отбляза Пен.

Първата версия на Mythos, представена през април, беше повратна точка за киберсигурността поради способността на модела да открива и евентуално да се възползва от уязвимости в критичен софтуер. Първоначално Anthropic ограничи достъпа до него само за някои правителствени служби, финансови институции и големи доставчици на софтуер в опит да предотврати хакерски атаки. Fable, който беше представен два месеца по-късно, бе проектиран да предостави възможностите на Mythos на по-широкия пазар, като същевременно блокира потребителите да изпълняват задачи, свързани с киберсигурност.

Опасенията на американското правителство относно възможностите на двата AI модела го накараха да наложи ограничения за достъп до тях през юни. Ограниченията за Fable 5 бяха отменени, след като Anthropic добави класификатори, които позволяват на модела да засича и блокира повече задачи, свързани с киберсигурността. Достъпът до Mythos 5 по-късно беше възстановен, но за по-малка група потребители.

Пен заяви, че Anthropic увеличава броя на компаниите, които имат достъп до Mythos, като новата версия на софтуера става достъпна за фирми в САЩ и чужбина. (Предходната версия също е достъпна за някои компании извън САЩ, добави тя.)

Неотдавна Anthropic и други разработчици на изкуствен интелект разкриха инциденти, при които техните модели са пробили външни организации, след като са получили достъп до интернет от тестови среди, които е трябвало да бъдат изолирани. Тези доклади засилиха безпокойството относно възможността на AI системите да действат по непредвидим и вреден начин.

Пен заяви, че американското правителство и независими оценители са прегледали и дали обратна връзка за новите модели преди официалното им пускане. Компанията е разработила нови мерки за оценка, с които да тества доколко е вероятно даден модел да излезе извън дигиталните тестови среди и е установила, че новите Fable и Mythos не са толкова склонни да праавят това в сравнение с предишните версии.

Докато Anthropic напредва с новата версия на Fable, тя се изправя пред друго предизвикателство – разходите. Най-модерното и скъпо предложение на компанията съставлява едва 11% от общите разходи за модели на компанията, сочат данни Ramp, публикувани през август. „С Fable 5 открихме нова горна граница за това доколко бизнесът е готов да харчи за изкуствен интелект“, отбелязаха тогава от Ramp.

Anthropic съобщи, че новата версия на Fable струва 8 долара за милион входящи токена и 40 долара за милион изходящи токена, което е спад спрямо съответно 10 и 50 долара за Fable 5.1.