В Силициевата долина се заражда вълна от недоволство срещу Anthropic

Кевин Брайън, доцент в Университета в Торонто и специалист по иновации, защити Anthropic и заяви, че опасенията относно рисковете от това авангарден изкуствен интелект да бъде с отворен код са реални и широко споделяни. „Всичко, което е с отворен код, веднага бива „разбивано“, каза той. „Щом моделът излезе, това е краят.“

Някои критици твърдят, че самата Anthropic е създала модели чрез процес, който прилича на „дестилация“.

„Интересно е, че са против „дестилацията“, когато самите те „дестилират“ целия интернет, без да плащат авторски възнаграждения“, казва Марк Суман, съосновател и главен изпълнителен директор на Maple – стартъп за инструменти за производителност, базирани на изкуствен интелект. „Просто ми се струва странно, че сега променят позицията си и казват на другите да не правят това, което са направили самите те.“

Няколко часа след като писмото от компаниите, подкрепящи отворените модели, стана публично достояние, OpenAI го подписа. Google, част от Alphabet, подкрепи писмото малко по-късно, като по този начин Anthropic остана една от малкото значими компании в AI, които не го подкрепиха. Към момента над 70 фирми от Силициевата долина са се присъединили към инициативата.

Технолозите и политиците споделят, че са загрижени и за това състезанието в областта на изкуствения интелект да се превърне в дуопол, при който Anthropic и OpenAI на практика ще се превърнат в доминиращи играчи, контролиращи пазара.

Притесненията относно дуопола бяха основна тема по време на протеста в подкрепа на отворените модели, проведен в събота в центъра на Сан Франциско – епицентъра на общността на AI стартъпите. Протестът беше организиран съвместно с главния изпълнителен директор на Hugging Face – AI компания, която предоставя инструменти с отворен код.

„Пионерските лаборатории трупат интелект“, заяви Махеш Ламбе, изследовател в областта на изкуствения интелект, който присъства на протеста. „Той трябва да бъде демократизиран.“

Някои основатели и ръководители на стартъпи заявиха, че пускането на Claude Design от Anthropic е било сигнал за тревога в цялата Силициева долина. Пускането на продукта накара някои основатели да стигнат до заключението, че Anthropic може да пусне инструменти, които да конкурират с тях и да им отнемат клиентите. След това те се насочиха сериозно към по-евтини модели с отворени тегла, особено към такива, които не са създадени от американски лаборатории от най-високо ниво.

Недоверието се засили през юни, когато Anthropic пусна Fable 5 – версия на своя мощен модел Mythos с ограничения, свързани с безопасността.

Първоначално моделът ограничаваше отговорите на някои въпроси, свързани с развитието на изкуствения интелект, без да уведомява потребителите. Изследователската общност незабавно критикува тези „невидими предпазни мерки“, като заяви, че решението е антиконкурентно и затруднява оценката на възможностите на модела.

Anthropic се извини и впоследствие направи тези предпазни мерки видими за потребителите. Въпреки това компанията заяви, че ще продължи да отхвърля сигнализирани заявки.

Говорителка на компанията заяви, че Anthropic е предприела мерки за ограничаване на отговорите на модела, за да попречи на чуждестранни противници да използват моделите по „начини, които създават сериозни рискове за безопасността“.

Fable 5 също така няма да поддържа „нулево съхранение на данни“, което означава, че компанията ще съхранява данните на потребителите в продължение на 30 дни за целите на доверието и безопасността, както тя самата обясни. Компаниите се възпротивиха на тази промяна, особено тези, работещи в сектори, които боравят с чувствителни данни.

Някои компании изразяват и по-общи опасения, че данните им ще бъдат използвани за обучение на нови модели, които биха могли да помогнат на Anthropic да пусне на пазара конкурентни продукти.

Говорителката на Anthropic заяви, че персоналът на компанията няма достъп до запазените разговори и че компанията се е ангажирала да не използва данните за обучение на нови модели. Ограниченията важат за Fable и Mythos – „най-мощните модели“ на компанията – но не и за други модели.