В Силициевата долина се заражда вълна от недоволство срещу Anthropic

В Силициевата долина се надига все по-негативна реакция срещу Anthropic, породена от опасения относно пускането на пазара на продукти от компанията, които се конкурират със съществуващи софтуерни доставчици, както и заради подкрепата ѝ за затворена екосистема на изкуствения интелект, пише Wall Street Journal.

Основатели на стартъпи, ръководители на софтуерни компании и изследователи в областта на изкуствения интелект коментират, че са започнали да се обръщат към по-евтини AI модели, след като са видели, че Anthropic пуска на пазара инструменти, които се конкурират с предлаганите от други компании. Едно от тези пускания беше Claude Design през април, което някои възприеха като пряк конкурент на предложенията на компанията на продукти за дизайн Figma – един от партньорите на Anthropic.

На събитие, проведено малко след пускането, главният изпълнителен директор на Figma Дилън Фийлд заяви, че Anthropic не е била „последователно откровена в комуникациите си“, посочват участници в събитието.

„Цялата индустрия извлече много поуки от това как се разви тази динамика“, казва Сара Сакс, ръководител на AI отдела в Notion, която е присъствала на събитието. „Някои компании може би са били прекалено доверчиви.“

Anthropic е критикувана и за промените в политиките си за съхранение на данни, както и за пускането на мощен модел, който не отговаря на въпроси, свързани с изследванията в областта на изкуствения интелект. Това предизвика недоволство от страна на някои изследователи, които се застъпват за по-голяма прозрачност в AI системите.

Съществува и скептицизъм по отношение на предупрежденията от мениджърите на Anthropic за рисковете за сигурността, свързани с т.нар. „отворени“ AI модели – модели, които са значително по-евтини и като цяло позволяват на потребителите да персонализират и инсталират свои собствени защитни мерки. Няколко такива модела, произведени в Китай, впечатлиха потребителите през последните месеци с възможности, които се доближават до най-модерните американски системи с изкуствен интелект.

„Anthropic създава фантастични продукти“, коментира Вишал Мисра, заместник-декан по компютърни науки и изкуствен интелект в инженерния факултет на Колумбийския университет. Но компанията също така прави изявления относно рисковете за сигурността и изкуствения интелект, които не издържат на внимателен анализ, добавя той.

„Те създават паника сред широката общественост по отношение на тези модели“, допълва той. Страхът сред обществеността „им дава лост за въздействие, за да прокарат регулации в своя полза“.

Говорителка на компанията защити мерките, предприети от Anthropic, като необходими за гарантиране на безопасността на моделите и за предотвратяване на възможността злонамерени лица да ги използват за създаване на сериозни рискове.

Изпълнителният директор на Anthropic Дарио Амодей и други ръководители на компанията многократно са говорили за рисковете от отворените AI системи (open weight), които според много изследователи в сектора са много по-трудни за контролиране – тревожна възможност, ако моделите продължат да бъдат развивани като възможности. Някои от тях не разполагат със същите мерки за сигурност, каквито имат водещите модели в САЩ, казват ръководители в областта на изкуствения интелект.

Като бивш ръководител в OpenAI, Амодей съоснова Anthropic през 2021 г. заедно с шестима други бивши служители на компанията, след като влезе в конфликт с главния изпълнителен директор на OpenAI Сам Алтман по въпроси, свързани с безопасността и други теми. Anthropic публикува обширни изследвания относно рисковете, свързани с безопасността на изкуствения интелект, и подкрепя държавното регулиране в тази област чрез публични изявления и политически дарения.

Миналата седмица, след като редица американски компании, включително Nvidia и Microsoft, подписаха писмо, изразяващо подкрепата им за отворените модели, Амодей публикува писмо, в което изясни позицията си към разгорещената дискусия. „Anthropic никога не е защитавала забрана на отворените модели“, написа той. „Отворените модели, които не притежават опасни възможности, са обществено благо.“

Основното опасение на Амодей, както пише в писмото, е рискът авторитарни правителства да настигнат САЩ в областта на AI, „за да постигнат трайно военно превъзходство или да извършат изключително жестока репресия срещу собствения си народ“.

Anthropic и OpenAI обвиняват някои китайски създатели на модели, че крадат технология чрез процес, наречен „дестилация“ – на практика задаване на запитвания към даден модел потенциално милиони пъти, за да се използват отговорите му за обучение на друг модел. Някои представители на администрацията на Тръмп, включително министърът на финансите Скот Бесънт, изразиха загриженост относно дестилацията, но не стигнаха до предприемане на мерки срещу китайските компании.

Амодей призова политиците да предприемат строги мерки срещу „дестилацията в промишлен мащаб“.

И двете компании са обсъждали с представители на администрацията на Тръмп предизвикателствата, свързани с китайските отворени модели, както и евентуалните ограничения, които биха могли да бъдат наложени върху тях, съобщават източници, запознати с въпроса. OpenAI предлага някои отворени модели, а Алтман заяви миналата година, че съжалява за предишната позиция на компанията срещу тези инструменти.

Администрацията на Тръмп обмисля да включи китайски компании в търговски черен списък, което на практика би попречило на много американски фирми да използват тези модели.

Критиците на компанията, включително някои представители на администрацията, разглеждат предупрежденията на Anthropic като част от усилията ѝ да попречи на конкурентите си, като се има предвид, че много от тези модели с отворен код биха могли да подкопаят опитите ѝ да максимизира приходите си, докато планира публично листване още през есента.

(Продължава на следващата страница)