OpenAI изключва IPO тази година, Алтман, Мъск и Амодей се обединиха срещу твърде бързото развитие на AI

Главният изпълнителен директор на OpenAI Сам Алтман вече твърди, че компанията му няма да стане публична тази година, като се позова на нарастващото безпокойство около безопасността на изкуствения интелект (AI), предава CNBC.

В интервю за списание Fortune, публикувано в събота, Алтман заяви, че първично публично предлагане (IPO) сега би било „неразумно“. Решението отлага едно от най-очакваните IPO-та в историята поне до 2027 г. и дава най-ясния знак до момента, че нарастващите притеснения около все по-мощния изкуствен интелект започват да променят бизнес плановете в сектора.

Главният финансов директор на OpenAI Сара Фриар заяви пред служителите миналия месец, че компанията вероятно ще стане публична през 2027 г. или дори по-рано, ако „бизнесът ни продължи да се развива“.

Алтман говори в същия ден, в който главният изпълнителен директор на Anthropic Дарио Амодей публикува есе, в което призовава компаниите за изкуствен интелект да забавят темпото, с което усъвършенстват най-напредналите си модели. Алтман и Илон Мъск побързаха да подкрепят предложенето в публикации в социалните мрежи в необичаен знак на съгласие сред тримата ожесточени конкуренти.

В есето си Амодей предлага план от три стъпки, чиято цел е да забави темпото на развитие, без „да се жертва търговското предимство или лидерството на САЩ в областта на изкуствения интелект“. Anthropic активно се подготвя за историческото си IPO, въпреки че компанията не е разкрила официално кога планира да излезе на борсата.

Неочакваното сближаване на позициите на Алтман, Амодей и Мъск показва колко бързо притесненията около изкуствения интелект са се изместили от периферията към центъра на индустрията и сега започват да се сблъскват с огромните ѝ търговски амбиции.

Натискът се засилва във Вашингтон, където конгресмените от двете партии призовават за нови предпазни мерки относно изкуствения интелект и искат от технологичните лидери да се явят на изслушване след поредица от кибератаки, извършени без пряк човешки контрол.

Извън столицата на страната държавните и местни представители са изправени и пред нарастващото недоволство от центровете за данни за изкуствен интелект и техните изисквания относно електроенергията, водата и местните общности. С наближаването на междинните избори изкуственият интелект се превръща в ключов въпрос и за двете партии в САЩ.

Притеснения около способностите на изкуствения интелект

Anthropic се ангажира „едностранно“ с първата стъпка от плана, която предоставя на независими оценители достъп до компанията на ниво служители, за да проверяват практиките и да докладват за инциденти, заяви Амодей. Втората стъпка насърчава водещите компании в областта на изкуствения интелект в демократичните страни да координиран действията си и да установят общи стандарти за безопасност. А третата призовава за координация между демократичните и авторитарните правителства.

За да бъде ясно, забавяне на темпото не означава спиране на обучението на модели или на технологичния напредък, а гарантиране, че компаниите отделят достатъчно време, за да съгласуват и осигурят безопасността на моделите си, както и че независими оценители потвърждават това“, пише Амодей.

Есето е публикувано, след като изследовател в Anthropic предизвика бурна реакция в социалните мрежи тази седмица, като обяви, че напуска работата си в компанията. Джейкъб Коксън, който е работил и като изследовател в главния конкурент на Anthropic, OpenAI, заяви, че е подал оставка поради опасения, че Anthropic и OpenAI „си играят с нашите животи“. Той допълни, че хората, които разработват изкуствен интелект, „искрено вярват, че той може да убие всички ни до края на десетилетието“.

Макар и крайни, опасенията, че изкуственият интелект може да доведе до края на човечеството или до други катастрофални събития не са нови в кръговете на изследователите в областта на AI. През 2023 г., например, известни изследователи и ръководители в областта на изкуствения интелект, включително Амодей и Алтман, подписаха изявление, в което се казваше, че „намаляването на риска от изчезване, причинено от изкуствения интелект, би трябвало да бъде глобален приоритет наред с другите обществени рискове като пандемии и ядрена война“.

Амодей заяви в събота, че макар идеята за спиране или забавяне на развитието на изкуствения интелект да се обсъжда още от 2023 г., тогава това нямаше смисъл. Той допълни, че моделите не са били достатъчно мощни, за да предприемат действия в реалния свят и също така все още не са били способни на „значителни измами, манипулации, заблуди или кибератаки“.

 „Продължавам да смятам, че изкуственият интелект може много да подобри качеството на човешкия живот. Моето желание да постигнем тези ползи не е отслабнало“, написа Амодей. „Но ползите ще бъдат постигнати, само ако изградим технологията по правилния начин и стига да използваме добре спечеленото време, си заслужава да обърнем необичайно голямо внимание, за да го направим както трябва“, допълни той.

След публикуването на есето си Амодей подчерта, че намирането на подходящата скорост на развитие ще бъде от първостепенно значение. Прекаленото забавяне би могло да даде предимство на автократичните правителства, каза той в интервю за CNN, излъчено по-късно в събота.

„Ако се движим твърде бавно, все още вярвам, че грешните хора ще поемат контрол върху технологията. А това отново ще доведе до много висока вероятност нещата да се объркат“, допълни той.

Сара Хек, ръководител на отдела за публична политика на Anthropic, изтъкна значението на есето и призова конгресмените да свършат работата си за създаването на предпазни мерки.

„Правителството има изключително важна роля в това отношение, включително да блокира продажбата на най-модерни чипове на враждебни държави като Китай, както и да приеме национален закон, който изисква тестване на авангардните модели с правомощия да блокира най-развитите модели, ако се окаже, че са опасни“, написа тя в публикация в Х.

Подкрепа за доброволно забавяне

Есето на Амодей получи одобрение от много изследователи и ръководители в сектора, включително Алтман. В публикация в Х той заяви, че е съгласен с Амодей, че секторът трябва да регулира темпото на разработване на усъвършенствани възможности на изкуствения интелект. Алтман посочи, че това е било „основна тема“ на обсъждане в OpenAI през последните седмици.

„Ангажиментът за назначаване на независими оценители с достъп като на служителите е чудесна идея и ние ще постъпим по същия начин. Скоро ще имаме още какво да споделим“, заяви Алтман.

По-рано този месец главният учен на OpenAI Якуб Пачоцки публикува статия в блога си, в която предупреди, че нито една компания в областта на изкуствения интелект не е решила проблемите с хармонизирането и мониторинга в достатъчна степен, за да продължи отговорно да се разраства с максимална скорост още дълго време“. В сектора на изкуствения интелект хармонизиране означава усилията на разработчиците на изкуствен интелект да гарантират, че системата се движи в съответствие с човешките ценности и намерения.

Пачоцки заяви, че очаква и се надява доброволно забавяне на темпото да се превърне „в обичайна практика, докато не бъдат установени общи стандарти за безопасност“.

Мъск също изрази подкрепа за забавяне на скоростта, като написа в публикация в Х, че „Дарио е прав“.

Мъск, чийто конкурентен стартъп за изкуствен интелект xAI беше придобит от ракетната му компания SpaceX по-рано тази година, преди това беше яростен критик на Anthropic. Преди време той заяви, че компанията „мрази западната цивилизация“ и „е обречена да се превърне в противоположността на името си“, което означава да стане мизантропична. Но откакто Anthropic обяви голяма сделка за изчислителни ресурси със SpaceX през май, Мъск до голяма степен смени тона.

„Всички, с които се срещнах, бяха много компетентни и много се грижеха да постъпват правилно. Никой не задейства моя детектор за злини“, написа Мъск тогава.