Мъск и експерти от индустрията призовават за пауза в развитието на системите с изкуствен интелект

Илон Мъск и група от експерти по изкуствен интелект и директори от индустрията призовават в отворено писмо за шестмесечна пауза в развитието на системи, по-мощни от току-що пуснатия GPT-4. В него те посочват като причина за искането си рисковете за обществото и човечеството, предава Ройтерс.

Писмото, издадено от неправителствената организация Future for Life Institute и подписано от над 1000 души, включително от Мъск, призовава за временно спиране на развитието на по-интелигентния изкуствен интелект, докато не бъдат разработени, внедрени и одитирани от независими експерти протоколи за безопасност за такива решения.

„Мощните системи с изкуствен интелект трябва да бъдат развити само след като сме се уверили, че техните ефекти ще бъдат положителни, а рисковете от тях – управляеми“, гласи писмото.

Текстът описва подробно потенциалните рискове за обществото и цивилизацията от системите за изкуствен интелект под формата на икономически и политически смущения. Освен това призовава разработчиците да работят заедно с политиците по регулацията.

Сред подписалите писмото е главният изпълнителен директор на Stability AI Емад Мостаке, изследователи от притежаваната от Google DeepMind и други.

Според регистъра за прозрачност на Европейския съюз Future for Life Institute се финансира основно от Musk Foundation, както и от базираната в Лондон група Founders Pledge и от Silicon Valley Community Foundation.

Притесненията бяха изразени, след като органите на реда в ЕС – Европол, в понеделник се присъединиха към онези, които изказват етични и правни опасения относно развития изкуствен интелект като ChatGPT. Те предупреждават за потенциалните злоупотреби със системата при опити за фишинг, дезинформация и киберпрестъпления.

Междувременно британското правителство представи предложения за „адаптивна“ регулаторна рамка, свързана с изкуствения интелект.

Подходът на правителството, описан в политически документ, публикуван в сряда, ще раздели отговорността за управлението на изкуствения интелект между регулаторите, отговарящи за правата на човека, здравето и справедливата конкуренция, вместо да създаде нов огран, посветен на технологията.

От пускането си миналата година ChatGPT на OpenAI, в която Microsoft инвестира, накара конкурентите да ускорят развитието на сходни големи езикови модели, а компаниите да интегрират модели за генеративен изкуствен интелект в своите продукти.

Главният изпълнителен директор на OpenAI Сам Алтман не е подписал писмото, коментира говорителят на Future for Life. OpenAI не е отговорила веднага на запитването за коментар.