Водещи лидери на компании изтъкват "риска от изчезване", свързан с изкуствения интелект

Директори на компании за изкуствен интелект, включително главния изпълнителен директор на OpenAI Сам Алтман, се присъединиха към експерти и професори, които настояват за повишаване на „риска от изчезване заради изкуствения интелект“. Те призовават политиците да го приравнят на рисковете, породени от пандемии и ядрена война, предава Ройтерс.

„Намаляването на риска от изчезване заради изкуствения интелект трябва да бъде глобален приоритет, заедно с други рискове от обществен мащаб като пандемии и ядрена война“, пишат над 350 души, подписали писмо, което е публикувано от неправителствената организация Център за безопасност на изкуствения интелект (CAIS).

Освен Алтман, списъкът включва главните изпълнителни директори на фирмите за изкуствен интелект DeepMind и Anthropic и директори на Microsoft и Google.

Сред тях попадат и Джофри Хинтън и Йошуа Бенгио – двама от тримата т.нар. „кръстници на изкуствения интелект“, които през 2018 г. получиха Награда Тюринг за работата си по задълбоченото учене – както и професори от различни висши училища, вариращи от Харвард до китайския Университет Цинхуа.

В изявлението на CAIS се споменава Meta, където работи третият кръстник на технологията Ян ЛеКун, за това, че не е подписала писмото.

Писмото съвпадна със срещата на Съвета за търговия и технологии на САЩ и Европейския съюз, която се провежда в Швеция, където се очаква политиците да говорят за регулацията на изкуствения интелект.

Илон Мъск и група от експерти по ИИ, както и директори на компании от индустрията, бяха първите, които още през април изтъкнаха потенциалните рискове за обществото.

Скорошното развитие на изкуствения интелект доведе до създаването на инструменти, които според поддръжниците могат да се ползват за медицинска диагностика или писане на правни документи, но това породи опасения, че технологията може да доведе до нарушаване на поверителността, до кампании за дезинформация и да доведе до проблеми с мисленето на „умните машини“ за самите тях.

Пионерът в изкуствения интелект Хинтън по-рано коментира пред Ройтерс, че технологията може да представлява „по-спешна“ заплаха за човечеството от изменението на климата.

Миналата седмица главният изпълнителен директор на OpenAI Сам Алтман коментира първите опити на Европейския съюз да регулира изкуствения интелект, посочвайки, че според него става дума за свръхрегулация, като дори заплаши, че компанията може да напусне Европа. Дни по-късно той се отказа от думите си, след като получи редица критики от политици.

Председателят на Европейската комисия Урсула фон дер Лайен ще се срещне с Алтман този четвъртък.