Колко голяма заплаха е изкуственият интелект за човечеството ?

Пионерите в областта на изкуствения интелект се надпреварват да споделят коя от опасностите от технологията е най-страшна.

Единият лагер, който включва част от висшите мениджъри на фирми, изграждащи усъвършенствани системи за изкуствен интелект (AI), посочва, че творенията на технологията могат да доведат до катастрофа. В другия лагер са учените, които казват, че притесненията трябва да са насочени към това как AI се прилага в момента и как може да причини вреда в ежедневието ни, пише Wall Street Journal.

Дарио Амодей, лидер на разработчика на изкуствен интелект Anthropic, е в групата, предупреждаваща за екзистенциална опасност. Той свидетелства пред Конгреса това лято, че AI може да представлява такъв риск за човечеството. Сам Алтман, лидерът на OpenAI, която е създател на ChatGPT, обиколи света тази пролет, като каза, наред с други неща, че един ден технологията може да причини сериозни вреди или да направи нещо по-лошо. А на събитие на Wall Street Journal през май Илон Мъск каза, че „AI има различен от нула шанс да унищожи човечеството“ – малко преди да създаде собствената си компания за изкуствен интелект.

Алтман, Мъск и други директори на компании за AI се очаква тази седмица да участват в серия от срещи на затворени врати, свикани от лидера на мнозинството в Сената на САЩ Чък Шумър, за да разгледат различни теми, включително „сценарий за края на света“.

Другият лагер на учените нарича тези предупреждения разсейване, подхранвано от научната фантастика, или дори погрешен маркетингов трик. Те твърдят, че компаниите за изкуствен интелект и регулаторите трябва да съсредоточат ограничените си ресурси върху съществуващите и непосредствени заплахи от технологията - като инструментите, които помагат да се създава мощна дезинформация при избори, или системи, които усилват въздействието върху човешките пристрастия.

Този спор се задълбочава, тъй като компаниите и правителствата по света се опитват да решат къде да фокусират ресурсите и вниманието си по начини, които максимизират ползите и да минимизират недостатъците на технология, която до голяма степен се смята за потенциално променяща света.

„Това е много реална и нарастваща дихотомия“, коментира Николас Миайе, съосновател на Future Society – мозъчен тръст, който работи върху управлението на изкуствения интелект и за преодоляване на разделението. „Това е крат на месеца спрямо краят на света“.

Въпреки цялото внимание, което получи, сериозната публична дискусия за екзистенциалния риск от AI, или „x-рискът“, както обичат да го наричат онези, които са най-притеснени от него, до съвсем скоро оставаше ограничена до пределите на философите и изследователите на изкуствения интелект.

Това се промени, след като OpenAI пусна ChatGPT в края на миналата година и последваха подобрения на системата, които предложиха почти човешки отговори от нейна страна. Това предизвика предупреждения, че такива системи могат да придобият свръхчовешки интелект. Изтъкнати изследователи, включително Джефри Хинтън, смятан за един от кръстниците на AI, твърдят, че той съдържа искрица човешки разсъждения. Хинтън напусна позицията си в Google тази година, за да обсъжда по-свободно рисковете от AI.

При предупрежденията за екзистенциалния риск „има табу, че ще бъдете подигравани и с вас ще се отнасят като с луд, а това ще се отрази и на перспективите ви за работа“, коментира Дейвид Крюгер, професор по машинно обучение в Университета на Кеймбридж. През май Крюгер помогна за организирането на изявление, в което се казва, че рискът от изчезване заради AI е равен на този от пандемии и ядрена война. То беше подписано от стотици експерти по изкуствен интелект, включително висши служители и учени от Google, OpenAI и Anthropic.

„Исках изследователите да знаят, че са в добра компания“, коментира Крюгер.