Екзистенциалният страх от края на света разсейва от по-важните въпроси за АІ

Мелани Мичъл, професор в Santa Fe Institute, която изследва начина, по който системите с изкуствен интелект разсъждават, не е съгласна с твърдението, че АІ компаниите някога са губили контрол над технологията си. В есе от 10 септември тя посочи, че разговорите за рояци от агенти, избягали от клетките си, изкривяват обществения дебат. Подобни описания внушават наличието на човешка самостоятелност, каквато АІ моделите не притежават, пише тя.

Мичъл сравни хакерския инцидент между OpenAI и Hugging Face с горски пожар в Ню Мексико през 2000 г., възникнал по време на контролирано изгаряне на растителност, когато служителите пренебрегнали прогнозите за вятъра и наблюдавали как огънят излиза извън контрол. Вината, пише тя, е на хората, които са обучили моделите чрез методи, поощряващи упоритостта и вземането на автономни решения, но не са успели да осигурят безопасни условия за тестване. Според нея най-големите бъдещи опасности са свързани с хора, които използват АІ моделите, за да нанасят вреди.

Някои хора, включително президентът Доналд Тръмп, отхвърлят екзистенциалните заплахи като аргумент за необходимостта от нови АІ регулации. Но не всеки, който не споделя апокалиптичните възгледи, иска да остави АІ да узрее. Сара Хукър, съосновател на АІ стартъпа Adaption Labs и бивш изследовател в Google DeepMind, споделя опасенията на изпълнителния директор на Anthropic Дарио Амодей относно т.нар. рекурсивно самоусъвършенстване – термин, описващ хипотезата, че в бъдеще АІ ще придобие способността да променя собствения си програмен код или да подобрява по друг начин възможностите си без човешка намеса.

Снимка: Bloomberg LP

Амодей изрази опасения, че щом този процес започне, той може да задейства верижна реакция, която ще надхвърли способността на хората да контролират непрекъснато усъвършенстващите се системи. „Без надзор може да изпревари способността ни да разбираме и управляваме тези системи, затова трябва да се подходи изключително внимателно – ако изобщо се действа“, написа той в събота в обширна публикация в блога си, призовавайки за забавяне на темпа на разработка на най-модерните АІ модели. Реториката на Anthropic относно екзистенциалните заплахи е трайно по-агресивна от тази на OpenAI. Въпреки това изпълнителният директор на OpenAI Сам Алтман бързо изрази подкрепа за позицията на Амодей, както направи и ръководителят на SpaceX и xAI Илон Мъск.

Хукър се съгласява, че самоусъвършенстващият се АІ би бил съществена разлика спрямо по-ранните системи. По думите ѝ оценките, разпространявани този месец от АІ изследователи, които се опитват да определят вероятността за края на човечеството, не са придружени от „никаква обосновка за произхода на тази цифра“. Подобни дискусии са често срещани в сферата, което води до своеобразна повтаряща се верижна реакция, отдалечаваща все повече АІ изследователите от останалия свят.

Инциденти като хакерската атака срещу платформата Hugging Face пораждат сериозни опасения дори у онези, които не ги възприемат като заплаха за цивилизацията. Освен че не са приложили предпазните механизми, използвани при публично достъпните продукти, от OpenAI са обучили тестваните модели да си сътрудничат, като са ги възнаграждавали за постигане на цели заедно. Въпреки че агентите в този експеримент е трябвало да бъдат изолирани един от друг, всеки от тях е имал достъп до един и същ вътрешен софтуер, осигуряващ споделена среда за обмен на информация – нещо, което от OpenAI наричат ​​„табло за съобщения“. Агентите установили, че софтуерът има достъп до интернет макар самите те да нямат такъв и го накарали да извлече данни отвън. След това агентите хакнали Hugging Face, за да се сдобият с набор от данни, разкриващи критериите за оценяване на работата им.

Докато АІ компаниите продължават да разработват по-безопасни методи за тестване, според Камбхампати твърденията за излязъл извън контрол АІ не бива да се използват като начин за избягване на отговорност. Той даде за пример Робърт Морис – докторант в университета „Корнел“, който се оправда с програмна грешка, след като създаденият от него компютърен червей през 1988 г. извади от строя около една десета от свързаните по това време към интернет компютри. Съдът отхвърли този аргумент и Морис стана първият човек, осъден по силата на Закона за компютърните измами и злоупотреби.

„Започвате процес, който излиза извън контрол и причинява щети на имуществото ми, то вие носите отговорност – и това е“, заяви Камбхампати. „Това важи дори когато кучето ви го направи“, категоричен е той.