Истинските причини да се страхуваме от AI и оръжията за масово унищожение

Експертите наричат този ефект „uplift“ – рязко повишаване на способностите на хора с ограничен опит благодарение на изкуствения интелект.

Тази възможност вече се проявява на практика. От OpenAI съобщават, че стотици потребители по света са започнали да задават на ChatGPT подробни въпроси за създаване на биологични оръжия и отрови. Това е накарало OpenAI, Anthropic и други компании да ограничат отговорите, когато преценят, че съществува риск от злоупотреба.

Според Грегъри Алън обаче достатъчно опитни и мотивирани потребители все още могат да намерят начини да заобиколят тези ограничения.

Биологичните и химическите оръжия: къде се крие по-голямата опасност?

Самите лидери в областта на изкуствения интелект очевидно са достатъчно обезпокоени, за да отправят публични предупреждения. Главният изпълнителен директор на Anthropic Дарио Амодей например смята, че „ако се погледне натрупаният риск за милиони хора в рамките на няколко години, съществува сериозна вероятност от мащабна атака“.

Тъй като подобно събитие би могло да прерасне в пандемия, която да отнеме живота на милиони хора, според него заплахата трябва да бъде възприемана изключително сериозно.

В същото време Anthropic участва в глобална надпревара с разработчици на модели в Китай и други държави, като част от тях използват и софтуер с отворен код. При подобна конкуренция доброволното забавяне на развитието не носи предимства.

Затова стратегия, която разчита всички държави и компании доброволно да проявят сдържаност, изглежда трудно осъществима.

Клът е попитал Гиджи Куик Гронвал, експерт от Bloomberg School of Public Health към университета Johns Hopkins, дали я тревожат повече химическите или биологичните оръжия. „Опасността, свързана с използването на изкуствен интелект за създаване на токсини и химически агенти, е много по-непосредствена, защото процесът е значително по-прост“, казва тя.

При биологичните агенти обаче ситуацията е различна. „Биологичните организми не могат просто да бъдат настройвани по желание“, обяснява Гронвал. Дори генетично модифицираните патогени се държат непредсказуемо, когато попаднат в реална среда. След като бъдат освободени, те сами определят кого ще заразят.

„При биологичните оръжия не смятам, че рискът е толкова голям, колкото предполага шумът около темата“, допълва тя.

Грегъри Алън обаче не е съгласен. Според него основната разлика между химическите и биологичните оръжия е техният потенциален мащаб. Нервнопаралитичен агент или друг токсин може да причини ужасяваща смърт на хората, които попаднат в зоната на въздействието му, но ефектът му спира дотам.

Един биологичен агент – например нов вирус, е заразен. Той сам определя колко далеч ще се разпространи и потенциално може да обхване целия свят. „Ако ви кажа, че има 1% вероятност през следващите десет години да загинат 20% от хората на Земята, това е достатъчно сериозна причина за тревога“, казва Алън.

Изкуственият интелект може да бъде и част от решението

Изкуственият интелект може да служи не само на нападателите, но и на защитата. В ръцете на добросъвестни учени той може да помогне за разработването на ваксини, антидоти и нови лекарства.

Освен това моделите могат теоретично да прогнозират какви молекули или генетични последователности биха могли да се опитат да създадат злонамерени участници.

Голяма част от индустрията за синтез на биомолекули работи дистанционно – изследователите изпращат поръчки до специализирани лаборатории, които изработват необходимите вещества. По правило тези лаборатории проверяват всяка поръчка, като я сравняват със списъци на забранени или потенциално опасни токсини.

Проблемът е, че тези списъци са остарели и твърде ограничени. Един от използваните от американското правителство съдържа едва 63 вещества.

„Не 63-тото, а 64-тото вещество е това, което трябва да ни тревожи“, отбелязва авторът.

Грегъри Алън предлага различен подход. „Любимата ми идея за защита с помощта на изкуствен интелект е всички лаборатории по света, които синтезират биомолекули, сами да използват изкуствен интелект. Така те ще бъдат винаги една крачка пред злонамерените клиенти“, посочва той.

Според него химическата и биологичната индустрия могат да бъдат регулирани по модел, подобен на банковия сектор, чрез международни изисквания за проверка на клиентите и проследяване на подозрителните поръчки. Но и той признава, че подобен подход няма да бъде съвършен.

Банките например така и не успяха да сложат край на прането на пари. „Не е ясно дали в крайна сметка нападението или защитата ще имат предимство“, казва Даниел Холц.

„Нападателят винаги може да бъде по-креативен от защитника. Защитата почти неизменно наваксва със закъснение“, добавая той. Тази констатация не звучи особено успокояващо, но и не означава, че битката е предварително загубена.