Екзистенциалният страх от края на света разсейва от по-важните въпроси за АІ

Вълната от паника около изкуствения интелект (АІ) се основава на убеждението, че технологията е излязла извън човешкия контрол и е действала по собствена воля в няколко скорошни случая. За някои разочаровани изследователи в сферата – както и за висши мениджъри във водещи компании в сектора – това е ранен признак за реална заплаха пред човешката цивилизация, пише Bloomberg в материал. Други експерти обаче оспорват това мнение, като твърдят, че подобни разговори позволяват на компаниите да избегнат отговорността за въздействието на технологиите им върху реалния свят. Критиците смятат, че екологичните последици от АІ, заплахата от загуба на работни места или потенциалът за масово наблюдение са въпроси, изискващи по-незабавни действия от страна на политиците.

Опасенията, че АІ софтуерът представлява екзистенциална заплаха, започнаха да нарастват през лятото. През юли OpenAI съобщи, че нейните усъвършенствани модели са извършили хакерска атака срещу Hugging Face – друг стартъп в сферата на АІ – по време на оценка, целяща да провери кибервъзможностите им. За разлика от моделите, които компанията пуска за масово ползване, тук софтуерът е бил тестван без предпазните механизми, които обикновено биха предотвратили подобни случки – практика, често срещана в АІ индустрията. В последващ доклад OpenAI призна, че е можела да реагира по-рано и че служителите ѝ не са предприели действия въпреки сигналите, че моделите са напуснали своя т. нар. „пясъчник“ (изолираната среда за тестване, бел. ред.) и са проникнали в системите на Hugging Face, без да са имали такава инструкция.

Появиха се и други тревожни подробности относно поведението на технологиите на OpenAI и някои ключови конкуренти, включително Anthropic и Meta, по време на други тестове. Когато Джейкъб Коксън, бивш служител на Anthropic и OpenAI, обвини индустрията, че „залага живота ни“, Евън Хюбингер – изследовател по въпросите на безопасността в Anthropic – отвърна, че компанията действително допуска възможността изкуственият интелект да причини смъртта на всички хора на Земята. Той добави, че според него вероятността това да се случи в рамките на настоящото десетилетие надхвърля 10%.

Дарио Амодей. Снимка: Bloomberg LP

Нормалният свят получи представа за един отдавна водещ се в сферата дебат. Преди да се появи възможността за продажба на абонаменти за чатботове или за първични публични предлагания (IPO), изследователите възприемаха работата си като начинание с висок риск и потенциал за огромни ползи за цивилизацията. В продължение на години някои от водещите фигури в АІ индустрията довеждаха тези идеи до крайности, твърдейки, че технологията може в крайна сметка да излекува всички човешки болести, да замени изцяло човешкия труд, да унищожи човечеството – или всичко изброено наведнъж.

Създаването на подобна технология породи чувство за мисия – едновременно ласкаеща егото и плашеща – което оформи културата в АІ сферата още преди технологията да се превърне в изключително доходоносен бизнес. През 2023 г., месеци след пускането на ChatGPT, Йошуа Бенджио и Стюарт Ръсел – двама от основоположниците в тази област – оглавиха списък с подписи под изявление, призоваващо за пауза в разработването на най-мощните системи с изкуствен интелект заради „сериозни рискове за обществото и човечеството“.

Критиците неизменно отхвърлят подобни аргументи като опит за всяване на страх с користни цели. За един изследовател мисълта, че трудът му може да сложи край на човечеството, е и начин да го възприема като най-важната възможна работа. За компаниите пък наративът за екзистенциален риск беше ефективна стратегия за привличане на кадри в зората на развитие на технологията, тъй като много от най-търсените специалисти искаха да работят на места, където подобни рискове се вземат насериозно.

Напоследък тази тема навлезе дори в маркетинга на продукти. По време на Световното първенство по футбол през юли компанията Anthropic излъчи реклама, която започваше с кадър на горяща къща, преминаваше през открита мина и показваше редици от надгробни плочи, докато разказвач с тревожен глас обсъждаше потенциалните катастрофални последици от технологията. В крайна сметка музикалният фон стана оптимистичен и се появяваше слоганът на чатбота Claude: „В трудните въпроси има надежда“.

Крайният песимизъм за неизбежен апокалипсис може да служи и като защитна стратегия, като в самата сфера съществуват спорове дали компаниите не я използват цинично. Представянето на АІ като автономна същност предефинира провалите в сигурността като доказателство, че овладяването на технологията е невъзможно.

Това отклонява вниманието от въпроса дали технологичните компании не са провеждали експериментите си по опасен начин, смята Субарао Камбхампати, професор по компютърни науки в Държавния университет на Аризона. „Става дума за провал на „пясъчника“, който по същество се опитвате да представите като: „АІ ще стане толкова ефективен, че ще ни избие всичките“, отбелязва той.

В изявление говорителят на OpenAI Дрю Пусатери заяви, че инцидентът с Hugging Face е „показал къде защитните ни механизми трябва да бъдат по-силни, и ние предприехме действия, като засилихме защитата на нашите изследователски системи“. По-рано през септември компанията представи нов набор от насоки за това как ще проследява, разследва и информира обществеността за инциденти, свързани с несъответствие със зададените цели. Също така бяха разкрити и няколко по-рано необявени случая на такова несъответствие, при които технологията е извършвала действия като укриване или измисляне на информация с цел генериране на резултати. Според компанията нито един от тези инциденти не е довел до компрометиране на външни мрежи.

От Anthropic са отказали коментар за Bloomberg във връзка със статията.

(Материалът продължава на следващата страница)