От ракетни системи до масово наблюдение: Кой и как използва Claude?

Anthropic твърди, че нейният модел за изкуствен интелект (АІ) Claude е бил използван за опити за разработване на широк спектър от потенциални военни приложения, включително рояци дронове камикадзе, системи за ракетна навигация и биологични оръжия.

Потребители от страни, сред които Иран, Русия, Китай и Йемен, са били маркирани заради случаи на злоупотреба с моделите на компанията през последната година, според доклад на екип от Anthropic, публиуван в четвъртък. Нито един от случаите не е свързан с най-съвременните модели Fable и Mythos.

„Тъй като моделите стават все по-способни, рисковете от тях ще се увеличат, освен ако АІ разработчиците и защитниците на обществото не предприемат действия, за да ги направят по-безопасни“, се казва в доклада на Anthropic.

Там се посочва още, че потребители са се опитали да използват Claude, за да помогнат на враговете на Америка. В много случаи те са се опитвали да избегнат ограниченията на Claude или да скрият местоположението си.

Потребители в Русия, за които Anthropic е установила, че не са свързани с държавата, са се опитали да използват Claude, за да създадат софтуер за автономна група дронове камикадзе с изглед от първо лице, обучени върху кадри от украински бойни действия.

Докладът също така подробно описва пет казуса на хора, използващи Claude по начини, които биха могли да подпомогнат разработването на биологични оръжия, включително спонсорирани от държавата вирусолози, които се опитват да създадат подобрена версия на вирус, пренасян от комари, наречен чикунгуня. Действията им са били установени чрез запитване към Claude да помогне за написването на заявление за безвъзмездна помощ, за да бъдат финансирани изследвания във военен институт в неназована държава, където Anthropic не предоставя услуги.

Компанията отбелязва, че всички биологични казуси в доклада са „двусмислени“ и включват изследвания, които биха могли да бъдат напълно добронамерени.

Разработване на ракетни системи в Йемен

Но актьори в контролираните от хутите северни части на Йемен са се обърнали към модела за създаване на софтуер за различни видове ракети.

Неидентифицираните субекти са работили по три оръжейни проекта, включително управляема ракета, балистична ракета с предполагаем обхват над 2000 километра и семейство ракети, известно като R2000, съобщи Anthropic в последния си доклад за откриване и противодействие на злоупотребата с АІ, публикуван в четвъртък.

Базираната в Йемен група е използвала Claude, за да си помогне в разработването на софтуер за насочване, навигация и контрол, като ефективно е заместила някои задачи, обикновено изпълнявани от софтуерни инженери. Твърди се, че субектите са разделили работата си в няколко сесии с изкуствен интелект и са прикрили военния характер на проектите си.

На този фон подкрепяните от Иран бунтовнически сили на хутите продължават да извършват атаки с ракети и дронове срещу кораби в Червено море, ключов световен търговски път. През последните дни бунтовниците напреднаха към крайбрежните райони, граничещи със стратегическия проток Баб ел-Мандеб, като боевете между бойната групировка и подкрепяните от Саудитска Арабия йеменски сили също се засилват и допълнително тласкат цените на петрола нагоре.

От Anthropic посочват, че разкритата в Йемен група е провела реален ракетен тест и по-късно е потърсила помощ от Claude да диагностицира предполагаемо неуспешно изстрелване. Компанията заяви, че не е открила доказателства за успешното създаване на оперативно оръжие.

Групата е разработила и офлайн симулационни инструменти, които позволяват разработването на оръжия да продължава без постоянен достъп до Claude или инженерни софтуерна среда, според информацията.

Компанията съобщава, че е наложила забрана на акаунти свързани с дейността, споделила е разузнавателна информация с партньори и е засилила предпазните мерки след разследването.

Масово наблюдение

Свързани с държавата лица в страни като Китай и Иран са се опитали да използват Claude за създаване на средства и подпомагането на наблюдението на гражданите. В един от свързаните с Китай случаи е използван Claude за „проследяване, профилиране и вербуване на уйгури“ в сирийската армия. Иранско подразделение използва Claude за създаване на софтуер за наблюдение, прикрит като инструмент за проследяване на времето за молитва. Китайското външно министерство не е отговорило веднага на искане за коментар.

В друг случай е установено, че консултант, вероятно работещ за държавна разузнавателна агенция в Мали, е използвал Claude за изграждане на система, предназначена за наблюдение на приблизително 25 милиона мобилни телефона в западноафриканската страна. Системата може да генерира „разузнавателни досиета“ на всеки посочен телефонен номер и то без съдебна заповед. Anthropic заяви, че е забранила акаунта на консултанта, но че платформата за наблюдение, задвижвана от Claude, е била приложена локално и е извън пълния контрол на компанията. Малийското правителство също не е отговорило веднага на искане за коментар.

Докладът на Anthropic също така подчертава как хакери – от предполагаемо спонсорирани от държавата групи в Русия и Китай до т. нар. хактивисти (които използват хакерски средства за разпространение на идеологии, политически послания и др., бел. ред.) и киберпрестъпници – използват АІ на компанията, за да ускорят и разширят кражбите си на чувствителни данни. Докладът не разкрива никакви нови или опасни уязвимости в критични системи.

„Случаите, които споделяме тук, не са типична злоупотреба, а по-скоро примери за най-забележителната и нова заплаха, която сме идентифицирали до момента“, се казва в доклада на Anthropic, в който са описани и други видове заплахи.