Anthropic и OpenAI търсят да наемат експерти по оръжия и взривни вещества

Компаниите за изкуствен интелект (AI) Anthropic и OpenAI търсят да наемат експерти по оръжия и взривни вещества, за да предотвратят злоупотреба с технологиите им, според обяви за работа и от двете компании, цитирани от Euronews.

Anthropic публикува в LinkedIn, че търси експерт по политики в областта на химическите оръжия и експлозиите, за да предотврати „катастрофална злоупотреба“ с технологиите си, като оформи начина, по който системите с изкуствен интелект обработват чувствителна информация в тези области.

Наетият от Anthropic човек ще проектира и наблюдава предпазните мерки за това как AI базираните модели реагират на сигнали за химически оръжия и взривни вещества. Той също така ще провежда „бързи реакции“ на всякакви ескалации, които Anthropic открие в сигнали за оръжия и експлозии.

Кандидатите трябва да имат минимум пет години опит в „защита от химически оръжия и/или взривни вещества“, както и познания за „устройства за радиологично разпръскване“ или „мръсни бомби“. Позицията включва проектиране на нови оценки на риска, на които ръководството на компанията може „да се довери по време на събития с висок залог“.

В обявата за работа на OpenAI се казва, че се търсят изследователи, които да се присъединят към екипа им за готовност, който следи за „катастрофални рискове, свързани с гранични модели на изкуствен интелект“.

Предвижда се лицата да идентифицират, моделират и прогнозират гранични рискове.

От Euronews не са получили отговор от компаниите на запитвания за коментар.

Anthropic заведе дело срещу правителството на САЩ, след като то определи компанията като „риск за веригата на доставки“ – етикет, който позволява на правителството да блокира договори или да инструктира ведомствата да не работят с тях.

Конфликтът започна на 24 февруари, когато Министерството на войната на САЩ поиска неограничен достъп до чатбота Claude на Anthropic. Главният изпълнителен директор Дарио Амодей заяви, че договорите на ведомството не трябва да включват случаи, в които Claude е разположен за масово вътрешно наблюдение и е интегриран в напълно автономни оръжия.

По същото време OpenAI подписа споразумение с Министерството на войната на САЩ за разполагане на своя модел на изкуствен интелект в класифицирани среди. Компанията заяви, че сделката включва строги червени линии, като например неизползване на системите ѝ за масово наблюдение или автономни оръжия.