OpenAI е уволнила служители за предполагаемо споделяне на информация с група за AI безопасност

OpenAI е освободила трима служители заради нарушаване на фирмените правила за работа с чувствителна информация, включително и заради предполагаемо споделяне на такава с външна група, съобщава Bloomberg.

„Нашето разследване потвърди, че тези лица са боравили неправилно с чувствителна информация извън установените фирмени процедури, нарушавайки нашите правила и подкопавайки доверието, което е от съществено значение за нашата работа“, каза говорител на OpenAI в изявление в четвъртък.

Служителите – двама изследователи в областта на безопасността и съгласуваността и един мениджър на изследователска програма – са споделили чувствителна фирмена информация с външна група за оценка на изкуствения интелект, посочва запознат с въпроса източник, пожелал да остане анонимен, за да обсъди лични въпроси. Част от информацията, с която се твърди, че е било боравено неправилно, се е отнасяла до инфраструктурната архитектура на OpenAI, казва същият източник.

По-рано Wall Street Journal съобщи, че OpenAI е прекъснала отношенията си с трима изследователи.

Създателят на ChatGPT се сблъсква с опасенията на служителите и обществеността относно потенциалните рискове от най-модерните си продукти в областта на изкуствения интелект след поредица от неотдавнашни хакерски инциденти, свързани с неконтролирани AI системи.

Компанията одобри план за забавяне на разработването на бъдещи авангардни AI модели и заяви, че планира да позволи на независими групи да проверяват моделите ѝ за рискове за безопасността. По-рано тази седмица OpenAI обяви, че ще отложи пускането на версия на своя модел Astra, докато въведе по-строги предпазни мерки за разработката на изкуствен интелект.

В сряда Bloomberg съобщи, че Федералната търговска комисия разследва OpenAI и други компании в областта на изкуствения интелект, включително Anthropic, във връзка с безопасността на техните продукти на фона на широко отразявани инциденти, свързани с киберсигурността.