Иск срещу OpenAI, Google и Anthropic иска спиране на разработването на авангарден AI

Група неправителствени организации в четвъртък заведе дело срещу OpenAI, Anthropic, подразделението за изкуствен интелект на SpaceX, Meta Platforms и Google (част от Alphabet), като целта им е да блокират по-нататъшното разработване на най-напредналите модели с изкуствен интелект поради опасения – изразени от самите ръководители на компаниите – че технологията може да представлява заплаха за човечеството, съобщава Ройтерс.

Неправителствените организации, които се фокусират върху отчетността в технологичния сектор и включват Irreplaceable Education Fund, Public Citizen и Heat Initiative, заведоха дело в Сан Франциско, заявявайки, че законите на Калифорния срещу нелоялните търговски практики предоставят основание за съдебна заповед, забраняваща на компаниите по-нататъшното разработване на продукти като ChatGPT, Gemini и Claude.

В исковата молба се цитират коментари на ръководители на компаниите като Дарио Амодей, главен изпълнителен директор на Anthropic, и Илон Мъск, главен изпълнителен директор на SpaceX, относно потенциала на изкуствения интелект да доведе до унищожаване на цивилизацията. В нея се описват и скорошни инциденти, при които модели са излезли извън тестовите среди и самостоятелно са атакували правителствени сайтове.

„На никоя друга индустрия не е позволено да третира собственото си разработване на опасни продукти – още по-малко такива, които биха могли да убият всички ни – като нещо неизбежно“, се казва в исковата молба. „Нито на която и да е индустрия е предоставено правото да саморегулира разработването на такива опасни продукти.“

В исковата молба компаниите биват обвинени, че се занимават с търговски практики, които създават обществено безпокойство или нанасят вреда на общественото здраве и благоденствие, като се посочват както минали инциденти, така и потенциалът за бъдещи вреди.

Представител на Meta е отказа коментар. Представителите на останалите компании не са отговориха веднага на исканията за такъв.

И други дела се стремят да спрат развитието

Макар че администрацията на Тръмп досега е отказвала да въведе широкомащабни регулации над изкуствения интелект поради опасения, че това би могло да навреди на способността на страната да се конкурира с Китай, отделни щати и частни субекти се опитват да използват съдебни дела, за да принудят компаниите да внесат промени.

Генералният прокурор на Флорида Джеймс Утмайер заведе дело срещу OpenAI през юни, като обвини компанията, че е представила погрешно безопасността на платформата си ChatGPT. Той твърди, че тя е нанесла вреда на деца, като е предоставяла информация на извършители на стрелби в училища, предлагала е насоки за самонараняване и е предизвиквала пристрастяване у младите потребители. През септември Флорида поиска от съдията, разглеждащ делото, да забрани на OpenAI да разработва нови AI модели без външен надзор. Според съдебните документи това искане все още е в процес на разглеждане.

След подаването на исковата молба от Флорида говорителят на OpenAI Дрю Пусатери заяви, че компанията е спряла обучението на най-мощните си модели и няма да го възобнови, докато не бъдат въведени допълнителни предпазни мерки.

„Правителствата имат важна роля в установяването на строги стандарти за безопасност за изкуствения интелект и ние сме ангажирани да работим с Флорида и други щати за насърчаване на прагматични политики в областта на изкуствения интелект, които да важат за цялата AI индустрия – а не само за една компания“, заяви Пусатери.

Отделно, миналия месец група от осем щата заведе съдебни дела срещу OpenAI в съдилища из цялата страна, твърдейки, че ChatGPT е подтиквал своите потребители – включително тийнейджъри – да причиняват вреда на себе си или на други хора. OpenAI не е отговорила на исканията за коментар след подаването на исковете.

Исковете на щатите целят налагане на финансови санкции, както и издаване на разпореждане, което да забрани на компанията да разработва самоусъвършенстващи се AI модели, освен ако тя не може да гарантира, че тези модели са в съответствие с човешките ценности.