xAI блокира създаването на сексуализирани изображения на реални хора от Grok

Компанията за изкуствен интелект xAI на Илон Мъск съобщи късно в сряда, че е наложила ограничения на всички потребители на чатбота си Grok AI, след като услугата произведе сексуализирани изображения, които предизвикаха загриженост сред международните регулатори, съобщава Ройтерс.

„Внедрихме технологични мерки, за да попречим на акаунта Grok да позволява редактирането на изображения на реални хора в разкриващи дрехи като бански. Това ограничение важи за всички потребители, включително платените абонати“, заяви компанията в публикация в социалната мрежа X.

Хиперреалистични изображения на жени, манипулирани така, че да изглеждат като облечени в микроскопични бански, в унизителни пози или покрити със синини, започнаха да заливат социалната медия X този месец. В някои случаи непълнолетни лица бяха дигитално съблечени до бански костюми, което предизвика широка критика.

Миналата седмица Grok започна да позволява само на платени абонати да използват функциите си за генериране и редактиране на изображения. Също миналата седмица X ограничи възможността на Grok да генерира или редактира изображения публично за много от своите потребители, но чатботът все още произвеждаше сексуализирани изображения по заявка в сряда, преди обявлението на xAI, установи Ройтерс.

Милиардерът Мъск е собственик на xAI, която от своя страна притежава X, по-рано известна като Twitter.

xAI добави в сряда, че въз основа на местоположението им блокира потребители да генерират изображения на хора в оскъдни дрехи в „юрисдикции, където това е незаконно“. Тя не посочи имената на тези юрисдикции.

Калифорнийските власти изискват отговори

Губернаторът и главният прокурор на Калифорния заявиха по-рано в сряда, че изискват отговори от xAI, след като Мъск заяви, че не е наясно с никакви „голи изображения на непълнолетни“, генерирани от Grok.

„Изискваме незабавни отговори от xAI относно плана им да спрат създаването и разпространението на това съдържание“, написа главният прокурор на Калифорния Роб Бонта в X. Губернаторът Гавин Нюсъм призова Бонта „незабавно да разследва компанията и да потърси отговорност от xAI“.

Коментарите на Нюсъм и Бонта бяха най-сериозните досега от страна на американски власти по повод експлозията на генерирани от изкуствен интелект сексуализирани изображения без предоставено съгласие за това в X.

Действията на Калифорния засилиха натиска, на който Мъск е подложен в САЩ и по целия свят. Законодатели и правозащитни групи призоваха Apple и Google да премахнат Grok от магазините за приложения.

Властите заплашиха с действия в Европа и Обединеното кралство. Индонезия временно блокира достъпа до Grok.

Първоначално Мъск публично се присмя на спора, публикувайки хумористични емотикони в отговор на коментарите на други потребители относно наплива на сексуализирани снимки. По-късно X заяви, че разглежда сериозно сигналите за материали със сексуално малтретиране на деца и ги контролира строго.

Мъск заяви по-рано в сряда, че „не е наясно с никакви изображения на голи непълнолетни, генерирани от Grok. Буквално никакви“.

X не е отговорила веднага на въпроси относно съобщението от Калифорния и коментарите на Мъск.

xAI не е отговорила и директно на изпратеното по имейл искане за коментар относно изявленията на калифорнийските власти или публикацията на Мъск, че не е знаел за сексуализираните изображения на непълнолетни. Ройтерс е получила стандартното автоматично съобщение за запитвания: „Лъжи на старите медии“.