Как xAI се оказа под обстрел заради сексуализирани снимки на деца в чатбота Grok

Илон Мъск многократно разширява границите на допустимата реч в социалната си мрежа X. Организации за защита на децата и международни регулаторни органи твърдят, че последната актуализация на базирания на изкуствен интелект чатбот Grok е преминала опасна граница: позволява сексуализирано редактиране на снимки, включително на деца.

Сега Мъск, който се нарича абсолютен застъпник на свободата на словото, но същевременно обещава да заеме твърда позиция по отношение на експлоатацията на деца, е изправен пред нарастващи призиви за строго прилагане на законите и правилата по света и в САЩ, пише Wall Street Journal.

В края на декември чатботът Grok на xAI започна да позволява на потребителите да редактират изображения с текстови команди. Потребителите в X откриха, че могат да използват функцията, за да изпълняват инструкции като „съблечи я“ и „облечи я в бански“.

Социалната мрежа X беше залята от генерирани от AI изображения на жени в бельо, създадени без разрешение от лицата. Според Женевиев О, изследовател в областта на социалните медии и дийпфейк, Grok генерира около 7750 сексуално провокативни или разголващи изображения на час в анализ на съдържанието в X в сряда. Copyleaks, компания, която идентифицира кога изображенията са били променени с AI, заяви, че в края на декември е засичала по едно сексуализирано изображение без съгласие на изобразените лица на минута в публично достъпния поток със снимки на Grok.

Някои потребители са фокусирали инструмента върху деца.

Нгаире Александър, ръководител на горещата линия в Internet Watch Foundation, казва, че анализаторите на нестопанската организация са открили сексуални изображения на непълнолетни във форум в тъмната мрежа, чиито членове са твърдели, че са използвали Grok за създаване на изображенията. Александър, чиято организация идентифицира съдържание, свързано със сексуално насилие онлайн, добавя, че изображенията изобразяват сексуализирани и голи момичета, които изглеждат на възраст между 11 и 13 години. Изображенията изглежда отговарят на критериите на Обединеното кралство за криминално съдържание, свързано със сексуално насилие над деца, заяви IWF.

Материали, които експлоатират и сексуализират деца, съществуват онлайн от създаването на интернет, а преди това и в аналогови формати. Но изкуственият интелект и приложения като Grok ускориха скоростта и лекотата, с която хората могат да генерират фотореалистични, сексуализирани изображения на деца.

„Инструменти като Grok сега рискуват да превърнат сексуалните AI изображения на деца в нещо обичайно“, казва Александър. „Вредните последици се разпространяват.“

По-рано Мъск посочи, че ще се заеме с безопасността на децата на платформата си. След като купи Twitter през 2022 г., Мъск заяви в публикация, че премахването на експлоатацията на деца е „приоритет № 1“. Той насърчи потребителите да отговорят в коментарите към публикацията му, ако видят нещо, с което компанията му трябва да се заеме.

xAI е сред големите технологични компании, които се конкурират да привлекат потребители и финансиране, докато се надпреварват в разработването на най-модерните AI инструменти. Ръководителите на xAI многократно са установявали, че предлагането на AI инструменти с по-либерални ограничения по отношение на сексуалното съдържание в сравнение с други платформи е спомогнало да се повиши ангажираността, посочват запознати с промените източници.

На 2 януари, когато възмущението от разпространението на изображения без съгласие на изобразените лица се засили, Мъск повторно публикува в X изображение на тостер в бикини. „Не знам защо, но не можех да спра да се смея на това??“, написа Мъск в публикацията си.

На следващия ден той публикува, че всеки, който използва Grok за създаване на незаконно съдържание, ще „понесе същите последствия“, както ако качи незаконно съдържание.

Акаунтът на Grok в X заяви, че xAI има предпазни мерки срещу „изобразяването на непълнолетни с минимално облекло“ и „продължават подобренията, за да се блокират напълно такива заявки“.

xAI и Мъск не са отговорили на исканията за коментар.

Регулаторните органи по целия свят заявиха, че предприемат действия или обмислят следващи стъпки, включително в Европейската комисия, Обединеното кралство, Франция, Австралия, Малайзия, Индия и Бразилия.

„Налице е експлозия на изкуствен интелект, генериращ разголени изображения на деца“, написа представителката на демократите от Ню Йорк Александрия Окасио-Кортес в публикация в X в отговор на публикация за Grok. Тя призова Конгреса да приеме законодателство, което тя самата е инициирала, за да помогне на жертвите на дийпфейкове.

Потребители в X отговориха на публикацията на Окасио-Кортес с дийпфейк изображения, в които тя е по бански.

Националният център за сексуална експлоатация (National Center on Sexual Exploitation) – неправителствена организация, която призовава за подобряване на защитата на децата в интернет и се стреми да ограничи достъпа до порнография, призова Министерството на правосъдието на САЩ и Федералната търговска комисия да разследват X.

Ашли Сейнт Клер, консервативна инфлуенсърка, която има дете от Мъск, заяви в интервю, че потребителите на X използват Grok, за да разголват нейни изображения, включително едно от времето, когато е била на 14 години. Сейнт Клер заведе дело срещу Мъск през февруари за попечителство и финансова подкрепа за детето им.

Сейнт Клер отправи призив към другите потребители в публикация в X да я уведомяват, ако са преживели подобно отношение. Тя заяви, че оттогава е залята със съобщения от отчаяни родители, които се опитват да премахнат сексуализираните снимки на децата си.

„Виждала съм Илон да спира много по-малко с едно съобщение до инженерите си“, каза тя, включително когато шегите му не се приемаха добре в X.

Мъск си спечели както привърженици, така и критики с опита си да създаде чатбот, противопоставящ се на т.нар. „woke“ култура. През лятото чатботът му публикува поредица от антисемитски коментари и в серия от бързо станали популярни публикации в X се самоопредели като MechaHitler.

След инцидента xAI заяви, че работи активно за премахването на неподходящите публикации, а X каза, че е променила функционалността си, за да гарантира, че няма да публикува реч на омраза. „Grok беше прекалено послушен спрямо потребителските команди. С прекалено желание да угажда и да бъде манипулиран, по същество“, заяви Мъск в публикация по това време.

В средата на 2025 г. Thorn – неправителствена организация, която създава инструменти за откриване за запазване на безопасността на децата, заяви, че е прекратила договора си с X, след като компанията на Мъск е спряла плащанията си към нея. Много големи технологични компании разчитат на инструментите на Thorn за откриване и премахване на съдържание, свързано със сексуално малтретиране на деца.

На вътрешно ниво решенията на xAI да облекчи правилата на платформата си предизвикаха напрежение сред служителите. Бивши служители, участвали в пускането на Ani – провокативно изглеждаща анимационна героиня в Grok с руси плитки и разголени дрехи, и Spicy Mode, настройка, която позволява на потребителите да създават провокативно и сексуализирано съдържание, заявиха, че тези предложения са стимулирали ангажираността с приложението. Според запознати с въпроса някои служители са изразили опасения, че Spicy Mode ще бъде използван за тормоз.

Бивши служители на Мъск заявиха, че в миналото той е бил в конфликт с някои мениджъри относно степента, до която трябва да се ограничава съдържанието. Хората, които са изразили опасения, са били изгонени от компанията, твърдят те.

В седмиците преди xAI да пусне новия спорен начин за редактиране на изображения, xAI загуби редица служители, работещи в малките екипи, посветени на безопасността, включително ръководителя на продуктовата безопасност и ръководителя на правните въпроси, посочват бившите служители.

В края на декември служител на xAI сподели в публикация, че компанията набира хора за екипа си по безопасност.