Британски регулатор разследва Х заради сексуализираните изображения в Grok

Британският медиен регулатор започна разследване на компанията X на Илон Мъск в понеделник, за да определи дали сексуализираните дийпфейк изображения, произведени от чатбота Grok AI, нарушават задължението му да защитава хората в Обединеното кралство от съдържание, което може да е незаконно, съобщава Ройтерс.

„Има силно обезпокоителни сигнали, че чатботът Grok AI на X се използва за създаване и споделяне на изображения на хора без дрехи – което може да означава злоупотреба с интимни изображения или порнография – и сексуализирани изображения на деца, което може да означава материал за сексуално малтретиране на деца“, каза Ofcom в изявление.

Регулаторът е под натиск да предприеме действия, след като премиерът Киър Стармър заяви, че изображенията, произведени от Grok, са „отвратителни“ и „незаконни“.

X на Мъск трябва да „вземе под контрол“ Grok, заяви Стармър в четвъртък, добавяйки, че Ofcom има пълната подкрепа на правителството да предприеме действия.

Създаването или споделянето на интимни изображения без предоставено съгласие или материали за сексуално малтретиране на деца, включително сексуални изображения, генерирани от AI, е незаконно във Великобритания.

Освен това технологичните платформи не трябва да позволяват британските потребители да се сблъскват с незаконно съдържание и трябва да го премахват веднага щом научат за него.

X бе осъдена и в други страни заради функцията, която може да създава изображения на жени и непълнолетни в оскъдни дрехи.

Френските власти са сезирали прокуратурата и регулаторните органи за Х, наричайки съдържанието „явно незаконно“, а индийските власти също са поискали обяснения.

X е ограничила функцията до платени потребители. Миналата седмица компанията заяви, че премахва цялото незаконно съдържание от платформата и трайно блокира свързаните с него акаунти.

„Всеки, който използва или подтиква Grok да създава незаконно съдържание, ще понесе същите последствия, както ако качи незаконно съдържание“, заяви компанията.

На въпрос по темата наскоро xAI отговори на Ройтерс: „Старите медии лъжат“.

Ofcom ще разследва дали X не е успяла да оцени риска, че хората във Великобритания ще видят незаконно съдържание, и дали е взела предвид риска за децата.

Ofcom заяви, че в най-тежките случаи на несъответствие може да поиска от съда да задължи „доставчиците на платежни услуги или рекламодателите да оттеглят услугите си от платформата“ или да накара доставчиците на интернет услуги да блокират достъпа до даден сайт във Великобритания.

X не е отговорила веднага на искането за коментар по разследването на Ofcom.