Нидерландски съд забрани на Grok да генерира голи снимки

Съд в Амстердам е разпоредил на Grok на Илон Мъск да спре генерирането на голи снимки без съгласие и материали за сексуално насилие над деца.

Компанията xAI, която е собственик на чатбота с изкуствен интелект, е осъдена да плати обезщетение в размер на 100 хил. евро на ден за всеки ден, в който не е спазила задължението, до максимум 10 млн. евро, съобщава Politico.

Нидерландският съд посочва, че генерирането и разпространението на сексуализирани кадри е забранено, „когато функционалността за частично или пълно събличане на хора се използва без изричното им съгласие“.

Съдът забранява и генерирането на кадри, „които съгласно нидерландското законодателство се квалифицират като материали за сексуално насилие над деца“.

Въпреки че забраната важи само за Нидерландия, групите, завели делото, казват, че тя може да има по-широки последици, тъй като Grok не може да определи къде живеят потребителите.

От X не са отговорили на искане за коментар.

Платформата предприе стъпки за ограничаване на функциите през януари, след като беше открито, че Grok генерира смущаващи снимки на истински хора. Смята се, че около 3 млн. снимки са генерирани за 11 дни.

Съдът признава, че X и xAI са предприели редица мерки за противодействие на разпространението на фалшиви голи снимки и материали за сексуално насилие над деца, но казва, че не може да бъде сигурен, че предприетите мерки са ефективни.

Делото е заведено от Offlimits, която се бори с онлайн злоупотребите, и Fonds Slachtofferhulp, която помага на жертви на престъпления. Жалбата е подадена в края на февруари.

Европейската комисия започна разследване срещу X в края на януари. Страните от ЕС настояват за забрана на приложения за голота, задвижвани от изкуствен интелект, като част от усилията за изменение на правилата на ЕС относно изкуствения интелект.