Нискокачественото AI съдържание води до когнитивен упадък и склонност към насилие сред децата

Нискокачественото дигитално съдържание, създадено с изкуствен интелект – известно като AI slop или „AI боклук“, и по-специално популярни напоследък анимирани клипове с плодове допринася за значителен когнитивен упадък и склонност към насилие сред децата, съобщава Euronews.

Анализът, изготвен от Global Network on Extremism and Technology (GNET), установява, че генерираните с AI анимирани клипове с плодове, които в момента са широко разпространени във фийдовете на социалните мрежи на деца по целия свят, могат да бъдат начин за тайно разпространяване на „насилствено и екстремистко съдържание“.

„AI боклукът“ се отнася конкретно до масово произвеждано, силно повтарящо се и нискокачествено съдържание, генерирано от изкуствен интелект, което обикновено има малко или никакъв човешки принос. Този тип съдържание обикновено дава приоритет само на гледаемостта, кликовете, ангажираността и приходите от реклама и се произвежда много евтино.

По този начин един създател би могъл потенциално да произведе стотици от тези кратки видеа, заливайки множество платформи с огромни количества съдържание. Тъй като много платформи за социални медии награждават постоянната активност и качването на съдържание, тази стратегия може да бъде изключително ефективна за достигане до милиони деца по целия свят.

Това допринася за когнитивен упадък или „мозъчно гниене“ (brain rot), което се отнася до културните и психологическите ефекти от консумирането на прекалено много бързо, свръхстимулиращо и умишлено безсмислено съдържание, което често е абсурдно и се възползва от навици като безкрайното превъртане и преследването на мигновени приливи на допаим.

Появата на евтини, лесни за усвояване и изключително удобни приложения като PixVerse, VeoE.ai, Media.io и Sora също допринесе за рязкото нарастване на генерирано от AI съдържание през последните години.

Как „AI боклукът“ допринася за радикализацията в интернет

„AI боклукът“ може тайно да разпространява радикализиращо съдържание в интернет чрез видеа, които на пръв поглед изглеждат безобидни, абсурдни или дори забавни, например анимирани клипове с плодове и зеленчуци.

Този тип съдържание често съдържа драматични сюжети, включващи романтика, семейни конфликти, предателство и изневяра, наред с други сюжетни линии, изобразени от на пръв поглед невинни анимирани плодове. Те могат да изобразяват значителна агресия и емоционално насилие, а също така могат да бъдат силно стимулиращи за впечатлителните умове чрез моделите си на разказване на истории.

В много случаи тези видеа се използват и за прославяне, възхваляване и разпространяване на насилствен екстремизъм и терористични атаки чрез запомнящи се клипове, възползващи от бързо разпространяващи се онлайн тенденции и теми.

Кървавите сцени с плодове и зеленчуци, създадени с изкуствен интелект, често включват изтезания, екстремни осакатявания и хиперреалистично насилие, което може значително да притъпи чувствителността на аудиторията, криейки се зад образите на тези анимирани герои.

Те могат също да показват покушения, събития с многобройни жертви и брутални убийства.

В много случаи видеата споделят и сходни характеристики с екстремистките организации, проповядващи крайнодясна, нихилистична или насилствена идеология, както и с престъпните картели.

Например популярният герой „Морковът Халифа“ често се появява във видеоклипове, където казва на армия, че „Държавата на Моркова ще възкръсне отново“, което напомня на известната идеология и пропаганда на „Ислямска държава“ (ИДИЛ).

Макар платформи като TikTok да разполагат с политики за предотвратяване на разпространението на подобно изключително насилствено съдържание, те не са напълно надеждни, тъй като генераторите, базирани на изкуствен интелект, могат да заобикалят ограниченията и да се скрият под прикритието на на пръв поглед невинно съдържание.