AI заменя онлайн модераторите, но не е по-добър от тях в работата им

Модераторите се притесняват, че независимо колко добре обучават изкуствения интелект, той няма да улови тънкостите на човешката реч и поведение. Един от тях, който е поискал да остане анонимен, посочва, че често преглежда видеоклипове, в които хората носят оскъдно бельо. AI може да разпознае това добре. Но според него няма да прави изключения, ако човекът в клипа стои близо до воден басейн. В други случаи изкуственият интелект може да разпознае открита гърда, но няма да вземе предвид политика, която позволява изображения с кърмене.

Бикините са най-малката тревога на тези модератори. Мнозина казват, че основната им грижа са децата. Зложелателите внимателно изучават тактиките за автоматизация на платформите, за да могат да ги заобиколят, и се учат по-бързо от AI.

Във форумите в тъмната мрежа „хищниците“, преследващи деца, си разменят трикове за това какви думи се улавят от автоматизацията на платформите или докъде могат да стигнат, говорейки с дете, преди да бъдат блокирани. И макар AI да може надеждно да идентифицира деца в изображения или видеоклипове, той трудно улавя текстови разговори, които човешки модератор би класифицирал като подстрекателство, категорични са модераторите. Зложелателите, които се опитват да накарат децата да се прехвърлят в платформо с по-свободни правила, използват безобидни фрази като: „Хайде да купонясваме“. Ако платформата засича това, зложелателите поставят „X“ между буквите, казва един модератор.

Експерти твърдят, че най-безопасният път за технологичните гиганти е да се придържат към човешката си работна сила, като същевременно я развиват и допълват с инструменти с AI. Броят на потенциално опасните публикации, които трябва да се разглеждат, „само се увеличава - особено с генеративния AI и платформите са залети с това съдържание“, споделя Джонатан Фрегер, старши вицепрезидент на фирмата за модериране WebPurify.

Савана Бадалич, ръководител на продуктовата политика в Discord, коментира в интервю, че компанията няма планове да намалява разходите, свързани с модерирането, преди първичното си публично предлагане. Въпреки че Discord използва машинно обучение и големи езикови модели в подкрепа на хората рецензенти, тя твърди: „Изкуственият интелект не замества никой от нашите служители. Той цели да подпомогне и ускори работата им.“

Аутсорсинг компанията Teleperformance наема хиляди модератори на договор, които проверяват съдържание за компании като TikTok. Представител на фирмата твърди, че „въпреки големия напредък в автоматизацията, хората модератори са от съществено значение за осигуряване на безопасност, точност и емпатия както в социалните мрежи, така и в гейминг среда“. Модерирането е повече от това да се каже „да“ или „не“ на изображение. То е „тълкуване на поведение, разбиране на контекста и преценка, с която изкуственият интелект все още среща трудности“, коментира говорителят.

Кевин твърди, че това е последната му година като модератор за TikTok. „Нямам намерение да остана повече от четири години“, казва той. „Депресирани сме. Истинска депресия.“ В свободното си време той гледа стари комедии, свири на китара и се моли. „Докато обучаваме изкуствения интелект на това, което правим, той всъщност се подобрява“, споделя той.

Но това няма да е достатъчно. „Ще има пропуски с много насилствено съдържание“, казва Кевин.