AI заменя онлайн модераторите, но не е по-добър от тях в работата им

Под ръководството на Илон Мъск X драстично сви работната си сила за модериране на съдържание, като от 2023 г. насам намали наполовина модераторите, базирани в Европейския съюз, до 1486, сочи докладът на компанията за Закона за цифровите услуги. Компанията партньор на Meta за модериране на съдържание - Telus, през април съкрати над 2000 работни места, базирани в Барселона. Бившият финансов директор на Roblox Майкъл Гътри пък миналата година каза на инвеститорите, че компанията е освободила парични средства от операциите си от „повече използване на изкуствен интелект, който изисква все по-малко и по-малко ръчно модериране“, като същевременно е запазила броя на служителите непроменен. Roblox не е отговорила на запитването за коментар относно броя на модераторите си. През 2024 г. Bloomberg съобщи, че Roblox е имала около 3000 модератори на фона на своите 80 млн. дневно активни потребители по това време. Компанията твърди, че броят на модераторите не е показател за качество.

TikTok наскоро съкрати стотици работни места за модератори и планира в близко бъдеще да съкрати още, преминавайки към модериране с изкуствен интелект, съобщи Ройтерс. 50 от близо 150-те модератори на TikTok в Германия заплашват със стачка заради предстоящите съкращения. Един модератор на съдържание в TikTok, отговарящ за нидерландски видеоклипове, който се занимава с теми като конспиративни теории и дезинформация за избори, твърди, че AI не е подходящ негов заместител, защото не може да улови контекста за специфични региони, като например различните диалекти на фламандския.

X не е отговорила на запитванията за коментар. Представител на TikTok посочва, че изкуственият интелект „може да помогне за благосъстоянието на нашия екип за модерация и да подобри човешкото модериране“, визирайки възможността за персонализиране на натовареността на модераторите въз основа на техните културни познания. „Използването на AI в подкрепа на модерирането на съдържание все още е в много ранен етап“, посочва говорителят, добавяйки, че компанията дефинира „твърди критерии за качество“ за новите технологии за модериране, преди да ги въведе в употреба. Човешките модератори са по-фокусирани върху сложни задачи, които са „по-свързани с контекста, но имат по-ниско разпространение“, коментира представителят.

През август Roblox обяви, че ще ползва система с изкуствен интелект, която да открива ранни признаци на заплахи за деца, която помогна на Roblox да идентифицира 1200 сигнала за потенциална експлоатация на деца за Националния център за изчезнали и експлоатирани деца. Модерирането на големия обем текстово и аудио съдържание е „работа, с която хората не могат да се справят сами“, посочва компанията в публикация в блога си от юли, добавяйки, че това ще „изисква стотици хиляди човешки модератори, работещи 24/7“.

Под публикацията на главния изпълнителен директор Дейвид Базуки в X десетки хора се оплакаха в коментарите от модерирането на платформата, като мнозина казаха, че хората са по-подходящи за модериране на детската платформа. Някои споделиха снимки на неподходящо съдържание, което са виждали.

Има много неща, които изкуственият интелект може и прави, за да подобри човешката работа, като например приоритизиране на най-опасното съдържание, което хората модератори да проверяват. AI също така може да прави особено обезпокоителни видеоклипове и изображения черно-бели, което според изследователите е от полза за психичното здраве на модераторите. Представител на TikTok твърди, че модераторите му са премахнали 60% по-малко видеоклипове, нарушаващи политиката на платформата срещу шокиращо или графично съдържание, тъй като „нашите технологии за модериране са поели повече от тези потенциално обезпокоителни видеа“. Но дори компании, продаващи инструменти за модериране с AI, предупреждават за прекомерна зависимост от технологията.

(Продължава на следващата страница)