AI заменя онлайн модераторите, но не е по-добър от тях в работата им

Кевин решава да се занимава с модериране на съдържание, след като препоръките му в YouTube се променят странно. През 2021 г. в профила му се появяват видеоклипове, показващи насилствени атаки от нигерийската групировка Боко Харам. Кадрите са сурови, кървави и му напомнят за насилието, на което е бил свидетел като дете в Нигерия, пише Bloomberg.

Един ден видеоклиповете изчезват. Кой е направил това, чуди се той. Прочита онлайн, че премахването на смущаващи неща от интернет е работа, за която може да кандидатства. „Не исках хората да преминават през живота си, виждайки тези ужасни неща“, казва Кевин, който говори под псевдоним поради поверителния характер на работата си. „Исках да направя света по-добър.“

Сега Кевин е един от служителите на фирма за модериране на съдържание, работеща за TikTok, където преглежда видеоклипове, публикувани от потребители в цяла Субсахарска Африка. Неговата преценка определя дали „всичко лошо и всичко жестоко“ - малтретиране на животни, малтретиране на хора, осакатяване, смърт, инциденти с участието на деца - остава или ще бъде премахнато, споделя той.

Това е трудна и емоционална работа. Наскоро е бил помолен да използва програма с изкуствен интелект (AI), която да му помогне. Но след повече от година работа със системата, Кевин смята, че изкуственият интелект е създал нови проблеми. Технологията не може надеждно да разпознава злоупотреба или зло, изтъква той. Въпреки това Кевин вярва, че това няма да спре работодателя му да използва инструментите, за да го замести.

Появата на генеративния изкуствен интелект доведе до толкова впечатляващ напредък, че много компании залагат, че един ден технологията ще се научи да различава доброто от лошото, ако ѝ предоставят достатъчно примери за всяко от тях. Но според 13 професионални модератори, изкуственият интелект, на който сега се разчита, за да спре разпространението на опасно съдържание, като материали със сексуално насилие над деца или политическа дезинформация, замества работниците по-бързо, отколкото може да се научи на работата.

Работниците, които остават, се опасяват, че съблюдаваният от изкуствен интелект интернет ще се превърне в опасно минно поле, където кодираната реч на омразата, пропагандата, подстрекателството към действия, свързани с деца, и други форми на онлайн вреда продължават да се разпространяват неконтролирано.

„Ако тръгнете се насочите към внедряването на изкуствен интелект, за да намалите броя на служителите, занимаващи се с доверието и нивото на безопасност, това ще намали безопасността като цяло“, посочва Лойд Ричардсън, директор по технологиите в Канадския център за закрила на детето. „Имате нужда от човешки същества.“

Компании, включително Meta Platforms, TikTok на ByteDance, Roblox и X, рекламират предимствата на по-голямата зависимост от модерирането на съдържание с изкуствен интелект. Това е травматична, стресираща работа, която може да остави трайни емоционални белези върху хората, които я вършат, и е невъзможно или непосилно скъпо да се наемат достатъчно хора, за да се справят с всичко това. Имайте предвид, че потребителите публикуват повече от 20 млн. видеоклипа в YouTube всеки ден. Автоматизираните системи са намалили донякъде натоварването, като са блокирали повторното качване на съдържание, за което вече е известно, че е лошо, като видеоклипове на масови стрелби. Но сега компаниите разчитат на това, че AI се научи да разбира нюансите в съдържанието и да взема решения.

(Продължава на следващата страница)