AI заменя онлайн модераторите, но не е по-добър от тях в работата им

„Някои системи с изкуствен интелект дават много фалшивo положителни резултати“, казва Рон Кърбс, главен изпълнителен директор на фирмата за софтуер за безопасност на деца Kidas. AI може да не е в състояние да разбере дали някой, който стриймва Call of Duty и казва: „Ще те убия“, го казва като част от игра или е реална смъртна заплаха. В публикация в блога си от януари Meta написа, че автоматизираните системи на компанията, които сканират за нарушения на политиката, „са довели до твърде много грешки“ и свръхцензура, така че компанията ще фокусира тези системи върху нарушения с висока степен на сериозност като наркотици и измами.

Фалшивите положителни резултати на изкуствения интелект могат да доведат до лошо потребителско изживяване за хора, които не правят нищо лошо онлайн, като по погрешка  акаунтите им биват блокирани. Това е довело до по-голямо натоварване на хората, които са получили лавина от обжалвания на решения. „Някои от нещата, които AI би премахнал, просто нямаха смисъл“, казва 29-годишният Майкъл Нкоко, бивш модератор във фирма, с която Meta работи. Тъй като все пак трябва да се придържа към дневната си квота за отговори на сигнали, обжалванията „създават повече работа“. Представител на Meta твърди, че грешките съставляват малка част от премахнатото съдържание.

Компютрите са много добри във въпроси с отговор „да“ или „не“. Те са по-малко добри при субективни въпроси и в културния контекст. Развитието на правилната преценка е постоянен процес. Политиките на компаниите се променят бързо в зависимост от регулациите и политическия климат, социалните норми се развиват и постоянно се измислят нови обиди. Хората развиват езика си по-бързо, отколкото AI може да го открие и разбере, казва Майк Папас, главен изпълнителен директор на компанията за модериране с изкуствен интелект Modulate.

За да се даде на един изкуствен интелект по-близка до човешката преценка, системата трябва да бъде обучена на много специфични въпроси с „да“ или „не“. Така тя може по-често да постига това, което човек вече знае как да прави по интуиция. Кевин казва, че колегите му често биват помолени да преглеждат едно и също съдържание – знак, че компанията се опитва да обучи изкуствения интелект въз основа на тяхната работа. В едно видео, което си спомня, двама души се бият, като единият държи оръжие и удря друг.

„Субектът вдига ли ръката си? Кликвате върху „да“. Ръката слиза ли с определена скорост? Да. Има ли удар? Да. Другият субект реагира ли на удара? Да. Субектът изглежда ли сякаш е получил тежко нараняване? Да. Има ли пръски кръв или нараняване? Да“, обяснява Кевин. „Би било лековерно да си помислите, че правите това и не обучавате изкуствения интелект.“

Питър, който също е нигериец и е помолил да използва псевдоним, казва, че вижда модерацията като обществена услуга, след като е бил свидетел на насилие като дете. Когато сяда на работното си място, понякога го подканват да обозначи всеки малък детайл във видеоклипа, като части от тялото или предмети от бита. Друг път той съобщава за обиди, които изкуственият интелект не е разбрал. В крайна сметка автоматизираната система на компанията му започва да разпознава думи като „арне“ – унизителен термин на езика хауса за немюсюлмански групи. (Питър, подобно на Кевин, знае половин дузина езици).

„Знаех, че няма да мине много време, преди услугите ми да престанат да бъдат необходими“, казва Питър за амбициите на компанията си в областта на AI. „Ако бях собственик на бизнес, щях да искам да свия разходите.“

(Продължава на следващата страница)