AI заменя онлайн модераторите, но не е по-добър от тях в работата им

Днешните чатботове с изкуствен интелект могат да подкрепят хората в емоционални разговори. Това не означава, че същият тип технология е готова да защити интернет потребителите от травма, категорични са модераторите.

От 13-те модератори, с които Bloomberg разговаря, всички с изключение на един казват, че инструментите, които им се предоставят, реално затрудняват работата им. „Не можем да разчитаме на предложенията с изкуствен интелект“, коментира 36-годишната Жанерке Каденова, която работи за фирма за модериране на съдържание в Казахстан, сключила договор с голяма технологична компания.

Кевин посочва, че за него системата се проваля в до 70% от случаите. Системата все още често прави неправилни заключения, като например да посочи индикатора за ниско ниво на горивото на таблото на автомобил във видеоклип, когато е трябвало да посочи показанието от 200 километра в час на скоростомера. Или може да огради лицето на малко дете в платформата и да го идентифицира като 17-годишно. Той отделя време, за да коригира грешките и въвежда изключително специфични етикети за всичко, което вижда. Коригирането на изкуствения интелект увеличава натоварването, отнемайки време, което би могло да бъде посветено на решаване на по-спешни проблеми.

„Страшно е. Много е страшно“, казва Кевин, който вярва, че неговите щателни корекции обучават системата и в крайна сметка ще го заменят, въпреки че шефовете му не са го казали изрично.

Roblox, YouTube, TikTok, Meta и X бяха подложени на проверка заради практиките си за модериране. През 2024 г. в изслушване относно безопасността на децата американски сенатор постави под въпрос последните три компании. Днес TikTok се бори с десетки съдебни дела след разследвания, свързани със суицидно съдържание и други. Федералната търговска комисия на САЩ обвини Instagram на Meta, че свързва непълнолетни с подстрекатели, а безброй статии описват предизвикателствата на Facebook при модерирането на екстремистко съдържание и такова с насилие.

След като Илон Мъск купи Twitter, който преименува на X, регулатори и журналисти изразиха куп опасения, че платформата разпространява дълбоко фалшифицирана порнография и съдържание, свързано с малтретиране на деца. Roblox също беше критикувана за това, че не е защитила децата от зложелатели в платформата. През последните три седмици срещу компанията бяха подадени седем жалби, в които се твърди, че са нанесени вреди на безопасността на децата. В исковете се твърди, че зложелателите в Roblox са се прицелили в  деца на възраст от 8 години. „Твърдението, че Roblox умишлено би изложил нашите потребители на риск от експлоатация, е категорично невярно“, заяви компанията в отговор на иска.

И все пак през последната година, под натиска да намалят разходите, всички тези компании обявиха намерението си да разчитат повече на модериране с изкуствен интелект, ускорявайки усилията, започнати по време на пандемията, когато компаниите решиха, че работата с чувствително съдържание не е възможна от вкъщи. За някои от приложенията ходът беше подхранван отчасти и от твърденията на консервативните законодатели, че човешкото модериране е предубедено.

(Продължава на следващата страница)