Социалните мрежи не могат да продължат да крият проблемите си в черната кутия

По много начини репутацията на черната кутия на изкуствения интелект за непроницаемае преувеличена според главния изпълнителен директор на Aporia Лирън Хосан. С точната технология дори можете да се справите с ултрасложните езикови модели, които са в основата на социалните мрежи, отчасти защото в изчислителните процеси дори езикът може да бъде представен чрез цифров код. Да разберете как даден алгоритъм може да разпространява реч на омразата или не успява да се справи с нея със сигурност е по-трудно от забелязването на грешки в цифровите данни, които представляват заемите, но е възможност. А европейските регулатори ще се опитат да го направят.

Според говорител на Европейската комисия предстоящият Закон за дигиталните услуги ще изисква онлайн платформите да преминават одити веднъж годишно за оценка колко „рискови“ са техните алгоритми за гражданите. Това може в някои моменти да принуди фирмите да дадат безпрецедентен достъп до информация, която мнозина смятат за търговска тайна: код, данни за обучения и процеси. (Европейската комисия твърди, че одиторите ѝ ще се съобразяват с правилата за конфиденциалност).

Но нека предположим, че европейските регулатори не могат да разгадаят кода на Facebook и YouTube. Да предположим, че не могат да изследват алгоритмите, които решават какви видеоклипове и публикации да препоръчат. Все пак ще имат възможност да направят много.

Маноел Рибейро, доктор по философия, студент в Швейцатския федерален технологичен институт в Лозана, Швейцария, през 2019 г. публикува проучване, в което той и съавторите проследяват как някои посетители на YouTube са били радикализирани от крайнодясно съдържание. Той не се е нуждаел от никакъв достъп до кода на YouTube, за да направи това. Изследователите просто са прегледали коментарите в сайта, за да видят към какви канали са се насочили потребителите с течение на времето. То е като проследяване на дигитални отпечатъци – изключително детайлна работа, която в крайна сметка е разкрила как част от потребителите на YouTube са били примамвани в канали, насочени към превъзходство на бялата раса, като за целта са използвани инфлуенсъри.

Проучването на Рибейро е част от по-широк набор от изследвания, които проследяват психологическите странични ефекти от Facebook или YouTube, без да е необходимо да се разбират конкретните алгоритми. Въпреки че предлагат сравнително повърхностни идеи за това как работят социалните мрежи, те все пак могат да помогнат на регулаторите да наложат по-мащабни задължения на платформите. Те могат да варират от наемането на служители, които да следят за изпълнението на правилата, до предоставяне на точни, производни извадки на одиторите за видовете съдържание, към което хората са насочвани.

Това е коренно различна среда от секретността, при която Big Tech можеха да работят до този момент. И ще включва както нови технологии, така и нови политики. За регулаторите това може да е печеливша комбинация.