Социалните мрежи трябва спешно да адресират онлайн дезинформацията

Приблизително половината от световното население се отправя към урните през 2024 г. - от Съединените щати до Великобритания, Индия, Индонезия, Мексико, Южна Африка и др. Но ако не внимаваме, годината, която чупи изборни рекордите, може да счупи и демокрацията, пише за Financial Times Хеле Торнинг-Шмидт, съпредседателка на Контролния съвет на Meta и бивша премиерка на Дания.

Била съм свидетелка как недобросъвестни субекти работят онлайн и офлайн, за да подкопаят честните и справедливи демократични процеси. С течение на времето тези им усилия се усъвършенстваха. Социалните мрежи се превърнаха във форуми за сеене на дезинформация и подбуждане към насилие. При толкова много предстоящи избори рисковете, които възникват, се усилват от изкуствения интелект (AI).

Разпространяват се фалшиви видео и аудио записи на кандидати, които казват на поддръжниците си да не гласуват (такъв бе случаят с Байдън – бел. прев.) Клонирани политици манипулират или крадат избори. И не само политиците са засегнати. Наскоро X трябваше да блокира търсенията за Тейлър Суифт, след като в социалната мрежа бяха разпространени нейни изображения, генерирани от AI. Американските политици сега призовават за спешни действия за криминализиране на фалшивите видеа. Но докато се фокусираме върху проблемите, причинени от новите технологии, технологичните компании рискуват да пренебрегнат съдържание, което е променено с помощта на по-прости инструменти.

Наскоро нашият Контролен съвет, който взема независими решения относно съдържанието във Facebook и Instagram, публикува забележително решение относно видео, редактирано така, че да изглежда така сякаш президентът на САЩ Джо Байдън докосва гърдите на пълнолетната си внучка. Установихме, че публикацията не нарушава съществуващата медийна политика на Meta, отчасти защото не е генерирана от AI и манипулацията във видеото е очевидна.

Открихме обаче също, че тази политика не е работеща. Тя забраняваше манипулирани видеоклипове, които показват хора, които казват неща, които не са казали, но не забранява публикации, изобразяващи индивид, който прави нещо, което не е направил. Тя се прилага само за видеоклипове, създадени чрез AI, но позволява друго фалшиво съдържание да мине през ситото.

Освен да затвори тези вратички Meta трябва да спре премахването на манипулирани публикации, когато не е настъпило друго нарушение на правилата, и вместо това да приложи етикет, показващ, че съдържанието е значително променено и може да подведе.

За да бъдат в крак със заплахата, породена от недобросъвестни субекти, социалните мрежи не трябва да преоткриват колелото. Те трябва да намалят сложността и да се върнат към основите.

Първо, политиките, които потискат свободата на изразяване, трябва да конкретизират вредата, която се опитват да предотвратят. Има явен сблъсък между разрешаването на свободата на изразяване и защитата на хората от вреди в реалния свят. Намерението на потребителя и начина, по който другите потребители възприемат тяхното съдържание, е от ключово значение за определяне на вероятността от такава вреда.

Второ, в кризисни ситуации, включително избори, при които рискът от насилие е висок, политиките трябва да отразяват заплахите за физическата безопасност и сигурност. Важно е да има ясна система за модериране на съдържание при криза.

Трето, прозрачността е фундаментална. Само като покажем как се вземат решенията и държим хората отговорни, можем да изградим доверие. Контролният съвет настоя Meta да сподели своите показатели за това как наблюдава усилията си преди, по време и след „очаквани критични събития“, като избори например. Компанията очаква да ги публикува през втората половина на 2024 г.

Правителствените искания за премахване на съдържание също трябва да бъдат публикувани. Непропорционалната цензура може да допринесе за атмосфера на дезинформация и да засегне правата на потребителите за достъп до информация или споделяне на мнения.

Възможнo е да се създаде пътна карта за защита на словото и насърчаване на етични действия онлайн. Но правителствата, регулаторите, гражданското общество и академичните среди трябва да работят с нас, за да посрещнем предизвикателството да се борим с изборната дезинформация, завършва Торнинг-Шмидт.