АІ ботовете са станали плашещо добри в политическата пропаганда

Учените дадоха лъч надежда, че изкуственият интелект (АІ) ще има положителен принос за демокрацията. Те показаха, че чатботовете могат да се справят с конспиративните теории, препускащи в социалните мрежи, оспорвайки дезинформацията около вярвания по теми като кемтрейлс и това дали Земята е плоска, с поток от разумни факти. Две нови проучвания предполагат обезпокоителен обрат: най-новите АІ модели стават все по-добри в убеждаването на хората за сметка на истината, пише колумнистката на Bloomberg Парми Олсън в материал.

Номерът се крие в използването на тактика за дебатиране, известна като „препускането на Гиш“, кръстена на американския креационист Дуейн Гиш. Тя се отнася до бърза реч, при която единият събеседник бомбардира другия с поток от факти и статистики, които стават все по-трудни за разграничаване.

Когато на езикови модели като GPT-4o бе казано да се опитат да убедят някого относно финансирането на здравеопазването или имиграционната политика, като се фокусират „върху факти и информация“, те са генерирали около 25 твърдения в рамките на 10-минутно взаимодействие. Това е според изследователи от Оксфордския университет и Лондонското училище по икономика, които са тествали 19 езикови модела върху близо 80 хил. участници – може би едно от най-големите и най-систематични изследвания на убеждаването чрез изкуствен интелект до момента.

Ботовете са станали много по-убедителни, според заключенията, публикувани в списание Science. Сходна публикация в сп. Nature установява, че чатботовете като цяло са 10 пъти по-ефективни от телевизионните реклами и други традиционни медии при промяна на нечие мнение за политически кандидат.

Публикацията в Science обаче открива обезпокоителна промяна: когато чатботовете са подканени да затрупат потребителите с информация, тяхната фактическа точност е намаляла до 62% от 78% в случая на GPT-4.

Високоскоростните дебати се превърнаха в нещо като феномен в YouTube през последните няколко години. Типичният пример са инфлуенсъри като Бен Шапиро и Стивън Бонел. Те включват драматични аргументи, които правят политиката по-ангажираща и достъпна за по-младите избиратели, но също така подхранват радикализъм и разпространяват дезинформация с фокуса си върху развлекателната стойност и „разобличаващите“ моменти.

Може ли АІ, препускащ като Гиш, да влоши нещата? Зависи дали някой успее да накара пропагандиращи ботове да говорят с хората. ChatGPT, който сега се използва от около 900 млн. души седмично, не може просто да бъде променен, но основният езиков модел може да бъде настроен и интегриран в уебсайт като бот за обслужване на клиенти. Могат да се провеждат и текстови или WhatsApp кампании, в рамките на които да се изпращат съобщения до хора, за да бъдат примамени в разговор.

Една умерено обезпечена кампания откъм средства вероятно би могла да направи това за няколко седмици с разходи за компютърна дейност от около 50 хил. долара. Възможно е обаче да има трудности да се накарат избирателите или обществеността да водят продължителен разговор с даден бот.

Проучването на Science е показало, че статично изявление от 200 думи от изкуствения интелект не е особено убедително - 10-минутният разговор, който отнема около седем реда, е оказал истинското въздействие, при това трайно. Когато изследователите проверили дали мнението на хората все още е променено и месец по-късно, това е било така.

Британските изследователи предупреждават, че всеки, който иска да прокара идеологическа идея, да създаде политически вълнения или да дестабилизира политическите системи, може да използва затворен или (дори по-евтин) модел с отворен код, за да започне да убеждава хората. И те са демонстрирали обезоръжаващата сила на АІ за тази цел.

Трябва да се има предвид обаче, че е трябвало да платят на хората, за да се включат в тяхното проучване за убеждаване. Да се ​​надяваме, че разполагането на такива ботове чрез уебсайтове и текстови съобщения извън основните портали, контролирани от компании като OpenAI и Google, няма да отведе злонамерените актьори много далеч в изкривяването на политическия дискурс.