Чатботове са били използвани за създаване на невярно съдържание за десетки сайтове

Групата за оценка на достоверността на журналистически сайтове и борба с дезинформацията NewsGuard е установила десетки новинарски сайтове, генериращи съдържание от чатботове с изкуствен интелект (ИИ), които се разпространяват онлайн. Това става ясно от нов доклад, публикуван в понеделник и цитиран от Bloomberg.

Става въпрос 49 сайта, които са били прегледани отделно и от Bloomberg. Някои от тях са оформени като сайтове за извънредни новини с имена, звучащи като генерирани изкуствено, като News Live 79 и Daily Business Post. В други могат да бъде намерено по-скоро лайфстайл информация, новини за знаменитости и спонсорирано съдържание.

Никой от тях обаче не посочва, че за е създаден с помощта на чатботове като ChatGPT на OpenAI и вероятно Google Bard на Alphabet, които могат да създават подробни текстове на база на зададени общи теми. Много от сайтовете са започнали да публикуват съдържание през тази година, когато и започна по-широкото използване на инструментите с изкуствен интелект.

През април сайт, наречен CelebritiesDeaths.com, е публикувал статия, озаглавена „Байдън е мъртъв, Харис (става) изпълняващ длъжността президент, обръщение в 9 ч.“, имайки предвид американския президент Джо Байдън и вицепрезидента Камала Харис. В друг случай са публикувани фалшифицирани факти за живота и работата на архитект в негов некролог. Също така сайт, наречен TNewsNetwork, е публикувал непотвърдена новина за смъртта на хиляди войници в руско-украинската война на базата на видео в YouTube.

По-голямата част от сайтовете, за които става въпрос в доклада, изглежда са т. нар. ферми за съдържание – нискокачествени сайтове, управлявани анонимно, които качват публикации в опит да привлекат рекламодатели. Сайтовете са базирани навсякъде по света и публикяват на различни езици, включително английски, португалски, тайландски и др., посочват от NewsGuard.

Част от сайтовете успяват да донесат приходи чрез реклами с платено съдържание – при които даден човек или бизнес плаща за споменаване на името му. Други изглежда се опитват да създадат аудитория в социалните мрежи, както ScoopEarth.com, който публикува биографии на известни личности, а страницата му във Facebook има 124 хил. последователи.

Повече от половината от сайтовете правят пари чрез автоматични реклами – на сайта е предвидено пространство за реклама, което се купува и продава автоматично чрез алгоритми. Притесненията са особено подчертани за Google, чийто чатбот Bard може да е бил използван от сайтовете и чиято рекламна технология генерира приходи за половината от тях.

Според съглавния изпълнителен директор на NewsGuard Гордън Кровиц докладът показва, че компании като OpenAI и Google трябва да се погрижат да формират моделите си така, че да не фабрикуват новини. „Използването на ИИ модели, известни с измислянето на факти за създаването на това, което само изглежда като новинарски сайтове, е измама, маскирана като журналистика“, коментира Кровиц, който е бивш издател на Wall Street Journal.

От OpenAI не са отговорили незабавно на запитване за коментар, но преди са посочвали, че използват комбинация от човешка редакция и автоматизирани системи, за да установяват и предотвратяват злоупотреби с инструмента си.

В отговор на запитване от Bloomberg говорител на Google заяви, че компанията не позволява реклами да бъдат показвани до обедно или спам съдържание, както и до такова, което е копирано от други сайтове. „Когато прилагаме тези политики, ние се фокусираме върху качеството на съдържанието, а не на това как е било създадено“, се казва в позицията.

Според Ноа Джансиракуза, професор от Bentley University, схемата може и да не е нова, но със сигурност изпълнението ѝ е станало по-лесно, по-бързо и по-евтино.

Хората зад този вид измама „ще продължат да експериментират, за да установят както е ефективно“, коментира той.