Детекторът за AI на Meta не разпознава някои от собствените си кадрирани изображения

Нов инструмент за откриване на съдържание, генерирано с изкуствен интелект, от Meta, който технологичната компания представи тази седмица успоредно с пускането на модела си за генериране на изображения Muse Image, не е успял да идентифицира някои от собствените си AI изображения, след като са били кадрирани, показва анализ на Reuters.

Това откритие подчертава предизвикателствата при проверката на изображения, генерирани от AI, след обичайни промени – ограничение, което може да затрудни разпознаването на дийпфейкове в интернет през една натоварена предизборна година, включваща междинните избори в САЩ.

При анализ на 40 изображения, генерирани с помощта на Muse Image, Ройтерс е установила, че инструментът за откриване е верифицирал всички оригинални изображения, генерирани от AI, но не е успял да верифицира 55% от същите изображения, след като те са били кадрирани до приблизително една трета до половината от оригиналния им размер.

На сайта си Meta заявява, че инструментът за предварително разпознаване може да идентифицира собствените си генерирани от AI изображения, дори и да са кадрирани, чрез система от невидими водни знаци, наречена Content Seal. Тя е вградена във всяко изображение, генерирано от Muse Image, и цели да помогне на потребителите да проверят дали то е създадено от AI моделите на Meta.

Попитана за резултатите от анализа на Ройтерс относно инструмента за откриване, Meta е отбелязала, че инструментът е все още на етап предварителна версия. Компанията заяви, че водният знак е проектиран да остава непокътнат след обичайни редакции, но сигналът може да се загуби, ако изображението бъде силно изрязано.

Конкурентните технологични компании Google и OpenAI предупредиха, че техните инструменти за откриване не са напълно надеждни срещу техниките за манипулиране на изображения.

През март Надзорният съвет на Meta – орган от експерти, който взима обвързващи решения и издава препоръки по въпроси, свързани със съдържанието в социалните медии на компанията – призова компанията да направи повече, за да се справи с „разпространението на подвеждащо съдържание, генерирано от изкуствен интелект“ на платформите си и да инвестира в по-ефективни инструменти за откриване.

Сивей Лю, професор по компютърни науки в Държавния университет на Ню Йорк в Бъфало, коментира, че не е оценявал инструмента на Meta, но че системите, базирани на воден знак, имат ограничения.

„Методите, базирани на воден знак, могат да бъдат изключително ефективни, когато водният знак остане непокътнат, но всяка модификация, която премахва или отслабва вградения сигнал – като кадриране, промяна на размера, силна компресия или редактиране – може да намали тяхната ефективност, в зависимост от това как е проектиран водният знак“, каза Лю.

Сара Барингтън, изследователка в областта на изкуствения интелект и докторантка в School of Information към Университета в Бъркли, заяви, че водният знак е обещаващ за бъдещето на съдържанието, генерирано от изкуствен интелект, но възможностите му са ограничени.

„Подобно на много превантивни мерки за киберсигурност или физическа сигурност, той може да не е напълно надежден, но дори и да засечем само 90% от случаите, това все пак е голям скок в сравнение с 0“, каза тя.