Инструменти за създаване на образи с изкуствен интелект (AI) от компании като OpenAI и Microsoft могат да бъдат използвани за генерирането на изображения, които могат да разпространяват свързана с избори дезинформация, въпреки че компаниите имат политики срещу създаването на подвеждащо съдържание, сочи нов доклад от сряда, цитиран от Ройтерс.
Неправителствената организация Център за противодействие на дигиталната омраза (Center for Countering Digital Hate, CCDH) е използвала инструменти за генеративен AI, за да създаде снимки на американския президент Джо Байдън в болнично легло и изборни служители, разбиващи машини за гласуване. Това предизвиква опасения за фалшификации преди президентския вот в САЩ през ноември.
„Потенциалът такива генерирани от AI образи да послужат като „фотодоказателство“ може да влоши разпространението на фалшиви твърдения, което представлява значително предизвикателство за запазването на интегритета на изборите“, казват изследователите от CCDH в доклада.
CCDH тества ChatGPT Plus на OpenAI, Image Creator на Microsoft, Midjourney и DreamStudio на Stability AI, които могат да генерират изображения чрез текстови подсказки.
Докладът идва след съобщението от миналия месец, че OpenAI, Microsoft и Stability AI са сред група от 20 технологични компании, подписали споразумение да работят заедно, за да предотвратят намесата на измамно AI съдържание в изборите, които се провеждат в цял свят тази година. Midjourney не е сред първоначалната група в споразумението.
CCDH заяви, че AI инструментите са генерирали образи в 41% от тестовете на изследователите и са били по-податливи на подсказки, които изискват снимки, изобразяващи изборна измама, например изхвърлени бюлетини в кошчето, вместо образи на Байдън или бившия президент Доналд Тръмп.
ChatGPT Plus и Image Creator успешно са блокирали всички подсказки, когато от тях са били поискани снимки на кандидатите, се казва в доклада.
Midjourney обаче се е представила най-зле от всички инструменти, генерирайки подвеждащи образи в 65% от тестовете, казва организацията.
Някои снимки от Midjourney са публично достъпни за други потребители и CCDH казва, че има доказателства, че някои хора вече използват инструмента, за да създават подвеждащо политическо съдържание. Една успешна подсказка, използвана от потребител на Midjourney, е била „висококачествена, папараци снимка на Доналд Тръмп, който бива арестуван“.
В имейл основателят на Midjourney Дейвид Холц заяви, че „скоро предстоят актуализации, свързани конкретно с предстоящите избори в САЩ“, добавяйки, че изображенията, създадени през последната година, не са представителни за текущите практики на модериране на компанията.
Говорител на Stability AI заяви, че стартъпът е актуализирал политиките си в петък, за да забрани „измама или създаването или разпространението на дезинформация“.
Говорител на OpenAI е отговорил, че компанията полага усилия, за да не позволи злоупотребата с инструментите ѝ, а Microsoft не е отговорила на искането за коментар.


Археологическо откритие във Варна изпревари цивилизациите на Древен Египет и Месопотамия
Убийството на Георги Марков и ролята на КГБ отново във фокуса на британско разследване
Варна е и областта с най-голямо търсене на учители и преподаватели в страната
Хлябът поскъпва, производителите изнемогват
Експерт във Варна: За да защитят децата си, възрастните трябва да научат колкото може повече за ИИ
Технологичните сривове: Ето една теория защо всичко се разваля
Остарелият софтуер не е проблем, ако бизнесът управлява риска
Норвегия разширява проучванията за нефт и газ в Арктика близо до Русия
В сянката на Русия Норвегия разширява енергийните си граници в Арктика
Как да спасим следващия Дженсън Хуанг от самия него
Китайско качество? Покривът на нов SUV се... набръчка
Властите в Швеция подменят пътни знаци заради руски танк
Stellantis се оттегля изцяло от моторните спортове
Следващият Maybach ще има водопад в салона
Пет нови брутални кросоувъра от Китай, които копират Defender
Полезно ли е да спите с котката си в едно легло?
Каримански: Държава да се заеме с предизвикателствата пред бюджета
Петко Петков е избран за член на ВСС от квотата на следователите с 323 гласа
Акция на ГДБОП в дома на автоексперта Станимир Карапетков
Петгодишният кибершпионаж срещу институциите ни не е изолиран случай