OpenAI работи по софтуер за откриване на изображения, създадени от изкуствен интелект

OpenAI изгражда инструмент за откриване на изображения, създадени от изкуствен интелект, с висока степен на точност, пише Bloomberg.

Мира Мурати, главен технологичен директор на създателя на популярния чатбот ChatGPT и на генератора на изображения DALL-E, заяви, че инструментът на OpenAI е „99% надежден“ при определяне дали дадена картина е създадена с помощта на изкуствен интелект (AI). Той се тества на вътрешно ниво преди планираното му публично пускане, обяви тя, без да се ангажира с конкретен срок, в който това ще се случи.

Мурати говори заедно с главния изпълнителен директор на OpenAI Сам Алтман, докато двамата ръководители присъстваха на конференцията Tech Live на Wall Street Journal в Лагуна Бийч, Калифорния.

Вече има няколко инструмента, които твърдят, че откриват изображения или друго съдържание, направено с AI, но те могат да бъдат неточни. Например през януари OpenAI обяви подобен инструмент, целящ да определи дали даден текст е генериран от изкуствен интелект, но през юли компанията обяви, че го оставя настрана, защото не е достатъчно надежден. Стартъпът посочи, че работи върху подобряването на този софтуер и се е ангажирала да разработи начини за идентифициране дали звук или изображения също са направени от AI.

Необходимостта от подобни инструменти за откриване става все по-ключова, тъй като инструментите с изкуствен интелект могат да се използват за манипулиране и фабрикуване на новинарско съдържание за глобални събития. Генераторът на изображения Firefly на Adobe адресира друг аспект от това предизвикателство, като обещава да не създава съдържание, което нарушава правата на интелектуална собственост на създателите.

Чатботове като ChatGPT, който използва GPT-4 и предходния модел GPT-3.5, са склонни да измислят неща, които не са истина. На въпрос дали моделът GPT-5 няма да генерира лъжи, Мурати коментира: „Може би“.

По думите ѝ компанията е постигнала голям напредък по въпроса с измислиците на GPT-4, но в момента не е „там, където трябва да бъде“ по отношение на този проблем.

Алтман говори и за възможността OpenAI да проектира и произвежда собствените си компютърни чипове за обучение и работа на моделите с изкуствен интелект на компанията. Идеята на стартъпа е да ползва собствен хардуер, вместо да разчита на този на компании като Nvidia, която в момента е лидер на пазар за AI полупроводници.