OpenAI блокира акаунти, които изглежда са работили по инструмент за разузнаване

Наскоро OpenAI е блокирала няколко акаунта, които са използвали ChatGPT, за да пишат рекламни предложения и код за отстраняване на грешки за предполагаем инструмент за наблюдение на социалните мрежи, които вероятно произхождат от Китай. Новината беше съобщена от компанията, а действията са част от по-мащабните усилия на стартъпа за изкуствен интелект (AI) да контролира злонамереното използване на нейните мощни модели, пише Bloomberg.

Според доклад, публикуван от стартъпа в петък, акаунтите са използвали ChatGPT за рекламиране и разширяване на нещо, което прилича на AI асистент, способен да събира данни в реално време и доклади за протести срещу Китай в САЩ, Великобритания и други западни страни. След това тази информация пък би могла да се предава на китайските власти, допълва докладът.

Ракзритията се появяват в момент на нарастваща загриженост в САЩ относно начина, по който Китай използва американски технологии, за да прокарва собствените си интереси. „Това е доста обезпокоителен поглед към начина, по който един недемократичен играч се опитва да използва демократичен или базиран в САЩ изкуствен интелект за недемократични цели“, коментира Бен Нимо, главен изследовател на OpenAI, работещ в екипа за разузнаване и разследвания.

По думите на Нимо чрез публикуването на такива случаи OpenAI иска да хвърли светлина върху това как „авторитарните режими могат да се опитат да използват създадения от САЩ AI, демократичен AI, срещу Вашингтон и съюзническите страни, както и срещу собствения си народ“.

OpenAI твърди, че акаунтите в мрежата са използвали други AI инструменти за писане на код, включително версии на Llama – модела с отворен код на Meta Platforms.

Meta пък твърди, че ако нейната услуга е включена, това вероятно е един от много такива инструменти, достъпни за потребителите, включително AI модели, разработени в Китай. OpenAI твърди, че не може да разбере дали този код е бил ползван.

Софтуерът, наречен Qianyue Overseas Public Opinion AI Assistant, не може да бъде независимо проверен от OpenAI, въпреки че стартъпът има достъп до текста на очевидни маркетингови материали. Маркетинговият текст описва подробно как целта на софтуера за „социално подслушване“ е била да изпраща доклади за наблюдение до китайските власти, разузнавателни агенции и служители в китайските посолства. Софтуерът изглежда е специално фокусиран върху идентифицирането на онлайн разговори в западни страни относно демонстрации, свързани с човешките права в Китай.

Използването на изкуствения интелект на OpenAI за наблюдение на комуникациите или неоторизиран мониторинг на хора, включително „от името на правителства и авторитарни режими, които се стремят да потиснат личните свободи и права“, е против политиките на OpenAI, гласи още докладът.