Google сигнализира, че потребители създават дълбоки фалшификати за терористични материали с неин AI

Google е информирала австралийските власти, че е получила над 250 жалби в глобален мащаб за почти година, че нейният софтуер за изкуствен интелект (AI) е използван за създаване на дълбоки фалшификати за терористични материали, предава Ройтерс.

Компанията също така твърди, че е получила десетки доклади от потребители, предупреждаващи, че нейната AI услуга Gemini се използва за създаване на материали с насилие над деца, твърди Австралийската комисия за електронна безопасност.

Съгласно австралийското законодателство технологичните фирми трябва периодично да предоставят на Комисията за електронна безопасност информация относно усилията за минимизиране на вредите или рисковите глоби. Отчетният период обхваща от април 2023 г. до февруари 2024 г.

Откакто ChatGPT на OpenAI направи бум в края на 2022 г., регулаторите по света призоваха за по-добри защити, така че изкуственият интелект да не може да се използва за тероризъм, измами, порнография и други злоупотреби.

Австралийската комисия за електронна безопасност нарече разкритието на Google „първо в света“ за това как потребителите може да използват технологията за създаването на вредно и незаконно съдържание.

„Това подчертава колко критично е за компаниите, разработващи AI продукти, да вграждат и тестват ефикасността на предпазните мерки, за да предотвратят генерирането на този тип материали“, коментира комисарят по електронната безопасност Джули Инман Грант.

В доклада си Google посочва, че е получила 258 потребителски доклада за предполагаемо генерирано от AI дълбоко фалшиво терористично или насилствено екстремистко съдържание, направено с помощта на Gemini, и други 86 потребителски доклада, в които се твърди, че е генериран от AI материал за експлоатация или малтретиране на деца.

Компанията не разкрива колко от жалбите е проверила, твърди регулаторът.

Google използва система за автоматично съпоставяне на наскоро качени изображения с вече познати такива, така че да идентифицира и премахва материали с насилие над деца, направени с Gemini. Но не е използвала същата система за отстраняване на терористични или екстремистки материали с насилие, генерирани с Gemini, допълва регулаторът.

Регулаторът глоби Telegram и Twitter, по-късно преименувана на X, за това, което определи като недостатъци в техните доклади. X загуби едно обжалване във връзка с глобата си от 610 500 австралийски долара (382 хил. щатски долара), но планира да обжалва отново. Telegram също се готви да оспори глобата си.