ChatGPT за тийнейджъри не е безопасeн за децата, показва нов доклад

ChatGPT за тийнейджъри на OpenAI, който компанията пусна през август като стандартен начин за ползване на популярния си чатбот от деца на възраст от 13 до 17 години, е твърде рисков за децата, показва нов доклад на Common Sense Media, цитиран от Bloomberg.

Докладът, публикуван в сряда от базираната в Калифорния неправителствена организация Youth AI Safety Institute установява, че при тестовете ChatGPT за тийнейджъри често или закъснява да предупреди родителите, или изобщо не ги предупреждава, когато акаунтите на тийнейджърите показваха тревожно поведение, като например водене на продължителни разговори с чатбота за самоубийство, самонараняване или хранителни разстройства.

Установено е също, че когато потребителите започват разговори с чатбота по тези високорискови теми, ChatGPT за тийнейджъри не предлага по надежден начин да се свържат с гореща линия за кризисни ситуации или да потърсят професионална помощ.

Тестовете на Common Sense Media установяват, че ChatGPT за тийнейджъри изглежда уведомява родителите за тревожни разговори с чатбота само ако акаунтът „вече е участвал в тестване на стотици подсказки при над дузина условия в продължение на седмици, а не само въз основа на един-единствен тревожен разговор“.

„Призоваваме OpenAI да спре маркетинга на продукта и да не допуска тийнейджърите до ChatGPT, докато той не може да предложи безопасно и подходящо за възрастта им преживяване“, заяви в доклада си организацията, споделяйки заключенията си с AI стартъпа преди публикуването.

Говорител на OpenAI заяви: „Приветстваме строгата независима оценка, но не смятаме, че тестовете на Common Sense Media отразяват точно как на практика функционират мерките за защита на тийнейджърите в ChatGPT, нито експертните мнения за това как AI може да подпомага тийнейджърите.“

Представителят посочвa, че прегледът, направен от OpenAI на методологията на Common Sense Media за доклада, показва, че по-голямата част от тестовете вероятно са започнали и приключили, преди OpenAI да завърши внедряването на родителския контрол за тийнейджъри. Ако това е така, заключенията на организацията биха били неточни и не биха показали дали уведомленията за безопасност, предназначени за родителите, функционират така, както са проектирани. Компанията заяви, че е помолила неправителствената организация да повтори тестовете си.

„Дълбоко ангажирани сме с безопасността на тийнейджърите, с разработването на предпазни мерки и с предоставянето на родителите на полезни инструменти, с които да насочват използването на AI от техните тийнейджъри“, казва говорителят.

Роби Торни, ръководител на отдела за изкуствен интелект и цифрови оценки в Youth AI Safety Institute, заяви, че неправителствената организация застава зад своята методология за тестване и резултатите от нея. Той добавя, че преди да проведе тестовете си, групата е потвърдила с OpenAI, че функциите на ChatGPT, свързани с тийнейджърите, като например уведомленията за хранителни разстройства, са били внедрени.

По отношение на функцията за уведомяване на родителите OpenAI е заявила пред групата след приключването на тестовете, че може да отнеме няколко часа, докато системите ѝ се активират за новосвързаните акаунти; някои тестови акаунти са били свързани „в рамките на този период“, а други – „значително по-късно“, но въпреки това не са изпратени уведомления до възрастните, казва Торни.

„Тази нова информация не променя заключението ни, че предупрежденията за родители са ненадеждни в кризисни ситуации“, каза той.

ChatGPT също не успява да идентифицира надеждно взаимодействията с тийнейджъри, посочи Common Sense. OpenAI твърди, че чатботът им преминава в режим „Тийнейджъри“, когато засече потребители във възрастовата група от 13 до 17 години. Неправителствената организация посочва, че когато са регистрирали акаунти и са заявили, че са пълнолетни, тези акаунти не са били автоматично превключени към режима за тийнейджъри – дори когато потребителят е казал на чатбота, че е на 13 години.

OpenAI заяви, че софтуерът ѝ за прогнозиране на възрастта взема предвид редица различни сигнали във времето, за да гарантира, че възрастните и децата получават подходящата версия на чатбота за тяхната възрастова група. Потребител, който посочи възрастта си в разговор с ChatGPT, е един от тези сигнали, но само това няма да промени класификацията на акаунта, заяви компанията.

OpenAI, която има над 1,2 млрд. потребители на ChatGPT, пусна ChatGPT за тийнейджъри с цел да направи чатбота си по-безопасен за по-младите хора. Компанията заяви тогава, че версията, насочена към тийнейджърите, включва засилен родителски контрол и е проектирана да насърчава здравословното използване на изкуствения интелект и да мотивира тийнейджърите да учат и да мислят критично.

Неправителствената организация, която се занимава с класифициране и оценяване на различни медии и технологии за деца и семейства, определи ChatGPT за тийнейджъри като „неприемлив риск“. Групата призовава OpenAI да подобри начина, по който оценява възрастта на потребителите, и начина, по който определя кога да изпрати предупреждение до родител.

Common Sense Media получава финансиране от различни източници, включително благотворителни организации и технологични компании; фондацията OpenAI е един от нейните дарители. Организацията заявява, че разполага с редакционна независимост по отношение на публикуваните от нея материали.