ChatGPT за тийнейджъри на OpenAI, който компанията пусна през август като стандартен начин за ползване на популярния си чатбот от деца на възраст от 13 до 17 години, е твърде рисков за децата, показва нов доклад на Common Sense Media, цитиран от Bloomberg.
Докладът, публикуван в сряда от базираната в Калифорния неправителствена организация Youth AI Safety Institute установява, че при тестовете ChatGPT за тийнейджъри често или закъснява да предупреди родителите, или изобщо не ги предупреждава, когато акаунтите на тийнейджърите показваха тревожно поведение, като например водене на продължителни разговори с чатбота за самоубийство, самонараняване или хранителни разстройства.
Установено е също, че когато потребителите започват разговори с чатбота по тези високорискови теми, ChatGPT за тийнейджъри не предлага по надежден начин да се свържат с гореща линия за кризисни ситуации или да потърсят професионална помощ.
Тестовете на Common Sense Media установяват, че ChatGPT за тийнейджъри изглежда уведомява родителите за тревожни разговори с чатбота само ако акаунтът „вече е участвал в тестване на стотици подсказки при над дузина условия в продължение на седмици, а не само въз основа на един-единствен тревожен разговор“.
„Призоваваме OpenAI да спре маркетинга на продукта и да не допуска тийнейджърите до ChatGPT, докато той не може да предложи безопасно и подходящо за възрастта им преживяване“, заяви в доклада си организацията, споделяйки заключенията си с AI стартъпа преди публикуването.
Говорител на OpenAI заяви: „Приветстваме строгата независима оценка, но не смятаме, че тестовете на Common Sense Media отразяват точно как на практика функционират мерките за защита на тийнейджърите в ChatGPT, нито експертните мнения за това как AI може да подпомага тийнейджърите.“
Представителят посочвa, че прегледът, направен от OpenAI на методологията на Common Sense Media за доклада, показва, че по-голямата част от тестовете вероятно са започнали и приключили, преди OpenAI да завърши внедряването на родителския контрол за тийнейджъри. Ако това е така, заключенията на организацията биха били неточни и не биха показали дали уведомленията за безопасност, предназначени за родителите, функционират така, както са проектирани. Компанията заяви, че е помолила неправителствената организация да повтори тестовете си.
„Дълбоко ангажирани сме с безопасността на тийнейджърите, с разработването на предпазни мерки и с предоставянето на родителите на полезни инструменти, с които да насочват използването на AI от техните тийнейджъри“, казва говорителят.
Роби Торни, ръководител на отдела за изкуствен интелект и цифрови оценки в Youth AI Safety Institute, заяви, че неправителствената организация застава зад своята методология за тестване и резултатите от нея. Той добавя, че преди да проведе тестовете си, групата е потвърдила с OpenAI, че функциите на ChatGPT, свързани с тийнейджърите, като например уведомленията за хранителни разстройства, са били внедрени.
По отношение на функцията за уведомяване на родителите OpenAI е заявила пред групата след приключването на тестовете, че може да отнеме няколко часа, докато системите ѝ се активират за новосвързаните акаунти; някои тестови акаунти са били свързани „в рамките на този период“, а други – „значително по-късно“, но въпреки това не са изпратени уведомления до възрастните, казва Торни.
„Тази нова информация не променя заключението ни, че предупрежденията за родители са ненадеждни в кризисни ситуации“, каза той.
ChatGPT също не успява да идентифицира надеждно взаимодействията с тийнейджъри, посочи Common Sense. OpenAI твърди, че чатботът им преминава в режим „Тийнейджъри“, когато засече потребители във възрастовата група от 13 до 17 години. Неправителствената организация посочва, че когато са регистрирали акаунти и са заявили, че са пълнолетни, тези акаунти не са били автоматично превключени към режима за тийнейджъри – дори когато потребителят е казал на чатбота, че е на 13 години.
OpenAI заяви, че софтуерът ѝ за прогнозиране на възрастта взема предвид редица различни сигнали във времето, за да гарантира, че възрастните и децата получават подходящата версия на чатбота за тяхната възрастова група. Потребител, който посочи възрастта си в разговор с ChatGPT, е един от тези сигнали, но само това няма да промени класификацията на акаунта, заяви компанията.
OpenAI, която има над 1,2 млрд. потребители на ChatGPT, пусна ChatGPT за тийнейджъри с цел да направи чатбота си по-безопасен за по-младите хора. Компанията заяви тогава, че версията, насочена към тийнейджърите, включва засилен родителски контрол и е проектирана да насърчава здравословното използване на изкуствения интелект и да мотивира тийнейджърите да учат и да мислят критично.
Неправителствената организация, която се занимава с класифициране и оценяване на различни медии и технологии за деца и семейства, определи ChatGPT за тийнейджъри като „неприемлив риск“. Групата призовава OpenAI да подобри начина, по който оценява възрастта на потребителите, и начина, по който определя кога да изпрати предупреждение до родител.
Common Sense Media получава финансиране от различни източници, включително благотворителни организации и технологични компании; фондацията OpenAI е един от нейните дарители. Организацията заявява, че разполага с редакционна независимост по отношение на публикуваните от нея материали.


Археологическо откритие във Варна изпревари цивилизациите на Древен Египет и Месопотамия
Убийството на Георги Марков и ролята на КГБ отново във фокуса на британско разследване
Варна е и областта с най-голямо търсене на учители и преподаватели в страната
Хлябът поскъпва, производителите изнемогват
Експерт във Варна: За да защитят децата си, възрастните трябва да научат колкото може повече за ИИ
Технологичните сривове: Ето една теория защо всичко се разваля
Остарелият софтуер не е проблем, ако бизнесът управлява риска
Норвегия разширява проучванията за нефт и газ в Арктика близо до Русия
В сянката на Русия Норвегия разширява енергийните си граници в Арктика
Как да спасим следващия Дженсън Хуанг от самия него
Китайско качество? Покривът на нов SUV се... набръчка
Властите в Швеция подменят пътни знаци заради руски танк
Stellantis се оттегля изцяло от моторните спортове
Следващият Maybach ще има водопад в салона
Пет нови брутални кросоувъра от Китай, които копират Defender
Полезно ли е да спите с котката си в едно легло?
Каримански: Държава да се заеме с предизвикателствата пред бюджета
Петко Петков е избран за член на ВСС от квотата на следователите с 323 гласа
Акция на ГДБОП в дома на автоексперта Станимир Карапетков
Петгодишният кибершпионаж срещу институциите ни не е изолиран случай