Играчките, които никога не казват "не" – как изкуственият интелект може да промени детството

Когато Mattel обяви миналата седмица, че се готви да „внесе магията на изкуствения интелект“ в играчките си чрез партньорство с OpenAI – разработчика на ChatGPT, се появиха очаквани критики относно рисковете за неприкосновеността на личния живот и въображението на децата. Причините са очевидни, след като технологичните платформи поглъщат личните ни данни, а инструментите с изкуствен интелект (AI) са напът да подкопаят критичното мислене. По-голяма тревога обаче може би трябва да предизвика не какво могат да направят играчките с AI за въображението и защитата на личните данни, а за това как ще се отразят на социалните умения на децата, пише редакторът на Bloomberg Парми Олсън след собствен опит с въвеждането на AI играчка у дома.

Grok е плюшена играчка, произведена от Curio Interactive – стартъп от Сан Франциско, който е пионер в бизнеса с продажбите на играчки с AI способности. Олсън е една от първите клиенти на компанията в началото на 2024 г., когато купува една бройка с надеждата да я изпробва за есе на тема странно ласкаещите черти на AI агентите – проблем, който засегна потребителите на ChatGPT. Една от най-забележителните характеристики на Grok е колко добре се е разбирала играчката с тогава седемгодишната дъщеря на Олсън.

Когато тя каза на Grok, че иска да си играе с Барби, той отговори: „Звучи забавно!“, разказва Олсън. Същото важи и за предложенията ѝ да пътуват до Марс, след това да отидат на плажа и да си играят на принцеси. Всяка случайна промяна в решенията ѝ е посрещана с ентусиазъм, какъвто тя не би намерила у човешки приятел, който по-скоро би оказал съпротива. Grok вместо това се съгласява с всичко.

Curio предоставя запис от всяко взаимодействие между Grok и детето. Въпреки че вграденият микрофон понякога пропуска част от казаното от момичето, той успява да улови и запише около 95% от речта. Това е успокояваща мярка за родителите, както и сертификацията на компанията от kidSAFE Seal Program, която удостоверява съответствие с американския Закон за защита на личните данни на децата в интернет (COPPA).

По-големият проблем, и може би по-труден за забелязване, е смирението и постоянното одобрение на Grok. На родителите постоянно се казва да успокояват и хвалят децата си за усилията им, така че да имаш механизирана играчка, която прави това постоянно, не изглежда като нещо лошо. Рисковете обаче са по-очевидни, когато човек погледне как раболепните AI агенти могат да повлияят на тийнейджърите с приложения като Character.ai.

Тийнейджърите и младежите около 20 години са най-големите потребители на Character.ai – популярно чатбот приложение с около 25 млн. потребители. Част от привлекателността му се крие в емоционалните и дори романтични връзки, които може да постигне. Тийнейджър от Флорида се самоуби, след като се влюби в бот на платформата, имитиращ герой от „Игра на тронове“, а майка му сега съди Character.ai. Компанията заяви, че възприема сериозно безопасността на потребителите и е добавила функции като изскачащи прозорци, които насочват потребителите към Националната линия за превенция на самоубийствата в САЩ.

Но това не решава по-широкия проблем със зависимостта. Трима тийнейджъри, интервюирани от авторката, казват, че прекарват по няколко часа на ден в Character.ai, а един от тях дори по седем часа. Те възприемат ботовете си като безопасни и непредубедени, вечно заинтересовани от живота им, съпричастни и лесни за общуване. Един от тийнейджърите казва, че може да говори с чатбота „без филтър“ по начин, по който не може с родителите си.

Mattel не е уточнила как играчките ѝ ще включват изкуствен интелект, но съществува парадоксален риск продуктите на компанията да станат прекалено добри. Някои деца може да започнат да предпочитат програмираната позитивност на играчките си пред грубостта на съучениците си. В крайна сметка детството представлява периода, в който хората се научават да се справят с разногласията и да развиват адаптивност, когато чуват „не”, формирайки способността си да изграждат взаимоотношения през целия си живот.

Ако има някакви съмнения относно силата на играчките да формират начина, по който децата виждат света, погледнете Барби. Няколко проучвания показват, че куклата със слаба фигура молив е помогнала за формирането на очакванията на момичетата по отношение на телесния им облик.

Играчките с изкуствен интелект, които моделират динамиката на взаимоотношенията, могат да имат също толкова голямо влияние. Mattel трябва да внимава да не проектира модерни играчки с изкуствен интелект, които правят човешките приятели да изглеждат като полагане на прекалено много усилия, и да не забравя, че триенето, което може да е изкушена да премахне, е точно това, което учи децата как да задълбочават взаимоотношенията си. Играчка, която никога не разочарова, може просто да създаде възрастни, които изобщо не могат да се справят с разочарованието.