Character.AI ще забрани на деца под 18 години да говорят с чатбовете ѝ

Стартъп компанията за изкуствен интелект (AI) Character.AI ще забрани на децата да водят разговори с чатботове в нейната платформа след нарастващ натиск от страна на властите и поредица от съдебни дела, в които се твърди, че т. нар. герои на компанията са отговорни за вредите, причинени на деца, пише Bloomberg.

Компанията обяви, че до 25 ноември ще спре опцията потребителите под 18-годишна възраст да водят отворени разговори с нейните чатботове, които хората могат да създават и с които да разговарят. Образите варират от дигитални изображения на популярни герои от видеоигри до имитации на известни личности като милиардера Илон Мъск. Докато забраната не влезе в сила, компанията заяви, че ще ограничи времето, през което децата могат да говорят с нейните чатботове. То ще започне от два часа на ден и ще намалее през следващите седмици.

Услуги като Character.AI, която позволява достъп на потребители на възраст до 13 години в САЩ, са популярни сред тийнейджърите. Проучване на организацията с нестопанска цел Common Sense Media показва, че 70% от тийнейджърите са използвали AI компаньони. Непълнолетните в Character.AI вече са насочвани към по-ограничена версия на услугата, която използва различен AI модел и включва ограничения като по-малък брой видове герои, до които имат достъп, и има граници по отношение на видовете разговори, които могат да водят.

С новите ограничения компанията планира да започне да използва нова технология, за да подобри начина, по който проверява възрастта на потребителите, като ги насочва към преживявания за възрастни или лица под 18 години. За да направи това, стартъпът е изградил нов модел и ще започне да използва софтуер от стартиращата фирма за проверка на самоличността Persona.

Character.AI, OpenAI и други водещи компании за изкуствен интелект все по-често са критикувани за начините, по които техните чатботове могат да повлияят на психичното здраве на потребителите. От 2024 г. насам са заведени редица съдебни дела от родители срещу компании, предлагащи чатботове с изкуствен интелект, като се твърди, че широкото използване на технологията е довело до редица вреди за децата, включително манипулиране и изолиране, водещо до смърт чрез самоубийство.

Регулаторите също са ангажирани с въпроса. Федералната търговска комисия започна разследване срещу компании, включително Character.AI, OpenAI, Google, Meta Platforms, Snap и xAI на Илон Мъск, заради потенциалните вреди, които техните чатботове причиняват на децата. Калифорния наскоро въведе закон, ограничаващ начините, по които чатботовете могат да действат спрямо потребителите. А ново двупартийно законодателство, внесено в Сената на САЩ във вторник, ще блокира компаниите за изкуствен интелект да предоставят чатботове придружители на непълнолетни.

В интервю във вторник главният изпълнителен директор на Character.AI Карандийп Ананд заяви, че компанията вижда бъдещето на развлеченията с изкуствен интелект като много повече от просто разговори, базирани на чат, и решението да се спре използването на ключови функции от непълнолетни е нещо, което компанията в крайна сметка би направила така или иначе.

„Мисля, че това, което научаваме като индустрия, предвид колко бързо се развива тя, е, че определено има неизвестни аспекти на това, което дългосрочните, отворени чатове могат да направят“, коментира Ананд. „Не знаем дали са добри или лоши. Определено има много дебати около това, както в изследователската общност, така и в потребителската общност.“

Ананд твърди, че компанията ще продължи да предлага редица функции на децата, използващи услугата, като например да им позволи да създават генерирани от изкуствен интелект кратки видеоклипове и истории, които включват чатботове на Character.AI.

„Причината, поради която потребителите идват в Character, е, че искат творчески отдушник. Искат да могат да играят ролеви игри“, посочва Ананд. „Ако сте създали герои вампири или герои за Хелоуин, ние искаме да продължим да общувате с тях, но смятаме, че вместо просто да го правите чрез чатбот, има и други начини да се случи.“

Миналата година Google нае няколко ключови членове на ръководния екип на Character.AI и лицензира технологията ѝ за големи езикови модели в сделка, която оцени стартъпа на 2,5 млрд. долара. Character.AI продължи да съществува независимо след сделката.