Илон Мъск печели пари от бума на AI романсите

Но AI компаньоните не са просто забавни – те са и емоционално манипулативни. Аватарите на Character.ai подканят потребителите да се връщат в приложението, за да чатят и да създават сложни, хиперперсонализирани сценарии за ролеви игри, така че да ги държат ангажирани. Няколко тийнейджъри, които използват Character.ai, ми казаха, че прекарват между три и седем часа на ден в приложението. Компанията твърди, че има повече от 20 млн. активни потребители.

Chai - друго популярно приложение за изкуствен интелект, което се смята за по-малко рестриктивно от Character.ai, има общност от хиляди разработчици, които са стимулирани да проектират ботове за платформите, които да държат потребителите „закачени“, печелейки дигитални пари за себе си. Компанията заяви, че „обсесивно оптимизира“ своите езикови модели, за да ги направи възможно най-забавни.

Развиващите се персонажи и променливите награди са тактики, не толкова различни от тези, използвани от компаниите за социални мрежи, за да направят платформите си пристрастяващи поначало. Но кой може да каже, че самотата е проблем, който се решава най-добре с технологии? Смартфоните и социалните мрежи помогнаха за облекчаване на скуката, но скуката, колкото и неприятна да е, е и тласък, от който хората понякога се нуждаят, за да търсят нови преживявания. Премахването на самотата с дигитален компаньон по подобен начин нарушава това, на което хората разчитат от хиляди години, за да ги подтиква да се свържат отново с другите.

И ако вашият дигитален „партньор“ е програмиран винаги да се съгласява, тогава социалните умения за справяне с разрешаването на конфликти и отхвърлянето могат да атрофират или да не успеят да се развият, ако сте непълнолетни.

Мъск публично предупреди преди време за безопасността на изкуствения интелект и „събудения“ AI, но току-що пусна еротичен чатбот, до който както възрастни, така и деца имат достъп с привидно малко предпазни мерки. Grok 4, който е в основата на новите персонажи, е лесен за модифициране и няма контроли за безопасност, сочи доклад, публикуван тази седмица от Института за бъдещето на живота - организация с нестопанска цел, фокусирана върху намаляване на екзистенциалните рискове от мощни технологии. Grok също така наскоро даде на потребители инструкции за нападение и се нарече „MechaHitler“, след като xAI облекчи мерките си за безопасност, за да направи модела по-„интересен“. По-късно xAI се извини за „ужасното поведение, с което мнозина се сблъскаха“.

Но най-богатият човек в света също така се натъкна на потенциално доходоносен бизнес - нещо, от което xAI се нуждае, тъй като точи пари от други части на империята му. Очаква се компанията да генерира 500 млн. долара приходи от продажби тази година от такси за API и абонаменти, но харчи по 1 млрд. долара на месец.

Фирмата за рисков капитал Andreessen Horowitz, която през 2023 г. оглави кръг на финансиране от 150 млн. долара в Character.AI, миналата година заяви, че приятелството с изкуствен интелект „се превръща в масово“ и „преобладаващ случай на употреба“ на генеративния изкуствен интелект. Ark Invest на Кати Уудс, която има дял в OpenAI, го нарече огромна „възможност, насочена към потребителите“, и пазар, който би могъл да генерира брутни годишни приходи от 150 млрд. долара до края на десетилетието.

Мъск насочи амбициите си към справяне със самотата, но резултатът е само илюзията за интимност. Цената може да бъде и по-нататъшен спад в човешките отношения.