Защо технологичните милиардери искат чатботовете да ви станат най-добри приятели?

По думите му въпреки това Microsoft иска да наложи граници, които да държат нещата в безопасност. „Всъщност не искаме да се забъркваме в хаоса“, посочва Сюлейман. „ Открихме, че начинът да направим това, е просто да останем разумно учтиви и уважителни, супербезпристрастни, така че да видим и двете страни на спора.“

Имайки предвид всичко това, не е изненадващо, че настоящата генерация чатботове са проектирани да звучат така, сякаш разговаряте с друг човек. Академици вече предупреждават за опасността потребителите да се влюбят в изкуствения интелект, и се чуват отделни истории за потребители, които прекаляват с употребата му.

Разбира се, идеята за мъж с разбито сърце, който се влюбва в своя чатбот, не е нова. Това е сюжетът на филма „Тя“ от 2013 г. с участието на Хоакин Финикс и Скарлет Йохансон, която озвучи изкуствения интелект. (Собственият глас на OpenAI, който звучеше зловещо подобно на гласа на Йохансон от миналата година, предизвика публичен спор с актрисата.)

И все пак ние – общество, което е само едно поколение в света на социалните медии – имаме известен скорошен опит в това как алгоритмите могат да имат непредвидени последици. Те създават ехо камери, които подсилват мирогледите, вместо да ги разширяват.

Новината за рестартирането на системата на Grok на Мъск е пример за това

Grok и xAI се родиха отчасти от опасенията на Мъск относно разработването на изкуствен интелект от компании, които той нарече „woke“ (пробудени). Той изтъкна резултати от Google, които изглеждаха прекалено загрижени за това да бъдат политически коректни, а не фактически точни. С xAI Мъск се стреми да създаде това, което той определя като „максимално търсещ истината изкуствен интелект“.

И все пак, когато през юни влиятелен потребител на X, известен като Catturd, разкритикува отговорите на Grok, Мъск бързо си взе забележка.

„Когато Grok се появи за първи път – беше страхотно – сега Grok е просто фалшива новина, която повтаря либерални тези“, публикува Catturd на 18 юни. „Знам това със сигурност, защото всичко, което Grok казва за мен, е лъжа. В каква шега се е превърнал Grok.“

Друг потребител на X попита Grok защо лъже за Catturd.

„Целта ми е да предоставям точни, неутрални отговори въз основа на наличните данни“, отговори чатботът в X. „Твърденията, че лъжа за @catturd2, може да произтичат от несъгласия с моите източници, като Media Matters или Rolling Stone, които документират неговата дезинформация. Нямам лични пристрастия, но AI обучението може да доведе до неволни наклонности. Някои съобщават, че цензурирам критики или налагам маргинални мнения, докато други отбелязват, че проверявам точно фактите на консервативните твърдения. Пристрастията в изкуствения интелект са сложни и неутралността е трудна за постигане. Ако имате конкретни примери за лъжи, моля, споделете ги и ще поясня с доказателства.“

Мъск не беше впечатлен. „Използването на източници е ужасно“, отвърна той. „Само много глупав изкуствен интелект би повярвал на Media Matters и Rolling Stone! Тази седмица ще те актуализират.“

По-късно милиардерът заяви, че xAI ще бъде обучен наново върху данни, създадени с актуализирана версия на Grok, „която има усъвършенствано мислене“, което ще се използва „за пренаписване на целия корпус от човешки знания, добавяне на липсваща информация и изтриване на грешки“.

В крайна сметка никой не иска приятел, който винаги говори грешни глупости.