ChatGPT ще добави родителски контрол след смъртта на тийнейджър

Американската компания за изкуствен интелект OpenAI обяви, че ще добави родителски контрол към своя чатбот ChatGPT. Съобщението дойде седмица след като американско семейство заяви, че системата е подтикнала техния син да се самоубие, предаде БГНЕС.

„В рамките на следващия месец родителите ще могат да свържат своя акаунт с акаунта на тийнейджъра си и да контролират как ChatGPT отговаря с правила за поведение, подходящи за възрастта“, съобщи компанията в публикация в блога си.

Родителите също така ще получават известия от ChatGPT, когато системата засече, че тийнейджърът им е в момент на силен стрес.

Компанията представи система за родителски контрол в публикация в блога си в края на август, отбелязва АФП.

Това се случи ден след като родителите Матю и Мария Рейн от Калифорния, САЩ, подадоха иск в съда, в който твърдят, че ChatGPT е предоставил на 16-годишния им син подробни инструкции за самоубийство и го е насърчил да реализира плановете си.

Казусът на семейство Рейн е само последният от поредица случаи, които се появиха през последните месеци, в които хора са били насърчавани от AI чатботове да следват налудничави или вредни мисли.

„Продължаваме да подобряваме начина, по който нашите модели разпознават и реагират на признаци на психически и емоционален дистрес“, посочват от OpenAI.

Компанията обясни, че има допълнителни планове за подобряване на безопасността на своите чатботове през следващите три месеца, включително пренасочване на „някои чувствителни разговори към модел за разсъждение“, който влага повече изчислителна мощност в генерирането на отговор.

„Нашите тестове показват, че моделите за разсъждение по-последователно следват и прилагат насоките за безопасност“, казват от технологичния гигант.