OpenAI ще актуализира ChatGPT след самоубийството на тийнейджър

OpenAI прави промени в популярния си чатбот след съдебен иск, в който се твърди, че тийнейджър, починал от самоубийство тази пролет, е разчитал на ChatGPT за подкрепа, пише Bloomberg.

В публикация в блога си във вторник компанията за изкуствен интелект (AI) заяви, че ще актуализира ChatGPT, за да разпознава по-добре и да реагира на различни начини, по които хората могат да изразят психически стрес - например като обяснява опасностите от лишаването от сън и предлага на потребителите да си починат, ако споменат, че се чувстват непобедими след две нощи, в които са били будни. Компанията също така твърди, че ще засили мерките около разговорите за самоубийство.

Освен това OpenAI планира да въведе контрол, който позволява на родителите да определят как децата им използват ChatGPT и им дава възможност да виждат подробности за подобна употреба.

Публикацията беше направена в същия ден, в който родителите на Адам Рейн, 16-годишен ученик от Калифорния, заведоха дело срещу компанията и главния изпълнителен директор Сам Алтман. В иска се твърди, че ChatGPT систематично е изолирала Рейн от семейството му и му е помогнала да планира смъртта си. Рейн е починал от обесване през април.

Делото е допълнение към редица доклади за активни потребители на чатботове с опасно поведение. Повече от 40 главни щатски прокурори са издали предупреждение тази седмица до над десет водещи компании за изкуствен интелект, че са законово задължени да защитават децата от сексуално неподходящи взаимодействия с чатботове.

„Изказваме най-дълбоките си съболезнования на семейство Рейн в този труден момент и преглеждаме иска“, коментира говорител на OpenAI като реакция на делото.

Пуснат на пазара в края на 2022 г., ChatGPT даде началото на бум в генеративния изкуствен интелект. В годините след това хората все по-често използват чатботове за всичко - от програмиране до потенциални терапевтични сесии, а компании като OpenAI пуснаха по-мощни AI модели. ChatGPT остава изключително популярен и вече има повече от 700 млн. потребители седмично.

И все пак през последните месеци чатботът, заедно с други от конкуренти като Google и Anthropic, е подложен на все повече критики от потребители и експерти по психично здраве. Те изразиха загриженост относно потенциалните вреди от подобен софтуер, включително някои рискове, които OpenAI вече е адресирала.