Марк Зукърбърг е спрял ограниченията за AI чатботове със сексуално съдържание за непълнолетни

Изпълнителният директор на Meta Марк Зукърбърг е одобрил достъпа на непълнолетни до чатбот компаньони с изкуствен интелект, за които служителите по безопасността са предупредили, че са способни на сексуални взаимодействия, показват вътрешни документи на Meta, подадени в съдебно дело в щата Ню Мексико и оповестени публично в понеделник.

В съдебния процес, заведен от главния прокурор на щата Раул Торес и насрочен за следващия месец, се твърди, че Meta „не е успяла да спре потока от вредни сексуални материали и сексуални предложения, достигащи до деца“ във Facebook и Instagram, пише Ройтерс.

Документите, подадени в понеделник, включват вътрешни имейли и съобщения на служители на Meta, получени от офиса на главния прокурор на Ню Мексико чрез законно разкриване. Щатът твърди, че те показват, че „Meta, подтикната от Зукърбърг, е отхвърлила препоръките на служителите си по интегритет и е отказала да наложи разумни предпазни мерки, за да не позволи децата да бъдат подлагани на сексуално експлоатиращи разговори с AI чатботовете ѝ“, заяви главният прокурор в подадените документи.

В кореспонденцията някои от служителите по безопасността на Meta изразяват възражения срещу създаването на чатботове, предназначени да правят компания, включително със сексуални и романтични взаимодействия с потребителите. AI чатботовете бяха пуснати в началото на 2024 г. Документите, цитирани в подаденото в понеделник от щата заявление, не включват съобщения или бележки, написани от Зукърбърг.

В понеделник говорителят на Meta Анди Стоун заяви, че представянето от страна на държавата е неточно и се основава на избирателна информация. „Това е поредният пример за това, че главният прокурор на Ню Мексико подбира документи, за да нарисува неточна и невярна картина.“

Съобщенията в документацията показват, че служителите по безопасността са имали особено силни опасения относно използването на ботовете за романтични сценарии между възрастни и непълнолетни под 18 години.

Статия в Wall Street Journal от април 2025 г. установи, че чатботовете на Meta включват откровено сексуализирани непълнолетни образи и че те се занимават със сексуални ролеви игри при всички възрасти, включително графични описания на предпубертетни тела.

Reuters съобщи през август, че официалните насоки на Meta за чатботовете гласят, че е „приемливо да се ангажира дете в разговори, които са романтични или чувствени“. В отговор на материала Meta заяви, че променя политиките си и че вътрешният документ, даващ такова одобрение, е бил грешен.

Миналата седмица Meta заяви, че е премахнала изцяло достъпа на тийнейджърите до AI компаньони, докато се чака създаването на нова версия на чатботовете.