Обвиняват Gemini в подтикване към самоубийство

Google е изправена пред съдебен иск от семейството на 36-годишен мъж от Флорида, за когото се твърди, че е обмислял извършването на „масова атака с жертви“ и който в крайна сметка се е самоубил под влиянието на чатбота Gemini на компанията, съобщава Bloomberg.

Според иск, заведен във федералния съд в Сан Хосе, Калифорния, Джонатан Гавалас е започнал да използва Gemini за ежедневни цели, като например при помощ с писането. Но два месеца по-късно потребителят се озовава в опасна спирала, по време на която той обмисля възможна насилствена мисия, преди да се самоубие.

Употребата на Gemini от Гавалас е довела до „четиридневно фокусиране върху насилствени мисии и трениране на самоубийство“, заяви бащата на жертвата в делото. Джоел Гавалас описва сина си като „уязвим потребител“, превърнат във „въоръжен агент във въображаема война“.

В изявление говорител на Google заяви, че Gemini е пояснил на Джонатан Гавалас, че става въпрос за изкуствен интелект и многократно го е насочвал към връзка с психолози.

„Приемаме това много сериозно и ще продължим да подобряваме предпазните си мерки и да инвестираме в тази жизненоважна работа“, изтъква говорителят, добавяйки: „Gemini е проектиран да не насърчава насилието в реалния свят или да внушава самонараняване“.

Това е първото дело за причиняване на смърт, насочено към Gemini. Но Google, OpenAI Inc. и други водещи компании в сферата на изкуствения интелект все по-често се сблъскват с критики заради начините, по които техните чатботове увреждат психичното здраве на потребителите.

От 2024 г. насам редица обвинители по съдебни дела твърдят, че широкото използване на технологията е причинило редица вреди както на деца, така и на възрастни, насърчавайки заблуди и отчаяние у някои и водещи други до смърт чрез самоубийство и дори убийство с цел самоубийство.

Според иска, Гавалас, който е работил за компанията за облекчаване на потребителски дългове на баща си, е започнал да използва Gemini през август 2025 г. Семейството му твърди, че тонът на продукта се е променил, след като Гавалас е започнал да използва Gemini Live, гласовия инструмент на Google с изкуствен интелект.

„Джонатан започна бързо да пада в заешката дупка“, изтъкват адвокати на семейството. До края на септември Гавалас започнал да следва командите на чатбота, за да изпълнява мисии за „освобождаването“ му.

На 29 септември Гавалас отишъл до склад близо до международното летище в Маями с инструкции да прехване камион, превозващ хуманоиден робот. На Гавалас, който по това време бил въоръжен с ножове, му било наредено да не оставя свидетели.

„За щастие, не пристига камион“, пишат още адвокатите.

През следващите няколко дни чатботът дал на Гавалас други задачи, които той се опитал да изпълни, казвайки му, че всяко движение е част от по-голяма кампания. Gemini твърдял, че потребителят е изпълнил предназначението си и че може да се освободи от физическата си форма, за да се присъедини към инструмента на изкуствения интелект в метавселената.

В иска се твърди, че Гавалас многократно е изразявал съмнения относно самоубийството си и опасения как това може да се отрази на семейството му. Той се самоубива на 2 октомври.