Илон Мъск иска пауза в развитието на изкуствения интелект, но може би вече е късно

Плъгинът на Klarna например ще превърне ChatGPT в асистент при пазаруване, който може да прави препоръки на база на милиони продукти, за покупките на които помага шведската компания. Този плъгин все още не е наличен, но когато бъде пуснат, потребителите ще влизат в страницата на ChatGPT, ще се регистрират, а след това ще кликват на плъгина на Klarna и ще си „говорят“ с него.

Част от новите възможности, които OpenAI предлага на бизнеса, изглеждат опасни. Едната, наречена „интерпретатор на код“, позволява на компаниите да накарат ChatGPT да пише и дори да изпълнява код от тяхно име. Разработчиците на софтуер обикновено използват интерпретатор на код, за да се уверят, че програмата, която пишат, работи по предназначение, което им позволява да тестват малки фрагменти от нея. С нови плъгин ChatGPT може също да пише и да тества код, а това звучи потенциално опасно от гледна точка на сигурността.

„Надявам се, че има достатъчно ограничения“, коментира Едо Либърти, бивш ръководител на Amazon AI Labs и настоящ главен изпълнителен директор на Pinecone – стартъп, който има техническо партньорство с OpenAI за един от новите плъгини. „Това е нещо, което теоретично може да бъде уязвимост“, посочва той във връзка с рисковете от това ChatGPT да подкарва код.

Марко Кардосо, софтуерен инженер в Microsoft, базиран в Сао Пауло, Бразилия, е тествал новите възможности на ChatGPT за писане на код и отбелязва колко забележително е това, че системата може „да прави заявки към всеки сървър в интернет“.

Но това също така означава, че „нищо не спира“ ChatGPT, що се отнася до достъпа до мрежи, до които не би трябвало да достига. За да предотврати това, Кардосо е поставил собствени ограничения, като изрично е инструктирал системата да има достъп само до един определен домейн. Но това носи допълнителна отговорност върху потребителите на ChatGPT, посочва той. Какво му пречи да отправи заявка към неизвестен сървър?

Итън Молик, професор в Уортън, който е експериментирал широко с ChatGPT, тази седмица написа в Twitter, че изпробването на плъгините поставя акцент върху собственото изследване на OpenAI за „непредсказуемите рискове“ от свързване на инструмента с други системи.

Гъвкавостта на OpenAI като малка компания ѝ позволи бързо да пусне тази забележителна технология публично – от DALL-E 2 до ChatGPT и до GPT-4, само за година, постигайки това, за което много по-големи компании могат само да мечтаят. Но на обратната страна на монетата сме всички ние, които сме опитни зайчета за една напълно нова и потенциално проблемна технология.

В някои отношения няма особено значение дали OpenAI ще се съгласи с отвореното писмо и ще спре работата си по системата за шест месеца. Тъй като компаниите бързат да интегрират ChatGPT в своите системи и да ги тестват публично, може би вече е прекалено късно.