Илон Мъск иска пауза в развитието на изкуствения интелект, но може би вече е късно

Предприемачът Илон Мъск и редица обществени личности се подписаха под отворено писмо, което стана особено популярно тази седмица. То призовава за шестмесечна пауза на обучението на езикови модели, които са по-мощни от GPT-4 – технологията, която стои в основата на ChatGPT.

Това писмо е нещо необичайно. То критикува внедряването на мощна технология за чатботове като прибързана, но също така преувеличава техните възможности, стигайки до изкуствения интелект и роботите убийци, които са пленили медиите и са отклонили по-нюансираните рискове в реалния свят, пише Парми Олсън в коментар за Bloomberg.

„Трябва ли да развием нечовешки умове, които евентуално да ни превъзхождат числено, да са по-хитри от нас и да ни заменят?“, пита драматично писмото. „Трябва ли да рискуваме да загубим контрол над нашата цивилизация?“

Разбира се, че не, но има проблеми, за които сега трябва да се тревожим повече, като концентрацията на способностите на изкуствения интелект сред няколко все по-секретни компании, неравенството, тъй като творците смятат, че работата им е плагиатствана, без да им се плати, и всички рискове, идващи от компании, които се надпреварват да включат ChatGPT в своите системи.

По последния въпрос нещата вече са извън контрол. Миналата седмица OpenAI пусна нова система, която ще позволи на компаниите да включат ChatGPT в собствените си бази данни, което ще даде възможност на нейния чатбот да изпълнява задачи в техните системи, включително да извлича информация, да прави резервации и дори да поддържа нов софтуер, който създава.

Въпреки че тази новина не получи толкова голямо внимание в масовите медии, много представители на индустрията виждат в това зашеметяващ скок напред за ChatGPT. Той не само може да търси и синтезира информация, върху която е обучен, но може да предприема и различни действия.

Помислете за това за момент. Системите за машинно обучение вземат решения в неразгадаема черна кутия. OpenAI прекара седем месеца в тестване на ChatGPT-4, преди да го пусне на пазара, но инженерите от т.нар. „червен екип“, които тестваха как може да се злоупотреби с услугата, успяха да покрият само част от начините, по които той може да бъде експлоатиран от милиони потребители по света. Колкото и OpenAI да е тествала системата си, за да се увери, че е безопасна, никой не знае пълния обхват на рисковете, докато тя не бъде пусната публично. А тези рискове стават по-сериозни, когато ChatGPT може да започне да прави неща в мрежата.

Поемането на такива рискове, разбира се, е това, което направи ChatGPT толкова популярен. OpenAI направи залог, като пусна ChatGPT публично, а резултатът беше вълна от хвалебствия и огромен успех за екипа за изкуствен интелект, който е само малка част от онзи, който работи за технологичните гиганти по света.

С новите плъгини OpenAI прави пореден залог, давайки на ChatGPT дори повече способности и насочвайки го към компаниите. Досега 11 корпорации, включително Expedia Group и оператора на разплащания Klarna Bank, са внедрили ChatGPT в своите сървъри за първоначални тестове.