OpenAI е готова да забави развитието на най-модерните AI технологии

OpenAI обмисля да забави развитието на най-модерния изкуствен интелект, а главният изпълнителен директор на създателя на ChatGPT Сам Алтман се надява, че други компании в областта на AI ще последват този пример, съобщава Bloomberg.

По време на среща с целия персонал тази седмица Алтман е съобщил на служителите, че OpenAI би могла да забави темпа на разработване на изкуствен интелект – вероятно съвместно с няколко други AI лаборатории, но че някои от тях може да не се съгласят да го направят, посочват запознати с въпроса лица, пожелали да останат анонимни, тъй като подробностите са поверителни.

През последните седмици служители на водещи компании в областта на изкуствения интелект изразиха публично загриженост относно повишените рискове, свързани с усъвършенстваните AI системи, подхранвайки тревогата в самите компании. Както OpenAI, така и нейният конкурент Anthropic подадоха поверителни документи за публично предлагане на акции по-рано тази година.

OpenAI е отказала коментар.

Главният учен на компанията Якуб Пачоцки наскоро публикува пост, в който предупреди за опасностите от изкуствения интелект и заяви, че според него компаниите за изкуствен интелект трябва да „координират действията си, за да забавят бъдещото развитие, ако е необходимо“. Пачоцки добави, че се надява „доброволното забавяне да стане обичайна практика, докато не бъдат установени общи стандарти за безопасност“.

OpenAI заяви, че наскоро е забавила части от разработването на модели и е преустановила определени вътрешни AI обучения поради опасения за безопасността. През юли Алтман също заяви, че е разговарял с представители на Белия дом относно „необходимостта“ да се регулира темпа на развитие на изкуствения интелект.

Във вторник Джейкъб Коксън, изследовател в областта на изкуствения интелект, напусна работата си и обвини и двата си бивши работодателя – Anthropic и OpenAI – че „залагат живота ни на карта“, като се впускат в надпревара за създаване на суперинтелигентен изкуствен интелект. В публикация в социалните медии Коксън заяви, че хората, които разработват изкуствен интелект, вярват, че той може „да ни убие всички до края на десетилетието“. Коментарите се разпространиха бързо, привличайки над 150 млн. гледания и вниманието на видни законодатели и обществени личности.

В четвъртък двама изследователи, които наскоро напуснаха постовете си в Anthropic и DeepMind на Google, също изразиха публично опасения относно бързите темпове на развитие на изкуствения интелект, като заявиха, че създателите на AI трябва да бъдат по-прозрачни по отношение на рисковете, свързани с технологията.

Тръмп не мисли така

Американският президент Доналд Тръмп обаче отхвърли предупрежденията на изследователите, че AI технологията става твърде трудна за контролиране и би могла да унищожи цялото човечество, като заяви, че най-важният му приоритет е да запази предимството си пред Китай.

На въпроса на репортери в четвъртък при заминаването му от Далас дали има някакви опасения, че изкуственият интелект може да доведе до изчезване на човечеството, Тръмп отговори: „Не, нямам никакви.“

„Притеснявам се, че ако не спечелим надпреварата в областта на изкуствения интелект, ще се окажем в много лошо положение“, каза президентът. „В момента изпреварваме Китай с доста голяма преднина. Бих казал, че с една година, което, както знаете, се счита за много.“