OpenAI създава екип за борба с опасностите от изкуствения интелект

OpenAI създава нов екип, чиято цел ще бъде да минимизира рисковете от изкуствения интелект, докато технологията се развива все повече с течение на времето, пише Bloomberg.

В публикация в блога си компанията, известна с чатбота ChatGPT, обяви, че е създала екип за "готовност", оглавен от Александър Мрдри, който е работил в Масачузетския технологичен институт. Групата ще анализира и ще се опитва да се справи с потенциални "катастрофални рискове" от изкуствения интелект, вариращи от проблеми с киберсигурността до биологични и химически заплахи.

Екипът също така ще изготви политики, целящи да помогнат на компанията да определи как може да намали рисковете, свързани с развитието на следващото поколение технологии с изкуствен интелект, които са много по-способни от днешните.

Целта на OpenAI отдавна е свързана с изграждането на общ изкуствен интелект (AGI), който може да изпълнява редица задачи по-добре от хората. Макар че сегашните системи с изкуствен интелект не отговарят на това описание, компанията твърди, че е нужно "да се уверим, че имаме разбирането и инфраструктурата, необходими за сигурността на по-развитите системи с изкуствен интелект."