OpenAI работи с Пентагона по проекти за киберсигурност

Водещият стартъп за изкуствен интелект OpenAI работи с Пентагона по редица проекти, включително възможности за киберсигурност. Това е смяна на курса спрямо предишната забрана на компанията да предоставя своя изкуствен интелект на военните, пише Bloomberg.

Създателят на ChatGPT разработва инструменти с Министерството на отбраната на САЩ за софтуер за киберсигурност с отворен код, като си сътрудничи с Агенцията за перспективни изследвания в областта на отбраната на САЩ (DARPA) за конкурса AI Cyber Challenge, обявен миналата година, заяви Анна Маканджу, вицепрезидент по глобалните въпроси на компанията, в интервю в Bloomberg на Световния икономически форум в Давос. Компанията е провела също първоначални разговори с правителството на САЩ за методи за подпомагане на предотвратяването на самоубийства на ветерани.

Наскоро компанията премахна от общите си условия клауза, която забранява на нейния изкуствен интелект да има "военни" приложения. Маканджу описва решението като част от по-широкообхватно актуализиране на политиките на компанията, за да се адаптира към новите начини на използване на ChatGPT и други нейни инструменти.

"Тъй като по-рано имахме по същество обща забрана за военните, много хора смятаха, че това ще забрани много от тези случаи на употреба, които според хората са в голяма степен в съответствие с това, което искаме да видим в света", обясни тя.

OpenAI обаче запазва забраната за използване на технологиите на компанията за разработване на оръжия, унищожаване на собственост или нанасяне на вреда на хора, уточнява Маканджу.

Най-големият инвеститор на OpenAI - Microsoft, има няколко договора за софтуер за въоръжените сили на САЩ и други правителствени агенции. OpenAI, Anthropic, Google и Microsoft помагат на Агенцията за перспективни изследвания в областта на отбраната на САЩ в нейния конкурс AI Cyber Challenge за разработване на софтуер, който автоматично да отстранява уязвимости и да защитава инфраструктурата от кибератаки.

OpenAI също така заяви, че ускорява работата си по сигурността на изборите, като отделя ресурси, за да гарантира, че инструментите ѝ за генеративен изкуствен интелект не се използват за разпространение на политическа дезинформация.

"Изборите са много важен въпрос", каза Сам Алтман, главен изпълнителен директор на OpenAI. "Мисля, че е добре, че се притесняваме много", посочи той.