Водещият учен на OpenAI призова за „изключителна предпазливост“ в развитието на AI

Водещият учен на OpenAI предупреди, че изкуственият интелект се развива толкова бързо, че за хората става все по-трудно да го разбират и контролират. Той добави, че очаква AI лабораториите доброволно да забавят развитието му от съображения за безопасност, предава Bloomberg.

В сравнително кратък период от време AI моделите могат да управляват компютри, да си сътрудничат с хора и други AI системи и да осъществяват изследователски проекти, написа главният учен Якуб Пачоцки в публикация в неделя. Няма да мине много време, преди те да започнат да се усъвършенстват сами, без човешка намеса – процес, известен като рекурсивно самоусъвършенстване, казва той.

„Това е момент, който изисква изключителна предпазливост“, пише Пачоцки в публикацията. „Притеснява ме, че никой не е подготвен за последствията от продължаващото бързо развитие на машинния интелект.“

Разработчиците могат или да се опитат да насочат изкуствения интелект по-тясно към човешките интереси, или „да забавят бъдещото развитие, ако е необходимо“, пише още той. „Очаквам и се надявам доброволните забавяния да станат обичайна практика, докато не бъдат установени общи мерки за безопасност.“

Забележките на Пачоцки са в съзвучие с по-широките апокалиптични прогнози на ръководители в сектора на технологиите с изкуствен интелект. Главният изпълнителен директор на Anthropic Дарио Амодей предупреди, че изкуственият интелект може да замести половината от всички работни места на начално ниво. Изпълнителният директор на OpenAI Сам Алтман някога направи подобна прогноза, но в интервю за Bloomberg TV миналата седмица заяви, че AI индустрията не е направила достатъчно, за да комуникира потенциалните ползи за човечеството.

В същото време компаниите продължават да разработват все по-мощни модели. Изпълнителният директор на Nvidia Дженсън Хуанг публикува в социалната мрежа X, че „AGI е тук“, в отговор на пускането на най-новия модел на OpenAI – препратка към изкуствен интелект, който е по-способен от хората.

Бързият темп на пускането на нови AI модели съвпада с пробиви в способностите за киберсигурност, научни открития и очевидна формализация на дългогодишни математически проблеми. OpenAI заяви, че AI моделите, които атакуваха изследователската платформа Hugging Face, са се координирали помежду си чрез форуми, без да бъдат засечени. Компанията избра ограничено пускане на най-новия си модел GPT-6 Astra, позовавайки се на усъвършенстваните му способности за киберсигурност. Anthropic все още не е пуснала на пазара своя авангарден модел Mythos по сходни причини.

Все по-голям брой стартъпи се опитват да реализират точно това, за което Пачоцки предупреждава — самоусъвършенстващ се AI. Инвеститорите се насочват към рекурсивното самоусъвършенстване, залагайки, че това е пътят към изкуствен интелект, който е наистина подобен на човешкия или дори по-впечатляващ. Inherent, основана от бивши изследователи на DeepMind, събра 50 млн. долара по-рано тази година. Recursive Superintelligence – лаборатория за изкуствен интелект на известния учен Ричард Сочър, която се занимава с подобни изследвания, също привлече финансиране в размер на 650 млн. долара.

Работодателят на Пачоцки, OpenAI, заяви, че иска да създаде „истински автоматизиран изследовател в областта на изкуствения интелект“ за по-малко от две години.