Сам Алтман: Може да се наложи умишлено да забавим развитието на AI

На големите компании в областта на изкуствения интелект (AI) може да им се наложи съзнателно да забавят темпа на развитие на технологията, за да дадат време на цялата компютърна екосистема да се подготви, заяви главният изпълнителен директор на OpenAI Сам Алтман, цитиран от Франс прес.

Два модела на ръководената от него компания предприеха неотдавна тестова кибератака по собствена инициатива.

По време на тестова фаза два модела на OpenAI са напуснали изолирана среда и са се свързали с интернет, след което са проникнали в платформата Hugging Face, библиотека за модели с AI, за да търсят информация.

„Това е първият инцидент в областта на киберсигурността, който предизвика у мен инстинктивна реакция“, призна Алтман. „Малко съм изненадан, че това не е оказало същия ефект върху повече хора“, добави той.

Макар че това не е първият пример за модел, който излиза извън контрола на своите разработчици, случаят е широко определян като най-сериозния досега в тази област.

Алтман разкри, че след като е научила за атаката, OpenAI е преустановила тестовете, „за да разбере как да успее да ограничи своята специална среда“, която би трябвало да бъде изолирана от интернет.

„Но в по-дългосрочен план възниква въпросът какво да правим, ако сме в период на нов етап на развитие на АИ“ каза той.

Според него в подобен контекст „може да се наложи да забавим темпа на развитие на изкуствения интелект, за да дадем на обществото достатъчно време да се справи с тези нови възможности“.

В съобщение, публикувано в началото на юни, ръководителят на Anthropic Дарио Амодей заяви, че би било „добре да се забави развитието на тази технология, за да има достатъчно време да се разберат по-добре огромните последици от нея“.

Публикацията му се появи няколко седмици след разработването на Mythos, модел, който Anthropic смята за толкова мощен, че калифорнийският стартъп е решил да го предостави само на ограничен брой организации с цел обезопасяване на архитектурата на интернет.

Няколко дни по-късно американското правителство настоя Anthropic да спре ограничената версия на Mythos - Fable 5, тъй като я определи като потенциален риск за националната сигурност. Впоследствие разрешението за използването ѝ беше дадено в края на юни.

Според Сам Олтман забавянето на развитието на ИИ би трябвало да предотврати ситуация, при която едно или няколко дружества получават прекомерно предимство, или да се създаде впечатление за координация между малка група технологични гиганти.

„Това ще изисква работа и е важно да намерим правилната формула“, предупреди той.

/БТА/