Зукърбърг: AI лабораториите имат достатъчно стимули да разработват технологии безопасно

Главният изпълнителен директор на Meta Platforms Марк Зукърбърг заяви във вторник, че конкуренцията и отговорността дават на компаниите в сферата на изкуствения интелект достатъчно основания да действат самостоятелно по въпросите на безопасността. По този начин той явно се разграничава от призивите на лидерите на водещите компании в сектора за координирано забавяне на развитието на изкуствения интелект, съобщава Ройтерс.

Коментарите подчертават различията между ръководителите в бранша и американските власти относно това как да се реагира на предупрежденията, че технологията напредва по-бързо, отколкото компаниите могат да я контролират. Някои експерти от бранша предупреждават, че тя представлява екзистенциална заплаха за човечеството.

В публикация в X във вторник Зукърбърг заяви, че всяка лаборатория има отговорността и мотивацията да работи с темпа, необходим за безопасното обучение на своите модели, както и способността да предприема самостоятелни действия, за да гарантира, че това ще се случи.

Коментарите му излизат три дни след като главният изпълнителен директор на Anthropic Дарио Амодей призова AI компаниите да забавят темпа, с който подобряват възможностите на моделите си, вследствие на предупрежденията за екзистенциален риск от страна на няколко изследователи.

Шефът на конкурентната компания OpenAI Сам Алтман и Илон Мъск от xAI публично подкрепиха призива на Амодей в рамките на няколко часа.

Отпор от администрацията

В понеделник обаче президентът Доналд Тръмп омаловажи опасенията относно потенциалната вреда от AI, като заяви, че САЩ вече разполагат с предпазни мерки за тази технология и че Китай ще спечели от това, че се хвърля съмнение върху развитието на изкуствения интелект. Мнението, че регулациите ще навредят на способността на американските компании да се конкурират с китайските си съперници, се споделя от ръководители в технологичния сектор, включително главният изпълнителен директор на Nvidia Дженсън Хуанг.

„Доверието и съгласуваността бързо се превръщат в най-важните способности, които ще отличават агентите и моделите“, заяви Зукърбърг във вторник. „Всяка лаборатория, която не се фокусира върху съгласуваността, ще изостане.“

Зукърбърг каза още, че лабораториите имат силен стимул да предотвратят нанасянето на вреда от своите модели, тъй като в противен случай биха понесли „значителна“ отговорност. Той посочи, че Meta е отложила пускането на своя AI агент Muse по-рано тази година, за да засили неговата сигурност.

„Не призовахме всички останали да направят това преди нас. Просто го направихме като част от ежедневната си работа, защото това беше очевидно правилното нещо както за хората, така и за нас“, каза той.

Независими оценители

Докато Амодей призова за забавяне в целия сектор на рекурсивното самоусъвършенстване – способността на AI да се усъвършенства сам – Зукърбърг заяви, че Meta вече е насочила „значителната част“ от изчислителните си ресурси към създаването на продукти, които отговарят на непосредствените нужди на потребителите, вместо да се стреми към самоусъвършенстващи се AI системи.

Зукърбърг също така заяви, че AI подразделението на компанията Meta Superintelligence Labs вече е ангажирало независими оценители в няколко области, като го определи като „най-добра практика в бранша“ и добави, че „другите лаборатории също могат просто да направят същото“.

Зукърбърг представя усилията да позиционира Meta като отговорен участник в областта на безопасността на изкуствения интелект няколко седмици, след като компанията се съгласи да плати до 18 млрд. долара за уреждане на съдебни дела в щати на САЩ, в които се твърди, че е проектирала Facebook и Instagram така, че да предизвикват пристрастяване у децата, без обаче да признава, че е извършила нарушение.

Засилвайки несигурността около евентуален координиран подход от страна на фирмите за изкуствен интелект, председателят на Федералната търговска комисия (FTC) Андрю Фъргюсън заяви във вторник, че всички трябва да бъдат „силно подозрителни“ към AI компаниите, които търсят антитръстови изключения, докато лобират за нови регулации.

Макар Фъргюсън да не спомена Anthropic, Амодей миналата седмица поиска антитръстово разрешение, което да позволи на конкурентите да координират забавяне на темпа на развитие на изкуствения интелект поради опасения за безопасността.