Anthropic предупреди, че AI модели скоро може да започнат да се самовъзпроизвеждат

Anthropic съобщи в понеделник, че експериментите ѝ показват, че малки модели с изкуствен интелект може би са на няколко месеца време от това да придобият достатъчна способност да се саморепликират на търговски устройства от типа интернет на нещата (IoT), например умни фурни и телевизионни декодери с Android на неизвестни производители, съобщава Ройтерс.

В своите експерименти Anthropic е проучила дали AI модели могат да откриват уязвими устройства, да се копират в тях и да продължат да се разпространяват без човешка помощ.

Компанията установява, че малки модели с по-малко от 30 млрд. параметъра могат да изпълнят многото стъпки, необходими за самовъзпроизвеждането.

Въпреки това фирмата установява, че такива AI модели също така изпитват затруднения при изпълнението на цялата последователност от начало до край.

В опростените си тестове, при които са премахнати някои мерки за сигурност, Anthropic установява, че GLM-5.2 и по-мощните модели са способни на самовъзпроизвеждане от начало до край.

Би било трудно репликиращите се модели да бъдат изключени, тъй като нямат централен ключ и, за разлика от зловредния софтуер, който не е базиран на AI, те биха могли сами да разпознават непознати устройства, насочвайки се към процесорите в центровете за данни, предупреди Anthropic.

В своето проучване компанията се съсредоточи върху устройства от типа интернет на нещата, като телевизори с Android, умни уреди и други устройства, свързани с интернет, тъй като те обикновено са слабо защитени.

Големият играч в областта на изкуствения интелект също така предупреди, че ако малките модели продължат да се усъвършенстват със същия темп, те ще бъдат в състояние да се самовъзпроизвеждат до края на тази година, а репликаторите с малко тегло ще последват примера им скоро след това.

Anthropic също така заяви, че такива автономни AI системи вероятно ще се самовъзпроизвеждат бавно и ще разчитат на широко достъпни, относително незащитени изчислителни ресурси. Компанията добави, че системите трябва да бъдат укрепени, за да се затрудни разпространението на такива агенти с изкуствен интелект.