Новият кошмар за сигурността пред Сам Алтман

OpenClaw – виртуалният агент с изкуствен интелект (AI), който допринесе за разпродажбата на акции на софтуерни компании на стойност 2 трлн. долара на Wall Street, вече е в ръцете на OpenAI. Това е победа за главния изпълнителен директор Сам Алтман, що се отнася до улавянето на духа на времето, но сега той е изправен пред трудната задача да направи тази забележителна нова форма на генеративен AI – такава, която не само говори, но и действа – достатъчно сигурна, за да може да се използва от бизнеса. Това може да отнеме повече време, отколкото пазарът осъзнава, пише редакторът на Bloomberg Парми Олсън.

Алтман не е сам. Лаборатории за изкуствен интелект като Anthropic и Google на Alphabet се конкурират в създаването на агенти, които могат да предприемат независими действия, и всички се затрудняват с едно и също основно препятствие: колкото по-мощен правиш един агент, толкова по-рискован става той.

Миналата седмица Алтман обяви, че наема Питър Щайнбергер, за да „ръководи следващото поколение лични агенти“, наричайки австрийския създател на OpenClaw „гений“.

OpenClaw е система с отворен код, която работи на компютър и може да получава команди чрез приложения за съобщения като WhatsApp, Telegram или Slack. Възможностите ѝ са забележителни. Хората ѝ възлагат да управлява имейлите им, да контролира умни устройства у дома, да автоматизира бизнеса им, да търгува с криптовалути и, в един случай, да създаде игра, докато те спят.

Широките възможности на AI агентите преобръщат идеята, популяризирана от рисковия инвеститор Марк Андресен, че „софтуерът поглъща света“. Сега AI може просто да погълне софтуера. Ако например плащате абонамент за инструмент за наблюдение на цените, който проследява сайтовете на бизнес конкурентите ви, тази услуга може да бъде заменена с една единствена инструкция към AI агент. Старшите разработчици като Щайнбергер често имат половин дузина агенти, работещи едновременно, като цифрови служители и сега могат да определят един от тях за координатор на „рояк“ други.

OpenClaw също така вдъхнови вълна от експерименти и се превърна в най-бързо растящия проект в сайта за споделяне на отворен код Github. Акциите на Raspberry Pi почти удвоиха стойността си миналата седмица поради спекулации, че евтините компютри на компанията ще бъдат използвани за управление на агенти. Някой дори създаде форум, подобен на Reddit, за хиляди ботове, където да „разговарят“ помежду си, създавайки един тревожен кът в интернет, който поне засега изглежда лишен от машинно съзнание.

Но със засилването на популярността на OpenClaw – по-рано наричан Clawdbot и Moltbot – нарастват и опасенията за сигурността. Всеки, който използва системата на своя компютър, ѝ дава привилегирован достъп до своите файлове, електронна поща, календар и приложения. Ако хакер компрометира OpenClaw, той наследява целия този достъп.

След това идва и въпросът как е създаден. Щайнбергер започва да разработва OpenClaw едва в края на миналата година, като основно разговаряше с AI агенти за кодиране чрез глас и след това бързо публикуваше резултатите без пълна проверка. „Доставям код, който не чета“, казва той в един подкаст.

Изследователската фирма Gartner предупреждава компаниите, че OpenClaw представлява „неприемлив“ риск за сигурността и препоръча незабавно да блокират всеки трафик, свързан с платформата. Изследователите от Cisco Systems го нарекоха „абсолютен кошмар“. Изпълнителен директор на Meta Platforms наскоро каза на екипа си да не инсталират OpenClaw на лаптопите си, защото рискуват да загубят работата си.

Сега OpenAI трябва да намери начин да превърне „абсолютния кошмар“ на сигурността на OpenClaw в нещо, което може да продаде на корпоративни клиенти. Решението на Алтман да запази OpenClaw като независима фондация е разумно, тъй като ограничава отговорността, като същевременно запазва популярността на марката. Но той все още трябва да се пребори с по-широките рискове, свързани с това да позволи на автономна система да чете вашите файлове и да изпраща съобщения от ваше име.

Claude Cowork на Anthropic, който предлага по-безопасна, но по-ограничена версия на агентите на OpenClaw, показва, че е възможен по-предпазлив подход. Компанията управлява агентите си във виртуална машина със защитен режим и с ограничен достъп до мрежата.

И не всички смятат, че проблемите със сигурността са непреодолими. Гавриел Коен, израелски разработчик, който създаде алтернатива на OpenClaw, наречена NanoClaw, казва, че основното решение е „изолиране на контейнерите“, което гарантира, че всеки агент има достъп само до данните, които му предоставяте изрично. Подходът е подобен на този на Anthropic, но се прилага по различен начин. „Трудността е в това да се изгради по начин, по който настройките по подразбиране да са сигурни“ за хора, които не разбират рисковете, казва той. Например, ако свържете агента си с грешен WhatsApp чат, всички в тази група могат да контролират компютъра ви.

Въпреки опасенията за сигурността Коен казва, че финтех компания с оценка 5 млрд. долара вече се е свързала с него относно възможността да внедри агенти за своите служители.

Някои разработчици сравняват OpenClaw и алтернативи като NanoClaw и по-лекия PicoClaw с ранните дни на интернет, който по дизайн беше несигурен, но с времето стана по-безопасен. Същото може да се случи и с AI агентите – макар че няма гаранция за сигурност за онези, които се намират на пътя на разрушителната сила, която агентите могат да окажат върху много професионални роли и бизнеса с разработване на софтуер.

Колко дълго ще продължи това сътресение зависи от това колко бързо Алтман и предприемачи като Коен ще успеят да направят агентите едновременно сигурни и безопасни за неориентирани потребители. Както всеки експерт по киберсигурност ще ви каже, вторият проблем е най-труден за решаване.