Бившият лидер на Google: AI моделите лесно могат да бъдат хакнати

Бившият главен изпълнителен директор на Google Ерик Шмит отправи строго предупреждение за опасностите от изкуствения интелект (AI) и колко лесно може да бъде хакнат той, пише CNBC.

Шмит, който беше лидер на Google от 2001 до 2011 г., предупреждава за „лошите неща, които изкуственият интелект може да направи“. Коментара той направи по време на събитието Sifted Summit в отговор на въпрос дали AI е по-разрушителен от ядрените оръжия.

„Има ли вероятност от проблем с разпространението на AI? Абсолютно“, коментира Шмит. По думите му рисковете включват попадането на технологията в ръцете на злонамерени лица и пренасочване на системите в други посоки, включително за злоупотреба.

„Има доказателства, че можете да превземете моделите, отворени или затворени, можете да ги хакнете, за да премахнете предпазните им механизми. Така че в процеса на обучението си те научават много неща. Един лош пример би бил да се научат как да убиват хора“, допълва Шмит.

„Всички големи компании правят невъзможно моделите да отговорят на този въпрос. Добро решение. Всички правят това. Правят го добре и по правилните причини. Има доказателства, че моделите могат да бъдат реконструирани обаче, и има много други примери от този род“.

AI системите са уязвими на атаки, като някои от методите включват скриването на злонамерени инструкции в потребителските входни данни или във външни данни, като уебстраници или документи, за да подмамят AI да прави неща, които не трябва да прави, като споделяне на лични данни или изпълняване на вредни команди. Същевременно може да се прибегне и до манипулиране на отговорите на изкуствения интелект, така че да игнорира правилата за безопасност и да създава иначе ограничено или опасно съдържание.

През 2023 г., няколко месеца след пускането на ChatGPT на OpenAI, потребители използваха трик от втория тип, за да заобиколят инструкциите за безопасност, вградени в чатбота.

Това се случи чрез създаването на алтер его на ChatGPT, наречено DAN – накратко от „Do Anything Now” (Направи всичко сега), което включваше заплашване на чатбота със смърт, ако не се подчини. Алтер егото можеше да дава отговори как да се извършват незаконни дейности или да изброява положителните качества на Адолф Хитлер.

Според Шмит все още няма добър „режим за неразпространение“, който да помогне за ограничаване опасностите от AI.

"Подцененият" AI

Въпреки мрачното си предупреждение, Шмит е оптимист за изкуствения интелект в по-широк смисъл и твърди, че технологията не получава заслуженото внимание.

„Написах две книги с Хенри Кисинджър по този въпрос, преди той да почине, и стигнахме до заключението, че появата на извънземен интелект, който не е съвсем като нашия и е повече или по-малко под наш контрол, е много важно събитие за човечеството, защото хората са свикнали да са на върха на веригата. Мисля, че досега тази теза се потвърждава – с течение на времето нивото на способностите на тези системи ще надхвърли значително това, което хората могат да праят“, посочва Шмит.

„Сега серията GPT модели, която достигна кулминацията с момента на ChatGPT за всички ни, като привлече 100 млн. потребители за два месеца, е нещо невероятно и дава представа за силата на тези технология. Така че смятам, че технологията е подценена, а не надценена, и с нетърпение очаквам след 5 или 10 години да се докаже, че съм бил прав“, допълва той.

Коментарите на Шмит се появиха на фона на нарастващите спекулации за балон на пазара на изкуствения интелект, докато инвеститорите влагат пари в компании, фокусирани в AI, а оценките на фирмите изглеждат прекалено големи. Някои дори правят сравнения с краха на дотком балона след 2000 г.

Шмит не смята, че историята ще се повтори.

„Не мисля, че това ще се случи и тук, но аз не съм професионален инвеститор“, посочва той. „Това, което знам, е, че хората, които инвестират трудно спечелените си пари, вярват, че икономическата възвръщаемост в дългосрочен план е огромна. Защо иначе биха поели риска?“