Поглеждайки назад, Фицджералд посочва: „Това беше аномалия в траекторията на Силициевата долина“.
Оттогава например OpenAI си планира с поддоставчика в сферата на отбраната Anduril Industries и предлага своите продукти на американската армия. (Едва миналата година OpenAI забрани на всички да изпозлват нейните модели за „разработване на оръжия“). Anthropic, която се представя на първо място като лаборатория за изкуствен интелект, също си партнира с Palantir Technologies през ноември 2024 г., за да продаде своята услуга за изкуствен интелект Claude на подизпълнители в отбраната.
Самата Google прекара години в борба по създаване на подходящ надзор на работата си. През 2019 г. тя разпусна противоречивия борд по етика, след което година по-късно уволни двама от най-известните си директори по етика на AI. Компанията се е отклонила толкова далеч от първоначалните си цели, че вече не може да ги види. Същото се случва и с останалите в Силициевата долина, които не трябваше да бъдат оставени да се регулират сами.
И все пак, с малко късмет, обратният завой на Google ще окаже по-голям натиск върху правителствените лидери следващата седмица да създадат правно обвързващи разпоредби за разработване на AI за военни цели, преди надпреварата и политическият натиск да ги направят по-трудни за налагане.
Правилата могат да бъдат прости. Задължително трябва да има човек, който да наблюдава всички военни системи с изкуствен интелект. Да се забранят напълно автономните оръжия, които могат да избират цели, без те да са одобрени предварително от човек. Също така трябва да има начин такива AI системи да могат да бъдат одитирани.
Едно разумно предложение за политика в тази посока идва от Future of Life Institute – мозъчен тръст, някога финансиран от Илон Мъск, а в момента управляван от физика Макс Тегмарк от Масачузетския технологичен институт. Той призовава за многостепенна система, при която националните власти се отнасят към военните AI системи като към ядрени съоръжения, призовавайки за недвусмислени доказателства за тяхната безопасност.
Правителствата, които се събират в Париж, трябва да обмислят и създаването на международен орган, който да налага тези стандарти за безопасност, подобно на надзора на Международната агенция за атомна енергия върху ядрените технологии. Той трябва да може да налага санкции на компании (и държави), които нарушават тези стандарти.
Завоят в политиката на Google е предупреждение. Дори и най-силните корпоративни ценности могат да се сринат под натиска на свърхгорещ пазар и администрация, на която просто не казвате „не“. Ерата на саморегулирането от типа „не прави зло“ приключи, но все още има шанс да се въведат обвързащи правила, за да се предотвратят най-опасните рискове от ползването на AI. Автоматизираната война със сигурност е един от тях.


Костадинов: Събрани са парите за кувьоз за варненската болница
Хърватия прие първи построен във Варна плаващ док
Варна се включва в „Нощ на театрите“ със спектакъла „Карнавал“ и Playback театър за срещите и любовта
24 души са задържани при полицейска акция във Варна
Стоичков засипа с похвали Везенков: Той е най-добрият баскетболист в Европа
Изследовател от Anthropic обяви, че е доказал хипотезата на Риман
Еуфорията около AI отстъпва място на страха на Уолстрийт
Тръмп и Си са се споразумяли за ограничаване на AI във военните действия
ЕС е близо до нов инструмент за блокиране на достъпа до единния пазар
Grand Theft Auto VI стана най-успешният развлекателен продукт в историята
Следващият Maybach ще има водопад в салона
Пет нови брутални кросоувъра от Китай, които копират Defender
90 години Opel Kadett: Как германската революция се превърна в „Москвич“
Изгнил Range Rover запали след 5 години на открито
Испания вече прави двойно повече коли от Франция
Математик решил един от най-важните математически проблеми с ИИ
Румънската армия тества оръжията на бъдещето
Ива Митева за ВСС: Това, което видяхме вчера, беше едно отговорно поведение
Бойко Атанасов за ВСС: Има силни хора, които мисля, че имат качества