Ерата „не прави зло“ на Google вече е зад гърба ѝ. След като замени мотото „Не бъди зла“ през 2018 г. с по-мекото „Прави правилното нещо“, ръководството на компанията Alphabet сега отмени една от най-важните етични позиции на фирмата относно използването на нейния изкуствен интелект (AI) от военните, пише Парми Олсън за Bloomberg.
Тази седмица компанията изтри ангажимента си да не използва AI за оръжия или наблюдение – обещание, което беше в сила от 2018 г. Нейните принципи за „отговорен AI” вече не включват въпросното обещание, а лидерът на изкуствения интелект на компания Демис Хасабис написа в блога ѝ обяснение на промяната, обяснявайки я като неизбежен напредък, а не като някакъв вид компромис.
„AI става толкова широко разпространен, колкото мобилните телефони“, пише Хасабис. „Той еволюира бързо“.
И все пак идеята, че етичните принципи също трябва да се „развиват“ с пазара, е погрешна. Да, ние живеем във все по-сложен геополитически пейзаж, както го описва Хасабис, но изоставянето на етичен кодекс, що се касае до войната, може да доведе до последици, които излизат извън контрол.
Ако пренесете изкуствения интелект на бойното поле, можете да получите автоматизирани системи, които си отговарят една на друга със скоростта на машина, без време за дипломация. Войната може да стане по-смъртоносна, тъй като конфликтите могат да експалират, преди хората да имат време да се намесят. А идеята за „чиста“ автоматизирана битка може да тласне повече военни лидери към действие, въпреки че системите с изкуствен интелект допускат много грешки и биха могли да причинят смъртта на цивилни граждани.
Автоматизираното вземане на решения е истинският проблем тук. За разлика от предишната технология, която направи армията по-ефективна или мощна, системите с изкуствен интелект могат фундаментално да променят кой (или какво) взема решението да отнеме човешки живот.
Също така е тревожно, че от всички именно Хасабис подписва внимателно формулираната от Google обосновка на решението. Той "пееше съвсем различна песен" през 2018 г., когато компанията установи своите принципи за AI и се присъедини към над 2400 души в сферата, които поставиха имената си под обещание да не работят върху автономни оръжия.
По-малко от десетилетие по-късно това обещание не се брои особено. Уилям Фицджералд, бивш член на политическия екип на Google и съосновател на Worker Agency – компания за политики и комуникации, казва, че години наред Google е била под силен натиск да се заеме с военни договори.
Той припомня, че бившият заместник-министър на отбраната на САЩ Патрик Шанахан посети Сънивейл, Калифорния, централата на облачния бизнес на Google през 2017 г., докато служителите в отдела изграждаха инфраструктурата, необходима за работа по строго секретни военни проекти с Пентагона. Надеждата за договори беше голяма.
Фицджералд помогна да се спре това. Той съорганизира протести на компанията срещу Project Maven – сделка, която Google сключи с министерството на отбраната за развитието на AI за анализ на кадри от дронове. Тогава служителите на гиганта се страхуваха, че това може да доведе до автоматизирано прицелване. Около 4000 служители подписаха петиция, в която се казваше, че „Google не трябва да се занимава с война“, а около дузина напуснаха в знак на протест. В крайна сметка Google отстъпи и не поднови договора.


Костадинов: Събрани са парите за кувьоз за варненската болница
Хърватия прие първи построен във Варна плаващ док
Варна се включва в „Нощ на театрите“ със спектакъла „Карнавал“ и Playback театър за срещите и любовта
24 души са задържани при полицейска акция във Варна
Стоичков засипа с похвали Везенков: Той е най-добрият баскетболист в Европа
Изследовател от Anthropic обяви, че е доказал хипотезата на Риман
Еуфорията около AI отстъпва място на страха на Уолстрийт
Тръмп и Си са се споразумяли за ограничаване на AI във военните действия
ЕС е близо до нов инструмент за блокиране на достъпа до единния пазар
Grand Theft Auto VI стана най-успешният развлекателен продукт в историята
Следващият Maybach ще има водопад в салона
Пет нови брутални кросоувъра от Китай, които копират Defender
90 години Opel Kadett: Как германската революция се превърна в „Москвич“
Изгнил Range Rover запали след 5 години на открито
Испания вече прави двойно повече коли от Франция
Ива Митева за ВСС: Това, което видяхме вчера, беше едно отговорно поведение
Бойко Атанасов за ВСС: Има силни хора, които мисля, че имат качества
79-годишен мъж загина след тежка катастрофа в Мездра