Бунтът на машините: Какви рискове носи изкуственият интелект за икономиката?

Не е нужно да търсите далечни примери - преди не много време кибер атака срещу металургично предприятие в Германия нанесе сериозни вреди на компанията и й нанесе загуби за милиони. Хакерите успяха да проникнат в компютър, управляващ доменна пещ, и временно да инсталират вирус, който накара пещта да прегрее и да се разтопи. Злосторниците не само успяха да получат достъп до системата за управление на завода, но и да спрат работата му.

Изкуственият интелект излага компаниите на бизнес рискове, които лесно могат да засенчат огромните ползи от него. Предприятията започват да се сблъскват с нови задължения като прехвърляне на отговорността за вземането на решения от човека към машината.

Нагледен пример е експериментът на Microsoft с (чат)бота Тау. Ботът, работещ на основата на изкуствен интелект, бе блокиран в Twitter още в първите часове след пукането му. За по-малко от денонощие от фрази като "Здравей, свят" и "Всички хора са готини" ботът премина към откровено нацистки и расистки изказвания, започна обилно да използва нецензурни думи и да пише постове с откровено порнографски характер.

Facebook също трябваше да прекъсне свой експеримент с изкуствен интелект. Руската компания "Система" използваше чатботове, първоначално създадени за общуване с хора, които постепенно започнаха да общуват помежду си. Отначало ботовете си пишеха на английски, но в определен момент минаха на език, създаден от самите тях в процеса на развитие на програмите.

Тези примери показват добре необходимостта от внимателно проучване на последиците от въвеждане на технологиите, основаващи се на изкуствен интелект, преди да започне широкото им използване в обществото.

Изкуственият интелект например може да намали броя на пътно-транспортните произшествия с до 90%, но и носи неясноти по въпроса за отговорността и етиката при катастрофа. Неотдавна Uber Technologies спря тестовете на самоуправляващи се коли, след като автономен автомобил блъсна фатално жена. Това стана първата смъртоносна катастрофа с участието на пешеходец и самоуправляващ се автомобил. Веднага след инцидента Uber обяви, че незабавно спира изпитанията на всички свои самоуправляващи се коли в Питсбърг, Сан Франциско, Торонто и голяма част от Финикс.

Здравеопазването е друг икономически сектор, където очакванията от изкуствения интелект са много високи. Има хипотеза, че използването на анализирани данни може да допринесе за победата над множество нелечими днес заболявания, както и да се диагностицират болести, които изискват изясняване на факти и кръстосана проверка чрез голямо количество медицински изследвания.

Очевиден е проблемът за защитата на личните данни на пациентите, например при широко използване на изкуствения интелект в медицинската документация за изучаване на нови заболявания. Този проблем вече привлече вниманието към необходимостта да се измени законодателната защита на данните и правата на пациентите.
Ще се променят и заплахите в сферата на цифровата безопасност. Новите технологии ще понижат кибер рисковете чрез възможно най-доброто откриване на атаките, но същевременно и ще увеличат вероятността от такива.

Изкуственият интелект ще проправи пътя към по-сериозни инциденти, ще намали разходите за организиране на кибер нападения и ще позволи те да бъдат извършвани по-целенасочено.