Кой казва, че машините никога няма да имат съзнание

Новият му роман „Тиранията на пеперудата" се развива в Калифорния, в сънливата Сиера, малко над двеста мили от Силициевата долина. Заради едно дело за убийство шерифът на селото Лутър Опоку се въвлича в тайните машинации на корпорацията Nordvisk Inc., която работи в сферата на големите данни (Big Data). Nordvisk развива мощен изкуствен интелект в отдалечен изследователски завод, по подобие на реално съществуващата технологична компания Palantir.

Business Insider разговаря с автора Франк Шетцинг за силата на алгоритмите, как може технологични милиардери, като Марк Зукърбърг, да бъдат подчинени и за срещата му с основателя на Palantir Питър Тил.

В романа си Шетцинг разказва и за суперкомпютъра Ares - изкуствен интелект, който отдавна е надминал хората и дори може да твори. На въпроса с какво в бъдеще хората ще се различими от роботите, авторът отговаря, че „това, което ни отличава днес, е нашата индивидуална уникалност. И нашето съзнание. Съзнателното осъзнаване на нашето съществуване и извлечените от това нашите чувства ценности“. Въпреки това той смята, че в бъдеще машините ще имат и съзнание.

Днес нещата са творчески в определена рамка. Например цялата история на изкуството е достъпна за тях като база с данни. В резултат на това те създават свои собствени картини. Това, което отличава нашия стил на творчество, е, че нашето изкуство винаги произтича от съзнателното обвързване с нашите чувства, нашето мислене и нашите ценности. Изкуственият интелект няма представа за това, той дори не знае, че тези неща съществуват. Но ако си представим, че изкуственият интелект един ден получи съзнание, трябва да се запитаме: все още ли става дума за машина, или за друга форма на живот, продължава Шетцинг. 

Авторът признава, че днес изкуственият интелект може да обработва огромно количество данни за много кратко време – нещо, което хората никога няма да могат. Пример за това са изкуствената терапия и диагностичните системи. Един диагностичен изкуствен интелект например сравнява данните на пациента с всички данни, които може да получи, т.е. с всичко, което някога е било дигитализирано. Той ще може по-бързо да се ориентира и да намери модели в този шум от данни, отколкото всеки човек би могъл да го стори. Затова и изкуственият интелект и днес е далеч по-добър от нас в областта на диагностиката и терапевтиката.

За да не се превърнат обаче тези машини в даден момент в чудовища на Франкенщайн, хората трябва да ги програмират правилно сега и тук.

„Изкуственият интелект не се научава допълнително като хора, а умножава знанията си с абсурдно темпо. След сравнително кратко време може да имате машина, която да знае толкова много, че да не знаем колко много знае наистина и до какви изводи ще стигнат нейните алгоритми чрез тези знания. Тя ще стане един вид черна кутия. Следователно е много важно да се зададат на изкуствения интелект алгоритмични насоки, така че неговите действия винаги да се определят от етични насоки. Неговите затворнически правила трябва да бъдат твърди и в същото време да са и гъвкави, така че от една страна да не ограничават креативността ѝ, но и да не нарушават правилата. А това не е толкова лесно.

Подобно на много други специалисти и Франк Шетцинг признава, че днес технологиите изпреварват законодателството. Според него това е факт, защото и законотворците, подобно на много хора, не осъзнават какво се случва в момента - че става дума за нова човешка революция.

„Нищо не би било по-смъртоносно, отколкото днес да извършим голямата грешка с най-добрите намерения да програмираме неправилно машините и в крайна сметка те да ни нападнат в гърба. Не заради злоба, а защото просто няма да са разбрали нещо правилно. Нямаме време за губене и за съжаление ни е трудно да осъзнаем това. Нека да бъдем честни: Без скандала за данните във Facebook Марк Зукърбърг щеше да остави всичко по старому. Само неуспехите налагат преосмисляне“.