Разгадаване на изкуствения интелект: Фалшивото обещание на ChatGPT

Хорхе Луис Борхес писа навремето, че да живееш във време на големи опасности и обещания означава да преживееш едновременно трагедия и комедия, с „неизбежността на откровение" в разбирането на себе си и света. Днес нашият уж революционен напредък в областта на изкуствения интелект наистина е повод както за безпокойство, така и за оптимизъм, пишат в свой коментар за The New York Times Ноам Чомски и Иън Робертс. Оптимизъм, защото интелигентността е средството, с което решаваме проблемите. Загриженост, защото се опасяваме, че най-популярната и модерна разновидност на изкуствения интелект - машинното обучение - ще влоши науката ни и ще унижи етиката ни, като включи в технологията ни фундаментално погрешна концепция за езика и знанието, поясняват авторите. 

ChatGPT на OpenAI, Bard на Google и Sydney на Microsoft са чудеса на машинното обучение. Грубо казано, те приемат огромни количества данни, търсят модели в тях и стават все по-умели в генерирането на статистически вероятни резултати - като например привидно подобен на човешкия език и мисъл. Тези програми бяха обявени за първите проблясъци на хоризонта на изкуствения общ интелект - онзи отдавна предсказан момент, когато механичните умове ще надминат човешките мозъци не само количествено по отношение на скоростта на обработка и размера на паметта, но и качествено по отношение на интелектуалното разбиране, художественото творчество и всички други характерни човешки способности.

Този ден може и да настъпи, но неговата зора все още не е изгряла, противно на това, което може да се прочете в хиперболизирани заглавия и да се пресметне чрез неразумните инвестиции. Борхесовото откровение на разбирането не е настъпило и няма да настъпи - а според Чомски и Робертс и не може да настъпи - ако програмите за машинно обучение като ChatGPT продължат да доминират в областта на изкуствения интелект. Колкото и полезни да са тези програми в някои тесни области (те могат да бъдат полезни в компютърното програмиране, например, или в предлагането на рими за леки стихове), от науката лингвистика и философията на познанието знаем, че те се различават дълбоко от начина, по който хората разсъждават и използват езика. Тези разлики поставят значителни ограничения върху това, което тези програми могат да правят, като ги внедряват с неотстраними дефекти.

Едновременно комично и трагично е, както би отбелязал Борхес, че толкова много пари и внимание се концентрират върху толкова малко нещо - нещо толкова тривиално, когато се противопостави на човешкия ум, който с помощта на езика, по думите на Вилхелм фон Хумболт, може да използва „безкрайно много ограничени средства", създавайки идеи и теории с универсален обхват.

Човешкият ум не е, подобно на ChatGPT и подобните му, тромава статистическа машина за съпоставяне на модели, която обработва стотици терабайти данни и екстраполира най-вероятния отговор на разговор или най-вероятния отговор на научен въпрос. Точно обратното, човешкият ум е изненадващо ефективна и дори елегантна система, която работи с малки количества информация; тя не се стреми да извежда груби корелации между точките данни, а да създава обяснения.

Например малкото дете, което усвоява език, развива - несъзнателно, автоматично и бързо, на базата на незначителни данни - граматика, изключително сложна система от логически принципи и параметри. Тази граматика може да се разбира като израз на вродената, генетично инсталирана „операционна система", която дава на хората способността да създават сложни изречения и дълги мисловни потоци. Когато лингвистите се опитват да разработят теория за това защо даден език работи така, както работи ("Защо тези, а не тези изречения се считат за граматични?"), те съзнателно и трудоемко изграждат явна версия на граматиката, която детето изгражда инстинктивно и при минимално излагане на информация. Операционната система на детето е напълно различна от тази на една програма за машинно обучение.

Всъщност такива програми са заседнали в предчовешка или нечовешка фаза на когнитивната еволюция. Най-дълбокият им недостатък е отсъствието на най-критичната способност на всяка интелигентност: да казват не само какво е в случая, какво е било в случая и какво ще бъде в случая - това е описанието и предсказването - но и какво не е в случая и какво би могло и не би могло да бъде в случая. Това са съставките на обяснението, белегът на истинската интелигентност.

Ето един пример. Да предположим, че държите ябълка в ръката си. Сега я пускате. Наблюдавате резултата и казвате: „Ябълката падна". Това е описание. Предсказанието би могло да бъде твърдението „Ябълката ще падне, ако разтворя ръката си". И двете са ценни и могат да бъдат верни. Но обяснението е нещо повече: tо включва не само описания и предсказания, но и контрафактически предположения като „Всеки такъв обект ще падне“ плюс допълнителната клауза „поради силата на гравитацията" или „поради кривината на пространство-времето" или нещо друго. Това е причинно-следствено обяснение: „Ябълката нямаше да падне, ако не беше силата на гравитацията". Това е мислене.

Същността на машинното обучение е в описанието и прогнозирането; то не поставя никакви причинно-следствени механизми или физични закони. Разбира се, всяко обяснение в човешки стил не е непременно правилно; ние не сме непогрешими. Но това е част от значението на мисленето: за да бъдем прави, трябва да е възможно да грешим. Интелигентността се състои не само от творчески предположения, но и от творческа критика. Мисълта в човешки стил се основава на възможни обяснения и коригиране на грешките - процес, който постепенно ограничава възможностите, които могат да бъдат рационално разгледани. (Както Шерлок Холмс казва на д-р Уотсън: "Когато елиминираш невъзможното, каквото остане, колкото и да е невероятно, трябва да е истина"). 

Но ChatGPT и други подобни програми по замисъл са неограничени в това, което могат да „научат" (тоест да запомнят); те не са способни да разграничат възможното от невъзможното. За разлика от хората, например, които разполагат с универсална граматика, ограничаваща езиците, които можем да научим, до тези с определен вид почти математическа елегантност, тези програми научават с еднаква лекота възможни и невъзможни за човека езици. Докато хората са ограничени във видовете обяснения, които можем да предположим рационално, системите за машинно обучение могат да научат както че земята е плоска, така и че земята е кръгла. Те търгуват само с вероятности, които се променят с времето.

Казано накратко, ChatGPT и неговите събратя не са в състояние да балансират между креативността и ограниченията. Те или са свръхгенеративни (произвеждат както истини, така и лъжи, одобряват както етични, така и неетични решения), или са недостатъчно генеративни (не се ангажират с никакви решения и са безразлични към последствията). Като се има предвид аморалността, фалшивата наука и езиковата некомпетентност на тези системи, можем само да се смеем или да плачем на тяхната популярност, заключават авторите.