Защо Microsoft призна, че изкуственият интелект ни прави по-глупави

Microsoft планира да похарчи 80 млрд. долара за изкуствен интелект (AI) тази година, засилвайки позицията си на водещ доставчик. Защо тогава наскоро публикува проучване, което показва, че уменията за критично мислене сред работниците, използващи инструменти за генеративен AI като ChatGPT, намаляват?

Ако сме великодушни, можем да кажем, че това е истинско научно изследване. По-вероятно е обаче компанията да иска да изпревари тенденцията и да гарантира, че инструментите ѝ остават полезни за бизнеса. В момент, когато технологичните гиганти (Big Tech) се надпреварват да направят AI моделите по-големи, това е освежаващо внимателен подход както към бизнес модела в сектора, така и към социалните му резултати, пише редакторът на Bloomberg Парми Олсън.

Проучването, изготвено съвместно с изследователи от Carnegie Mellon University, е обхванало 319 служители, работещи с конкретни знания, за това как те използват AI, включително генерирани от учители образи с помощта на DALL-E 2 за презентация за миенето ръцете пред ученици и трейдър на суровини, генериращ стратегии с ChatGPT.

Изследователите откриват стряскащ модел: колкото повече участниците са се доверявали на AI за определени задачи, толкова по-малко са упражнявали тези умения те самите, например писане, анализ и критични оценки. В резултат на това те самите отчитат, че уменията им в тези сфери са се влошили. Няколко респонденти казват, че са започнали да се съмняват в собствените си способности да изпълняват задачи като проверка на граматиката в текст или изготвянето на юридически писма, което ги е накарало автоматично да приемат всичко, което генеративният AI им предложи.

Когато са били притиснати от времето, вероятността да упражняват собствените си умения е била дори по-малка. „В продажбите трябва да достигна определена квота ежедневно или рискувам да изгубя работата си“, казва анонимен участник в проучването. „Затова използвам AI, за да спестя време и нямам много място за размисъл върху резултата“.

Подобно изследване на Anthropic, което разглежда как хората използват AI модела ѝ Claude, открива, че водещото умение, проявено от чатбота в разговорите, е „критично мислене“.

Това очертава картина на бъдеще, в което служителите в крайна сметка стават мениджъри на резултатите от AI, а не създатели на нови идеи и съдържание, особено с усъвършенстването на AI моделите. Последният модел на OpenAI Deep Research, който струва 200 долара месечно, може да извършва проучвания в интернет, претърсвайки изображения, PDF файлове и текстове, за да изготвя подробни доклади с цитати.

Един от резултатите е, че когнитивната работа ще се промени, и то бързо, показва бележка от 12 февруари на инвеститори от Deutsche Bank. „Хората ще бъдат възнаграждавани за това, че питат AI агента правилните въпроси, по правилния начин, и че след това използват преценката си, за да оценяват и коригират отговорите“, пише анализаторът Ейдриън Кокс. „Голяма част от останалото в когнитивния процес ще бъде прехвърлено“ към AI, посочва той.

Колкото и плашещо да звучи това, трябва да си спомним, че Сократ се е опасявал, че писането ще доведе до ерозия на паметта, че някога се е очаквало калкулаторите да убият математическите ни умения и че GPS навигацията ще ни остави безнадеждно изгубени без телефоните ни. Последното може и да е вярно донякъде, но като цяло хората са успели да използват мозъка си по друг начин, когато са прехвърлили мисленето си към външни инструменти, дори и математическите и навигационните ни умения да са станали по-мързеливи.

Различното при AI е, че той навлиза в много по-широка част от ежедневното ни познание. Поставени сме в положение да мислим критично много по-често, отколкото да изчисляваме суми или да чертаем маршрути – било то да съставяме мейл с чувствителна информация или да решаваме какво да подчертаем в доклад за шефа ни. Това може да ни остави по-малко способни да вършим базова професионална работа или да сме по-уязвими към пропаганда. А това ни връща обратно към въпроса защо Microsoft, която изкарва пари от продажбите на GPT моделите на OpenAI, публикува тези открития.

Подсказка за отговора има в самия доклад, където авторите отбелязват, че рискуват да създадат продукти, „които не решават реалните нужди на работниците“, ако не знаят как служителите, използващи знания, употребяват изкуствения интелект и как мозъците им работят, когато го употребяват. Ако уменията за мислене на мениджъра по продажби се влошат, когато използва AI продуктите на Microsoft, качеството на работата може също да се влоши.

Завладяващо откритие в проучването на Microsoft е, че колкото повече хората са били уверени в способностите на AI инструмента им, толкова по-малко вероятно е било да проверяват по-задълбочено резултата му. Предвид факта, че AI все още има склонност да халюцинира, това повишава риска от некачествено свършена работа. Какво се случва, когато работодателите започнат да забелязват спад в представянето? Може да обвиняват за това работника – но може и да обвиняват AI, а това ще бъде лошо за Microsoft.

Технологичните компании гръмко рекламират AI като инструмент, който ще „увеличи“ нашата интелигентност, а няма да я замени, както явно това проучване предполага. Затова урокът за Microsoft е в начина, по който насочва бъдещите си продукти – не за да ги направи по-мощни, а за да ги проектира някак така, че да подобряват, а не да намаляват човешките способности. Може би, например, ChatGPT и подобните му могат да подтикнат потребителите да мислят сами от време на време. Ако не го направят, компаниите може да се окажат с работници, които могат правят повече с по-малко, но и не могат да забележат кога новопридобитата им ефективност ги насочва в погрешни посоки.