Машината срещу човека

Самолетът на Ethiopian Airlines, с полет номер 302 до Найроби, едва е напуснал столицата Адис Абеба в неделя, когато в пилотската кабина се разпространява паника. Самолетът Boeing 737 Max 8 е във въздуха само от три минути, когато по радиостанцията пилотът пита за връщане. Преди това машината е летяла нагоре-надолу и ускорила до необичайно висока скорост. Така поне твърди New York Times след анализ на радиокомуникацията.

В самолета в тези минути вероятно се е стигнало до битка на човека срещу машината. Устройствата не са правили това, което трябва. Пилотите са се опитвали да се справят - без успех. В крайна сметка машината печели. 157 души загинаха, нито един пътник не оцеля. През есента идентичен самолет на индонезийската авиокомпания Lion Air се разби при подобни обстоятелства.

Такива нещастия предизвикват у някого страха пред това да са на милостта на съдбата. Да се допусне човешка грешка е достатъчно ужасно нещо, но всяко човешко същество научава, че човек е грешен и такива грешки едва ли могат да бъдат напълно избегнати. Но машините, поне така се твърди постоянно, са далеч по-добри от хората с многото им малки несъвършенства. Без умора, без алкохол, без депресия – нищо не би трябвало да може да отклони самолета от планирания маршрут.

Но все пак - един дефектен сензор, един грешен софтуер... може да имат тежки последствия. Тъй като, оказва се, че технологията също е несъвършенна. И това си има последствията: докато американският производител Boeing все още настоява, че прост ъпдейт на софтуера, ремонт на сензорите и по-добро обучение на пилотите биха могли да разрешат проблема, правителствата по света вече наложиха забрани за полети с този тип самолети.

Скептицизмът срещу автоматизираните системи нараства, и то не само в авиационната индустрия. Дори и при самоуправляващите се автомобили страхът е все по-голям при всеки инцидент. Изкуственият интелект, с разнообразните приложения за обработката на заявленията за кредит, подбора на кандидатите за работа или дори при хибридна война, също се среща с все повече резерви. Не само разтревожените лаици, но и експертите все повече се питат какво всъщност правят тези системи и как получават резултатите си.

Мюнхенският философ Юлиан Нида-Рюмелин работи по тези теми от дълго време, например по отношение на автономното шофиране. Той се съмнява, че технологията наистина е по-надеждна от хората. „Едва на всеки 300 милиона километра един германски автомобилен водач причинява фатален инцидент - без никакви помощни системи", казва той. Човекът има способности, които един алгоритъм никога не може да възпроизведе: разпознаването на намеренията, смисълът на действието. Машината упорито поддържа курса при сблъсък, ако се подават погрешни данни.

Най-безопасният начин теоретично е комбинацията от двете системи. Ако технологията се провали, човек следва да поеме управлението. Ако машината е 99% безопасна и се осъществява и човешка намеса, отново с 99% безопасност - тогава рискът се свежда само до 0,01%. Това води до факта, че пътуването със самолет става все по-безопасно. За индивидуалния пътник рискът от фатален инцидент през седемдесетте години е бил 27 пъти по-висок, отколкото през 2015 г., показват изчисления.

Но взаимодействието между човек и машина също достига своите граници. „Някои системи за подпомагане днес стрелят отвъд знака", критикува Нида-Рюмелин пред FAZ. Те предлагат на шофьора мнението, че той вече не е нужен. Психолозите са установили, че когато шофьорът е сам, той отговаря на непредвидена ситуация в рамките на няколко десети от секундата. Ако разчита на помощни системи, той се нуждае от седем секунди. Фактът, че броят на произшествията при трафик се е увеличил отново след десетилетия на спад, може да е свързан с прекалено многото технологии - от разсейването на смартфона до звуковите сигнализации на много помощни системи.

Всеки, който от дълго време разчита на машините, става невнимателен. Причината за това лошо взаимодействие е психологически ефект, който е изследван от около 100 години и е известен с термина „Закон на Йеркс-Додсън": дейността на хората зависи от това колко се използва. Не само прекаленото натоварване, но и прекалено малкото натоварване създават проблеми, може би дори по-големи.

Рядко това бе толкова впечатляващо документирано, както точно преди година, когато тестова автономна кола на Uber уби пешеходец в щата Аризона. След това полицията пусна видеоклип, на който бяха записани реакциите на водача и самият инцидент. Последователността, само от няколко секунди, представлява ясно доказателство за този провал.

Отначало технологията изобщо не реагира на жената, която пресича улицата в тъмното: без спирачка, без уклончива маневра. Тогава и шофьорът се провали: секунди преди инцидента изглеждаше развеселен, зает с други неща. Сякаш случайно, тя поглежда напред точно преди инцидента. Очите ѝ се разширяват от ужас и тя отвори уста, когато осъзнава какво се случва. Принципно никой не реагира толкова бавно по пътя.

По същия начин е и при летенето. Предположението, че самолетът може да си лети дори и без пилот, е много опасно, ако софтуерът не успее в отделни случаи. За разлика от мнението на президента на САЩ Доналд Тръмп, пилотът няма нужда да е компютърен специалист. Но той трябва да разбира къде са възможните граници на системата и как може да я надхитри в случай на спешност.

Точно в това е проблемът: пилотите са все по-малко склонни да използват самия джойстик и прекарват по-голямата част от времето си само в наблюдение на системите. Така опитът им в управлението на кризи е ограничен. Това е общ проблем, който авиационната индустрия се опитва да овладее с обучения за тесни специалисти. Това впрочем го знаем и от трафика по улиците: Кой никога не се е занасял с колата си, няма как да знае и как да се противопостави на това.