Изкуственият интелект е застрашен от индустриално пленяване

Има колосална промяна в изкуствения интелект (AI) – но може би не тази, която някои си мислят, че върви. Докато усъвършенстваните системи за генериране на текст и чатботовете доминират в заглавията на новините, частните AI компании тихомълком укрепиха позициите си. Последните развития сочат, че шепа лица и корпорации сега контролират голяма част от ресурсите и знанията в сектора - и в крайна сметка ще оформят въздействието му върху нашето колективно бъдеще, пише колумнистката на Financial Times Мадхумита Мурджа.

Явлението, което AI експертите наричат „индустриално пленяване“, беше количествено оценено в статия, публикувана от изследователи от Масачусетския технологичен институт (MIT) в научното списание Science през март, призоваваща властимащите да обърнат по-голямо внимание.

Данните стават все по-важни. Генеративният AI – технологията в основата на чатбота ChatGPT и подобните му – се вгражда в софтуер, използван от милиарди хора, като Microsoft Office, Google Docs и Gmail. И бизнесът - от адвокатските кантори до медиите и образователните институции - е преобърнат от въвеждането му.

Изследването на MIT установи, че почти 70 процента от AI докторантите са започнали работа в компании през 2020 г., в сравнение с 21 процента през 2004 г. По същия начин има осемкратно увеличение на талантите, наети в AI компании от 2006 г. насам, много повече от общото увеличаване на изследователите по компютърни науки.

„Много от изследователите, с които разговаряхме, бяха изоставили определени изследователски траектории, защото чувстваха, че не могат да се конкурират с индустрията – те просто нямат изчислителния или инженерния капацитет“, споделя Нур Ахмед, автор на статията в Science.

Той посочи, че учените не са успели да изградят големи езикови модели като GPT-4, вид AI софтуер, който генерира достоверен и подробен текст, като предвижда следващата дума в изречение с висока точност. Техниката изисква огромни количества данни и изчислителна мощност, до които основно имат достъп само технологични гиганти като Google, Microsoft и Amazon. Ахмед установява, че делът на компаниите в най-големите AI модели е нараснал от 11 процента през 2010 г. до 96 процента през 2021 г.

Липсата на достъп означава, че изследователите не могат да възпроизвеждат моделите, изградени в корпоративни лаборатории, и следователно не могат лесно нито да ги изследват, нито да ги проверяват за потенциални вреди и уклони.

Данните в изследването също така показват значително несъответствие между публичните и частните инвестиции в AI технологии. През 2021 г. правителствени агенции на САЩ извън сектора на отбраната са отделили 1,5 млрд. долара за изкуствен интелект. Европейската комисия планираше да похарчи 1 млрд. евро. Междувременно частният сектор инвестира над 340 млрд. долара в AI през 2021 г.

„Има огромна концентрация на богатство и инвестиции в много тесен набор от техники“, коментира Алекс Хана, директор на изследванията в Distributed AI Research Institute и бивш член на екипа на Google за етичен изкуствен интелект.

Тя посочва инвестиционни данни от PitchBook, показващи, че по-голямата част от парите за генеративен AI през последните шест години са отишли в стартиращи компании като Anthropic, Inflection, Character.ai и Adept AI, както и в по-големи проекти като OpenAI, които изграждат свои собствени големи модели. През 2019 г. OpenAI се преориентира от организация с нестопанска цел в предприятие за печалба с инвестиция от 1 млрд. долара от Microsoft, позовавайки се на необходимостта „бързо да увеличим инвестициите си в изчисления и таланти“.

Последиците от тази промяна са многобройни. Това означава, че публичните алтернативи на корпоративните технологии с изкуствен интелект, като модели и набори от данни, стават все по-оскъдни. А новите приложения вероятно ще бъдат движени от търговската цел, а не от по-широк обществен интерес, изтъкнаха няколко изследователи.

Хана, чиято работа се финансира от нестопански организации, е съгласна с това мнение. „Ако искате да работите върху специализирани AI задачи като запазване на биоразнообразието, климатични науки или земеделие, няма да откриете много апетит за това“, казва тя.

Мередит Уитъкър, президент на криптираното приложение Signal, сравни ситуацията с господството на американската армия над научните изследвания по време на Студената война в оригинална статия от 2021 г. „Именно тук, в тези по-мрачни истории, се сблъскваме с високата цена на пленяването – било то военно или индустриално“, написа тя. „И неговите опасни последици за академичната свобода, която да може да държи силните отговорни.“

Изследователи и експерти са съгласни с диагнозата, но не и относно решенията - някои като Ахмед смятат, че правителствата трябва да създадат центрове за данни само за академичните среди, за да позволят на изследователите да провеждат експерименти, но други като Уитъкър смятат, че това допълнително ще концентрира силата в тези, които притежават инфраструктура като облачните услуги.

Но всички са единодушни за едно нещо, което властимащите просто не могат да си позволят: да си затварят очите.