Следващата голяма стъпка на AI - да слезе от облака

Най-голямото препятствие е технологично: днешните устройства нямат изчислителната мощност, енергията и паметта, за да управляват голям модел като GPT-4 на OpenAI, който съдържа приблизително 1,8 трлн. параметъра. Дори сравнително по-малките модели LLAMA на Facebook, със 7 млрд. параметъра, ще изискват допълнителни 14 GB временно съхранение, за да работят на телефон. Най-новият iPhone 16 на Apple идва само с 8 GB такава памет (RAM).

Въпреки това има причини да сме оптимисти. Компаниите и разработчиците все повече се обръщат към по-малки модели, които са персонализирани за конкретни задачи. Те изискват по-малко данни и усилия за обучение - "леката" Gemma архитектура на Google, както я нарича компанията, съдържа само 2 млрд. параметъра. Освен това обикновено са с отворен код и са безплатни за използване. Поради тяхната високоспециализирана природа по-малките модели често превъзхождат своите по-големи и по-мащабни конкуренти, тъй като допускат по-малко грешки.

Освен това повечето съвременни варианти на ежедневна употреба на изкуствен интелект, като инструменти за редактиране на снимки и лични асистенти, вероятно няма да изискват големи модели. Някои смартфони вече разполагат с функции за превод на живо и транскрипция в реално време. И има смисъл за облачните доставчици да изместят основните функции на AI към ръба, освобождавайки мощни центрове за данни за по-сложни задачи.

Същевременно производителите на чипове и други компоненти интегрират повече процесорна мощност и памет в телефоните и компютрите. Изследователската компания Yole Group прогнозира, че делът на смартфоните, които могат да поддържат големи езикови модели със 7 млрд. параметъра, ще нарасне до 11% тази година спрямо 8% миналата.

Водещи производители на чипове като тайванската TSMC и южнокорейските Samsung Electronics и SK Hynix са пионери в нови методи като усъвършенствано опаковане, в рамките на което събират множество чипове в един компонент. Това им позволява да изграждат още по-мощни процесори. Бивш директор на TSMC прогнозира, че в рамките на десетилетие тази технология може да доведе до компонент, съдържащ над 1 трлн. транзистора.

За инвеститорите edge AI има потенциала да доведе до повече победители. Досега акционерите предполагаха, че по-голямата част от печалбата от AI ще бъде за най-големите технологични компании с най-големи бюджети, както и към Nvidia и шепа стартъпи. И все пак AI инструментите могат да подтикнат потребителите да преминат към по-нови и по-развити смартфони и персонални компютри. Анализаторите на UBS прогнозират, че общите продажби на двата пазара ще надхвърлят 700 млрд. долара до 2027 г., което е с 14% повече спрямо тази година. Брандове от Apple до Lenovo, както и техните поддоставчици, също ще спечелят.

При полупроводниците усъвършенстваните графични процесори на Nvidia все още ще доминират. Но други фирми за чипове като Qualcomm и MediaTek също трябва да спечелят. Тайванската група планира следващия месец да представи най-новия си чипсет, който може да поддържа големи модели. Ръководителите на компанията очакват приходите от нейните водещи мобилни продукти да нараснат с 50% тази година.

Успехът на edge AI ще зависи от създаването на завладяващи приложения, за които потребителите ще смятат, че си струва да платят. Ако това се случи, следващото голямо нещо в изкуствения интелект ще бъде намерено в по-малките модели и по-малките устройства.