Какво знаем за новия AI чип на Meta?

Meta Platforms обяви подробности относно следващото си поколение чипове за изкуствен интелект. Ето и подробностите, събрани от Ройтерс.

Кое е важното?

По-рано тази година информационната агенция писа, че Meta планира да ползва нова версия на персонализиран чип за център за данни, за да се справи с необходимостта от все повече изчислителна мощност за работата на продукти с изкуствен интелект (AI) във Facebook, Instagram и WhatsApp. На вътрешно ниво чипът е наричан Artemis, а задачата му е да помогне на Meta да намали зависимостта си от AI полупроводниците на Nvidia, както и да свие разходите за енергия на компанията.

Контекст

Новият чип Meta Training and Inference Accelerator (MTIA) е част от по-мащабните усилия за създаване на персонализирани полупроводници на компанията. Тези усилия включват и разглеждане на други хардуерни системи като възможност. Отвъд разработката на чипа и хардуера, Meta направи значителни инвестиции в създаването на софтуер, необходим ѝ за да използва силата на своята инфраструкрура по най-ефективния начин.

Освен това компанията харчи милиарди за закупуване на чипове от Nvidia и от други компании. Тази година главният изпълнителен директор Марк Зукърбърг заяви, че компанията планира да купи около 350 хил. чипа H100 от Nvidia. В комбинация с други достачици Meta планира да натрупа еквивалента на 600 хил. H100 чипа тази година, допълва той.

Възможностите

Taiwan Semiconductor Manufacturing Co. ще произвежда новия чип със своя 5-нанометров процес. Meta твърди, че компонентът предлага три пъти по-добро представяне от първото ѝ поколение процесори.

Какво следва?

Чипът е внедрен в център за данни и се занимава с обслужването на AI приложения. Компанията твъди, че има няколко програми, които са в ход и са „насочени към разширяване на обхвата на MTIA, включително поддръжка на работни натоварвания с генеративен изкуствен интелект“.