Изпълнителният директор на Nvidia Дженсън Хуанг обяви началото на „Ерата на изводите“ по време на годишната конференция GTC на компанията в понеделник. Той представи широка гама от нови продукти – както хардуерни, така и софтуерни – предназначени за по-бързо и ефективно изпълнение на модели с изкуствен интелект, съобщава Wall Street Journal.
Пред повече от 30 хил. души в SAP Center Хуанг представи новия флагмански продукт на Nvidia, който, според него, ще революционизира изводите (inference) – формата на AI изчисления, която позволява на моделите да отговарят на запитвания на потребителите.
В продължение на години Nvidia доминираше в бизнеса с продажбата на графични процесори (GPU) – мощните чипове, използвани за обучение на повечето големи AI модели. През последната година обаче, докато компаниите за изкуствен интелект бързо се насочват към опити за монетизиране на моделите си и изградените върху тях AI инструменти, клиентите започнаха да търсят по-добри чипове, които са специално пригодени за изчисления за извличане на изводи, а не за обучение.
Известни като Nvidia Groq 3 LPX, новите сървъри на Nvidia ще комбинират 72 от сървърите Vera Rubin от следващото поколение на Nvidia с 256 от нов чип, наречен LPU (езикова процесорна единица), разработен от Groq – стартъп, чийто ръководен екип Nvidia придоби през декември в сделка за лицензиране на технологии на стойност 20 млрд. долара.
„Това е бъдещето на изкуствения интелект. Това е посоката, в която иска да се развива изкуственият интелект“, заяви Хуанг. „Той е проектиран за извличане на изводи, за това конкретно работно натоварване. И именно това работно натоварване е това, което движи фабриките за изкуствен интелект.“
Nvidia заяви, че тази нова система може да генерира 700 милиона токена – основната единица за измерване на изчислителната мощност – в секунда, което представлява скорост на изчисления 350 пъти по-висока от тази на предпоследната генерация графични процесори на Nvidia, известна като Hopper.
През по-голямата част от миналата година Хуанг даваше сигнали, че в бъдеще Nvidia ще се фокусира все повече върху изчисленията за изводи. Традиционните графични процесори на компанията обикновено не се считат за идеални за изчисления на изводи, тъй като консумират огромно количество енергия и не разполагат с достатъчно вградена памет, за да позволят на моделите да имат достъп до огромните масиви от данни, върху които са били обучени.
Новите комбинирани сървъри от Vera Rubin и Groq ще разполагат с 500 пъти повече памет с висока пропускателна способност в сравнение с поколението Hopper, което ще помогне за преодоляване на пречките, свързани с паметта.
„Настъпи повратната точка при изводите“, заяви Хуанг в своята встъпителна реч. „Това е тайната съставка.“
Хуанг заяви, че Nvidia очаква да продаде чипове Blackwell и Rubin на стойност 1 трлн. долара до края на 2027 г., актуализирайки по-ранната прогноза, според която компанията щеше да продаде чипове на стойност 500 милиарда долара до края на 2026 г.
Хуанг използва речта си, за да обяви редица партньорства, насочени към укрепване на бизнеса на Nvidia в проектирането на „цифрови близнаци“ и други видове симулации. Компанията обяви също така коалиция от софтуерни компании, включваща Cursor, Mistral, Perplexity, Reflection и Thinking Machines, чиято цел е да улесни разработването на авангардни модели за изкуствен интелект с отворен код.
Работата на коалицията ще ускори значително разработването на софтуерни инструменти за предприятия, заяви Хуанг, спомагайки за превръщането на световния сектор за софтуер като услуга в сектор за AI агенти като услуга.
Nvidia обяви също разширяване на бизнеса си с автономно шофиране, включително добавянето на четирима нови партньора за изчислителната система за роботизирани таксита на Nvidia – индийската BYD, китайската Geely Auto, Hyundai и Nissan. Използвайки чиповете и симулационните модели на Nvidia, очаква се автомобилните производители значително да увеличат броя на автономните превозни средства за споделено пътуване по пътищата, каза Хуанг.


Нов знак се появи на пътя в Европа
Спартак Варна привлече нов нападател
Жега е! На каква температура издържат автомобилните гуми?
Спипаха стара кримка да краде храна от магазин във Варна
Алергичните заболявания в градовете са се утроили за последните десетилетия
Axpo Group: Европа ще започне идната зима с много ниски запаси от газ
В Европа има 350 проекта за геотермална енергия, цената ѝ продължава да намалява
Много кандидати с изравнени сили се очертават за френските президентски избори
Тръмп постави Иран в центъра на разговорите в НАТО при закрити врата
Спадът на Nvidia с $1 трлн. връща оценката ѝ до нивата преди AI бума
Rolls-Royce показа седан за тези, които не търсят само скъпа кола
Производителите откриха тайно оръжие за улавяне на сетивата
Дилъри подготвят „анти-китайски“ план
Каква температура издържат автомобилните гуми?
Ford изтегля над 100 000 Mustang и Mach-E
Ръсел Кроу показа мускулестия си син във фитнеса – приликата е невероятна
Румен Радев се срещна с представители на "Уестингхаус“
Топ маникюри за плажа