Изпълнителният директор на Nvidia Дженсън Хуанг обяви началото на „Ерата на изводите“ по време на годишната конференция GTC на компанията в понеделник. Той представи широка гама от нови продукти – както хардуерни, така и софтуерни – предназначени за по-бързо и ефективно изпълнение на модели с изкуствен интелект, съобщава Wall Street Journal.
Пред повече от 30 хил. души в SAP Center Хуанг представи новия флагмански продукт на Nvidia, който, според него, ще революционизира изводите (inference) – формата на AI изчисления, която позволява на моделите да отговарят на запитвания на потребителите.
В продължение на години Nvidia доминираше в бизнеса с продажбата на графични процесори (GPU) – мощните чипове, използвани за обучение на повечето големи AI модели. През последната година обаче, докато компаниите за изкуствен интелект бързо се насочват към опити за монетизиране на моделите си и изградените върху тях AI инструменти, клиентите започнаха да търсят по-добри чипове, които са специално пригодени за изчисления за извличане на изводи, а не за обучение.
Известни като Nvidia Groq 3 LPX, новите сървъри на Nvidia ще комбинират 72 от сървърите Vera Rubin от следващото поколение на Nvidia с 256 от нов чип, наречен LPU (езикова процесорна единица), разработен от Groq – стартъп, чийто ръководен екип Nvidia придоби през декември в сделка за лицензиране на технологии на стойност 20 млрд. долара.
„Това е бъдещето на изкуствения интелект. Това е посоката, в която иска да се развива изкуственият интелект“, заяви Хуанг. „Той е проектиран за извличане на изводи, за това конкретно работно натоварване. И именно това работно натоварване е това, което движи фабриките за изкуствен интелект.“
Nvidia заяви, че тази нова система може да генерира 700 милиона токена – основната единица за измерване на изчислителната мощност – в секунда, което представлява скорост на изчисления 350 пъти по-висока от тази на предпоследната генерация графични процесори на Nvidia, известна като Hopper.
През по-голямата част от миналата година Хуанг даваше сигнали, че в бъдеще Nvidia ще се фокусира все повече върху изчисленията за изводи. Традиционните графични процесори на компанията обикновено не се считат за идеални за изчисления на изводи, тъй като консумират огромно количество енергия и не разполагат с достатъчно вградена памет, за да позволят на моделите да имат достъп до огромните масиви от данни, върху които са били обучени.
Новите комбинирани сървъри от Vera Rubin и Groq ще разполагат с 500 пъти повече памет с висока пропускателна способност в сравнение с поколението Hopper, което ще помогне за преодоляване на пречките, свързани с паметта.
„Настъпи повратната точка при изводите“, заяви Хуанг в своята встъпителна реч. „Това е тайната съставка.“
Хуанг заяви, че Nvidia очаква да продаде чипове Blackwell и Rubin на стойност 1 трлн. долара до края на 2027 г., актуализирайки по-ранната прогноза, според която компанията щеше да продаде чипове на стойност 500 милиарда долара до края на 2026 г.
Хуанг използва речта си, за да обяви редица партньорства, насочени към укрепване на бизнеса на Nvidia в проектирането на „цифрови близнаци“ и други видове симулации. Компанията обяви също така коалиция от софтуерни компании, включваща Cursor, Mistral, Perplexity, Reflection и Thinking Machines, чиято цел е да улесни разработването на авангардни модели за изкуствен интелект с отворен код.
Работата на коалицията ще ускори значително разработването на софтуерни инструменти за предприятия, заяви Хуанг, спомагайки за превръщането на световния сектор за софтуер като услуга в сектор за AI агенти като услуга.
Nvidia обяви също разширяване на бизнеса си с автономно шофиране, включително добавянето на четирима нови партньора за изчислителната система за роботизирани таксита на Nvidia – индийската BYD, китайската Geely Auto, Hyundai и Nissan. Използвайки чиповете и симулационните модели на Nvidia, очаква се автомобилните производители значително да увеличат броя на автономните превозни средства за споделено пътуване по пътищата, каза Хуанг.


AI влиза в камерите за скорост
30 пияни и дрогирани шофьори спипа КАТ за ден
Работилница за деца организират във Военноморския музей във Варна
Аксаково празнува три дни с Керана и космонавтите, „Българе“ и ретро автомобили
Варна отбелязва рекорда на Чавдар Джуров, скочил с парашут от стратосферата
От петрола до лития: Как геополитиката пренарежда енергийния сектор
Европа е неподготвена за засилените хибридни атаки на Русия
Синовете на Имран Хан предупреждават, че животът му в затвора е в опасност
Очертава се най-рисковият бюджетен дебат при управлението на Макрон
Hyundai подготвя 100 нови модела, за да засили позициите си в САЩ
Богове на кича: Най-безвкусните коли в историята според Top Gear
Ford ще спасява качеството с нов директор
Панорамните покриви с променлива прозрачност стават все по-популярни
Новите модели на Volvo ще се предупреждават за проблеми на пътя
Изкуственият интелект влиза в камерите за скорост
30-годишен дилър задържан с над килограм амфетамин
Кейти Холмс е на крилете на любовта с новия си по-млад приятел
Гаджето на Лео ди Каприо, Витория Черети, се появи с негова емблематична прическа
Радостин Василев: Йотова е секретарката на Радев в президентството