Изпълнителният директор на Nvidia Дженсън Хуанг обяви началото на „Ерата на изводите“ по време на годишната конференция GTC на компанията в понеделник. Той представи широка гама от нови продукти – както хардуерни, така и софтуерни – предназначени за по-бързо и ефективно изпълнение на модели с изкуствен интелект, съобщава Wall Street Journal.
Пред повече от 30 хил. души в SAP Center Хуанг представи новия флагмански продукт на Nvidia, който, според него, ще революционизира изводите (inference) – формата на AI изчисления, която позволява на моделите да отговарят на запитвания на потребителите.
В продължение на години Nvidia доминираше в бизнеса с продажбата на графични процесори (GPU) – мощните чипове, използвани за обучение на повечето големи AI модели. През последната година обаче, докато компаниите за изкуствен интелект бързо се насочват към опити за монетизиране на моделите си и изградените върху тях AI инструменти, клиентите започнаха да търсят по-добри чипове, които са специално пригодени за изчисления за извличане на изводи, а не за обучение.
Известни като Nvidia Groq 3 LPX, новите сървъри на Nvidia ще комбинират 72 от сървърите Vera Rubin от следващото поколение на Nvidia с 256 от нов чип, наречен LPU (езикова процесорна единица), разработен от Groq – стартъп, чийто ръководен екип Nvidia придоби през декември в сделка за лицензиране на технологии на стойност 20 млрд. долара.
„Това е бъдещето на изкуствения интелект. Това е посоката, в която иска да се развива изкуственият интелект“, заяви Хуанг. „Той е проектиран за извличане на изводи, за това конкретно работно натоварване. И именно това работно натоварване е това, което движи фабриките за изкуствен интелект.“
Nvidia заяви, че тази нова система може да генерира 700 милиона токена – основната единица за измерване на изчислителната мощност – в секунда, което представлява скорост на изчисления 350 пъти по-висока от тази на предпоследната генерация графични процесори на Nvidia, известна като Hopper.
През по-голямата част от миналата година Хуанг даваше сигнали, че в бъдеще Nvidia ще се фокусира все повече върху изчисленията за изводи. Традиционните графични процесори на компанията обикновено не се считат за идеални за изчисления на изводи, тъй като консумират огромно количество енергия и не разполагат с достатъчно вградена памет, за да позволят на моделите да имат достъп до огромните масиви от данни, върху които са били обучени.
Новите комбинирани сървъри от Vera Rubin и Groq ще разполагат с 500 пъти повече памет с висока пропускателна способност в сравнение с поколението Hopper, което ще помогне за преодоляване на пречките, свързани с паметта.
„Настъпи повратната точка при изводите“, заяви Хуанг в своята встъпителна реч. „Това е тайната съставка.“
Хуанг заяви, че Nvidia очаква да продаде чипове Blackwell и Rubin на стойност 1 трлн. долара до края на 2027 г., актуализирайки по-ранната прогноза, според която компанията щеше да продаде чипове на стойност 500 милиарда долара до края на 2026 г.
Хуанг използва речта си, за да обяви редица партньорства, насочени към укрепване на бизнеса на Nvidia в проектирането на „цифрови близнаци“ и други видове симулации. Компанията обяви също така коалиция от софтуерни компании, включваща Cursor, Mistral, Perplexity, Reflection и Thinking Machines, чиято цел е да улесни разработването на авангардни модели за изкуствен интелект с отворен код.
Работата на коалицията ще ускори значително разработването на софтуерни инструменти за предприятия, заяви Хуанг, спомагайки за превръщането на световния сектор за софтуер като услуга в сектор за AI агенти като услуга.
Nvidia обяви също разширяване на бизнеса си с автономно шофиране, включително добавянето на четирима нови партньора за изчислителната система за роботизирани таксита на Nvidia – индийската BYD, китайската Geely Auto, Hyundai и Nissan. Използвайки чиповете и симулационните модели на Nvidia, очаква се автомобилните производители значително да увеличат броя на автономните превозни средства за споделено пътуване по пътищата, каза Хуанг.


Премиерът: "Лукойл" е осигурен със суровина до средата на декември, място за паника няма
Франция осъди атаките с дронове срещу кораби край България и Румъния, поиска мораториум на ударите в Черно море
Експерт: Споделените велосипеди могат да разтоварят трафика във Варна
МВнР на Гърция изрази солидарност с България и осъди атаките срещу кораби в Черно море
До края на годината поставят над 5-метров паметник на хан Аспарух във варненския кв."Аспарухово"
Цените на имотите продължават да растат въпреки охлаждането на пазара
Goldman Sachs: Пазарът подценява потенциала за поскъпване на юана
Ръководител в Anthropic: Моделите изкуствен интелект с отворен код крият повече риск
ASML повишава прогнозата си за продажбите заради бума на AI
Демократите се нуждаят от програма, а не от показни похвати
Tesla призна, че няма автопилот
BMW връща V8 в 7-Series
Porsche с нестандартно решение за електрическите Cayman и Boxster
Stellantis разкри бъдещето на Maserati и Jeep
Alpine възроди легендарно купе от 70-те като електромобил
ЦСКА без Гбамен срещу Монако
Бившият депутат от ДПС Илия Илиев е задържан при акцията на ГДБОП в Костинброд
Стоян Колев вече е екстрадиран в България, сам се похвали ВИДЕО
HUAWEI Watch 6 Pro – часовникът съюзник в създаването на добри навици