Nvidia-sjef Jensen Huang sa mandag at selskapets neste generasjon brikker er i «full produksjon», og sa at de kan levere fem ganger så mye kunstig intelligens som selskapets tidligere brikker når de betjener chatbots og andre AI-apper.
I en tale på Consumer Electronics Show i Las Vegas avslørte lederen for verdens mest verdifulle selskap nye detaljer om brikkene deres, som kommer senere i år og som Nvidia-ledere fortalte Reuters allerede er i selskapets laboratorier og testes av AI-firmaer, ettersom Nvidia møter økende konkurranse fra rivaler så vel som sine egne kunder.
Vera Rubin-plattformen, som består av seks separate Nvidia-brikker, forventes å debutere senere i år, med flaggskipet som inneholder 72 av selskapets flaggskip-grafikkenheter og 36 av dets nye sentrale prosessorer. Huang viste hvordan de kan tres sammen til «pods» med mer enn 1000 Rubin-brikker.
For å få de nye ytelsesresultatene sa Huang imidlertid at Rubin-brikkene bruker en proprietær type data som selskapet håper den bredere industrien vil ta i bruk.
«Dette er hvordan vi var i stand til å levere et så gigantisk steg opp i ytelse, selv om vi bare har 1,6 ganger antallet transistorer,» sa Huang.
Mens Nvidia fortsatt dominerer markedet for trening av AI-modeller, møter den langt mer konkurranse – fra tradisjonelle rivaler som Advanced Micro Devices så vel som kunder som Alphabets Google – når det gjelder å levere fruktene av disse modellene til hundrevis av millioner brukere av chatbots og andre teknologier.
Mye av Huangs tale fokuserte på hvor godt de nye brikkene ville fungere for den oppgaven, inkludert å legge til et nytt lag med lagringsteknologi kalt «kontekstminnelagring» som har som mål å hjelpe chatbots med raskere svar på lange spørsmål og samtaler når de brukes av millioner av brukere samtidig.
Nvidia lanserte også en ny generasjon nettverkssvitsjer med en ny type tilkobling kalt co-packaged optikk. Teknologien, som er nøkkelen til å knytte sammen tusenvis av maskiner til én, konkurrerer med tilbud fra Broadcom og Cisco Systems.
I andre kunngjøringer fremhevet Huang ny programvare som kan hjelpe selvkjørende biler med å ta avgjørelser om hvilken vei de skal ta – og legge igjen et papirspor for ingeniører å bruke etterpå. Nvidia viste forskning om programvare, kalt Alpamayo, sent i fjor, og Huang sa mandag at den ville bli utgitt bredere, sammen med dataene som ble brukt til å trene den slik at bilprodusenter kan gjøre evalueringer.
«Ikke bare åpner vi modellene med åpen kildekode, vi åpner også dataene som vi bruker for å trene disse modellene, for bare på den måten kan du virkelig stole på hvordan modellene ble til,» sa Huang fra en scene i Las Vegas.
Forrige måned hentet Nvidia talent og brikketeknologi fra oppstarten Groq, inkludert ledere som var medvirkende til å hjelpe Alphabets Google med å designe sine egne AI-brikker. Mens Google er en stor Nvidia-kunde, har deres egne brikker dukket opp som en av Nvidias største trusler ettersom Google jobber tett med Meta Platforms og andre for å chippe bort Nvidias AI-høyborg.
Samtidig er Nvidia ivrige etter å vise at de nyeste produktene kan utkonkurrere eldre brikker som H200, som president Trump har latt strømme til Kina. Reuters har rapportert at brikken, som var forgjengeren til Nvidias nåværende flaggskip «Blackwell»-brikke, er etterspurt i Kina, noe som har skremt Kina-hauker over hele USAs politiske spekter.
