Nvidia lanserar tesla t4, det snabbaste kortet för datacentra

Nvidia har meddelat sin nya GPU för maskininlärning och inferens i datacentra. Det nya Tesla T4- kortet är baserat på Turing-arkitekturen och är efterträdaren till den nuvarande Tesla P4-modellen, som täcker praktiskt taget alla stora molnberäkningsleverantörer.

Nvidia Tesla T4 vill revolutionera datacentra

Nvidia hävdar att Tesla T4 är betydligt snabbare än P4. För språkinferens är till exempel T4 34 gånger snabbare än att använda en CPU och mer än 3, 5 gånger snabbare än P4. Den maximala genomströmningen för Tesla P4 är 260 TOPS för 4-bitars heltalstransaktioner och 65 TOPS för flytande punktoperationer. T4 finns på en standardprofil 75-watt PCI-e-kort.

Vi rekommenderar att du läser vårt inlägg om detaljer om Nvidias Turing-arkitektur visas

Viktigast av allt, Nvidia designade dessa chips specifikt för AI-inferens, vilket gör Tesla T4 till en så effektiv GPU för att göra slutsatser är Turings nya Tensor Core. Jensen Huang har redan pratat om den nya Tensor Core och vad den kan göra för spel, rendering och AI-operationer. Totalt har chipet 320 Tensor Core Turing och 2 560 CUDA-kärnor.

Förutom det nya chipet lanserar Nvidia också en uppdatering av sin TensorRT-programvara för att optimera modeller för djup inlärning. Den nya versionen inkluderar också TensorRT Inference Server, en helt behållbar mikroservice för inverkan av datacenter som sömlöst ansluter till en befintlig Kubernetes-infrastruktur.

Turing är en av de mest innovativa Nvidia-arkitekturerna, även på spelmarknaden där det för första gången kommer att kunna använda strålspårning i realtid för att förbättra den grafiska finishen på de mest avancerade spelen.

Techpowerup typsnitt