Beräkningskraft: CPU, GPU, IPU, FPGA 

CPU, GPU och IPU är alla processorenheter med olika utformning. C:et i CPU står för central medan G:et i GPU står för Grafisk och I:et i IPU står för Intelligens.
Typiska användarfall för acceleratorer som komplement till CPU

•    Maskininlärning och djupinlärning
•    Prediktiv analys (AI stödd)
•    Accelererade databaser
•    Data streaming
•    Visualisering
•    Modellering och simulering, ”digital twin”
•    Signalprocessing

GPU, med en typisk formfaktor PCI-kort, användes ursprungligen för grafik och video men idag finns många GPU som endast används för snabba upp beräkningar och maskininlärning. Vi ser två klasser av kort på servrarna, de tyngre är optimala för datacentret och beräkning i mycket stor skala samt för att träna AI-modeller. De lättare är inte lika kraftfulla men optimeras för ”inference”, d.v.s. att köra applikationer med tränade AI-modeller i verksamhetsnära eller fältmässiga förhållanden. De optimeras för faktorer som lägre strömförbrukning och mindre storlek.

IPU är moderna acceleratorer liknande GPU men saknar helt den grafiska komponenten i såväl hård- som mjukvara. Här ligger fokus på att accelerera beräkningar och AI-utmaningar och de erbjuder ett intressant alternativ till de tunga GPU’erna.

Leverantörer av GPU är NVIDIA och AMD och för IPU Graphcore. Vilken leverantör och modell som passar bäst varierar mellan användarfall och dataset, därför jämför vi dem inte här. Kontakta oss om du har några funderingar!

Servers för GPU och IPU 

  • Störst: DSS8440, Upp till 10 tunga GPU, 8 IPU eller 16 lättare GPU
  • Mest kompakt: C4140, Upp till 4 tunga GPU i en 1U server
  • Stöd för 3-4 tunga GPU:  R940xa, R740xd, R7525, T640
  •  Stöd för 3-6 lätta GPU: R740xd, R7525, R7515, R7425, R6525, R640

FPGA är anpassningsbara chip (field programmable gate array) som ger företagets utvecklare möjlighet att lägga delar av applikationskoden direkt i ett chip som sitter i PowerEdge-servern.
Det vanligaste formatet är PCI-kort. Ett intressant exempel är SmartNIC som gör det möjligt att lägga en hel del kod direkt i nätverkskortet. Vem vet vad detta leder till? Kanske får vi i framtiden se en komplett nätverksstack som SONiC erbjuda switching direkt i en NIC?

Servers för FPGA 

  • Intel FPGA R940xa, R840, R740xd, T640
  • Xilink FPGA R940xa, R840, R740xd, R7525, R7515, R7425