Inspur KI-Server NF5488A5 und NF5488M5-D jetzt weltweit verfügbar; 15 Prozent mehr Leistung beim Trainieren von KI-Modellen

San Jose (Kalifornien) / Stuttgart - 25. November 2020 - Inspur Information, ein führender Anbieter von IT-Infrastrukturlösungen, hat auf der Supercomputing Conference 2020 (SC20) bekannt gegeben, dass seine KI-Server NF5488M5-D und NF5488A5 ab sofort weltweit in Massenproduktion erhältlich sind. Die Server unterstützen die neueste NVIDIA A100 80GB-Grafikkarte.

Die Servermodelle NF5488M5-D und NF5488A5 enthalten acht A100 80GB-Grafikprozessoren der nächsten Generation mit HBM2e-Speicher. Dadurch verdoppelt sich die Speicherkapazität, während sich die Speicherbandbreite des Grafikprozessors um 30 Prozent erhöht. Die KI-Server sind für die Verarbeitung größerer Datenmengen in einem einzigen Knoten ausgelegt, wodurch der Speicher-Overhead bei der parallelen Kommunikation zwischen Daten oder Modellen erheblich reduziert werden könnte. Dies ermöglicht eine Leistungssteigerung von 15 Prozent beim Trainieren von KI-Modellen mit mehreren zehn Milliarden Parametern.

Der von Inspur selbst entwickelte NF5488 ist eine KI-Server-Serie der nächsten Generation, die acht mit NVLink verbundene A100-GPUs der dritten Generation in einem 4U-Gehäuse unterbringt und eine Leistungssteigerung von 234 Prozent im Vergleich zur vorherigen Generation aufweist. Die NF5488-Serie bietet Anwendern führende KI-Rechenleistung und ausgereifte Ökosystem-Unterstützung für die anspruchsvollsten KI-Anwendungen, unter anderem für intelligenten Kundenservice, Finanzanalysen, Smart Cities und die Verarbeitung natürlicher Sprache.

Vor Kurzem hat Inspurs KI-Server NF5488A5 in den neuesten MLPerf-Benchmarks auf einen Schlag 18 Leistungsrekorde aufgestellt, darunter den Weltrekord von 549.000 Inferenzen pro Sekunde für die ResNet50-Inferenzanforderung - eine dreifache Steigerung gegenüber dem Einzelserver-Leistungsrekord von 2019.

Als führende Marke im Bereich KI-Computing hat Inspur eines der branchenweit leistungsfähigsten und umfangreichsten Produktportfolios. Inspur bietet Full-Stack-KI-Szenarien wie Modelltraining, Machine Reasoning und Edge Computing sowie die Entwicklung von Full-Stack-KI-Features wie KI-Framework-Optimierung, KI-Entwicklungsmanagement und Anwendungsoptimierung.