Aktuell | Server & Storage | c't

KI-Supercomputer mit 1 FP16-PFlops

Der KI-Chip Graphcore Colossus MK2 soll schneller rechnen als Nvidias A100 und lässt sich zu Clustern aus tausenden Chips verschalten.

Im Graphcore IPU M2000 sitzen vier Colossus-MK2-Prozessoren, die jeweils 250 TFlops Rechenleistung bei FP16-Genauigkeit liefern.

Bild: Graphcore

Das in England gegründete Unternehmen Graphcore hat die zweite Generation seiner „Colossus“-Prozessoren für KI-Algorithmen vorgestellt. Vier dieser Colossus MK2 Intelligence Processing Units (IPUs) mit einer Rechenleistung von jeweils 250 FP16-TFlops sitzen zusammen im Rack-Einschub IPU M2000. Ein IPU M2000 mit einer Höhe von nur einer 19-Zoll-Einheit (1 HE) liefert bis zu 1 PFlops bei KI-Algorithmen, die mit FP16-Genauigkeit rechnen, und soll auch bei FP32-Berechnungen stark sein. Graphcore lässt den Colossus MK2 mit 7-Nanometer-Technik von TSMC fertigen. Die rund 59 Milliarden Transistoren werden für 1472 IPU-Kerne mit je vier Threads und direkt angekoppeltem SRAM genutzt (insgesamt 900 MByte) sowie für die schnelle Schnittstelle IPU-Fabric. Damit lassen sich laut Graphcore tausende IPU M2000 mit niedriger Latenz und hoher Datenrate vernetzen.

In jedem IPU M2000 sitzt ein zusätzlicher ARM-Prozessor mit eigenem RAM, der das System steuert und eine 100-GBit/s-Ethernet-Adapterkarte anbindet. Darüber koppelt man den IPU M2000 mit anderen Servern. Zur Vernetzung der IPU M2000 untereinander sind jeweils acht IPU-Fabric-Ports vorhanden, mit denen sich ohne Switches eine direkte Verbindung mit 3D-Ringtopologie aufbauen lässt. Die am erwähnten ARM-Chip angebundenen DDR4-Speichermodule stellen zudem bis zu 448 GByte Pufferspeicher für KI-Daten bereit. Graphcore selbst verkauft das Rack-System IPU Pod 64 mit je 16 IPU M2000 und vier x86-Servern von Dell. Der IPU M2000 ist über Vertriebspartner wie Boston und Megware erhältlich und kostet 32.450 US-Dollar. (ciw@ct.de)