Aktuell | Server & Storage | c't

KI-System für riesige Modelle

SambaNova Samba-1 ist ein Komplettsystem aus Software und eigener Hardware für generative KI mit 1 Billion Parametern.

Der KI-Chip SambaNova SN40L ist ein rekonfigurierbarer Datenflussprozessor und treibt das KI-System Samba-1 an.

Bild: SambaNova

Das US-Unternehmen SambaNova entwickelt sowohl eigene KI-Beschleuniger als auch komplette Systeme damit sowie die passende Software dafür. Diese KI-Systeme sind vor allem für große Firmen gedacht, die generative KI-Modelle auf eigene Daten anwenden wollen, die unter Verschluss bleiben sollen. Das System Samba-1 ist das bisher leistungsfähigste von SambaNova, arbeitet mit dem Spezialprozessor SN40L und soll KI-Modelle mit mindestens 1 Billion Parametern bewältigen.

Beim SN40L handelt es sich um einen rekonfigurierbaren Datenflussprozessor, der grundsätzlich anders arbeitet als sonstige KI-Rechenbeschleuniger und x86-Prozessoren. Laut SambaNova sollen die eigenen Systeme das Inferencing – also die Anwendung von KI-Modellen auf Daten – viel günstiger erledigen als die marktführenden Maschinen mit Nvidia-Hardware. Die Kosten sollen nur rund ein Zehntel betragen. Den Kaufpreis und die Leistungsaufnahme von Samba-1 verrät SambaNova der Öffentlichkeit bisher aber nicht, auch nicht die Anzahl der eingebauten SN40L-Chips oder der Racks.