Jim Keller schlägt vor, dass Nvidia Ethernet hätte nutzen sollen, um Blackwell-GPUs miteinander zu verbinden – das hätte Nvidia Milliarden sparen können

Jim Keller, ein starker Befürworter offener Standards, twitterte, dass Nvidia in seinen Blackwell-basierten GB200-GPUs für KI und Hochleistungsrechnen die Chip-zu-Chip-Ethernet-Protokollkommunikation hätte verwenden sollen. Keller behauptet, dass Nvidia und Nutzer seiner Geräte dadurch viel Geld hätten sparen können. Es hätte diesen Kunden auch die Migration ihrer Software auf andere Hardwareplattformen erleichtert, was nicht unbedingt das ist, was Nvidia möchte.

Als Nvidia seine GB200-GPU für KI- und High-Performance-Computing-Anwendungen vorstellte, konzentrierte sich das Unternehmen hauptsächlich auf die KI-Leistung und das fortschrittliche Speichersubsystem und sagte wenig darüber, wie das Gerät gebaut wurde. Unterdessen umfasst die GB200-GPU von Nvidia zwei Rechenprozessoren, die mithilfe der CoWoS-L-Paketierungstechnologie von TSMC und der NVLink-Verbindungstechnologie, die ein proprietäres Protokoll verwendet, zusammengepackt sind. Für diejenigen, die bereits Nvidia-Hardware und -Software verwenden, stellt dies kein Problem dar, stellt die Branche jedoch vor eine Herausforderung bei der Portierung von Software von Nvidia-Plattformen.

Es gibt einen Grund, warum Jim Keller, legendärer CPU-Designer und CEO von Tenstorrent, dem Konkurrenten von Nvidia, vorschlägt, dass Nvidia Ethernet anstelle des proprietären NVLink hätte verwenden sollen. Nvidia-Plattformen nutzen NVLink-Technologie mit geringer Latenz für die Chip-zu-Chip- und Server-zu-Server-Kommunikation (die mit PCIe mit dem CXL-Protokoll an der Spitze konkurriert) und proprietäre InfiniBand-Kommunikation für die Kommunikation auf höherer Ebene. Um maximale Leistung zu erzielen, ist die Software auf die Besonderheiten beider Technologien abgestimmt. Aus offensichtlichen Gründen kann dies die Portierung von Software auf andere Hardwareplattformen etwas erschweren, was für Nvidia gut und für seine Konkurrenten völlig ungünstig ist. (Sie können seinen Thread sehen, wenn Sie den Tweet unten erweitern.)