Während der CES 2023 Keynote kündigte AMD seine neueste Instinct MI300 APU an, ein Novum in der Welt der Rechenzentren. Die Kombination von CPU, GPU und Speicherelementen in einem einzigen Paket eliminiert die Latenz, die durch die langen Übertragungswege der Daten von der CPU zum Speicher und von der CPU zur GPU über den PCIe-Anschluss entsteht. Dadurch werden nicht nur einige Latenzprobleme gelöst, sondern es wird auch weniger Strom benötigt, um die Daten zu übertragen, was zu einer höheren Effizienz führt. Der Instinct MI300 verfügt über 24 Zen4-Kerne mit simultanem Multi-Threading, CDNA3 GPU IP und 128 GB HBM3-Speicher in einem einzigen Gehäuse. Der Speicherbus ist 8192 Bit breit und bietet einen einheitlichen Speicherzugriff für CPU- und GPU-Kerne. CLX 3.0 wird ebenfalls unterstützt, so dass eine cache-kohärente Zusammenschaltung möglich ist.
Das Instinct MI300 APU-Paket ist ein technisches Wunderwerk für sich, bei dem fortschrittliche Chiplet-Techniken zum Einsatz kommen. AMD hat es geschafft, 3D-Stacking zu betreiben und hat neun 5-nm-Logik-Chips, die 3D-gestapelt auf vier 6-nm-Chips mit HBM gebaut wurden. All dies führt dazu, dass die Anzahl der Transistoren auf 146 Milliarden ansteigt, was die schiere Komplexität eines solchen Designs darstellt. Für die Leistungszahlen hat AMD einen Vergleich mit der Instinct MI250X GPU vorgelegt. Bei der rohen KI-Leistung bietet der MI300 eine 8-fache Verbesserung gegenüber dem MI250X, während die Leistung pro Watt auf eine 5-fache Steigerung „reduziert“ wird. Wir wissen zwar nicht, welche Benchmark-Anwendungen verwendet wurden, aber es ist wahrscheinlich, dass einige Standard-Benchmarks wie MLPerf verwendet wurden. Für die Verfügbarkeit peilt AMD Ende 2023 an, wenn der Exascale-Supercomputer „El Capitan“ mit diesen Instinct MI300 APU-Beschleunigern auf den Markt kommen wird. Die Preise sind noch nicht bekannt und werden erst bei der Markteinführung für Unternehmenskunden bekannt gegeben.
Quelle: AMD Shows Instinct MI300 Exascale APU with 146 Billion Transistors | TechPowerUp