Der neu Chip kommt mit bis zu 40 Prozent mehr Leistung und einer um 16 Prozent höheren Energieeffizienz.

Bild: Graphcore

KI-Chips mit erhöhter Leistung und Energieeffizienz Weltweit erster 3D-Wafer-on-Wafer-Prozessor vorgestellt

11.03.2022

Der europäische KI-Chiphersteller Graphcore hat den weltweit ersten 3D Wafer-on-Wafer Prozessor, die Bow IPU, vorgestellt. Auf diesem Prozessor bauen die ebenfalls neu vorgestellten Bow POD KI-Systeme auf. Die Bow IPU bietet im Vergleich zur vorherigen Chipgeneration bis zu 40 Prozent mehr Leistung und eine um 16 Prozent höhere Energieeffizienz über eine breite Palette unterschiedlicher KI-Workloads hinweg.

Die neuen Graphcore-Bow-POD-Systeme stellen die benötigte Rechenleistung für eine Vielzahl an KI-Anwendungen zur Verfügung, von GPT und BERT für die Verarbeitung natürlicher Sprache über EfficientNet und ResNet für Computer Vision bis hin zu Graph Neural Networks.

Das Bow-POD256-System bietet mehr als 89 PetaFLOPS an KI-Rechenleistung, während das Superscale Bow POD1024 System 350 PetaFLOPS an KI-Rechenleistung bereitstellt. Dadurch sind Nutzer den exponentiell wachsenden KI-Modellen stets einen Schritt voraus und können neue Durchbrüche im Bereich des Maschinellen Lernens (ML) erzielen.

Das Bow-POD16-System bietet eine mehr als fünffach höhere Leistung als ein vergleichbares Nvidia DGX A100-System, und das zum halben Preis. Daraus ergibt sich ein Gesamtkostenvorteil (TCO) um ein Zehnfaches für das hochmoderne Computer Vision-Modell EfficientNet.

Vorantreiben von KI-Technologien

Agnès Boudot, Leiterin HPC & Quantum bei dem Graphcore-Partner Atos, sagt: „Die Bow-POD-Systeme von Graphcore setzen einen neuen Standard im Bereich der künstlichen Intelligenz, der es den Kunden von Atos ermöglichen wird, ihre KI-Neuheiten weiter voranzutreiben und schneller als je zuvor Ergebnisse zu erzielen. Da die Modelle immer größer und komplexer werden, arbeiten Graphcore und Atos zusammen, um Exascale-Systeme zu liefern. Gleichzeitig stellt Graphcores unermüdlicher Fokus auf Recheneffizienz sicher, dass die Nutzer die bestmögliche Rendite für ihre KI-Investitionen erhalten.“

Die neuen Systeme sind ab sofort weltweit verfügbar. Einer der ersten Kunden, der von der gesteigerten Leistung und Effizienz der Bow POD Systeme profitieren wird, ist das Pacific Northwest National Laboratory (PNNL) des US-amerikanischen Energieministeriums, welches die neuen Graphcore KI-Systeme für Anwendungen unter anderem in den Bereichen Cybersicherheit und Computerchemie einsetzt.

3D-Wafer-on-Wafer-Technologie

Außerdem bieten die Bow-POD-Systeme eine enorme Leistungs- und Effizienzsteigerung auf Grund des weltweit ersten Einsatzes von 3D-Wafer-on-Wafer im Bow-IPU-Prozessor, der das Kernstück der neuen Bow-POD-Systeme bildet.

Graphcore ist der erste Kunde für die 3D-Wafer-on-Wafer-Technologie von TSMC, die gemeinsam in enger Zusammenarbeit entwickelt wurde. Wafer-on-Wafer hat das Potenzial, eine deutlich höhere Bandbreite zwischen Siliziumchips zur Verfügung zu stellen, und dient zur Optimierung der Energieeffizienz und Leistungsbereitstellung für die Graphcore-Colossus-Architektur auf Wafer-Ebene.

Bei Wafer-on-Wafer in der Bow-IPU werden zwei Wafer miteinander zu einem neuen 3D-Die verbunden: ein Wafer für die KI-Berechnungen, dessen Architektur mit der des GC200-IPU-Prozessors mit 1.472 unabhängigen IPU-Core-Tiles kompatibel ist und mehr als 8.800 Threads ausführen kann, mit 900 MB internem Prozessorspeicher, und ein zweiter Wafer mit Power-Delivery-Die.

Durch Hinzufügen von Deep-Trench-Kondensatoren im Power-Delivery-Die, direkt neben den Prozessorkernen und dem Speicher, kann Leistung deutlich effizienter bereitgestellt werden, wodurch 350 TeraFLOPS an KI-Rechenleistung und 40 Prozent mehr Leistung erzielt werden. Durch die enge Zusammenarbeit mit TSMC wurde die gesamte Technologie einschließlich einiger bahnbrechender Technologien im Back Side Through Silicon Via-(BTSV-) und Wafer-on-Wafer-(WoW-)Hybrid-Bonding qualifiziert.

„TSMC hat eng mit Graphcore als führendem Kunden für unsere bahnbrechende SoIC-WoW (Wafer-on-Wafer)-Lösung zusammengearbeitet, da ihre richtungsweisenden Designs in hochmodernen parallelen Verarbeitungsarchitekturen sich ideal mit unserer Technologie ergänzen“, sagte Paul de Bot, General Manager von TSMC Europe.

„Graphcore hat die Möglichkeit, die Stromversorgung über unsere WoW-Technologie direkt anzuschließen, voll ausgenutzt, um einen großen Leistungssprung zu erzielen, und wir freuen uns darauf, mit Graphcore an weiteren Entwicklungen dieser Technologie zu arbeiten.“

Ultraintelligenter KI-Computer

Ausgehend von einer einzigen Zelle und geformt durch fast vier Milliarden Jahre Evolution ist das menschliche Gehirn vermutlich die größte Leistung der Natur. Unser Gehirn ist ein unglaublich komplexer Denkapparat mit etwa 100 Milliarden Neuronen und über 100 Billionen Parametern in einem biologisch-neuronalen Netzwerksystem, das eine Rechenleistung auf einem Niveau bietet, das siliziumbasierte Computer erst noch erreichen müssen.

Graphcore entwickelt einen ultraintelligenten KI-Computer, der die Fähigkeiten des menschlichen Gehirns übertreffen wird. Der Informatik-Pionier Jack Good war der Erste, der von einer Maschine gesprochen hat, die die Fähigkeiten des menschlichen Gehirns übertreffen würde – in seinem Paper von 1965, Speculations Concerning the First Ultra-Intelligent Machine.

Graphcore wird bis 2024 den weltweit ersten ultraintelligenten KI-Computer bereitstellen, der zu Ehren von Jack Good benannt wird: Der Good Computer.

Anknüpfend an die Vorstellung der Bow IPU entwickelt Graphcore bereits die IPU-Technologie der nächsten Generation, die für den Good Computer zum Einsatz kommen soll und folgende Eckdaten umfassen wird:

  • über zehn Exa-Flops KI-Gleitkomma-Rechenleistung

  • bis zu vier Petabyte-Speicher mit einer Bandbreite von über 10 Petabyte pro Sekunde

  • Unterstützung für KI-Modellgrößen von 500 Billionen Parametern

  • 3D Wafer-on-Wafer Logic Stack

  • vollständige Unterstützung durch Graphcore Poplar SDK

  • voraussichtliche Kosten: circa 120 Millionen US-Dollar (abhängig von der Konfiguration)

In den kommenden Monaten wird Graphcore weitere Informationen zum Good Computer bekanntgegeben. Graphcore blickt mit Vorfreude auf zukünftige Partnerschaften mit Unternehmen und KI-Innovatoren, die uns bei den nächsten, durch diesen ultraintelligenten Computer möglichen Durchbrüchen im Bereich der künstlichen Intelligenz unterstützen können.

Bildergalerie

  • Der neue Chip von Graphcore setzt auf eine neue 3D-Wafer-on-Wafer-Technologie von TSMC.

    Bild: Graphcore

Firmen zu diesem Artikel
Verwandte Artikel