Neue Ansätze bei der Stromversorgung
KI-Chips: Stromversorgungkonzept von Analog Devices
Künstliche Intelligenz funktioniert nur deshalb, weil mittlerweile genügend Rechen-Power zur Verfügung steht. Und das wiederum bedingt neue Ansätze bei der Stromversorgung, denn die Leistungsaufnahme von KI-Chips ist gigantisch.
Grafikprozessoren (GPUs), TPUs (Tensor-Processing-Units) und andere Arten von anwendungsspezifischen integrierten Schaltungen (ASICs) ermöglichen dank einer parallelen Verarbeitung die Rechenleistung, die erforderlich ist, um sowohl das Training von künstlicher Intelligenz (KI) als auch die Inferenzierungs-Workloads zu beschleunigen.
KI benötigt sehr viel Rechenleistung, insbesondere, wenn es um das Training und das Ziehen von Schlussfolgerungen geht. Das erfordert nie dagewesene Anforderungen an die Stromversorgungsnetze, sowohl hinsichtlich des enormen Energiebedarfs als auch der Transienten. Dieser Artikel beleuchtet die Anforderungen an das Stromversorgungsnetz der KI-Beschleunigerkarte, analysiert die Auswirkungen von Transienten und stellt ein mehrphasiges Stromversorgungkonzept von Analog Devices (ADI) vor, das diese Anforderungen erfüllt.
KI-Beschleunigerkarten sind der Renner
KI revolutioniert Rechnerarchitekturen, um neuronale Netze zu replizieren, die das menschliche Gehirn nachahmen. Es scheint, als sei KI bereits allgegenwärtig, in Wirklichkeit jedoch befindet sich die ihr zugrunde liegende Technologie noch in der Entwicklung. Zu den auf KI-Berechnungen spezialisierten Prozessorbeschleuniger-ICs gehören GPUs, FPGAs, TPUs und andere Arten von ASICs, die nachfolgend alle zusammen als xPUs bezeichnet werden.
Es zeichnet sich ab, dass Rechenzentren weiterhin KI-Beschleunigerkarten in großen Mengen kaufen werden, da der Einsatz der KI-Technologie zunimmt. Das bestätigen auch Marktanalysten: Laut Gartner belief sich der Umsatz mit KI-Chips im Jahr 2021 auf mehr als 34 Mrd. Dollar; bis 2026 wird dieser Umsatz voraussichtlich auf 86 Mrd. Dollar (Gartner-Forecast vom April 2023, »AI Semiconductors, Worldwide«) ansteigen. xPUs bieten im Vergleich zu gewöhnlichen CPUs einen enormen Sprung hinsichtlich der KI-Leistung, da sie massiv parallele Rechenimplementierungen nutzen. Aufgrund der hohen Anzahl ihrer kleinen Verarbeitungskerne eignen sich xPUs besonders gut für KI-Arbeitslasten, da sie sowohl das Training neuronaler Netze als auch KI-Inferencing erleichtern. Allerdings verbrauchen sie typischerweise viel Strom für die KI-Berechnungen und die Bewegung der dafür notwendigen Daten. Einfach ausgedrückt: xPUs sind äußerst stromhungrige ICs. Ihre strengen Leistungsanforderungen stellen neue Anforderungen an KI-Beschleunigerkarten, da sie sich nun auf die Systemleistung auswirken.
Herausforderungen an die Stromversorgung, die KI mit sich bringt
KI steht für viele Dinge, Energieeffizienz gehört allerdings definitiv nicht dazu. KI erfordert, insbesondere bei der Verarbeitung von KI-Workloads wie Deep Learning und Inferencing, extrem hohe Rechenleistungen. Auf Systemebene spielen KI-Beschleuniger eine entscheidende Rolle bei der Bereitstellung der nahezu augenblicklichen Ergebnisse, die KI-Beschleuniger so wertvoll machen. Alle xPUs haben mehrere High-End-Prozessorkerne, die aus Milliarden von Transistoren bestehen und viele hundert Ampere verbrauchen. Die Kernspannungen (VCore) wurden bei diesen xPUs auf Werte von weniger als 1,0 V reduziert. Bild 1 zeigt ein allgemeines Blockdiagramm einer KI-Beschleunigerkarte. Im Folgenden werden ein Mehrphasenregler und die zugehörigen Leistungsstufen-ICs beschrieben, die sich für ein solches System eignen.
Die Spitzenstromdichten, die bei KI-Beschleunigerkarten auftreten, sind für jede Hauptplatine ein wirkliches Problem. Die hochdynamische Natur der Arbeitslasten und die extrem großen Stromtransienten führen zu sehr hohen di/dt-Werten und Spitzenspannungstransienten, die mehrere Mikrosekunden andauern und die xPU stark stören und sie potenziell sogar schädigen können. Hinzu kommt noch, dass die durchschnittliche KI-Arbeitslast so lange dauert, dass die Entkopplungskondensatoren nicht in der Lage sind, die Energie zu liefern, um den sofortigen Bedarf über die gesamte Zeit zu decken. ADI schlägt dementsprechend im nächsten Abschnitt eine mehrphasige PoL-Schaltung (Point of Load) vor, die die typischen KI-Beschleuniger-Transienten eliminiert. Zunächst werden jedoch die mit der KI einhergehenden Herausforderungen bei der Planung der Stromversorgung betrachtet.
Das Stromversorgungs-Design
Der Energiebedarf von KI übersteigt derzeit bei Weitem die Möglichkeiten herkömmlicher Spannungsversorgungsnetze. Die Anforderungen an die xPU-Spannungsregler (VR: Voltage-Regulator) unterscheiden sich deutlich von denen von Standard-PoL-Reglern. In der Branche besteht Übereinstimmung dahingehend, dass in bestimmten Anwendungen mehr als 1000 A bei weniger als 1 V an die xPU geliefert werden muss. Außerdem ist es wichtig, dass die Stromversorgung äußerst stabil ist und wenig Rauschen erzeugt, während gleichzeitig alle Möglichkeiten für Spannungstransienten eliminiert werden, die zu Fehltriggerungen innerhalb der xPU führen können. Das Design eines hochleistungsfähigen VR-PoL-Reglers für KI muss dementsprechend bestimmte Schlüsselanforderungen erfüllen.
Eine der wichtigsten Anforderungen, die KI-Beschleunigerkarten mit sich bringen, ist eine VR-Architektur, die ein hervorragendes Spannungsmanagement für Transienten bietet. Energie im Kilowattbereich für ein System bereitzustellen ist immer eine Herausforderung erster Ordnung. Die Ausgangsspannung einschließlich Toleranzen, Restwelligkeit und Lasttransienten muss einerseits über der xPU-Minimalspannung liegen, um zu vermeiden, dass das System hängen bleibt, sie muss andererseits aber auch unter der xPU-Maximalspannung liegen, um Schäden an der xPU zu vermeiden. Kurzzeitige Leistungsspitzen auf diesen Karten können das Doppelte und mehr der maximalen thermischen Zielleistung erforderlich machen.
Wichtig dabei ist hier, dass die Bandbreite der PoL-Schleife flexibel genug ist, um diese schnellen Transienten zu bewältigen. Je höher die Bandbreite, desto schneller und mit geringerer Spannungsabweichung kann die Schleife reagieren. Eine der einfachsten Methoden, um schnelle Einschwingvorgänge zu erreichen, ist die Auswahl von Reglern mit schnellem Einschwingverhalten. Die ICs der »AI VCore«-Familie von ADI zeichnen sich durch ein außergewöhnlich niedriges Ausgangsrauschen, ein schnelles Einschwingverhalten und hohe Wirkungsgrade aus. Neben der Unterstützung für Lastleitungen leisten die AI-Power-Chipsätze von ADI hervorragende Arbeit bei der Bewältigung der durch die KI-Workloads verursachten Transienten und Spitzen.
Da die Stromstärken von xPU-Prozessoren für KI weiter steigen, ist die Dichte der Stromversorgung für den PoL-Regler zu einem kritischen Element geworden. Es wird immer schwieriger, jeden Teil der xPU zuverlässig mit Strom zu versorgen, ohne sich Gedanken darüber zu machen, dass die Abwärme die Zuverlässigkeit des Chips beeinträchtigt und zu thermischem Durchgehen führt. Mit anderen Worten: Das Wärmemanagement ist eine der größten Herausforderungen bei der Entwicklung dieser Hochleistungsstromversorgung.
Bei herkömmlichen Stromversorgungsmethoden befindet sich der Spannungsregler an der Seite der xPU, sodass der Strom seitlich zum Prozessor geleitet wird. Selbst der kleinste Widerstand in diesen Leiterbahnen kann zu inakzeptablen Spannungsabfällen (I2R) führen. Spannungsabfälle über dem Widerstand auf der PCB-Stromversorgungsebene steigen proportional mit dem xPU-Strom. Das heißt, dass zwischen den wenigen Zentimetern Leiterbahn zwischen den VR- und BGA-Pins beträchtliche Verluste auftreten. Dementsprechend sind die Verluste in den Kupfer-Leitungen der Leiterplatte zur Stromversorgung zu den wichtigsten Faktoren bei der Berechnung der Effizienz und Leistung des Reglerdesigns geworden.
Die Verwendung eines monolithischen Leistungsstufen-ICs mit integrierten Strom- und Temperaturschaltungsblöcken kann die Anzahl der auf der Leiterplatte erforderlichen Hochstrom-Leiterbahnen für die Implementierung einer herkömmlichen (diskreten) 3-Chip-Stromversorgung erheblich reduzieren.
Strenge Anforderungen an die Genauigkeit von KI-Spannungsreglern
Die Anforderungen an die Genauigkeit von KI-Spannungsreglern sind noch strenger geworden. Wirkungsgrad und Größe haben hierbei hohe Priorität. Auch die Leistungsfähigkeit und die Verlustleistung stehen auf dem Prüfstand. Wie bereits vorab beschrieben, ist die Lösung von Problemen bei der Entwicklung von Spannungsreglern für AI-Beschleunigerkarten zu einer schwierigen Aufgabe geworden. Entwickler wissen nur zu gut, dass große Sprünge beim angeforderten Strom nicht zufriedenstellend gehandhabt werden können, ohne die unerwünschten transienten Effekte zu berücksichtigen. Die Beherrschung dieser transienten Effekte erfordert zudem eine Art hochpräzise dynamische Spannungspositionierung oder ein Lastleitungsschema.
ADI hat stark in den KI-Markt investiert und verfügt über ein komplettes Produktportfolio für 48- und 12-V-Systeme. Im Folgenden werden die Mehrphasen-Spannungsregler-Chipsätze von ADI, sprich: der Mehrphasenregler MAX16602 und die Leistungsstufe MAX20790, zusammen mit der von ADI patentierten Coupled-Inductor(CL)-Technologie vorgestellt, mit denen die Herausforderungen des KI-PoL-Designs gemeistert werden können.
Bild 2 zeigt die Verschaltung von MAX16602, MAX20790 und CL als High-Level-Blockdiagramm für ein Design mit dem achtphasigen MAX16602CL8_EV. Mit diesem relativ sauberen Design wird eine hohe Stromlieferkapazität von ca. 88 A (Peak) pro Phase erreicht. Die interne Kompensation und der fortschrittliche Regelalgorithmus sowie die integrierten Strommessschaltungen in der Leistungsstufe und der gekoppelten Induktivität sind ein kompakter Ansatz mit branchenweit führendem Wirkungsgrad.
Der MAX20790 ist ein funktionsreicher, intelligenter Leistungsstufen-IC, der dahingehend optimiert wurde, dass die Kombination mit dem MAX16602 (und einigen anderen ADI-Controllern im Portfolio) einen mehrphasigen Spannungsregler mit hoher Dichte ermöglicht. Es handelt sich dabei um eine monolithische Integration, bei der parasitäre Widerstände und Induktivitäten zwischen den FETs und dem Treiber, wie sie bei diskreten Designs auftreten, nahezu eliminiert werden, was hohe Schaltgeschwindigkeiten bei deutlich geringeren Leistungsverlusten als bei herkömmlichen Implementierungen ermöglicht. Wird eine Störung des Schaltknotens erkannt, schaltet die Leistungsstufe sofort ab und teilt der Steuerung die Fehler-ID mit. Dieser intelligente Leistungsstufen-IC enthält außerdem einen Stromsensor auf dem Chip. Dieser Strommessblock ist Methoden, die den Gleichstromwiderstand einer Spule nutzen, weit überlegen. DCR-Messungen sind bekanntermaßen ungenau und erfordern eine Temperaturkompensation, um die Strommessung verlässlich zu machen.
Der MAX16602 ist ein Mehrphasen-Regler für xPUs. Der IC bietet eine hochdichte, flexible und skalierbare Versorgung von KI-xPUs. Das Bauelement unterstützt Pulsweitenmodulation (PWM) zur parallelen Steuerung von bis zu 16 Phasen. Die Architektur des IC vereinfacht das Design, reduziert die Anzahl der erforderlichen Komponenten, ermöglicht ein fortschrittliches Energiemanagement sowie Telemetrie und erhöht die Energieeinsparungen über den gesamten Lastbereich. Autonome Phasenabschaltung wird eingesetzt, um einen hohen Wirkungsgrad über den gesamten Lastbereich aufrechtzuerhalten. Der komplette Chipsatz ist ein hocheffizienter mehrphasiger Abwärtswandler mit umfangreichen Status- und Parametermessungsfunktionen. Die Parameter für Schutz und Abschaltung werden über die serielle PMBus-Schnittstelle eingestellt und überwacht, einschließlich der in den Leistungsstufen-ICs erfassten Fehler.
Wichtige Schlüsselfunktionen des Controller-IC
Im Folgenden werden einige weitere Schlüsselfunktionen des ADI-Controllers aufgeführt, die für die Implementierung von KI-Stromversorgungen wichtig sind.
Fortschrittliches Modulationsschema: Der MAX16602 verwendet ein fortschrittliches Modulationsschema (AMS), das ein verbessertes Einschwingverhalten ermöglicht. Das Modulationsverfahren ermöglicht das Ein- und Ausschalten von Phasen mit minimaler Verzögerung. Je nach Lastanforderung können sich mehrere Phasen gleichzeitig einschalten, wenn die Last ansteigt, oder sich sofort abschalten, wenn die Last abfällt. Bei aktiviertem AMS kann die Bandbreite des geschlossenen Regelkreises ohne Einbußen bei der Phasenreserve erweitert werden. Dies ermöglicht es dem PoL-Regler, besser auf sofortige und dynamische Stromanforderungen zu reagieren, wie sie bei KI-VRs auftreten.
Regelung der Lastleitung: Über die Lastleitung kann VCore je nach Ausgangsstrom zwischen seinem Minimum und Maximum wechseln. Im Wesentlichen stellt der Regler VCore für leichte Lasten hoch und für schwere Lasten niedrig ein. Der Hauptgrund dafür ist, dass der Regelkreis auf diese Weise einen höheren Laststrom verarbeiten kann (was für ein gutes Funktionieren erforderlich ist). Der ADI-Controller ermöglicht eine genaue Steuerung der Ausgangs-Lastleitung über den gesamten Ausgangsstrombereich. Die Einstellung der Ausgangsspannung erfolgt über die verlustfreien Strommesssignale des Leistungsstufen-ICs, die an den Controller zurückgemeldet werden. Die Lastleitung wird im Controller durch die digitale Programmierung der Gleichstromverstärkung des Spannungsregelschleifen-Fehlerverstärkers eingestellt. In der EC-Tabelle des Reglers und in Tabelle 6 des Datenblatts ist ein breiter Bereich von DC-Lastleitungsprofilen angegeben, von 0,105 bis 0,979 mΩ. Bild 3 zeigt die Einschwingkurve eines 16-phasigen PoL-Designs für einen Lastsprung von 40 auf 360 A bei einer Anstiegsrate von 800 A/µs. Das Ergebnis zeigt ein minimales Überschwingen.
Zusammengenommen bieten die mehrphasigen Leistungswandler und PoL-Produkte von ADI einen hohen Wirkungsgrad und eine hohe Leistungsdichte. Bild 5 zeigt die Wirkungsgradkurve mit Vorspannungs- und Spulenverlusten des 16-phasigen »MAX16602 + MAX20790 + CLH1110-4«- Evaluation-Boards. ADI bietet Spannungsregler und andere Stromversorgungskomponenten für verschiedene KI-Beschleunigeranwendungen an. Mit den mehrphasigen Reglern und integrierten Leistungsstufen können ADI-Kunden die strengsten dynamischen xPU-Leistungsanforderungen und Designherausforderungen heutiger KI-Anwendungen erfüllen.
Durch das Hinzufügen einer aktiven Spannungspositionierung zum Design werden die Anforderungen an das Einschwingverhalten der Last verringert und das gesamte xPU-Toleranzfenster besser ausgenutzt. Die Lastleitungssteuerung trägt dazu bei, die Spitze-Spitze-Abweichung der Ausgangsspannung bei einer bestimmten Stufenlast zu verringern, und ermöglicht gleichzeitig eine Reduzierung der Gesamtkapazität auf der Ausgangsschiene. Die Gesamtspannungsschwankungen werden reduziert, wodurch das Risiko eines Absturzes oder einer Beschädigung der xPU sinkt. Zu beachten ist, dass der Lastleitungsblock im MAX16602 deaktiviert werden kann.
Vorteile von gekoppelten Induktivitäten: ADI investiert seit mehr als einem Jahrzehnt in seine patentierte CL-Technologie. Die CL-Technologie ermöglicht eine höhere Dichte, eine größere Bandbreite, schnellere transiente Lösungen und im Vergleich zu diskreten Implementierungen einen um 50 Prozent höheren Wirkungsgrad und um den Faktor 1,82 kleinere Magnete. CL arbeitet effektiv als große Induktivität im eingeschwungenen Zustand und als kleine Induktivität im Einschwingvorgang, was neben der geringeren Größe der Induktivität auch Einsparungen bei Cout ermöglicht. Bild 4 zeigt eine Reihe von gekoppelten Induktivitäten, die häufig in den mehrphasigen VR-Designs von ADI verwendet werden.
Abhängig von den Designspezifikationen und Prioritäten kann der Vorteil der Stromwelligkeitsunterdrückung gekoppelter Induktivitäten entweder gegen eine geringere Größe oder einen höheren Wirkungsgrad eingetauscht werden. Der große Systemvorteil und das Differenzierungsmerkmal von ADI besteht darin, dass Entwickler von KI-PoL-Reglern die CL-Technologie verwenden können, um relativ einfach eine Schaltung mit geringem Gesamt-VR-Footprint zu erreichen. Mehrere bekannte Anbieter von magnetischen Bauteilen haben eine kostenlose CL-Lizenz von ADI und können mehrere Bezugsquellen für die benötigten Teile anbieten.
Oberseitig gekühlte Gehäuse: Die oberseitige Kühlung bietet einen alternativen Weg zur Wärmeableitung für oberflächenmontierte Gehäuse. Sowohl der MAX16602 als auch der MAX20790 sitzen in Flip-Chip-Quad-Flat-No-Lead-Gehäusen (FCQFN) mit freiliegenden Wärmeleitpads auf der Oberseite. Das FCQFN ist ein fortschrittliches Gehäuse, das eine erstklassige thermische Leistung bietet. Dieses unbedrahtete Gehäuse reduziert nicht nur die parasitären Induktivitäten, sondern ermöglicht auch die Wärmeableitung direkt von der Sperrschicht des Bauteils an die Umgebung. Der MAX20790 hat einen Wärmewiderstand zwischen Sperrschicht und Gehäuseoberseite von 0,25 °C/W. Durch die Nutzung der Vorteile der Top-Side-Kühlungskonfiguration mit KI-Stromversorgungsdesigns können die thermische Leistung des Systems und die Designflexibilität verbessert werden.
Vertikale Stromversorgung
Mit dem Aufkommen der xPUs, die komplexe KI-Funktionen verarbeiten, hat die Branche einen dramatischen Anstieg des Stromverbrauchs zu verzeichnen. VRs, die bis zu 650 A Dauerstrom und über 1000 A Spitzenstrom liefern können, sind inzwischen weit verbreitet. Die Herausforderungen bei der Stromversorgung von KI-Prozessoren liegen in der Aufrechterhaltung des Wirkungsgrads. Herkömmliche Stromversorgungsarchitekturen können mit diesen stromhungrigen KI-xPUs nicht mithalten. Hersteller und Architekten von VR-Chips suchen nach grundlegend anderen Ansätzen für die Stromversorgung. Ein neuer Trend zur Stromversorgung von KI-xPUs, der in der Branche diskutiert wird, ist die vertikale Stromversorgung, auch bekannt als »Backside-Power-Delivery«.
Die VRs müssen so nah wie möglich an den xPU-Stromversorgungspins des Lasteingangs liegen, um hohe Ströme liefern zu können. Dieses Ziel lässt sich mit den herkömmlichen Methoden der seitlichen Stromversorgung nicht erreichen. Bei der vertikalen Stromversorgung wird der Stromregler direkt unter den Prozessor verlegt, wodurch alle Verluste, die auf der Leiterplatte entstehen würden, wenn der VR-Chip neben dem xPU liegt, vermieden werden. Die Struktur besteht darin, den Leistungswandler, die Leistungsstufen, die Kondensatoren und die Magnete auf der Rückseite der Leiterplatte zu platzieren und den Strom vertikal durch Durchkontaktierungen an die xPU zu leiten. Mit anderen Worten: Die Stromzufuhr erfolgt vertikal von der Unterseite des xPU-BGA-Arrays mithilfe von Vias (Durchkontaktierungen).
Damit wird ein verkürzter vertikaler Pfad genutzt, wodurch die Impedanz erheblich verringert und Verluste eliminiert werden. Bild 6 zeigt die vertikale Architektur des Stromversorgungsmoduls, das unterhalb der xPU auf der anderen Seite der Leiterplatte montiert ist; dies dient lediglich der Veranschaulichung. ADI verfügt über ein breites Portfolio an KI-xPU-VCore-Lösungen, um diese Probleme zu lösen. Die Stromversorgungs-Komponenten von ADI ermöglichen höchste Wirkungsgrade im kleinsten Formfaktor. Die vorgeschlagene Kombination aus dem Mehrphasenregler MAX16602 und der intelligenten monolithischen Leistungsstufe MAX20790 bietet den höchsten Wirkungsgrad bei der Stromwandlung, das schnellste Einschwingverhalten und die genauesten Telemetrieberichte in der Branche.
Die Herausforderungen bei der Realisierung einer vertikalen Stromversorgung bestehen im Gewicht der Module und den Montageproblemen. Unterhalb der xPU auf der anderen Seite der Leiterplatte befinden sich außerdem die Hochfrequenz-Entkopplungskondensatoren, die für die Energiespeicherung zur Deckung des momentanen Energiebedarfs erforderlich sind. Die vertikale Stromversorgung in Verbindung mit der CL-Technologie von ADI sorgt für eine höhere Strom- und Leistungsdichte sowie ein schnelleres Einschwingverhalten. Vertikale Stromversorgung gibt PoL-Herstellern wie ADI neue Möglichkeiten zur Innovation und trägt auf ihre Weise dazu bei, das Mooresche Gesetz weiter voranzutreiben.
Schlussfolgerung
Mit ML (maschinellem Lernen) und Deep Learning haben Beschleunigerkarten KI von der Theorie zum Mainstream gebracht, indem sie die parallele Verarbeitungsleistung erbringen, die erforderlich ist, um sowohl Trainings- als auch Inferenz-Workloads zu beschleunigen. Die Entwicklung einer VR-PoL für eine leistungsstarke KI-Beschleunigerkarte ist eine komplexe Aufgabe, insbesondere angesichts der ständig steigenden Leistungsanforderungen in Bezug auf Stromstärke und Spannungsgenauigkeit, die von den aktuellen modernen xPUs gefordert werden.
Die Anforderungen an die VR für xPUs unterscheiden sich deutlich von denen für Standard-PoL-Regler: VRs für xPU-Schienen müssen extrem schnelle Lastwechsel bewältigen, sie erfordern eine dynamische Spannungseinstellung und sie müssen klein sein.
Lesen Sie mehr zum Thema
Das könnte Sie auch interessieren
Ziel Effizienzsteigerung
Gekoppelte Induktivitäten in Abwärtswandlern
Bedrohung von unten
Gefährliche Schatten-KI in Unternehmen wächst rasant
embedded-world-Keynote von Fiona Treacy
Video: Nachhaltige Fertigung dank KI
Bidirektionale Leistungswandler
Das Maximum aus ESS herausholen
Das sind die Gewinner
embedded award 2024
