KIs sorgen für einen zunehmenden Anteil der Rechenlast in Rechenzentren. An der Universität Paderborn arbeiten Forscher jetzt daran, die Energieeffizienz von solchen KI-Systemen zu verbessern, indem sie die Anzahl und die Genauigkeit der notwendigen Berechnungen reduzieren.
Tiefe Neuronale Netze sind für einen zunehmenden Anteil der Rechenlast und damit für den Energieverbrauch sowie den CO2-Ausstoß in Rechenzentren verantwortlich.
Wissenschaftler der Universität Paderborn arbeiten im Rahmen eines neuen Forschungsprojekts daran, die Energieeffizienz von solchen KI-Systemen zu verbessern, indem sie versuchen, die Anzahl und die Genauigkeit der notwendigen Berechnungen deutlich zu verringern.
Zum Einsatz kommt dabei programmierbare Hardware in Form von FPGAs anstatt der üblichen CPUs und Grafikprozessoren. Das Projekt wird vom Bundesministerium für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) bis Ende 2025 als KI-Leuchtturmprojekt mit rund 1,5 Millionen Euro gefördert.
„Tiefe neuronale Netze werden in einem aufwändigen Prozess mit sehr großen Datenmengen trainiert, die daraus resultierenden Modelle dann in der Nutzungsphase für Vorhersagen verwendet. Das Projekt zielt erstmal auf Energieeinsparungen bei der Nutzungsphase von großen Modellen ab“, sagt Prof. Dr. Marco Platzner von der Universität Paderborn, der das Forschungsprojekt leitet. In der Regel werden dafür GPUs oder CPUs genutzt. Je genauer die Berechnungen, desto höher der Energieaufwand. „GPUs und CPUs weisen häufig eine niedrige Energieeffizienz auf. Deshalb setzen wir stattdessen auf FPGAs, weil sie große Energie- und Performance-Vorteile aufweisen“, so Platzner weiter.
Die Wissenschaftler machen außerdem Gebrauch von einem besonderen Verfahren: absichtlich ungenaues Rechnen, das sogenannte Approximate Computing. Platzner erklärt: „FPGAs erlauben es uns, die Genauigkeit der einzelnen Rechenschritte teilweise dramatisch zu reduzieren und trotzdem die erforderliche Qualität der Vorhersagen der Modelle einzuhalten. Damit können wir den Rechenaufwand deutlich reduzieren, was erhebliche Energieeinsparungen mit sich bringt.“
Platzners Fachgebiet ist Technische Informatik. Das Paderborn Center for Parallel Computing (PC2) der Universität Paderborn, das über eines der weltweit leistungsfähigsten FPGA-Systeme verfügt, beschäftigen sich schon seit längerem mit dem energieeffizienten Rechnen mithilfe von FPGAs, auch für KI-Anwendungen.
Neben der Universität Paderborn sind die Hochschule Hamm-Lippstadt, die Fachhochschule Südwestfalen, das HPC-Unternehmen MEGWARE (Chemnitz) und die AMD Research Labs in Irland am Projekt beteiligt.