Superschnelle Computer für KI: Torsten Hoefler erhält renommierten ACM Prize

Zürich – Eine der weltweit wichtigsten Auszeichnungen der Informatik geht an einen ETH-Professor: Torsten Hoefler, Professor für Hochleistungsrechnersysteme und Chefarchitekt für KI und maschinelles Lernen am Swiss National Supercomputing Centre (CSCS) gewinnt den ACM-Prize in Computing 2024.

Hoefler erhält den Preis für seine «grundlegenden Beiträge zum Hochleistungsrechnen und zur laufenden KI-Revolution», schreibt die Association for Computing Machinery (ACM).

Der ACM Prize in Computing würdigt Informatiker in der frühen bis mittleren Karrierephase für «Forschungsbeiträge von grundlegender Bedeutung und weitreichender Tragweite». Der Preis ist mit 250’000 US-Dollar dotiert. Hoefler ist einer von wenigen Wissenschaftlern ausserhalb der USA und der erste in Kontinentaleuropa, der diesen Preis erhält.

Christian Wolfrum, Vizepräsident für Forschung der ETH-Zürich, sagt: «Der Preis ist hochverdient! Hoeflers Pionierleistungen im Hochleistungsrechnen sind essenziell für die weltweiten Arbeiten im KI-Bereich. Die Auszeichnung zeigt eindrücklich, welche Bedeutung die ETH und der Standort Schweiz für die KI-Spitzenforschung haben.»

Rechenleistung massiv beschleunigt
Hoefler forscht zur Leistung paralleler Rechensysteme. Seine Arbeit hat wesentlich dazu beigetragen, das Hochleistungsrechnen (High Performance Computing, HPC) massiv zu beschleunigen, die Effizienz zu verbessern und damit auch die Kosten tragbar zu machen.

Während Hochleistungsrechnen früher vor allem für Wissenschaftler:innen, etwa für Wetter- und Klimasimulationen, wichtig waren, sind sie mit dem aktuellen KI-Boom für die breite Bevölkerung bedeutend geworden. Hoefler sagt: «Es ist ein sehr schönes Gefühl, dass Dinge, die mehrheitlich während meines Doktorats entstanden, jetzt so bedeutend geworden sind. Der Preis ist eine riesige Ehre!»

Konkret hat Hoefler die Art und Weise verändert, wie mehrere Rechner zusammen an einer Aufgabe arbeiten. Wenn sie dies tun, müssen sie riesige Datenmengen schnell und zuverlässig austauschen können. Das Netzwerk, das diese Rechner verbindet, muss so gestaltet sein, dass es schnell, stabil und ohne Engpässe funktioniert, auch wenn es sehr gross ist.

Hoeflers Beitrag bestand unter anderem darin, neue Netzwerkarchitekturen, Routing-Algorithmen und Verfahren zur Vermeidung von Datenstaus zu entwickeln, die diese Skalierung erst ermöglichen.

Basis für grosse KI-Modelle
Die ACM schreibt, die Arbeit von Hoefler und seinen Kollegen zur Skalierung des Netzwerkdesigns in Supercomputern habe deren Fähigkeiten revolutioniert. «KI-Algorithmen zum Beispiel können dadurch auf hunderttausenden von Knoten (Computern oder Servern) parallel verarbeitet werden».

Indirekt beschleunigt Hoefler damit auch die Wissenschaft, denn diese setzt immer stärker auf sehr grosse Datenmengen und Maschinelles Lernen, um zu neuen Erkenntnissen zu gelangen.

Viele seiner Innovationen sind heute in den grössten und leistungsstärksten Rechnern enthalten, so auch im Alps-Supercomputer am Swiss National Supercomputing Centre (CSCS) in Lugano, wo Hoefler Chefarchitekt für KI und maschinelles Lernen ist. (ETH/mc/pg)

Zur Person
Torsten Hoefler ist Informatik-Professor an der ETH Zürich, wo er seit 2012 das Scalable Parallel Computing Lab leitet. Bevor er an die ETH Zürich kam, leitete er die Leistungsmodellierung und Simulation für den ersten Petascale-Supercomputer «Blue Waters» an der University of Illinois in Urbana-Champaign. Hoefler hat für seine Arbeit zahlreiche Auszeichnungen erhalten, zuletzt die Max-Planck-Humboldt-Forschungsmedaille und den Jack Dongarra Early Career Award. Er wurde zum ACM-Fellow, IEEE-Fellow wie auch zum Mitglied der Academia Europaea ernannt. Ausserdem erhielt er 2015 den Latsis-Preis der ETH Zürich, den ACM Gordon Bell Prize 2019 und zwei Grants des Europäischen Forschungsrats. Hoefler trägt im Rahmen der Swiss AI Initiative auch dazu bei, Schweizer Sprach- und Basismodelle zu entwickeln, die sowohl der Wissenschaft und der Wirtschaft in der Schweiz dienen sollen.