Der Boom von neuronalen Netzwerken, die für das maschinelle Lernen nötig sind, hat alle Arten von Industrien revolutioniert und zu beispiellosen Fortschritten und Innovationen geführt. In industriellen Anwendungen jedoch hat sich die Technologie noch wenig durchgesetzt. Der Grund: der hohe Energieverbrauch und die Verzögerungen bei der Datenverarbeitung aufgrund der Lade- und Speicherarchitektur von Mikrocontrollern.
Das hat die beiden IMES-Mitarbeiter Gian-Luca Brazerol und Flavio Peter, Absolventen des Studiengangs Electrical and Computer Engineering der OST und Masterstudierende im Profil Electrical Engineering motiviert, einen neuartigen Mikrochip zu entwickeln. Dieser sollte schneller und mit viel weniger Energie das Deep Learning von KI ermöglichen. Dafür haben sie eine Technik namens Near Memory Computing mit einer analogen Matrixmultiplikation kombiniert, statt wie in der gängigen Praxis die Berechnung auf Graphikkarten digital auszuführen.
Analoge Matrixmultiplikationen
Damit ein KI-Modell funktioniert und das auf einem bestimmten Datensatz Gelernte auch bei neuen Daten anwenden kann (Inferenz), vollzieht das System zigtausende Matrixmultiplikationen. Diese sind rechenintensiv und damit nicht geeignet für Low-Power-Anwendungen wie beispielsweise dem Internet der Dinge (IoT). Zudem müssen all die Daten immer vom Speicher zur Recheneinheit und zurück transportiert werden. Das braucht viel Zeit und Energie.
In der Lösung von Gian-Luca Brazerol und Flavio Peter werden diese Matrixmultiplikation analog und in unmittelbarer Nähe des Speichers durchgeführt. Mit weiteren Optimierungen wie beispielsweise der Reduktion der Auflösung der Daten von 32 auf vier Bit konnten sie einen Chip entwickeln, der nach dem Herausrechnen von Einschränkungen, die vor allem an der Qualität des Chips liegen, eine höhere Effizienz erreicht als bestehende Arbeiten auf diesem Gebiet.
Das Resultat ist überzeugend – auch für die Experten des Halbleiter-Industriesektors von Swissmem. Sie haben Gian-Luca Brazerol und Flavio Peter für ihre Arbeit den Best Thesis Award im Bereich Halbleitertechnologie überreicht, der dieses Jahr zum ersten Mal vergeben wurde.
Wir gratulieren Flavio und Gian-Luca herzlich zu diesem Erfolg!
Ein grosses Dankeschön an Swissmem und den Preisstifter Hitachi Energy.