Wissensdestillation, Pruning & Quantisierung: Techniken zur Optimierung von KI-Modellen
Wie kann KI in Zeiten des Klimawandels nachhaltiger werden? In einem umfangreichen Kurs am Hasso Plattner Institut habe ich die neuesten Techniken kennengelernt, um große Sprachmodelle effizienter und ressourcenschonender zu machen. Von Wissensdestillation über Netzwerk-Pruning bis hin zu Low-Bit-Quantisierung.