GPU-Util
GPU-Util zeigt die aktuelle GPU-Auslastung in Prozent.
GPU-Util (GPU Utilization) gibt in Prozent an, wie stark die Recheneinheiten einer Grafikkarte aktuell ausgelastet sind. Der Wert wird typischerweise über Tools wie nvidia-smi abgelesen und liegt zwischen 0 % (Leerlauf) und 100 % (Volllast).
Beim Training von Machine-Learning-Modellen ist eine hohe GPU-Util wünschenswert, weil sie zeigt, dass die Hardware effizient genutzt wird. Niedrige Werte deuten häufig auf Engpässe an anderer Stelle hin - etwa langsames Laden der Trainingsdaten von der Festplatte, zu kleine Batch-Sizes oder ineffizienten Code, der die GPU zwischen den Rechenschritten warten lässt.
In der Praxis schwankt die GPU-Util während des Trainings. Kurze Einbrüche zwischen Batches sind normal. Liegt der Wert jedoch dauerhaft unter 50 %, lohnt sich eine Analyse der Datenpipeline. Maßnahmen wie Data-Prefetching, größere Batches oder die Verlagerung von Vorverarbeitungsschritten auf die CPU können die Auslastung deutlich verbessern.