PyTorch
PyTorch ist ein Framework für maschinelles Lernen, das von Meta (Facebook) entwickelt wurde. Es bildet die technische Grundlage, auf der die meisten modernen KI-Modelle laufen, auch Einbettungsmodelle.
In der Praxis bedeutet das: PyTorch übernimmt die schwere Rechenarbeit. Es verteilt die Berechnungen auf die Grafikkarte (GPU), verwaltet den Speicher und optimiert die Ausführung. Ohne PyTorch müsste man diese Dinge von Hand programmieren. Die Versionsnummer ist relevant, weil verschiedene PyTorch-Versionen unterschiedliche CUDA-Versionen unterstützen und sich die Performance zwischen Versionen unterscheiden kann.