Du willst ein KI-Modell auf Deinem eigenen Rechner installieren. Du öffnest die Übersichtsseite und siehst: Llama, Mistral, Gemma, Phi, Qwen und noch dreißig weitere Namen. Zu jedem gibt es Varianten in verschiedenen Größen. Du schließt den Tab wieder und bleibst beim Netzdienst, weil die Auswahl Dich überfordert. Dabei hättest Du in fünfzehn Minuten das richtige Modell finden und installieren können.

Drei Fragen statt dreißig Modelle

Du brauchst kein Fachwissen über Modellarchitekturen, um die richtige Wahl zu treffen. Drei Fragen reichen.

Was willst Du damit tun? Texte schreiben und überarbeiten, Zusammenfassungen erstellen, Mails formulieren? Dann reicht ein allgemeines Sprachmodell. Programmieren? Dann brauchst Du ein Modell, das auf Programmiersprachen spezialisiert ist. Für die meisten kleinen Unternehmen ist die erste Variante die richtige.

Wie leistungsstark ist Dein Rechner? Jedes Modell gibt es in verschiedenen Größen. Kleine Modelle laufen auf gewöhnlichen Bürorechnern. Größere brauchen mehr Arbeitsspeicher oder eine leistungsstarke Grafikkarte. Je kleiner das Modell, desto schneller die Antwort, aber desto geringer die Qualität bei anspruchsvollen Aufgaben.

Brauchst Du gute deutsche Sprachfähigkeiten? Die meisten Modelle sind auf Englisch trainiert und verstehen Deutsch als Zweitsprache. Manche, besonders europäische Modelle wie Mistral, haben bessere deutsche Fähigkeiten als andere. Wenn Du hauptsächlich auf Deutsch arbeitest, ist das ein wichtiges Auswahlkriterium.

Vier Modelle, die sich für den Einstieg eignen

Du willst nicht alle dreißig Modelle vergleichen, sondern eines auswählen und loslegen. Vier Empfehlungen decken die häufigsten Anforderungen kleiner Unternehmen ab.

Llama: Das am weitesten verbreitete quelloffene Modell. Große Nutzergemeinschaft, viele Anleitungen, funktioniert auf den meisten Rechnern. Wenn Du unsicher bist, fange hier an. Die Wahrscheinlichkeit, dass es für Deine Aufgaben ausreicht, ist hoch.

Mistral: Aus Frankreich, besonders sparsam im Ressourcenverbrauch. Läuft flüssiger auf schwächeren Rechnern als vergleichbare Modelle. Gute mehrsprachige Fähigkeiten, was für deutschsprachige Aufgaben ein Vorteil ist.

Gemma: Von einem der großen Anbieter als quelloffenes Modell bereitgestellt. Technisch auf dem neuesten Stand, aber kleinere Nutzergemeinschaft. Gute Wahl, wenn Du ein aktuelles Modell mit hoher Qualität willst.

Phi: Besonders klein und schnell. Läuft sogar auf älteren Rechnern und Laptops. Die Qualität reicht für einfache Aufgaben wie Textkorrektur und kurze Zusammenfassungen. Ideal zum Ausprobieren ohne große Investition.

Die richtige Größe wählen

Du hast Dich für ein Modell entschieden und siehst verschiedene Varianten: 3B, 7B, 13B, 30B. Die Zahl steht für die Anzahl der Recheneinheiten im Modell, gemessen in Milliarden. Je mehr, desto besser die Ergebnisse, aber desto mehr Leistung braucht Dein Rechner.

Eine Faustregel für die Wahl:

3 bis 4 Milliarden (3B-4B): Läuft auf fast jedem Rechner. Brauchbar für Textkorrektur, kurze Zusammenfassungen und einfache Aufgaben. Antworten kommen schnell.

7 bis 8 Milliarden (7B-8B): Braucht mindestens sechzehn Gigabyte Arbeitsspeicher. Deutlich bessere Qualität bei Texterstellung und komplexeren Aufgaben. Der beste Einstiegspunkt für die meisten Anwender.

13 Milliarden und mehr (13B+): Braucht mindestens zweiunddreißig Gigabyte Arbeitsspeicher oder eine Grafikkarte. Nähert sich der Qualität großer Netzdienste an. Lohnt sich nur, wenn Du häufig anspruchsvolle Aufgaben erledigst.

Im Zweifelsfall: Starte mit dem 7B-Modell. Wenn es zu langsam ist, wechsle auf 3B. Wenn die Qualität nicht reicht, versuche 13B. Der Wechsel zwischen Größen dauert Minuten, nicht Stunden.

In fünfzehn Minuten einsatzbereit

Du hast Dich für ein Modell und eine Größe entschieden. Die Installation ist einfacher, als Du denkst.

Schritt eins: Lade ein Werkzeug wie Ollama oder LM Studio herunter und installiere es. Das dauert drei Minuten und funktioniert wie jedes andere Programm.

Schritt zwei: Wähle in der Benutzeroberfläche das Modell aus, das Du ausprobieren willst. Ein Klick startet den Ladevorgang. Je nach Modellgröße und Internetverbindung dauert das zwei bis zehn Minuten.

Schritt drei: Stelle Deine erste Anfrage. Die Benutzeroberfläche sieht aus wie ein Eingabefeld, in das Du Deine Anweisung tippst. Genauso wie bei einem Netzdienst, nur dass alles auf Deinem Rechner passiert.

Wenn das Ergebnis nicht überzeugt, probiere ein anderes Modell oder eine andere Größe. Der Wechsel dauert wenige Minuten. Du bist an nichts gebunden und kannst jederzeit zurück zum Netzdienst.

Wann welches Modell den Unterschied macht

Du fragst Dich, ob die Wahl des Modells wirklich einen Unterschied macht. Für die meisten Alltagsaufgaben kleiner Unternehmen: kaum. Die Unterschiede zeigen sich bei bestimmten Anforderungen.

Viel deutscher Text: Mistral hat tendenziell bessere deutsche Fähigkeiten als Llama. Wenn Du fast ausschließlich auf Deutsch arbeitest, kann das einen spürbaren Unterschied machen.

Schwacher Rechner: Phi und andere besonders kleine Modelle laufen dort, wo größere nicht mehr flüssig antworten. Weniger Qualität, aber immer noch nützlich für einfache Aufgaben.

Technische Texte: Manche Modelle sind besser bei Fachtexten als bei Alltagssprache. Wenn Du regelmäßig technische oder juristische Texte bearbeitest, lohnt sich ein Vergleich zwischen zwei bis drei Modellen.

Für alle anderen Fälle: Nimm das erste Modell, das funktioniert, und bleib dabei. Die Zeit, die Du in Modellvergleiche steckst, ist fast immer schlechter investiert als die Zeit, die Du mit dem vorhandenen Modell arbeitest.

Was Du nicht brauchst

Du liest von Feinabstimmung, eigenen Trainingsdaten und speziellen Recheneinheiten. Für die meisten kleinen Unternehmen ist das unnötig.

Ein quelloffenes Modell in Standardkonfiguration reicht für Textarbeit, Mails, Zusammenfassungen und Recherche. Du brauchst kein eigenes Training, keine besondere Hardware und kein Fachwissen über Modellarchitekturen.

Wenn Du irgendwann an die Grenzen des Standardmodells stößt, ist das der richtige Zeitpunkt, um über Erweiterungen nachzudenken. Nicht vorher. Die meisten Anwender erreichen diese Grenze nie.

Fange einfach an. Installiere ein Werkzeug, lade ein Modell, stelle eine Anfrage. Alles Weitere ergibt sich aus der täglichen Nutzung. Der beste Weg, das richtige Modell zu finden, ist nicht der Vergleich im Kopf, sondern der Versuch am Schreibtisch.