Was ist ein LLM und wie wählt man ein Modell fürs Unternehmen?

Ein Large Language Model (LLM) berechnet auf Grundlage seines Kontexts wahrscheinliche nächste Tokens. Es erzeugt und verarbeitet Sprache sehr nützlich, besitzt aber kein eingebautes Wissen darüber, ob eine plausible Antwort wahr oder für deinen Prozess erlaubt ist.

Was ein LLM kann - und was nicht

LLMs können Texte strukturieren, klassifizieren, zusammenfassen, extrahieren und Entwürfe vorbereiten. Sie können Fakten verwechseln, Quellen erfinden oder am fehlenden Kontext scheitern. Darum brauchen produktive Abläufe Datenquellen, Tests und Grenzen.

Sechs Kriterien für die Modellwahl

1. Aufgabenschwierigkeit statt Modellprestige

Starte mit der einfachsten Lösung, die deine eigenen Beispiele ausreichend löst.

2. Kosten pro Arbeitseinheit statt Preis pro Million Tokens

Vergleiche Kosten pro brauchbarem Ergebnis einschließlich Wiederholungen, Kontrolle und Infrastruktur.

3. Größe des Kontextfensters

Es muss zu Dokumenten, Verlauf und nötigen Anweisungen passen – mehr Kontext ersetzt keine Auswahl relevanter Informationen.

4. Latenz

Bei Echtzeit-Interaktion zählt eine Antwortzeit, die für Menschen akzeptabel ist; bei Nachtjobs können andere Kriterien wichtiger sein.

5. Ort der Datenverarbeitung

Prüfe Datenflüsse, Verträge, Region und Berechtigungen passend zum konkreten Einsatzfall.

6. Austauschbarkeit

Entkopple Anwendung und Modell so weit, dass Tests und Wechsel möglich bleiben.

API-Modell oder offene Gewichte?

Ein API-Modell kann Betrieb vereinfachen; offene Gewichte können mehr Kontrolle über Betrieb und Daten ermöglichen. Beide Wege haben Kosten, Sicherheits- und Wartungsfolgen.

Wie misst man, ob ein Modell zu uns passt?

Erstelle einen repräsentativen Satz echter Fälle, definiere erwartete Ergebnisse, Fehlerarten, Zeit- und Kostenlimit. Teste regelmäßig, nicht nur in einer Demo.

Wann ist ein LLM die falsche Wahl?

Wenn eine feste Regel, Datenbankabfrage oder klassische Automatisierung das Problem verlässlicher löst. Auch bei nicht kontrollierbarem Schaden durch einen Fehler braucht es einen anderen Prozess.

Häufige Fragen

Ist ein größeres Modell immer besser?

Nicht für Qualität pro Kosten oder Latenz. Entscheidend ist deine Aufgabe.

Wie oft muss ein Modell gewechselt werden?

Nicht nach Neuheiten, sondern wenn Messungen, Preis, Betrieb oder Anforderungen es begründen.

Lassen sich mehrere Modelle nutzen?

Ja, wenn Routing, Bewertung und Datenzugriff klar definiert sind.