Technisch zerlegt ein LLM Text zuerst in Token, kleine Text-Bausteine, die kürzer als ganze Wörter sein können. Für jedes Token berechnet das Modell dann, welches nächste Token am wahrscheinlichsten folgt, und setzt so Wort für Wort die Antwort zusammen. Die Größe eines Modells wird oft in Milliarden Parametern angegeben, etwa 70 oder 400 Milliarden — grob gesagt die Anzahl der Stellschrauben, die beim Training justiert wurden. Mehr Parameter bedeuten nicht automatisch bessere Antworten, aber meist mehr Kontextverständnis.
Unternehmen nutzen LLMs heute für Kundenservice-Chatbots, erste Textentwürfe im Content-Marketing oder zur Analyse großer Dokumentenmengen. Ein Modell, das speziell mit den eigenen Firmendaten ergänzt wurde, nennt man oft Company Brain, technisch meist über RAG umgesetzt statt durch komplettes Neu-Training.
Die Grenzen eines LLM: Es weiß nichts über Ereignisse nach seinem Trainings-Stichtag, kann bei Spezialwissen halluzinieren, und sein Wissen ist eine statistische Verdichtung von Text, keine geprüfte Faktendatenbank. Wer das ignoriert und LLM-Output ungeprüft übernimmt, riskiert falsche Zahlen in echten Dokumenten.
