RAG steht für Retrieval Augmented Generation: Ein KI-Modell durchsucht vor der Antwort eine externe Wissensquelle und stützt seine Antwort auf die gefundenen Textstellen, statt nur aus antrainiertem Wissen zu raten. Das macht Antworten aktueller und nachvollziehbarer.

Was ist der Unterschied zwischen RAG und Fine-Tuning?

RAG lässt das Modell unverändert und ergänzt es um eine Suche in externen Dokumenten, die sich jederzeit aktualisieren lässt. Fine-Tuning verändert dagegen das Modell selbst durch zusätzliches Training, aufwendiger, aber sinnvoll, wenn es um Stil oder Fachsprache statt um aktuelles Wissen geht.

Verhindert RAG Halluzinationen komplett?

Nein. RAG senkt das Risiko deutlich, weil das Modell auf echte Quellen zugreift, aber bei schlecht aufbereiteten Dokumenten oder mehrdeutigen Suchtreffern kann trotzdem eine falsche Antwort entstehen. Wichtig ist deshalb eine saubere Aufbereitung der Wissensquelle.

RAG (Retrieval Augmented Generation)

RAG kombiniert zwei Schritte: eine Suche in einer definierten Wissensquelle – Firmendokumente, Handbücher, eine Produktdatenbank – und die Textgenerierung durch ein Sprachmodell, das die gefundenen Passagen als Grundlage bekommt. Das Modell erfindet die Antwort damit nicht mehr aus dem Gedächtnis, sondern stützt sich auf das, was tatsächlich in den Quellen steht.

Dafür werden Dokumente in kleine Abschnitte zerlegt und als Vektoren in einer Datenbank gespeichert, sogenannte Embeddings, meist in einer Vektordatenbank wie Pinecone oder pgvector. Stellt jemand eine Frage, sucht das System die passendsten Abschnitte heraus und schickt sie zusammen mit der Frage an das Sprachmodell, das daraus eine Antwort formuliert, im besten Fall inklusive Quellenangabe.

Für Unternehmen ist das die Grundlage für einen brauchbaren Support-Chatbot: Statt das Modell aufwendig per Fine-Tuning auf Firmenwissen zu trainieren, wird das aktuelle Handbuch, die FAQ-Seite oder die interne Wiki einfach indexiert. Ändert sich ein Preis oder eine Lieferzeit, reicht es, das Dokument zu aktualisieren, das Modell selbst bleibt unverändert. Genau darauf baut ein Company Brain auf.

RAG ist nur so gut wie die zugrunde liegende Suche: Sind die Dokumente schlecht strukturiert oder die Abschnitte falsch zugeschnitten, findet das System die richtige Passage nicht und das Modell antwortet trotzdem, nur eben falsch. RAG reduziert Halluzination deutlich, verhindert sie aber nicht vollständig.

Das machen wir daraus

RAG (Retrieval Augmented Generation) ist bei uns kein Buzzword, sondern Teil unserer Arbeit. Passende Leistungen:

Häufige Fragen zu RAG (Retrieval Augmented Generation)

Was bedeutet RAG?
RAG steht für Retrieval Augmented Generation: Ein KI-Modell durchsucht vor der Antwort eine externe Wissensquelle und stützt seine Antwort auf die gefundenen Textstellen, statt nur aus antrainiertem Wissen zu raten. Das macht Antworten aktueller und nachvollziehbarer.
Was ist der Unterschied zwischen RAG und Fine-Tuning?
RAG lässt das Modell unverändert und ergänzt es um eine Suche in externen Dokumenten, die sich jederzeit aktualisieren lässt. Fine-Tuning verändert dagegen das Modell selbst durch zusätzliches Training, aufwendiger, aber sinnvoll, wenn es um Stil oder Fachsprache statt um aktuelles Wissen geht.
Verhindert RAG Halluzinationen komplett?
Nein. RAG senkt das Risiko deutlich, weil das Modell auf echte Quellen zugreift, aber bei schlecht aufbereiteten Dokumenten oder mehrdeutigen Suchtreffern kann trotzdem eine falsche Antwort entstehen. Wichtig ist deshalb eine saubere Aufbereitung der Wissensquelle.

Häufige Fragen zu RAG (Retrieval Augmented Generation)

Startklar fürunser Projekt?