Was ist RAG? Retrieval-Augmented Generation einfach erklärt

Was ist RAG (Retrieval-Augmented Generation)?

RAG (Retrieval-Augmented Generation) ist eine KI-Architektur, die ein Sprachmodell vor jeder Antwort mit passenden Passagen aus einer kuratierten Wissensbasis versorgt — die Antwort stützt sich auf abgerufene Fakten statt auf freies Modellwissen. Der Name ist zugleich die Merkhilfe: Retrieval (Abruf), Augmented (angereichert), Generation (Formulierung) — drei Wörter, drei Phasen.

RAG ist keine Produktmarke, sondern ein Architekturmuster: Es treibt Chatbots, interne Suchassistenten und Support-Systeme an. Die bekannteste Anwendung für KMU ist der RAG-Chatbot, der Kundenfragen aus den eigenen Inhalten beantwortet. Dieser Artikel vertieft die Technik dahinter — die Kurzdefinitionen aller Begriffe sammelt das GEO- und KI-Glossar.

Wie funktioniert RAG? Die vier Schritte von der Frage zur Antwort

RAG arbeitet in vier Schritten: Inhalte werden in Abschnitte zerlegt und als Embeddings in einer Vektor-Datenbank gespeichert (Indexierung); eine eingehende Frage wird ebenfalls als Vektor kodiert und per Vektorsuche mit den passendsten Passagen abgeglichen (Retrieval); die Treffer werden dem Sprachmodell als Kontext übergeben (Augmentierung); daraus formuliert das Modell die Antwort mit Quellenbezug (Generation). Die Indexierung läuft einmalig beim Aufbau der Wissensbasis — Retrieval, Augmentierung und Generation laufen bei jeder einzelnen Anfrage neu.

Indexierung: Chunking und Embeddings

Beim Chunking wird jeder Inhalt der Wissensbasis in handliche Abschnitte zerlegt, und jeder Abschnitt erhält ein Embedding — eine Zahlenreihe, die seine Bedeutung kodiert. Die Qualität dieser Abschnitte entscheidet über die Retrieval-Präzision: In sich geschlossene Absätze mit einer Aussage pro Abschnitt sind ideale Chunks, weil sie eine Frage vollständig beantworten, ohne fremden Kontext mitzuschleppen. Wie Inhalte zu solchen Abschnitten werden, zeigt weiter unten die Sektion zur Website als Wissensbasis.

Abruf und Antwort: Vektorsuche, Augmentierung, Generation

Trifft eine Frage ein, wird sie in denselben Vektorraum kodiert; die Vektorsuche findet die Passagen, die ihr inhaltlich am nächsten liegen. Diese Treffer werden dem Sprachmodell als Kontext in den Prompt gelegt (Augmentierung), und das Modell formuliert die Antwort nur aus diesen Passagen — mit Bezug auf die Quelle (Generation). Wichtig zur Einordnung: Bei keinem dieser Schritte wird das Sprachmodell verändert. Das Wissen kommt zur Laufzeit in den Prompt, nicht durch Training ins Modell.

Was sind Embeddings und was macht eine Vektor-Datenbank?

Embeddings sind Zahlenreihen (Vektoren), die die Bedeutung eines Textabschnitts so kodieren, dass inhaltlich ähnliche Texte im Vektorraum nahe beieinander liegen; eine Vektor-Datenbank speichert diese Vektoren und findet zu einer Anfrage die semantisch nächstliegenden Passagen. Das klingt abstrakt, folgt aber einer einfachen Idee: einer Landkarte der Bedeutungen.

Embeddings: Bedeutung als Koordinaten

Ein Embedding ist die Position eines Textes auf dieser Landkarte. Abschnitte über Zahlungsfristen liegen in derselben Gegend wie Abschnitte über Rechnungen und Mahnungen; ein Abschnitt über Öffnungszeiten liegt weit entfernt davon. Das Embedding-Modell vergibt diese Koordinaten automatisch — es hat aus grossen Textmengen gelernt, welche Formulierungen inhaltlich zusammengehören, auch wenn sie kein gemeinsames Wort teilen.

Vektor-Datenbank: semantische Suche statt Stichwortsuche

Die Vektor-Datenbank ist das Verzeichnis dieser Landkarte: Sie speichert alle Koordinaten und findet zu jeder Anfrage die nächstgelegenen Passagen. Der Unterschied zur klassischen Volltextsuche ist grundsätzlich — Vektorsuche findet Bedeutung, Stichwortsuche findet nur Zeichenketten. Die Anfrage «Ferien» findet auch Passagen über «Urlaub», obwohl das Wort nicht vorkommt. Deshalb heisst dieses Verfahren semantische Suche, und deshalb kann ein RAG-Chatbot Kundenfragen verstehen, die anders formuliert sind als die eigenen Inhalte.

Warum reduziert RAG Halluzinationen — und wo liegen die Grenzen?

RAG reduziert Halluzinationen, weil das Sprachmodell seine Antwort auf abgerufene, geprüfte Passagen stützt und bei fehlender Quelle passen kann, statt zu erfinden — vollständig eliminieren lässt sich das Risiko aber nicht. Drei Mechanismen wirken dabei zusammen: Grounding (die Antwort entsteht nur aus dem abgerufenen Kontext, nicht aus freiem Modellwissen), Quellenbezug (jede Antwort verweist auf die Passage, aus der sie stammt, und bleibt nachprüfbar) und Eskalation (findet das Retrieval keine passende Passage, sagt das System das offen oder übergibt an einen Menschen).

Die Grenze gehört ehrlich benannt: Die Antwortqualität ist nie besser als die Wissensbasis. Veraltete oder widersprüchliche Inhalte erzeugen falsche Antworten — mit korrekt wirkender Quellenangabe, was sie besonders tückisch macht. Kuratierung ist deshalb keine Kür, sondern Pflicht: Die Wissensbasis braucht geprüfte, aktuelle und widerspruchsfreie Inhalte, damit Grounding und Quellenbezug ihren Wert behalten.

RAG, Fine-Tuning oder reines LLM: Was unterscheidet die Ansätze?

Ein reines LLM antwortet aus seinem Trainingswissen, Fine-Tuning passt die Modellgewichte an einen eigenen Datensatz an, und RAG lässt das Modell unverändert, liefert Wissen aber zur Laufzeit aus einer aktualisierbaren Wissensbasis — für firmenspezifische, aktuelle und nachprüfbare Antworten ist RAG deshalb meist der wartbarste Ansatz.

Die Ansätze schliessen sich nicht aus: RAG kann auf einem feinjustierten Modell laufen, wenn zusätzlich ein besonderer Stil gefragt ist. Für das typische KMU-Szenario — eigene Inhalte, regelmässige Aktualisierung, nachprüfbare Antworten — genügt RAG allein.

Warum ist eine semantisch strukturierte Website die beste Wissensbasis?

Eine semantisch strukturierte Website ist die beste Wissensbasis für einen RAG-Chatbot, weil saubere Heading-Hierarchie, in sich geschlossene Antwortabsätze, deckungsgleiches JSON-LD und Markdown-Twins genau die Textabschnitte liefern, die Chunking und Retrieval präzise machen — Semantic SEO und RAG belohnen dieselbe Struktur. Was Semantic SEO für Ihre Website leistet, erklärt die Methoden-Seite; hier zählt die Konsequenz für den Chatbot: Jeder Absatz, der eine Frage vollständig beantwortet, ist bereits ein idealer Chunk.

Die Parallele reicht tiefer: Was den Abruf-Aufwand für Google und KI-Antwortmaschinen senkt, senkt auch den Abruf-Aufwand des eigenen Retrievers — die sechs Faktoren der Cost of Retrieval gelten auch für den Retriever des eigenen Chatbots. Ein Investment, zwei Abnehmer: externe KI-Systeme, die Ihre Inhalte zitieren, und der eigene Chatbot, der daraus antwortet. Dazu kommt die maschinenlesbare Schicht: wie Markdown-Twins Content-Parity sichern, zeigt der Struktur-Artikel — dieselben Dateien speisen die Wissensbasis, ohne dass Navigation, Skripte oder Layout-Reste mitgeschleppt werden.

Der Eigenbeweis ist öffentlich prüfbar: Die Maschinen-Schicht von studioerdinc.ch — llms.txt, Markdown-Twins, JSON-LD @graph, Lighthouse je 100 in Accessibility, Best Practices und SEO — ist exakt die Struktur, die eine RAG-Wissensbasis braucht; der kuratierte Einstiegspunkt dafür ist Aufbau und Zweck von llms.txt. Daraus folgt der Umkehrschluss: Wer die Website erst strukturieren muss, baut die Wissensbasis doppelt — wer semantisch baut, hat sie beim Chatbot-Projekt schon fertig.

Was bedeutet RAG in der Praxis für ein Schweizer KMU?

Für ein Schweizer KMU heisst RAG konkret: Der Chatbot beantwortet Kundenfragen zu Leistungen, Abläufen und Öffnungszeiten aus den eigenen, geprüften Inhalten — rund um die Uhr, mit Quellenbezug und Übergabe an Menschen bei komplexen Anliegen. Drei Beispiele als Illustration: Ein Treuhandbüro lässt Fragen zu Fristen und benötigten Unterlagen beantworten, eine Praxis die Terminvorbereitung erklären, ein Handwerksbetrieb Leistungen und Einsatzgebiet klären — jeweils aus den eigenen Inhalten, nicht aus dem Internet.

Einen fertig eingerichteten RAG-Chatbot für Schweizer KMU mit Ihrer Website als Wissensbasis richtet Studio Erdinc für CHF 4'900 einmalig plus CHF 99/Mt. Betrieb (bis 1'000 Chats/Mt.) ein — Leistungsumfang, Ablauf und Demo beschreibt die Angebotsseite. Wer Marktspannen und Vergleiche sucht: Alle Chatbot-Preisspannen in CHF mit Quellen und Datum zeigt der Kosten-Artikel. Und weil ein Chatbot Personendaten bearbeitet, gehören Datenbearbeitung, Protokollierung und Hosting-Standort nach revDSG von Anfang an ins Konzept.

Zur rechtlichen Seite des Betriebs — Kennzeichnung, Auftragsbearbeitung, Berechtigungskonzept — führt der Ratgeber DSG-Konformität von RAG-Chatbots.

Häufige Fragen zu RAG (Retrieval-Augmented Generation)

Was bedeutet RAG bei einem Chatbot?

RAG steht für Retrieval-Augmented Generation: Der Chatbot ruft vor jeder Antwort passende Passagen aus einer eigenen Wissensbasis ab und formuliert die Antwort aus diesen Fakten statt aus freiem Modellwissen. Das macht Antworten firmenspezifisch und nachprüfbar.

Was sind Embeddings, einfach erklärt?

Embeddings sind Zahlenreihen, die die Bedeutung eines Textes als Position in einem Vektorraum kodieren — inhaltlich ähnliche Texte liegen dort nahe beieinander. So kann ein RAG-System Passagen nach Bedeutung statt nach Stichworten finden.

Was macht eine Vektor-Datenbank?

Eine Vektor-Datenbank speichert Embeddings und findet zu einer Anfrage die semantisch ähnlichsten Textabschnitte. Sie ist das Gedächtnis eines RAG-Chatbots — die Inhalte selbst stammen aus der kuratierten Wissensbasis des Unternehmens.

Verhindert RAG Halluzinationen vollständig?

Nein — RAG reduziert Halluzinationen deutlich, weil Antworten auf abgerufenen Passagen gründen und das System bei fehlender Quelle passen kann. Die Antwortqualität bleibt aber immer von der Qualität und Aktualität der Wissensbasis abhängig.

Was ist der Unterschied zwischen RAG und Fine-Tuning?

Fine-Tuning verändert die Gewichte des Sprachmodells durch zusätzliches Training; RAG lässt das Modell unverändert und liefert Wissen zur Laufzeit aus einer Wissensbasis. Neue Inhalte sind bei RAG darum sofort verfügbar — ohne neues Training.

Welche Website eignet sich als Wissensbasis für einen RAG-Chatbot?

Eine semantisch strukturierte Website mit klarer Heading-Hierarchie, in sich geschlossenen Antwortabsätzen und maschinenlesbaren Fassungen wie Markdown-Twins und JSON-LD. Dieselbe Struktur, die Semantic SEO belohnt, macht auch das Retrieval des Chatbots präzise.

Quellen

Belegstellen dieses Beitrags mit Organisation, Jahr und Link; eigene Erhebungen mit Methode und Datum. Geprüft am 6. September 2026.

1. Lewis et al. (Facebook AI Research): Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, arXiv 2005.11401, 2020. arxiv.org
2. Fedlex: Bundesgesetz über den Datenschutz (DSG), SR 235.1, 2023. fedlex.admin.ch