BusFactor
Zurück zum Blog
Methodensynthese11 Min.20. Mai 20261700 Wörter

RAG-Foundations: Warum Retrieval-Augmented Generation der wissenschaftliche Standard für vertrauenswürdige KI-Antworten ist

Wer KI-Antworten in einem Unternehmenskontext einsetzt, kann sich keine erfundenen Aussagen leisten. Die wissenschaftliche Antwort darauf heißt Retrieval-Augmented Generation (RAG) — und sie ist nicht ein Marketing-Begriff, sondern ein präzise definiertes Methodenfeld. Vier Paper haben die Grundlagen gelegt: REALM (Guu et al., 2020) [1], Dense Passage Retrieval (Karpukhin et al., 2020) [2], RAG (Lewis et al., 2020) [3] und Fusion-in-Decoder (Izacard & Grave, 2021) [4].

1. REALM — Retrieval als Teil des Modells

Guu, Lee, Tung, Pasupat und Chang [1] haben 2020 bei ICML gezeigt, dass ein Sprachmodell, das während des Pre-Trainings auf einen lernbaren Retriever zugreift, bei Open-Domain-QA-Benchmarks (Natural Questions, WebQuestions, CuratedTrec) deutlich besser abschneidet als rein parametrische Modelle gleicher Größe. Der konzeptionelle Bruch: Wissen wird nicht mehr nur in Gewichten gespeichert, sondern explizit aus einer Wissensbasis geholt.

Für die Praxis heißt das: Wer KI-Antworten auf interne Dokumente stützen will, kann sich auf eine Methodenlinie berufen, die seit 2020 Standard in der NLP-Spitzenforschung ist.

2. Dense Passage Retrieval — semantische Suche, die wirklich findet

Karpukhin, Oğuz, Min, Lewis und Kolleg:innen [2] haben 2020 bei EMNLP gezeigt, dass ein Bi-Encoder-Modell (zwei BERT-Türme für Frage und Passage) klassische BM25-Suche bei Open-Domain-QA in fast allen Benchmarks deutlich schlägt — bei Natural Questions um über 9 Prozentpunkte Top-20-Genauigkeit. Wichtig: DPR funktioniert bereits mit relativ wenigen annotierten Trainingsfragen, was es für Unternehmenseinsätze realistisch macht.

Die Konsequenz: Wer 2026 noch reine Keyword-Suche im Wissensmanagement einsetzt, lässt empirisch nachweisbare Trefferqualität liegen.

3. RAG — die Synthese aus Retrieval und Generierung

Lewis, Perez, Piktus, Petroni und Kolleg:innen [3] haben 2020 bei NeurIPS das definierende Paper geliefert, das dem Feld seinen Namen gab: Retrieval-Augmented Generation. Das Modell kombiniert einen DPR-Retriever mit einem BART-Decoder, der die abgerufenen Passagen in die Antwortgenerierung einbezieht.

Zwei Befunde sind für KM relevant:

  • Faktentreue steigt messbar: RAG-Antworten enthalten signifikant weniger erfundene Aussagen als reine generative Modelle.
  • Modell-Updates ohne Re-Training: Neue Fakten landen im Retrieval-Index, nicht im Modell selbst — entscheidend für ein lebendiges Unternehmens-Wissensmanagement.

4. Fusion-in-Decoder — Skalierung auf viele Quellen

Izacard und Grave [4] haben 2021 bei EACL gezeigt, dass die Art, wie abgerufene Passagen in den Decoder eingespeist werden, entscheidend ist. Ihre Fusion-in-Decoder-Architektur (FiD) verarbeitet jede Passage zunächst getrennt im Encoder und fusioniert sie erst im Decoder — das erlaubt es, deutlich mehr Passagen (50–100) gleichzeitig zu nutzen, ohne dass die Kontextlänge explodiert.

5. Warum diese vier Paper zusammen die Architektur definieren

Die vier Arbeiten greifen ineinander: REALM zeigt, dass Retrieval Teil des Lernsignals sein muss. DPR liefert den brauchbaren semantischen Retriever. RAG kombiniert beides als End-to-End-System. FiD löst das Skalierungsproblem auf viele Quellen. Genau diese Architekturlinie liegt der BusFactor-Plattform zugrunde — ergänzt um die Knowledge-Management-Forschung aus den anderen Methodensträngen (siehe Methodik-Bibliothek).

6. Was das für mittelständische Wissens-KI bedeutet

  • Kein Halluzinations-Roulette: Jede Antwort verweist auf reale Passagen aus eigenen Dokumenten.
  • Lebendiges Wissen: Aktualisierungen passieren im Index, nicht im Modell.
  • Auditierbarkeit: Quellen sind nachvollziehbar — Voraussetzung für ISO 9001, DSGVO und Mitbestimmung.
  • Mehrquellen-Antworten: FiD-ähnliche Architekturen erlauben es, mehrere Rollenwissen-Fragmente zu kombinieren.

Fazit

RAG ist keine Mode, sondern der wissenschaftliche Standard für vertrauenswürdige KI-Antworten in wissensintensiven Domänen. Die vier Grundlagenarbeiten von 2020/2021 definieren das Methodenfeld bis heute. BusFactor implementiert genau diese Linie — und macht sie über die Methodik-Seite und Standards-Hub transparent.

Quellen

  1. [1]
    Guu, K., Lee, K., Tung, Z., Pasupat, P., & Chang, M.-W. (2020). REALM: Retrieval-augmented language model pre-training. Proceedings of the 37th International Conference on Machine Learning (ICML 2020), PMLR 119.
  2. [2]
    Karpukhin, V., Oğuz, B., Min, S., Lewis, P., Wu, L., Edunov, S., Chen, D., & Yih, W.-t. (2020). Dense passage retrieval for open-domain question answering. Proceedings of EMNLP 2020. https://doi.org/10.18653/v1/2020.emnlp-main.550
  3. [3]
    Lewis, P., Perez, E., Piktus, A., Petroni, F., Karpukhin, V., Goyal, N., Küttler, H., Lewis, M., Yih, W.-t., Rocktäschel, T., Riedel, S., & Kiela, D. (2020). Retrieval-augmented generation for knowledge-intensive NLP tasks. Advances in Neural Information Processing Systems 33 (NeurIPS 2020).
  4. [4]
    Izacard, G., & Grave, E. (2021). Leveraging passage retrieval with generative models for open domain question answering. Proceedings of EACL 2021, 874–880.

Weiterlesen

Wie steht es um Ihren Bus-Faktor?

Lassen Sie uns die kritischen Rollen in Ihrem Unternehmen gemeinsam identifizieren — strukturiert, rollenbezogen und ohne Mitarbeiterüberwachung.

Kostenlose Risikoanalyse anfragen