Warum RAG allein nicht ausreicht

Warum gute Antworten nicht nur von Dokumenten, sondern vor allem vom Kontext abhängen.

Artikelserie: Enterprise Context
Dieser Beitrag ist Teil einer fortlaufenden Artikelserie über Enterprise Context und intelligente Wissenssysteme.

Vorheriger Beitrag:
→ Was ist Enterprise Context?

Seit ChatGPT den Sprung in den Unternehmensalltag geschafft hat, gehört Retrieval-Augmented Generation – kurz RAG – zu den meistdiskutierten Konzepten im Bereich der Unternehmens-KI. Kaum ein Anbieter kommt heute ohne den Hinweis aus, seine Lösung sei „RAG-basiert“ und ermögliche es, mit den eigenen Dokumenten zu chatten.

Tatsächlich hat RAG einen entscheidenden Fortschritt gebracht. Statt Sprachmodelle ausschließlich mit ihrem Trainingswissen arbeiten zu lassen, können sie auf aktuelle und unternehmensinterne Informationen zugreifen. Damit lassen sich Halluzinationen reduzieren und Antworten mit konkreten Quellen belegen. Für viele Anwendungsfälle ist das ein enormer Gewinn.

Dennoch entsteht häufig der Eindruck, RAG sei bereits die Lösung für intelligentes Wissensmanagement. Genau an dieser Stelle lohnt sich ein genauerer Blick.

RAG findet Dokumente – aber versteht nicht automatisch ihre Bedeutung

Das Grundprinzip von RAG ist vergleichsweise einfach. Eine Suchkomponente durchsucht Dokumente nach passenden Inhalten und stellt diese einem Sprachmodell als zusätzlichen Kontext zur Verfügung. Das Modell formuliert daraus eine Antwort.

Für viele Fragestellungen funktioniert dieses Verfahren erstaunlich gut. Wer nach einer Richtlinie, einer Vertragsklausel oder einer technischen Dokumentation sucht, erhält häufig in wenigen Sekunden eine brauchbare Antwort.

Doch Unternehmen bestehen nicht nur aus Dokumenten.

Sie bestehen aus Menschen, Projekten, Entscheidungen, Prozessen, Verantwortlichkeiten und Erfahrungen. Ein Dokument ist immer nur ein Ausschnitt dieser Wirklichkeit.

Die eigentliche Herausforderung beginnt dort, wo Informationen über mehrere Systeme verteilt sind und erst ihre Beziehungen eine vollständige Antwort ermöglichen.

Wissen entsteht zwischen den Dokumenten

Angenommen, ein Vertriebsmitarbeiter fragt:

"Welche Erfahrungen haben wir mit ähnlichen Projekten bei mittelständischen Maschinenbauunternehmen gemacht?"

Die Antwort findet sich selten in einem einzelnen Dokument. Vielleicht liegen Projektberichte im Dokumentenmanagementsystem, Rechnungen im ERP, Gesprächsnotizen im CRM, technische Entscheidungen im Ticketsystem und wichtige Erkenntnisse ausschließlich in den Köpfen der beteiligten Mitarbeitenden.

Ein klassisches RAG-System durchsucht Dokumente. Es erkennt jedoch nicht automatisch, dass all diese Informationen zusammengehören.

Genau dort beginnt Enterprise Context.

Kontext verbindet, was bislang getrennt war

Enterprise Context betrachtet Informationen nicht isoliert, sondern als Teil eines größeren Beziehungsnetzes. Kunden stehen mit Projekten in Verbindung, Projekte mit Dokumenten, Dokumente mit Entscheidungen und Entscheidungen wiederum mit Erfahrungen aus früheren Vorhaben.

Erst diese Verbindungen ermöglichen Antworten, die über das Auffinden einzelner Textstellen hinausgehen.

Das Ziel besteht deshalb nicht darin, RAG zu ersetzen. Im Gegenteil: RAG bleibt ein wichtiger Baustein. Entscheidend ist jedoch, dass die Suchergebnisse in einen strukturierten Unternehmenskontext eingebettet werden.

Die nächste Entwicklungsstufe

Viele Unternehmen befinden sich derzeit auf dem Weg von klassischen Suchsystemen zu RAG-Anwendungen. Das ist ein sinnvoller Schritt.

Langfristig wird sich die Frage jedoch verändern.

Nicht mehr: „Welches Dokument enthält die Antwort?“

Sondern: „Welche Informationen, Erfahrungen und Entscheidungen gehören zu dieser Frage zusammen?“

Damit verschiebt sich der Fokus von der Dokumentensuche zum Verständnis der Zusammenhänge.

Genau darin liegt aus unserer Sicht der nächste Entwicklungsschritt intelligenter Unternehmenssysteme.

Fazit

RAG ist eine wertvolle Technologie und wird auch künftig ein zentraler Bestandteil moderner Wissenssysteme bleiben. Wer jedoch nachhaltiges Unternehmenswissen verfügbar machen möchte, benötigt mehr als eine gute Dokumentensuche.

Erst wenn Informationen in ihren Beziehungen verstanden werden, entsteht das, was wir in dieser Artikelserie als Enterprise Context bezeichnen.

Nicht Dokumente allein beantworten komplexe Fragen.

Der Zusammenhang zwischen ihnen tut es.

Weiterlesen

Vorheriger Beitrag

← Was ist Enterprise Context?

Nächster Beitrag

→ Vom Dokument zum Wissenssystem (erscheint in Kürze)

Artikelserie: Enterprise Context

Diese Veröffentlichung ist Teil einer fortlaufenden Artikelserie über Enterprise Context und intelligente Wissenssysteme.

• Informationen sind überall. Kontext fast nirgends.
• Was ist Enterprise Context?
• Warum RAG allein nicht ausreicht
• Vom Dokument zum Wissenssystem
• Warum Wissensgraphen wieder wichtig werden
• Das STARE Framework
• Die Architektur intelligenter Organisationen