RAG System Präsentation: Wie Sie Ihre Daten effektiv präsentieren
Autor: Provimedia GmbH
Veröffentlicht:
Kategorie: KI-Tools & Workflows
Relevante Datenquellen für eine RAG-Präsentation auswählen
Die Qualität einer RAG-Präsentation beginnt nicht beim Foliendesign, sondern bei der Auswahl der Daten. Zeigen Sie nicht möglichst viele Quellen, sondern diejenigen, die Ihre zentrale Aussage wirklich tragen. So bleibt die Präsentation klar, prüfbar und nah am Anwendungsfall.
Ordnen Sie jede Quelle zunächst nach ihrer Rolle im System. Für eine Unternehmenspräsentation eignen sich meist vier Gruppen:
- Primärdaten: Richtlinien, Verträge, technische Handbücher oder freigegebene Prozessdokumente
- Strukturdaten: Produktkataloge, Kundensegmente, Lagerbestände oder Kennzahlen aus Geschäftssystemen
- Aktualitätsdaten: Meldungen, Preislisten, Versionsstände oder interne Statusberichte
- Kontextdaten: Glossare, Rollenmodelle und Metadaten zur Einordnung von Begriffen und Dokumenten
Für jede Quelle sollten Sie vier Fragen beantworten: Wer hat sie erstellt? Wie aktuell ist sie? Für welche Nutzergruppe gilt sie? Und lässt sich ihre Aussage im Original prüfen? Diese Angaben gehören in eine kleine Quellenkarte auf der Folie. Ein Dokument ohne Besitzer, Versionsnummer oder Gültigkeitsdatum wirkt schnell wie eine lose Behauptung.
Besonders geeignet sind Quellen mit klarer Struktur und erkennbarem Geltungsbereich. Eine freigegebene Arbeitsanweisung ist für eine Prozessfrage meist wertvoller als ein langer Ordner mit alten Notizen. Auch ein gut gepflegtes Glossar kann entscheidend sein: Es verhindert, dass das System interne Abkürzungen oder mehrdeutige Fachbegriffe falsch deutet.
Trennen Sie zwischen Beispieldaten und Produktivdaten. Für eine Live-Demo genügen anonymisierte Datensätze. Die Folie sollte aber sichtbar machen, ob die Antwort aus einem realen Bestand, einer Testkopie oder einem künstlich erstellten Beispiel stammt. Das schafft Vertrauen und verhindert falsche Erwartungen.
Nutzen Sie für die Präsentation am besten eine kleine Quellenmatrix:
- Quelle und Dokumenttyp
- fachlicher Eigentümer
- letzte Aktualisierung
- Gültigkeitszeitraum
- Vertraulichkeitsstufe
- geplante Verwendung in der Demo
Vertrauliche Inhalte sollten Sie vor der Präsentation konsequent anonymisieren. Entfernen Sie Namen, Kundennummern, interne Kennungen und seltene Kombinationen von Merkmalen. Bei Gesundheits-, Personal- oder Finanzdaten reicht es nicht, nur einzelne Namen auszublenden; auch indirekte Rückschlüsse müssen ausgeschlossen werden.
Ein sinnvoller Auswahltest ist klein, aber wirksam: Nehmen Sie drei typische Nutzerfragen und prüfen Sie, ob die ausgewählten Quellen jeweils eine belastbare Antwort ermöglichen. Fehlt bei einer Frage die passende Grundlage, ist nicht automatisch das Sprachmodell das Problem. Oft wurde schlicht die falsche Datenquelle gewählt. Genau dieser Befund eignet sich gut für eine Präsentationsfolie, weil er den Zusammenhang zwischen Datenqualität und Antwortqualität sichtbar macht.
Für eine überzeugende Darstellung genügt meist eine Hauptquelle mit zwei ergänzenden Quellen. Eine Folie mit 20 Dokumenten sagt wenig aus. Eine Folie mit drei sauber beschriebenen Quellen, ihrem Gültigkeitsdatum und einer passenden Beispielantwort sagt deutlich mehr.
Das RAG-Prinzip mit Retrieval, Augmentation und Generation zeigen
Zeigen Sie das RAG-Prinzip als klaren Ablauf mit drei Stationen: Retrieval, Augmentation und Generation. Eine horizontale Prozessgrafik reicht meist aus. Sie führt das Publikum von der Nutzerfrage bis zur fertigen Antwort und macht sichtbar, an welcher Stelle Daten in den Ablauf gelangen.
Beginnen Sie links mit einer konkreten Frage, nicht mit einer abstrakten Definition. Ein Beispiel wie „Welche Rückgabefrist gilt für Geschäftskunden?“ funktioniert besser als ein Platzhalter wie „Nutzeranfrage“. Die Frage gibt der gesamten Folie einen roten Faden.
Im ersten Schritt, dem Retrieval, sucht das System passende Inhalte. Stellen Sie hier nicht nur ein Suchfeld dar. Zeigen Sie auch, nach welchem Kriterium Ergebnisse ausgewählt werden: etwa nach semantischer Nähe, Fachbegriff, Dokumenttyp oder Gültigkeitsdatum. So wird deutlich, dass die Suche mehr leistet als eine einfache Stichwortabfrage.
Der zweite Schritt ist die Augmentation. Dabei verbindet das System die Nutzerfrage mit den gefundenen Textstellen. Visualisieren Sie diesen Vorgang als Zusammenführung: oben die Frage, darunter zwei oder drei relevante Ausschnitte, daneben die daraus gebildete Kontextanweisung. Nicht jeder gefundene Inhalt gelangt in den Prompt, sondern nur der ausgewählte Kontext.
Bei der Generation entsteht schließlich die Antwort. Zeigen Sie auf der Folie zwei Ebenen:
- die formulierte Antwort für den Nutzer
- die zugehörigen Belegstellen aus dem verwendeten Kontext
Damit wird ein wichtiger Unterschied sichtbar: Das Modell schreibt die Antwort, liefert aber nicht automatisch den Beweis dafür. Die Belege müssen vom System gezielt mitgeführt und verständlich angezeigt werden. Das ist für eine glaubwürdige Präsentation der Knackpunkt.
Eine gute Prozessgrafik enthält außerdem drei kleine Statusangaben:
- Retrieval: 5 Treffer gefunden
- Augmentation: 2 Passagen ausgewählt
- Generation: Antwort mit Quellenhinweisen erstellt
Diese Angaben machen den Ablauf greifbar, ohne technische Details zu überladen. Nutzen Sie für jede Phase eine eigene Farbe, aber behalten Sie die Farblogik auf allen Folien bei. Ein dezentes Blau für die Suche, ein warmes Gelb für die Kontextbildung und ein dunkles Grün für die Antwort genügen völlig.
Für eine Live-Demonstration eignet sich ein Vorher-nachher-Vergleich. Zeigen Sie zunächst die Frage ohne zusätzlichen Kontext und danach dieselbe Frage mit eingebundenen Belegstellen. Der Unterschied sollte an einem konkreten Detail sichtbar werden, etwa an einer korrekten Frist, einer Produktversion oder einer internen Definition.
Vermeiden Sie die Übertreibung, RAG garantiere eine richtige Antwort. Das Verfahren stellt dem Modell passende Informationen bereit. Ob daraus eine belastbare Antwort entsteht, hängt unter anderem von der Qualität des Kontexts, der Formulierung der Anweisung und der Verarbeitung durch das Modell ab. Diese nüchterne Aussage wirkt in einer Präsentation oft überzeugender als ein großes Erfolgsversprechen.
Die Systemarchitektur mit Retriever, Ranker und Generator visualisieren
Visualisieren Sie die RAG-Architektur als Pipeline mit klaren Übergaben. Die zentrale Frage lautet nicht nur: „Welche Bausteine gibt es?“ Entscheidend ist: Welche Information verlässt jeden Baustein und wie verändert sie sich dabei?
Beginnen Sie mit der Nutzeranfrage. Von dort führt ein Pfeil zum Retriever. Dieser durchsucht den vorbereiteten Index und gibt zunächst eine Trefferliste zurück. Auf der Folie sollten Sie neben jedem Treffer mindestens Titel, Abschnitt und Relevanzwert zeigen. Dadurch wird sichtbar, dass das System nicht direkt eine fertige Antwort findet, sondern zuerst Kandidaten sammelt.
Der Ranker übernimmt danach die feinere Auswahl. Er bewertet die Kandidaten erneut und sortiert sie nach ihrer Eignung für die konkrete Frage. Ein anschauliches Folienbild zeigt deshalb fünf gefundene Passagen vor dem Ranker und zwei priorisierte Passagen danach. So lässt sich der Unterschied zwischen breiter Suche und präziser Auswahl sofort erkennen.
Der Generator erhält anschließend die Frage, den ausgewählten Kontext und die Vorgaben für das Antwortformat. Stellen Sie diese drei Eingaben getrennt dar. Das Publikum erkennt dann, dass die Antwort nicht allein aus der Suchkomponente kommt, sondern durch das Sprachmodell aus mehreren Bestandteilen formuliert wird.
Für eine verständliche Grafik eignet sich folgende Reihenfolge:
- Anfrage: Frage, Benutzerrolle und gewünschtes Ausgabeformat
- Retriever: Kandidaten aus dem Index
- Ranker: geordnete Treffer mit Bewertungswerten
- Generator: Kontext plus Anweisung
- Ausgabe: Antwort, Quellenverweise und gegebenenfalls ein Unsicherheitshinweis
Trennen Sie in der Darstellung den Offline-Pfad vom Online-Pfad. Im Offline-Pfad werden Dokumente verarbeitet, mit Metadaten versehen und in einem Suchindex abgelegt. Im Online-Pfad läuft die aktuelle Anfrage durch Retriever, Ranker und Generator. Eine gestrichelte Linie für den Offline-Pfad verhindert, dass das Publikum glaubt, die Dokumente würden bei jeder Frage vollständig neu verarbeitet.
Ergänzen Sie an den Verbindungspfeilen kleine Messwerte. Sinnvoll sind etwa die Anzahl der Treffer, die Latenz pro Komponente und die Größe des an den Generator übergebenen Kontexts. Typische Werte hängen stark vom System ab; für eine Demo können Sie beispielsweise 80 Millisekunden für die Suche, 120 Millisekunden für das Ranking und 1,2 Sekunden für die Antwortbildung zeigen. Kennzeichnen Sie solche Zahlen klar als Beispielwerte.
Eine gute Architekturfolie zeigt auch Fehlerstellen. Markieren Sie etwa drei Abzweigungen: kein passender Treffer, widersprüchliche Dokumente oder ein überschrittenes Kontextlimit. Für jeden Fall braucht die Grafik eine sichtbare Reaktion, zum Beispiel eine Rückfrage, eine Weiterleitung an eine Fachperson oder eine Antwort mit begrenzter Aussage. Genau hier wird aus einer hübschen Schaubild-Pipeline ein belastbares Systembild.
Verwenden Sie pro Komponente eine kurze Rollenbeschreibung und höchstens einen technischen Detailwert. Zu viele Klassen, Schnittstellen und Datenbanknamen machen die Folie schwer lesbar. Eine zweite Architekturfolie kann später die internen Datenflüsse zeigen; auf der ersten muss die Logik in wenigen Sekunden erfassbar sein.
Unternehmensdaten für aktuelle und präzise Antworten aufbereiten
Unternehmensdaten müssen vor dem Einsatz in einem RAG-System fachlich, technisch und organisatorisch bereinigt werden. Eine Präsentation sollte deshalb nicht nur die spätere Antwort zeigen, sondern auch den Weg von der Rohinformation zur nutzbaren Wissenseinheit sichtbar machen.
Beginnen Sie mit einer Bestandsaufnahme der Datenfelder. Für jede Quelle sollten Sie festhalten, welche Angaben für eine Antwort nötig sind und welche nur Ballast darstellen. Bei einer Produktanfrage können das etwa Produkt-ID, Modellstand, Lieferregion, Preisgültigkeit und Verfügbarkeit sein. Freitext ohne Bezug zur Frage gehört nicht automatisch in den Kontext.
Ein besonders wichtiger Schritt ist die fachliche Bereinigung. Entfernen Sie veraltete Versionen, doppelte Einträge und widersprüchliche Aussagen. Wenn zwei Dokumente unterschiedliche Fristen nennen, darf das System diesen Konflikt nicht stillschweigend glätten. Kennzeichnen Sie stattdessen Gültigkeitsregeln, Freigabestatus und Prioritäten.
Für die Präsentation eignet sich eine Vorher-nachher-Darstellung:
- Rohdatensatz mit uneinheitlichen Bezeichnungen
- bereinigter Datensatz mit einheitlichen Fachbegriffen
- Antwort, die auf dem bereinigten Datensatz basiert
Ergänzen Sie jede Information um aussagekräftige Metadaten. Dazu zählen beispielsweise Abteilung, Region, Sprache, Produktgruppe, Freigabestatus und Gültigkeitsbeginn. Metadaten steuern, welche Inhalte für eine bestimmte Frage überhaupt infrage kommen. Sie machen aus einem anonymen Textabschnitt eine fachlich einordenbare Information.
Achten Sie auf konsistente Schreibweisen. „Kündigungsfrist“, „Frist bei Kündigung“ und „Beendigungsfrist“ können im Alltag dasselbe meinen, für eine Suche aber unterschiedliche Signale liefern. Ein gepflegtes Synonymverzeichnis und eindeutige Feldnamen schaffen hier Ordnung.
Bei zeitabhängigen Informationen sollte die Präsentation den Gültigkeitszeitraum ausdrücklich zeigen. Eine Preisliste vom 1. März 2026 darf nicht wie eine zeitlose Aussage wirken. Verwenden Sie deshalb Angaben wie „gültig ab“, „gültig bis“ und „ersetzt Version“. So erkennt das Publikum, warum eine bestimmte Information bevorzugt wird.
Auch strukturierte Daten benötigen eine fachliche Übersetzung. Ein ERP-Feld mit dem Wert „A17“ hilft Nutzern kaum. Die Präsentation sollte zeigen, wie daraus eine verständliche Bedeutung entsteht, etwa „Expressversand verfügbar“. Bewahren Sie dabei den Originalwert im Hintergrund auf, damit die Zuordnung später nachvollziehbar bleibt.
Planen Sie Regeln für fehlende Angaben ein. Enthält ein Kundendatensatz keine Region, sollte das System nicht einfach eine beliebige Region annehmen. Eine gute Präsentation zeigt in diesem Fall eine Rückfrage oder eine klar begrenzte Antwort. Solche Szenen machen reale Datenlücken sichtbar.
Für sensible Inhalte sollte die Aufbereitung rollenabhängig erfolgen. Ein Vertriebsmitarbeiter benötigt möglicherweise andere Felder als ein Serviceteam. Diese Zugriffssicht gehört als eigenes Element in die Darstellung: Wer darf welche Information sehen, und welche Antwort bleibt deshalb bewusst unvollständig?
Als Qualitätsprobe können Sie fünf typische Fragen gegen die aufbereiteten Daten laufen lassen. Bewerten Sie dabei nicht nur, ob eine Antwort entsteht. Prüfen Sie auch, ob Begriffe korrekt zugeordnet, Zeitstände beachtet und fehlende Werte offen benannt werden. Diese drei Kriterien zeigen deutlich besser als eine bloße Trefferquote, ob Unternehmensdaten präsentationsreif sind.
Chunking, Embeddings und Vektordatenbanken verständlich darstellen
Erklären Sie Chunking, Embeddings und Vektordatenbanken als drei aufeinanderfolgende Verarbeitungsschritte. Eine einfache Grafik mit den Stationen „Dokument“, „Textabschnitt“, „Zahlenvektor“ und „Suchindex“ reicht meist aus. Entscheidend ist, dass das Publikum den Datenweg versteht.
Beim Chunking wird ein längeres Dokument in kleinere Abschnitte geteilt. Jeder Abschnitt sollte genug Zusammenhang behalten, aber nicht unnötig viel Inhalt mitbringen. Zeigen Sie auf der Folie deshalb ein Dokument mit markierten Textblöcken und kennzeichnen Sie eine kleine Überlappung zwischen benachbarten Abschnitten. Diese Überlappung verhindert, dass ein Satz genau an einer Trennstelle seinen Sinn verliert.
Die Chunk-Größe ist kein fester Standardwert. Für Fließtext liegen typische Bereiche oft zwischen etwa 200 und 800 Wörtern. Technische Tabellen, Vertragsklauseln oder Quellcode brauchen jedoch andere Grenzen. Eine gute Präsentation erklärt daher nicht nur einen Zahlenwert, sondern die Regel dahinter: Ein Chunk endet möglichst an einer fachlich sinnvollen Einheit.
Ergänzen Sie jeden Abschnitt um seine Herkunft. Seitenzahl, Kapitel, Dokument-ID und Überschrift sind besonders nützlich. Diese Angaben beeinflussen nicht nur die spätere Suche, sondern auch die Darstellung der Fundstelle. Ein Textblock ohne Herkunft ist für eine Demo zwar schnell erstellt, fachlich aber kaum belastbar.
Beim Embedding wird ein Text in eine Zahlenfolge umgewandelt. Diese Zahlenfolge beschreibt nicht die Wörter als Liste, sondern Beziehungen zwischen Bedeutungen. Ähnliche Inhalte liegen im Vektorraum näher beieinander als thematisch entfernte Inhalte. Visualisieren Sie das am besten mit Punkten in einer zweidimensionalen Skizze: „Lieferzeit“ und „Versanddauer“ liegen nahe zusammen, „Urlaubsantrag“ deutlich weiter entfernt.
Die Grafik darf dabei vereinfachen. Ein reales Embedding besitzt häufig mehrere hundert oder mehr Dimensionen und lässt sich nicht direkt als normale Landkarte anzeigen. Weisen Sie auf der Folie klein darauf hin, dass die zweidimensionale Ansicht nur eine Projektion ist.
Bei der Suchanfrage wird ebenfalls ein Vektor erzeugt. Die Datenbank vergleicht diesen Anfragevektor mit den gespeicherten Vektoren. Häufig wird dafür die Kosinus-Ähnlichkeit verwendet. Ein Wert nahe 1 deutet auf eine hohe Richtungsähnlichkeit hin; der Wert allein beweist jedoch noch nicht, dass eine Passage fachlich korrekt ist.
Die Vektordatenbank speichert deshalb mehr als Zahlenwerte. Für eine überzeugende Präsentation sollten Sie drei Ebenen zeigen:
- Vektor: mathematische Repräsentation des Textes
- Inhalt: der zugehörige Chunk
- Metadaten: Herkunft, Version, Sprache und weitere Filterangaben
Stellen Sie die Suche mit einer kleinen Beispielabfrage dar. Eine Nutzerfrage erzeugt einen Suchvektor; die Datenbank liefert die nächstgelegenen Einträge. Zeigen Sie neben den Treffern auch die Distanz oder den Ähnlichkeitswert. So wird klar, warum ein Ergebnis weit oben steht und ein anderes nicht.
Für die Architekturfolie lohnt sich außerdem ein Hinweis auf die Indexierungsphase. Die Dokumente werden dabei einmalig oder nach Änderungen verarbeitet. Erst danach kann die Suchanfrage schnell auf den Index zugreifen. Wird ein Dokument geändert, muss sein betroffener Abschnitt neu eingebettet werden. Diese Aktualisierung sollte in der Präsentation als eigener Pfeil erscheinen, nicht als unsichtbarer Automatismus.
Vermeiden Sie eine Darstellung, in der jeder Treffer automatisch als passend gilt. Ein Vektorindex misst Ähnlichkeit, nicht Wahrheit. Fachliche Filter, Mindestwerte und die spätere Bewertung der Ergebnisse bleiben deshalb eigenständige Schritte.
Den Retrieval-Prozess mit einem konkreten Beispiel erklären
Ein verständliches Beispiel macht den Retrieval-Prozess greifbar: Ein Servicemitarbeiter fragt: „Welche Garantie gilt für das Modell X200 bei einem Kauf im Januar 2026?“ Die Anfrage enthält bereits mehrere Suchsignale: Produkt, Thema, Kundenvorgang und Zeitpunkt.
Das System zerlegt diese Signale zunächst in Suchkriterien. Es erkennt, dass nicht irgendeine Garantieinformation gebraucht wird, sondern die Regel für ein bestimmtes Modell und einen bestimmten Kaufzeitraum. Zusätzlich kann es die Formulierung „gilt“ als Frage nach der anwendbaren Regel interpretieren.
Im nächsten Schritt entstehen Kandidaten aus verschiedenen Bereichen. Eine Produktseite nennt die Standardgarantie, eine Serviceanweisung beschreibt die Abwicklung und eine ältere PDF-Datei enthält eine frühere Regel. In der Präsentation sollten Sie diese Treffer bewusst nebeneinander zeigen. So wird sichtbar, warum eine bloße Textähnlichkeit zu einem falschen Ergebnis führen kann.
- Produktseite: hohe thematische Nähe
- Serviceanweisung: hohe Nähe zur Bearbeitung
- alte PDF-Datei: ähnliche Begriffe, aber abgelaufener Stand
Nun greift die fachliche Bewertung. Das System berücksichtigt neben der Textnähe auch den Produktcode und den Kaufzeitraum. Die ältere Datei fällt wegen ihres Gültigkeitsendes zurück. Die Produktseite und die passende Serviceanweisung bleiben übrig. Für die Folie eignet sich eine kleine Kennzeichnung wie „fachlich passend“, „ergänzend“ und „zeitlich unpassend“.
Zeigen Sie anschließend, wie sich die Anfrage während der Suche präzisiert. Aus „Garantie Modell X200 Januar 2026“ kann intern eine strukturierte Suchform werden:
- Produkt: X200
- Thema: Garantie
- Kaufzeitraum: Januar 2026
- gesuchte Information: Dauer und Bedingungen
Diese Darstellung erklärt einen wichtigen Punkt: Retrieval ist nicht immer ein einziger Suchlauf. Eine gute Suchstrategie kann Begriffe normalisieren, Felder abgleichen und mehrere Quellen miteinander verbinden. Dabei bleibt die ursprüngliche Nutzerfrage erhalten; sie wird nur für die Suche genauer gefasst.
Auf der Ergebnisfolie sollten Sie nicht nur den besten Treffer zeigen. Stellen Sie auch den Unterschied zwischen Trefferqualität und Abdeckung dar. Ein Dokument kann sehr genau passen, aber eine entscheidende Ausnahme nicht enthalten. Zwei ergänzende Treffer liefern dann zusammen ein vollständigeres Bild.
Ein mögliches Präsentationsbeispiel sieht so aus:
- Frage des Mitarbeiters
- erkannte Suchmerkmale
- drei Kandidaten mit kurzer Begründung
- ausgeschlossene Quelle mit Ausschlussgrund
- zwei kombinierte Fundstellen
- Antwortgrundlage mit Abschnittsangaben
Besonders lehrreich ist ein Gegenbeispiel. Ändern Sie in der Demo nur den Kaufmonat und zeigen Sie, dass sich der bevorzugte Treffer verändert. Dadurch wird klar, dass zeitliche Bedingungen das Retrieval beeinflussen können. Die Datenmenge bleibt gleich, doch die passende Antwortgrundlage ist eine andere.
Bewerten Sie den Ablauf mit zwei getrennten Kennzahlen: Recall zeigt, ob wichtige Fundstellen gefunden wurden. Precision zeigt, wie viele der gefundenen Fundstellen tatsächlich passen. Für eine Präsentation genügt eine einfache Erklärung; konkrete Messwerte sollten Sie nur verwenden, wenn sie aus einem dokumentierten Test stammen.
Der Ablauf endet nicht mit dem Treffer. Das System sollte auch einen Fall für „keine ausreichende Grundlage“ vorsehen. Wenn keine Quelle den Zeitraum oder das Modell eindeutig abdeckt, ist eine Rückfrage fachlich besser als eine scheinbar vollständige Antwort. Genau dieser Abbruchpunkt gehört in eine seriöse Retrieval-Demonstration.
Naive, Advanced und Modular RAG sinnvoll vergleichen
Vergleichen Sie die drei RAG-Varianten nicht als starre Qualitätsstufen. Sie stehen für unterschiedliche Designentscheidungen: Wie viel Verarbeitung braucht die Suche, wie stark soll das System einzelne Schritte steuern und wie flexibel muss die Architektur auf verschiedene Aufgaben reagieren?
Naive RAG bildet den einfachsten Ablauf. Eine Anfrage löst eine Suche aus, die gefundenen Inhalte gehen an das Sprachmodell, danach entsteht die Antwort. Diese Variante eignet sich für eine erste Präsentation, einen Prototypen oder einen klar begrenzten Anwendungsfall. Ihre Stärke liegt in der Übersichtlichkeit. Schwächen zeigen sich bei mehrdeutigen Fragen, mehreren Datenquellen und widersprüchlichen Ergebnissen.
Advanced RAG ergänzt den Grundablauf um gezielte Verbesserungen. Die Anfrage kann vor der Suche umformuliert werden. Treffer lassen sich nachträglich neu bewerten, kürzen oder nach Fachregeln filtern. Präsentieren Sie diese Variante als optimierten Prozess, nicht bloß als längere Kette technischer Begriffe. Der Mehrwert liegt darin, dass jeder Zusatzschritt ein konkretes Problem löst.
Modular RAG geht noch einen Schritt weiter. Einzelne Funktionen werden als austauschbare Module gestaltet. Je nach Aufgabe kann das System eine Datenbank, eine Websuche, einen Wissensgraphen oder eine mehrstufige Antwortprüfung einbinden. Diese Architektur passt sich besser an wechselnde Anforderungen an, verlangt aber mehr Planung, Überwachung und technische Abstimmung.
Für eine Präsentation ist eine Entscheidungsmatrix hilfreicher als eine bloße Liste:
- Naive RAG: schnelle Umsetzung, leicht erklärbar, begrenzte Steuerung
- Advanced RAG: bessere Suchqualität, mehr Verarbeitungsschritte, höherer Abstimmungsbedarf
- Modular RAG: hohe Anpassbarkeit, mehrere Strategien kombinierbar, anspruchsvollere Wartung
Zeigen Sie anschließend denselben Anwendungsfall in drei Darstellungen. Bei Naive RAG genügt eine direkte Verbindung zwischen Frage, Suchergebnis und Antwort. Bei Advanced RAG ergänzen Sie einen Schritt für Umformulierung und einen für die erneute Bewertung. Bei Modular RAG teilen Sie den Ablauf in austauschbare Bausteine auf, etwa Suchmodul, Filter, Prüfer und Antwortmodul.
Wichtig ist die passende Auswahl nach Einsatzbedingungen. Für eine interne FAQ mit wenigen, stabilen Dokumenttypen kann Naive RAG völlig ausreichen. Bei juristischen oder technischen Fragen mit hoher Genauigkeit sind zusätzliche Prüfungen sinnvoll. Ein Unternehmen mit mehreren Fachbereichen und unterschiedlichen Datenbeständen profitiert eher von einer modularen Struktur.
Bewerten Sie die Varianten anhand derselben Kriterien:
- Antwortqualität bei einfachen und mehrdeutigen Fragen
- Reaktionszeit pro Anfrage
- Entwicklungs- und Betriebskosten
- Erweiterbarkeit um neue Datenquellen
- Fehlerbehandlung bei fehlenden Treffern
- Nachvollziehbarkeit der einzelnen Verarbeitungsschritte
Vermeiden Sie die Aussage, Advanced oder Modular RAG sei automatisch besser. Mehr Komponenten können die Trefferqualität erhöhen, aber auch neue Fehlerquellen schaffen. Ein zusätzliches Modul lohnt sich erst, wenn sein Nutzen messbar oder für den Anwendungsfall fachlich notwendig ist.
Als Schlussbild eignet sich eine einfache Entscheidungsregel: Beginnen Sie mit der kleinsten Architektur, die den Anwendungsfall zuverlässig abdeckt, und ergänzen Sie Module erst bei nachgewiesenem Bedarf.
Einmaliges, iteratives und adaptives Retrieval gegenüberstellen
Die Wahl zwischen einmaligem, iterativem und adaptivem Retrieval sollte in der Präsentation an der Aufgabenlogik gezeigt werden. Entscheidend ist nicht die Zahl der Suchläufe, sondern wann zusätzliche Informationen den größten Nutzen bringen.
Beim einmaligen Retrieval startet die Suche genau einmal. Das System sammelt die passenden Inhalte und verwendet sie für die anschließende Antwort. Diese Variante eignet sich für klar formulierte Fragen mit einem eng umrissenen Informationsbedarf. In der Präsentation lässt sie sich als geradliniger Ablauf darstellen: Anfrage, ein Suchimpuls, Ergebnis.
Das iterative Retrieval arbeitet in mehreren Runden. Nach dem ersten Abruf prüft das System, welche Information noch fehlt. Danach folgt eine weitere Suche, die auf dem bisherigen Ergebnis aufbaut. Dieses Verfahren passt zu Aufgaben, bei denen mehrere Teilfragen zusammenkommen, etwa bei einer technischen Ursachenanalyse oder einer Recherche über mehrere Dokumenttypen.
Beim adaptiven Retrieval wird die Suche abhängig vom Bedarf ausgelöst. Das System kann zunächst eine Antwort versuchen, einen fehlenden Beleg erkennen und danach gezielt weitere Inhalte anfordern. Bei einer einfachen Frage bleibt es bei einem Abruf; bei einer komplexen Aufgabe werden zusätzliche Schritte aktiviert. Genau diese bedarfsabhängige Steuerung sollte auf der Folie sichtbar sein.
- Einmalig: ein fester Suchlauf für eine klar abgegrenzte Frage
- Iterativ: mehrere geplante Suchrunden zur schrittweisen Ergänzung
- Adaptiv: Suchrunden werden durch erkannte Informationslücken ausgelöst
Für den Vergleich eignet sich ein identischer Fall mit wachsender Komplexität. Bei der Frage nach einer einzelnen Produkteigenschaft reicht ein Suchlauf. Für die Erklärung eines Fehlers werden nacheinander Handbuch, Änderungsprotokoll und Servicefall benötigt. Bei einer offenen Nutzerfrage entscheidet das System erst nach der ersten Antwortprüfung, ob eine weitere Suche sinnvoll ist.
Zeigen Sie bei jedem Ablauf die Abbruchbedingung. Beim einmaligen Retrieval endet der Prozess nach dem ersten Ergebnis. Beim iterativen Verfahren endet er, wenn alle definierten Teilfragen bearbeitet sind oder keine neuen Erkenntnisse hinzukommen. Beim adaptiven Verfahren kann ein Qualitätswert, ein fehlender Beleg oder eine niedrige Sicherheit den nächsten Suchlauf auslösen.
Auch die Kosten unterscheiden sich. Mehrere Suchrunden erhöhen meist Antwortzeit, Rechenaufwand und Protokollierungsbedarf. Ein adaptiver Ablauf kann diese Kosten senken, wenn er einfache Fragen früh beendet. Er kann aber auch teurer werden, wenn die Steuerung zu häufig neue Suchläufe anfordert. Stellen Sie daher neben der Antwortqualität immer die durchschnittliche Zahl der Suchrunden und die Gesamtlatenz dar.
Eine aussagekräftige Folie kann pro Variante folgende Angaben zeigen:
- Anzahl der Suchrunden
- Auslöser für die nächste Runde
- Abbruchregel
- typische Antwortzeit
- geeignete Aufgabenklasse
Verwenden Sie für iterative Abläufe nummerierte Pfeile und für adaptive Abläufe eine Entscheidungsschleife. Ein Rückpfeil mit der Beschriftung „Beleg ausreichend?“ macht den Unterschied sofort verständlich. Die Grafik sollte außerdem zeigen, ob jede Runde dieselbe Suchmethode nutzt oder ob sich die Suchstrategie verändert.
Für eine belastbare Bewertung reichen drei Testgruppen: einfache Einzelfragen, mehrteilige Aufgaben und Fragen mit absichtlich fehlenden Informationen. Vergleichen Sie, wie oft jede Variante passende Belege findet, wie viele Suchrunden sie benötigt und wann sie korrekt auf eine unzureichende Grundlage hinweist. So wird aus einem Architekturvergleich eine nachvollziehbare Entscheidung.
RAG und Fine-Tuning anhand ihrer Einsatzbereiche unterscheiden
RAG und Fine-Tuning sollten in einer Präsentation nach der jeweiligen Aufgabe unterschieden werden. Die zentrale Frage lautet: Muss das System neue Informationen finden oder soll es ein bestimmtes Verhalten zuverlässig ausführen?
RAG passt zu Anwendungen, bei denen Antworten von wechselnden Inhalten abhängen. Dazu zählen interne Richtlinien, aktuelle Produktdaten, technische Versionen oder offene Wissensbestände. In der Präsentation sollten Sie zeigen, dass sich der Datenbestand ändern kann, ohne das Modellverhalten selbst neu zu trainieren.
Fine-Tuning eignet sich vor allem für wiederkehrende Ausgabeformen und feste Arbeitsmuster. Beispiele sind strukturierte JSON-Antworten, ein einheitlicher Supportstil, die Klassifikation von Anfragen oder die Zuordnung von Texten zu vorgegebenen Kategorien. Hier steht nicht die Suche nach neuen Fakten im Mittelpunkt, sondern die zuverlässige Ausführung einer klaren Aufgabe.
Eine kompakte Entscheidungshilfe für Ihre Folie:
- RAG: wechselnde Fakten, interne Wissensbestände, Quellenbezug und zeitabhängige Antworten
- Fine-Tuning: fester Stil, gleichbleibendes Format, Klassifikation und standardisierte Abläufe
- Kombination: ein trainiertes Verhalten mit zusätzlich abgerufenen Fachinformationen
Nutzen Sie ein Szenario mit zwei getrennten Anforderungen. Ein Supportsystem soll erstens jede Antwort als strukturiertes Ticket ausgeben und zweitens die aktuell gültige Reparaturregel verwenden. Das Ausgabeformat spricht für Fine-Tuning oder eine andere Verhaltenssteuerung. Die wechselnde Reparaturregel spricht für RAG. In der Präsentation wird so sichtbar, warum beide Verfahren unterschiedliche Aufgaben lösen.
Auch die Datenmenge allein entscheidet nicht. Ein großer, stabiler Beispieldatensatz kann ein Fall für Fine-Tuning sein, wenn er ein bestimmtes Muster vermittelt. Eine kleine, aber häufig geänderte Richtliniensammlung spricht eher für RAG. Entscheidend sind Änderungsrate, Quellenpflicht und gewünschtes Verhalten.
Stellen Sie die Auswirkungen auf die Präsentationsplanung gegenüber:
- Bei RAG zeigen Sie die Antwort zusammen mit dem verwendeten Dokumentstand.
- Bei Fine-Tuning zeigen Sie mehrere Eingaben mit demselben erwarteten Ausgabeformat.
- Bei einer Kombination zeigen Sie getrennt, welcher Teil aus dem trainierten Verhalten und welcher Teil aus den aktuellen Fakten stammt.
Ein praktischer Auswahltest hilft bei der Entscheidung. Fragen Sie für jede Anforderung: „Würde sich die gewünschte Leistung verbessern, wenn morgen ein neues Dokument hinzukommt?“ Falls ja, ist ein Abrufmechanismus wahrscheinlich relevant. Lautet die bessere Antwort: „Das System soll immer gleich klassifizieren, formulieren oder strukturieren“, liegt der Schwerpunkt eher auf Fine-Tuning.
Beachten Sie auch die Fehlerbilder. Bei RAG kann eine passende Regel vorhanden sein, aber nicht gefunden werden. Bei Fine-Tuning kann das System zwar das richtige Format einhalten, jedoch veraltete oder nicht belegte Inhalte erzeugen. Zeigen Sie diese Fehler getrennt. Sonst wirkt die Präsentation schnell so, als seien beide Verfahren austauschbare Varianten.
Für die Schlussfolie genügt eine klare Leitlinie: RAG verändert den verfügbaren Wissenskontext, Fine-Tuning verändert das gelernte Verhalten. Prüfen Sie anschließend, ob die Aufgabe Wissen, Verhalten oder beides benötigt.
Quellenangaben und Antwortgrundlagen sichtbar machen
Quellenangaben sollten in einer RAG-Präsentation direkt an der jeweiligen Aussage erscheinen. Eine allgemeine Quellenfolie am Ende reicht nicht aus, weil das Publikum die Verbindung zwischen Antwort und Beleg sonst erst mühsam suchen muss. Platzieren Sie daher eine kurze Quellenmarke unmittelbar hinter dem relevanten Satz oder Fakt.
Verwenden Sie ein einheitliches Schema. Eine Quellenmarke kann aus Dokumenttitel, Abschnitt, Versionsstand und Seitenzahl bestehen. Bei strukturierten Daten sind Datensatzname, Feld und Abrufzeitpunkt hilfreicher. Entscheidend ist, dass eine andere Person den Ursprung ohne Rätselraten wiederfindet.
- Dokument: Name der Richtlinie oder Datei
- Fundstelle: Kapitel, Seite, Absatz oder Datensatz-ID
- Stand: Version, Veröffentlichungs- oder Änderungsdatum
- Abruf: Zeitpunkt der Verwendung im System
Zeigen Sie in der Antwortansicht keine langen Originaltexte. Markieren Sie stattdessen die entscheidende Passage und verknüpfen Sie sie mit einer kompakten Quellenkarte. Ein Klick oder ein kurzer Folienhinweis kann anschließend den vollständigen Abschnitt öffnen. So bleibt die Antwort lesbar, ohne die Prüfbarkeit zu opfern.
Unterscheiden Sie zwischen direkter Quelle und zusätzlicher Einordnung. Eine direkte Quelle belegt die konkrete Aussage. Eine ergänzende Quelle liefert Hintergrund, Definitionen oder Einschränkungen. Diese Trennung verhindert, dass ein allgemeiner Leitfaden versehentlich als Beleg für eine spezielle Unternehmensregel erscheint.
Bei mehreren Belegen sollte die Präsentation ihre Rollen zeigen. Kennzeichnen Sie etwa die Hauptquelle, eine bestätigende Quelle und einen abweichenden Eintrag. Widersprüche dürfen nicht durch eine scheinbar harmonische Antwort verschwinden. Zeigen Sie stattdessen, welche Quelle bevorzugt wurde und nach welcher Regel die Entscheidung erfolgte.
Besonders anschaulich ist eine zweigeteilte Antwortfolie. Links steht die kurze Nutzerantwort. Rechts erscheinen die verwendeten Belegstellen mit Dokumentname, Fundstelle und Stand. Unterhalb kann ein knapper Hinweis stehen, wenn eine Aussage nur teilweise belegt ist.
Nutzen Sie für Quellen keine bloßen Farbcodes. Farben helfen bei der Orientierung, ersetzen aber keine eindeutige Beschriftung. Ein Symbol wie [1] sollte auf der Folie immer mit einem lesbaren Eintrag verbunden sein. Auch für Personen mit eingeschränktem Farbsehen bleibt die Zuordnung dann verständlich.
Bei externen Webseiten sollten Sie zusätzlich den Link und das Abrufdatum ausweisen. Bei internen Dokumenten sind Zugriffsrechte zu berücksichtigen: Eine Quellenkarte darf keine vertraulichen Inhalte offenlegen, die der Betrachter nicht sehen darf. In einer öffentlichen Demo eignen sich deshalb anonymisierte Titel und freigegebene Auszüge.
Eine gute Präsentation zeigt auch den Fall, dass keine ausreichende Grundlage vorliegt. Die Ausgabe sollte dann nicht wie eine normale Antwort wirken. Formulierungen wie „Für diese Aussage wurde kein belastbarer Beleg gefunden“ machen die Grenze des Systems sichtbar und schaffen eine klare Erwartung an die Nutzer.
Für die Bewertung können Sie drei Fragen auf jede Antwort anwenden: Ist die Quelle eindeutig? Passt sie genau zur Aussage? Ist ihr zeitlicher Stand erkennbar? Erst wenn alle drei Punkte erfüllt sind, ist die Antwortgrundlage für eine überzeugende Präsentation geeignet.
Präsentationsdaten mit Evaluation und Qualitätswerten belegen
Eine überzeugende RAG-Präsentation braucht messbare Belege. Beschreiben Sie deshalb nicht nur, dass eine Antwort „gut“ wirkt. Zeigen Sie, wie Qualität geprüft wird, welche Testfälle verwendet wurden und an welcher Stelle das System noch Grenzen hat.
Trennen Sie die Bewertung in drei Ebenen. Erstens: Findet das System die richtigen Inhalte? Zweitens: Nutzt die Antwort diese Inhalte korrekt? Drittens: Ist die Ausgabe für den vorgesehenen Zweck brauchbar? Diese Trennung verhindert, dass eine sprachlich flüssige Antwort automatisch als fachlich richtig gilt.
- Retrieval-Qualität: Werden relevante Fundstellen gefunden?
- Antworttreue: Bleibt die Antwort bei den verfügbaren Belegen?
- Aufgabenqualität: Erfüllt die Ausgabe die fachliche Anforderung?
- Nutzerwert: Spart die Antwort Zeit oder verbessert sie einen Prozess?
Erstellen Sie für die Präsentation einen festen Testsatz. Er sollte einfache Fragen, mehrdeutige Formulierungen, zeitabhängige Fälle, fehlende Informationen und bewusst widersprüchliche Angaben enthalten. Eine Sammlung von 50 bis 200 geprüften Fragen reicht für einen ersten belastbaren Vergleich oft aus. Jede Frage braucht eine erwartete Antwort oder klare Bewertungskriterien.
Für die Trefferbewertung eignen sich Precision@k und Recall@k. Precision@k zeigt, wie viele der ersten k Ergebnisse relevant sind. Recall@k zeigt, ob wichtige Fundstellen überhaupt in diesen k Ergebnissen auftauchen. Zeigen Sie k immer an, etwa als Recall@5. Ohne diese Angabe bleibt der Kennwert unvollständig.
Die Antwort selbst sollte getrennt beurteilt werden. Prüfen Sie beispielsweise:
- Enthält die Antwort die entscheidenden Fakten?
- Widerspricht sie keiner verwendeten Quelle?
- Werden Aussagen ohne Beleg vermieden?
- Ist die Antwort vollständig genug für den konkreten Vorgang?
- Hält sie das vorgegebene Format ein?
Automatische Bewertungsmodelle können große Testmengen vorsortieren. Für kritische Fachfragen brauchen Sie zusätzlich eine Bewertung durch qualifizierte Personen. Lassen Sie zwei unabhängige Prüfer dieselben Antworten beurteilen und messen Sie ihre Übereinstimmung, zum Beispiel mit Cohens Kappa. Eine hohe Übereinstimmung zeigt, dass die Bewertungsregeln verständlich formuliert sind.
Stellen Sie Ergebnisse nicht als eine einzige Gesamtnote dar. Ein System kann beim Finden passender Textstellen stark sein, aber häufig wichtige Einschränkungen auslassen. Eine kleine Kennzahlenkarte mit vier Werten ist aussagekräftiger als ein pauschales „92 Prozent Qualität“:
- Recall@5: 0,88
- Antworttreue: 0,91
- Formatkonformität: 0,97
- mittlere Antwortzeit: 2,4 Sekunden
Kennzeichnen Sie solche Zahlen nur dann als reale Ergebnisse, wenn sie aus einem dokumentierten Test stammen. Andernfalls verwenden Sie die Bezeichnung Beispielwert. Ergänzen Sie immer Testzeitraum, Datensatzgröße, Modellversion und Bewertungsmethode. Schon kleine Änderungen an diesen Faktoren können die Ergebnisse verschieben.
Für die Präsentation besonders wertvoll ist eine Fehleranalyse. Gruppieren Sie schlechte Antworten nach Ursache: falscher Treffer, fehlender Treffer, veralteter Datenstand, widersprüchlicher Kontext, missverständliche Frage oder fehlerhafte Antwortformulierung. Ein Balkendiagramm mit den häufigsten Fehlerarten zeigt klarer als viele Erfolgsbeispiele, wo die nächste Verbesserung ansetzen sollte.
Ergänzen Sie die technischen Werte um betriebliche Kennzahlen. Dazu gehören Abbruchquote, Kosten pro Anfrage, Anteil manueller Nachbearbeitung und Zeitersparnis gegenüber dem bisherigen Prozess. So wird aus einer Modellbewertung eine Entscheidungshilfe für den tatsächlichen Einsatz.
Eine belastbare Schlussfolie beantwortet drei Fragen: Was wurde getestet? Wie wurde bewertet? Welche Grenze bleibt bestehen? Diese Offenheit erhöht die Glaubwürdigkeit Ihrer RAG-Präsentation deutlich mehr als eine makellose, aber nicht nachvollziehbare Erfolgszahl.
Fazit: Daten klar strukturieren, Quellen zeigen und RAG messbar bewerten
Eine überzeugende RAG-Präsentation endet nicht mit einer beeindruckenden Demo, sondern mit einer klaren Entscheidung: Welche Aussage trägt der gezeigte Datenbestand, welche Kennzahl belegt den Nutzen und welcher nächste Schritt folgt daraus?
Fassen Sie die Ergebnisse in drei Ebenen zusammen. Erstens braucht jede Präsentation eine verständliche Aussage über den Geschäftsnutzen. Zweitens muss erkennbar sein, wie dieser Nutzen geprüft wurde. Drittens sollte die Folie offenlegen, unter welchen Bedingungen die Lösung nicht ausreicht. Diese Kombination wirkt sachlich und verhindert überzogene Erwartungen.
- Geschäftswert: Welcher Prozess wird schneller, genauer oder nachvollziehbarer?
- Beleg: Welche Messung stützt die Aussage?
- Grenze: In welchem Fall ist eine zusätzliche Prüfung oder ein anderer Prozess nötig?
- Nächster Schritt: Welche Entscheidung oder welcher Pilot folgt aus den Ergebnissen?
Für die letzte Folie eignet sich eine kompakte Entscheidungslogik. Beginnen Sie mit dem beobachteten Problem, nennen Sie die nachgewiesene Verbesserung und schließen Sie mit einer konkreten Handlung. Das kann ein begrenzter Pilot für einen Fachbereich, eine Überarbeitung der Datenbasis oder eine erneute Messung mit einem größeren Testsatz sein.
Vermeiden Sie eine reine Erfolgserzählung. Eine professionelle Präsentation nennt auch Bedingungen wie Antwortzeit, Datenumfang, Testzeitraum und zugelassene Nutzergruppe. So bleibt der Vergleich fair. Ein Ergebnis aus 80 geprüften Fragen ist wertvoll, aber nicht automatisch auf jeden Geschäftsprozess übertragbar.
Nutzen Sie außerdem eine Ergebnisampel mit klaren Regeln:
- Grün: Qualitätsziel erreicht und Prozessrisiko vertretbar
- Gelb: Nutzen erkennbar, aber weitere Tests oder Anpassungen nötig
- Rot: Belege, Qualität oder Prozesssicherheit reichen noch nicht aus
Die Ampel sollte nicht nach Gefühl vergeben werden. Hinter jeder Farbe braucht es einen festen Schwellenwert, etwa eine Mindestquote für korrekte Antworten, eine maximale Antwortzeit oder eine zulässige Nachbearbeitungsrate. Dadurch wird die Präsentation von einer Meinungsrunde zu einer belastbaren Entscheidungsgrundlage.
Beziehen Sie die späteren Nutzer in die Schlussbewertung ein. Fachkräfte können beurteilen, ob Antworten im Arbeitsalltag verständlich, vollständig und handlungsrelevant sind. Diese Rückmeldung ergänzt technische Kennzahlen um einen wichtigen Praxisblick. Ein System kann mathematisch gut abschneiden und trotzdem an unklaren Formulierungen oder unpassenden Abläufen scheitern.
Dokumentieren Sie nach der Präsentation, welche Annahmen bestätigt und welche widerlegt wurden. Halten Sie auch offene Fragen fest. Diese kurze Nachbereitung verhindert, dass einzelne Demo-Ergebnisse später als allgemeine Leistungsversprechen weitergegeben werden.
Das beste Schlussbild ist deshalb kein Superlativ, sondern ein belastbarer Handlungsplan: Datenbestand festlegen, Zielgröße definieren, Ergebnis prüfen und erst danach den Einsatz ausweiten. So zeigt Ihre Präsentation nicht nur, was RAG leisten kann, sondern auch, wie aus einer technischen Idee ein verantwortbarer Geschäftsprozess wird.
Hinweis zur Transparenz: Die fachliche Darstellung wurde mit Unterstützung eines KI-Systems formuliert und sollte vor der Veröffentlichung durch eine fachkundige Person, die zuständigen Datenverantwortlichen und die interne Rechts- oder Compliance-Stelle geprüft werden.