Das RAG System mit NotebookLM: Die Zukunft des Datenmanagements

Autor: Provimedia GmbH

Veröffentlicht:

Aktualisiert:

Kategorie: Zukunft & Innovation

Zusammenfassung: NotebookLM eignet sich für explorative, quellengebundene Steuerrechtsrecherche; eigene RAG-Systeme werden bei Versionierung, Quellengewichtung und integrierten Prüfprozessen nötig.

Warum NotebookLM die RAG-Frage für Steuerrecht neu stellt

Die eigentliche Frage lautet nicht: Kann NotebookLM Dokumente durchsuchen und daraus Antworten formulieren? Das kann es. Entscheidend ist vielmehr, ob dieses Vorgehen für steuerrechtliche Arbeit belastbar genug ist.

Ein Beitrag im Subreddit r/LLMDevs stellte genau diese Überlegung zur Diskussion. Im Mittelpunkt stand die Idee, ein RAG-System für Steuerrecht zu entwickeln, obwohl NotebookLM bereits ähnliche Dokumentenabfragen ermöglicht. Der Einwand gegen ein eigenes System liegt nahe: Warum eine Suchpipeline, eine Datenbank und eine Modellanbindung bauen, wenn eine fertige Oberfläche den ersten Prototyp in kurzer Zeit liefert?

Für die Vorprüfung ist NotebookLM deshalb sinnvoll. Eine Kanzlei kann ein begrenztes Quellenpaket zusammenstellen und testen, ob typische Fragen verständlich beantwortet werden. Dabei zeigt sich schnell, welche Dokumente fehlen, welche Begriffe problematisch sind und bei welchen Fällen die Antworten zu ungenau bleiben. Diese frühe Lernphase spart Aufwand, ersetzt aber noch keine fachliche Anwendung.

Im Steuerrecht zählt nicht nur eine plausible Antwort. Relevant sind der genaue Rechtsstand, die zeitliche Geltung, die betroffene Steuerart, die Fallkonstellation und oft auch die Rangfolge der Quellen. Ein Urteil, ein BMF-Schreiben, ein Gesetzestext und ein internes Arbeitspapier haben nicht dieselbe Funktion. Werden sie gemeinsam abgefragt, kann eine sprachlich saubere Antwort entstehen, obwohl die rechtliche Gewichtung unscharf bleibt.

Hier beginnt der mögliche Mehrwert einer eigenen Anwendung. Sie kann Dokumente nach Gültigkeitsdatum, Rechtsgebiet, Veranlagungszeitraum oder Verbindlichkeit filtern. Außerdem kann sie erkennen, ob eine Quelle ersetzt wurde, und ältere Fassungen sichtbar von aktuellen Fassungen trennen. NotebookLM unterstützt die inhaltliche Recherche; eine maßgeschneiderte Architektur kann daraus einen kontrollierten Fachprozess machen.

Der überzeugendste Grund gegen einen alleinigen Einsatz liegt in der fehlenden Prozesskontrolle. Steuerrechtliche Recherche ist selten eine einzelne Frage mit einer einzelnen Antwort. Meist folgen Prüfung, Quellenvergleich, Aktenbezug, Dokumentation und Freigabe. Ein eigenes RAG-System lässt sich in diese Kette einbetten, etwa indem es Suchtreffer mit Metadaten ausgibt, nur freigegebene Quellen verwendet und Antworten in ein vorgegebenes Prüfprotokoll überträgt.

NotebookLM bleibt damit ein starkes Werkzeug für Exploration und Wissensarbeit. Für eine Kanzlei mit hohen Anforderungen an Versionierung, Fallbezug und standardisierte Abläufe kann es jedoch zu klein gedacht sein. Maßgeblich ist, ob eine einfache Dokumentenabfrage genügt oder ob aus der Recherche ein reproduzierbarer, prüfbarer und integrierter Steuerprozess werden soll.

NotebookLM als quellengebundene RAG-Lösung

NotebookLM eignet sich vor allem als quellengebundene Arbeitsumgebung für klar abgegrenzte Wissensbestände. Für ein steuerrechtliches Projekt bedeutet das: Ein Team kann zunächst einen überschaubaren Korpus an Gesetzen, Verwaltungsanweisungen, Urteilen und internen Leitfäden zusammenstellen und damit reale Recherchefragen erproben.

Der praktische Wert liegt weniger in einer eigenen technischen Infrastruktur als in der schnellen Prüfung des Nutzungskonzepts. Fachleute erkennen früh, ob ihre Fragen eindeutig formuliert sind, welche Dokumente häufig gemeinsam benötigt werden und an welchen Stellen Begriffe aus dem Steuerrecht mehrdeutig bleiben. So entsteht ein belastbares Anforderungsbild, bevor Zeit und Geld in eine individuelle Anwendung fließen.

Für diese Prüfung sollte jedes Dokument mit einem klaren Zweck ausgewählt werden. Ein Gesetzestext beantwortet andere Fragen als ein Urteil. Ein Kanzleileitfaden kann die interne Vorgehensweise beschreiben, ist aber keine amtliche Rechtsquelle. Werden solche Unterschiede nicht sichtbar gemacht, wirkt das Ergebnis schnell schlüssiger, als es fachlich ist.

Ein sinnvolles Notebook folgt daher einer kleinen Quellenordnung:

Diese Trennung verbessert die Bewertung der Antworten. Sie zeigt, ob NotebookLM die passende Passage findet, ob mehrere Quellen miteinander vereinbar sind und ob eine Aussage nur aus einer internen Erläuterung stammt.

Für die Qualitätssicherung empfiehlt sich ein fester Fragensatz. Er sollte einfache Faktenfragen, Querverweise, zeitliche Abgrenzungen und bewusst unvollständige Fälle enthalten. Ein Beispiel: „Welche Regel galt im Veranlagungszeitraum 2023, und welche Quelle belegt das?“ Eine solche Frage prüft nicht nur das Verständnis, sondern auch den Umgang mit zeitlichem Kontext.

NotebookLM kann dabei als Machbarkeitsfilter dienen. Liefert es bei einem begrenzten Quellenbestand bereits brauchbare Ergebnisse, muss eine eigene RAG-Anwendung nicht automatisch folgen. Zeigen sich dagegen wiederkehrende Anforderungen wie strukturierte Aktenfelder, feste Ausgabeformate oder automatisierte Prüfpfade, wird der Bedarf an einer individuellen Lösung konkret und messbar.

Der kluge Weg ist kein reflexartiger Eigenbau. Zuerst wird der fachliche Nutzen mit einem kontrollierten Notebook geprüft. Erst danach entscheidet sich, ob eine maßgeschneiderte Anwendung mehr leistet als Recherche, Zusammenfassung und erste Orientierung.

NotebookLM oder eigenes RAG-System: Einsatzbereiche im Vergleich

Kriterium NotebookLM Eigenes RAG-System
Prototyping Schnell einsetzbar und geeignet, um Rechercheideen mit einem begrenzten Quellenbestand zu testen. Erfordert Planung, Entwicklung und technische Ressourcen, bietet dafür langfristig mehr Gestaltungsspielraum.
Quellenverwaltung Dokumente lassen sich unkompliziert bereitstellen, eine umfassende Versionierung muss jedoch organisatorisch geregelt werden. Quellen können nach Gültigkeitsdatum, Steuerart, Veranlagungszeitraum und Verbindlichkeit gefiltert werden.
Antwortqualität Geeignet für quellenbezogene Zusammenfassungen und erste Orientierung. Suchlogik, Modelle, Antwortformate und Prüfregeln lassen sich fachlich anpassen.
Nachprüfbarkeit Quellenverweise unterstützen die Kontrolle der Antworten. Fundstellen, Textpassagen, Prüfprotokolle und Warnhinweise können verbindlich standardisiert werden.
Datenschutz Besonders für öffentliche, anonymisierte oder nicht mandatsbezogene Quellen geeignet; Anbieterbedingungen müssen geprüft werden. Ermöglicht individuelle Schutzmaßnahmen wie Mandatstrennung, lokale Verarbeitung und automatisierte Löschkonzepte.
Integration Arbeitet primär als eigenständige Dokumenten- und Rechercheumgebung. Kann in Dokumentenmanagement, Kanzleisoftware, CRM- oder Fallbearbeitungssysteme integriert werden.
Benutzerrechte Für kleine, klar abgegrenzte Teams praktikabel. Erlaubt differenzierte Rollen, Freigaben, Mandatszugriffe und fachbereichsbezogene Berechtigungen.
Automatisierung Stark bei manueller Recherche, Zusammenfassung und Wissensarbeit. Geeignet für standardisierte Prozesse, automatische Folgeaktionen und große Anfragevolumen.
Skalierbarkeit Ausreichend für kleine Quellenbestände und begrenzte Nutzung. Kann für viele Nutzer, Dokumente, Fälle und wiederkehrende Anfragen ausgelegt werden.
Kosten und Aufwand Geringer Startaufwand und schnelle Ergebnisse. Höhere Entwicklungs- und Wartungskosten, dafür gezielte Anpassung an den Arbeitsprozess.
Geeigneter Einsatz Exploration, Pilotprojekte, Schulungen und klar begrenzte Recherchen. Verbindliche, reproduzierbare und integrierte Steuerprozesse mit hohen Anforderungen an Kontrolle.

Wo NotebookLM eigene RAG-Anwendungen ersetzen kann

NotebookLM kann eigene RAG-Anwendungen ersetzen, wenn die Aufgabe vor allem aus Dokumentenanalyse, Wissensabfrage und redaktioneller Aufbereitung besteht. Das gilt besonders für kleine Teams, Pilotprojekte und klar begrenzte Fachgebiete.

Ein typischer Fall ist die interne Recherche zu einem abgeschlossenen Mandat. Liegen die relevanten Unterlagen bereits digital vor, kann ein Notebook als temporärer Wissensraum dienen. Mitarbeitende suchen darin nach Begriffen, vergleichen Passagen oder lassen sich lange Dokumente in eine verständliche Arbeitsnotiz überführen. Für diesen Zweck wäre eine individuelle Anwendung oft mehr Technik als Nutzen.

Auch bei der Vorbereitung von Schulungen, Besprechungen und Mandantenfragen kann NotebookLM ausreichen. Ein Team kann ein Quellenpaket für ein bestimmtes Thema anlegen, daraus Fragenkataloge entwickeln und wiederkehrende Informationsbedürfnisse sichtbar machen. Der Aufwand bleibt überschaubar, weil keine eigene Benutzeroberfläche und kein separates Suchsystem entstehen müssen.

Besonders geeignet ist der Ansatz, wenn folgende Bedingungen erfüllt sind:

Ein weiterer Vorteil zeigt sich bei wechselnden Projekten. Für eine Betriebsprüfung, eine interne Fortbildung oder die Bewertung eines neuen Schreibens lässt sich jeweils ein eigener Quellenraum anlegen. Nach Abschluss des Projekts muss kein dauerhaftes Datenmodell gepflegt werden. Das ist schlicht, flexibel und für viele Vorhaben völlig ausreichend.

NotebookLM kann auch als Entscheidungshilfe vor einem Eigenbau dienen. Werden mehrere Notebooks mit unterschiedlichen Themen getestet, lässt sich der tatsächliche Bedarf besser einschätzen. Vielleicht wünschen sich die Nutzer gar keine komplexe Anwendung, sondern nur eine schnellere Orientierung in langen Unterlagen. Dann wäre der Bau eines vollständigen RAG-Systems ein klassischer Fall von „mit Kanonen auf Spatzen schießen“.

Die Grenze liegt dort, wo aus einzelnen Recherchen ein dauerhafter Betriebsprozess wird. Solange Menschen die Quellen auswählen, Fragen stellen und Ergebnisse selbst in ihre Arbeit übertragen, bleibt NotebookLM eine pragmatische Lösung. Sobald jedoch strukturierte Eingaben, hohe Fallzahlen oder automatische Folgeaktionen erforderlich sind, reicht dialogische Dokumentenarbeit meist nicht mehr aus.

Für die Entscheidung hilft eine einfache Nutzwertprüfung: Wie viele Personen greifen regelmäßig zu? Wie oft ändern sich die Quellen? Müssen Ergebnisse maschinenlesbar weiterverarbeitet werden? Und entsteht durch die manuelle Übertragung ein nennenswertes Fehlerrisiko? Fallen die Antworten klein aus, kann NotebookLM die geplante Eigenentwicklung tatsächlich überflüssig machen.

Der Ersatz funktioniert dort, wo der Wert in der schnellen Arbeit mit einem begrenzten Dokumentbestand liegt. In diesem Rahmen ist eine fertige Lösung nicht nur schneller startklar, sondern oft auch die vernünftigere Architektur.

Kontrolle über Steuerrechtsquellen und Aktualisierungen

Im Steuerrecht ist ein Dokument nicht einfach „aktuell“ oder „veraltet“. Entscheidend ist, für welchen Zeitraum, welche Rechtslage und welchen Sachverhalt es gilt. Genau hier liegt ein wichtiger Unterschied zwischen einer Dokumentensammlung und einem fachlich gesteuerten Quellenbestand.

Ein eigenes RAG-System kann jeder Quelle strukturierte Gültigkeitsdaten zuordnen: Veröffentlichungsdatum, Inkrafttreten, Außerkrafttreten, Veranlagungszeitraum, Steuerart und Rechtsgebiet. Bei einer Anfrage zu 2024 könnte die Suche gezielt nur Dokumente berücksichtigen, die für diesen Zeitraum relevant sind. Eine solche zeitliche Filterung muss nicht allein dem Sprachmodell überlassen bleiben.

Für NotebookLM hängt die Aktualität stärker vom Pflegeprozess ab. Werden neue Fassungen manuell hochgeladen, entstehen leicht parallele Versionen. Ein altes PDF bleibt möglicherweise im Notebook, obwohl ein späteres Schreiben seine Aussage verändert. Ohne verbindliche Kennzeichnung erkennt der Nutzer nicht immer sofort, welche Datei Vorrang hat.

Ein robustes Quellenmanagement braucht deshalb eine feste Aktualisierungslogik:

Besonders anspruchsvoll sind Änderungswerke. Eine neue Regel ersetzt oft nicht ein komplettes Dokument, sondern nur einzelne Sätze, Paragrafen oder Randziffern. Ein System muss deshalb erkennen können, welche Passage betroffen ist. Sonst liefert die Suche womöglich eine alte Formulierung zusammen mit einem neuen Hinweis. Das Ergebnis klingt dann rund, ist aber rechtlich widersprüchlich.

Auch der Status einer Quelle verdient Aufmerksamkeit. Ein Urteil kann eine frühere Auslegung beeinflussen, ohne jede praktische Folge automatisch zu klären. Ein Verwaltungsschreiben kann eine behördliche Sicht darstellen, während ein internes Merkblatt nur der Arbeitsorganisation dient. Diese Rollen sollten in den Metadaten sichtbar sein und nicht erst mühsam aus dem Text erschlossen werden.

Für ein NotebookLM-Pilotprojekt genügt zunächst eine manuelle Quellenampel. Dokumente können etwa als „aktiv“, „historisch“, „zur Prüfung“ oder „nicht verwenden“ gekennzeichnet werden. Für den produktiven Einsatz mit vielen Änderungen ist dagegen ein automatisierter Import aus gepflegten Fachquellen sinnvoll. Er reduziert den Pflegeaufwand und macht Aktualisierungen reproduzierbar.

NotebookLM kann mit einem aktuellen Quellenpaket arbeiten. Eine eigene RAG-Anwendung kann darüber hinaus festlegen, wann eine Quelle als aktuell gilt, welche Fassung verwendet wird und warum sie in die Suche gelangt. Für steuerrechtliche Antworten mit Zeitbezug kann diese Steuerung den entscheidenden Unterschied machen.

Quellenangaben und fachliche Nachprüfbarkeit

Eine Quellenangabe ist im Steuerrecht erst dann nützlich, wenn sie eine konkrete Aussage überprüfbar macht. Ein bloßer Dateiname reicht dafür nicht. Leser müssen erkennen können, welche Passage die Antwort trägt, in welchem Zusammenhang sie steht und ob die Schlussfolgerung unmittelbar aus dem Text folgt.

NotebookLM kann diese Prüfung erleichtern, weil Antworten auf Fundstellen im bereitgestellten Material verweisen können. Für eine fachliche Arbeitsumgebung genügt das allein jedoch nicht. Eine belastbare Zitierung sollte zusätzlich Dokumenttitel, herausgebende Stelle, Datum, Aktenzeichen oder Fundstelle sowie die genaue Seiten- oder Randnummer enthalten.

Besonders wichtig ist die Trennung zwischen Originalaussage und abgeleiteter Einschätzung. Steht in einer Quelle eine Regel, darf das System sie nicht automatisch als sichere Antwort auf jeden ähnlichen Sachverhalt darstellen. Ein Urteil kann etwa eine bestimmte Konstellation betreffen. Die Übertragung auf einen anderen Fall ist bereits eine Bewertung und muss als solche erkennbar sein.

Für steuerrechtliche Antworten sollte die Ausgabe möglichst einem festen Muster folgen:

Ein eigenes RAG-System kann diese Struktur technisch erzwingen. Es kann Antworten ablehnen, wenn keine ausreichende Fundstelle gefunden wurde, oder bei widersprüchlichen Dokumenten einen Warnhinweis ausgeben. Ebenso lässt sich eine Regel einbauen, die zwischen wörtlichem Nachweis, Zusammenfassung und rechtlicher Einordnung unterscheidet.

Ein weiterer Prüfstein ist die Zitiergenauigkeit bei langen Dokumenten. Verweist das System nur auf ein mehrhundertseitiges PDF, muss der Bearbeiter die entscheidende Stelle selbst suchen. Besser sind kurze Textausschnitte mit Seitenzahl, Abschnitt und Dokumentmetadaten. Das spart Zeit und macht eine spätere Aktenprüfung einfacher.

Für eine Kanzlei entsteht dadurch ein wichtiger Unterschied: NotebookLM unterstützt die inhaltliche Kontrolle; eine spezialisierte Anwendung kann zusätzlich die formale Nachweisführung standardisieren. Das ist besonders relevant, wenn Antworten in Vermerke, Stellungnahmen oder interne Freigabeprozesse einfließen.

Entscheidend ist daher, ob ein Dritter die Aussage ohne Rätselraten nachvollziehen kann. Wo dieser Nachweis regelmäßig erforderlich ist, liefert ein individuell gesteuertes RAG-System einen klaren Mehrwert gegenüber einer reinen Dokumentenabfrage.

Datenschutz und Compliance im Steuerumfeld

Im Steuerumfeld entscheidet nicht allein die technische Funktion über den Einsatz eines KI-Systems. Maßgeblich ist, ob die Verarbeitung personenbezogener und beruflich vertraulicher Daten organisatorisch, vertraglich und rechtlich abgesichert ist. Mandantenakten können Namen, Steuer-IDs, Bankdaten, Lohninformationen oder Angaben zu Vermögen enthalten. Solche Inhalte gehören nicht unbedacht in einen allgemeinen Arbeitsbereich.

Vor dem Einsatz von NotebookLM oder einer eigenen RAG-Anwendung sollte die Kanzlei den konkreten Datenfluss dokumentieren. Dazu gehören Upload, Indexierung, Modellverarbeitung, Speicherung, Freigabe und Löschung. Ebenso muss geklärt werden, in welchem Land Daten verarbeitet werden, welche Unterauftragnehmer beteiligt sind und ob Inhalte zur Verbesserung eines Dienstes verwendet werden.

Die Datenschutz-Grundverordnung verlangt für solche Vorgänge unter anderem einen festgelegten Zweck, eine passende Rechtsgrundlage, Datenminimierung und angemessene Sicherheitsmaßnahmen. Bei einer Verarbeitung im Auftrag ist regelmäßig ein Vertrag nach Artikel 28 DSGVO erforderlich. Enthält der Quellenbestand besonders schützenswerte Informationen oder erfolgt die Verarbeitung in großem Umfang, kann eine Datenschutz-Folgenabschätzung notwendig sein.

Ein eigenes RAG-System bietet mehr Gestaltungsspielraum. Die Anwendung kann sensible Felder vor dem Indexieren entfernen, Mandate technisch voneinander trennen und Dokumente nach Aufbewahrungsfristen löschen. Auch eine lokale oder abgeschottete Betriebsumgebung ist möglich. Das erhöht allerdings die Verantwortung: Die Kanzlei muss Verschlüsselung, Protokollierung, Berechtigungen, Backups und Sicherheitsupdates selbst organisieren.

Für NotebookLM sollte die Freigabe nach einer klaren Datenklassifizierung erfolgen:

Für die letzten beiden Kategorien sollte die Nutzung nur nach einer dokumentierten Prüfung der Anbieterbedingungen, Verträge und technischen Schutzmaßnahmen erfolgen. Eine private Einzelanmeldung durch Mitarbeitende ist dafür kein ausreichendes Sicherheitskonzept. Sie kann zu unklaren Verantwortlichkeiten, fehlender zentraler Löschung und unkontrollierten Freigaben führen.

Auch der EU AI Act ist zu beachten. Für ein internes Recherchewerkzeug gelten andere Pflichten als für ein System, das Entscheidungen über natürliche Personen vorbereitet. Werden KI-Ausgaben im Arbeitsprozess verwendet, braucht es zudem klare Zuständigkeiten, Schulungen und Regeln für die Kennzeichnung. Die Verordnung ersetzt jedoch keine Datenschutzprüfung und erlaubt nicht automatisch die Verarbeitung von Mandatsdaten.

Ein belastbares Freigabekonzept sollte mindestens diese Fragen beantworten: Welche Daten dürfen hinein? Wer darf sie sehen? Wie lange bleiben sie gespeichert? Wie wird ein Zugriff protokolliert? Wie können Betroffenenrechte erfüllt werden? Und was passiert, wenn der Dienst ausfällt oder ein Anbieter seine Bedingungen ändert?

Eine eigene RAG-Anwendung lässt sich an interne Sicherheitsvorgaben und Löschkonzepte anpassen. NotebookLM bleibt dagegen vor allem dann vertretbar, wenn der Quellenbestand bewusst anonymisiert, nicht mandatsbezogen und klar begrenzt ist. Im Steuerrecht ist diese Grenze eine Voraussetzung für vertrauenswürdige Arbeit.

Integration in Kanzlei- und Unternehmenssysteme

Die Einbindung in bestehende Kanzlei- und Unternehmenssysteme ist ein eigener Prüfstein. Ein Chatfenster kann Wissen zugänglich machen, erzeugt aber noch keinen durchgängigen Arbeitsablauf.

In der Praxis entstehen Informationen an vielen Stellen: im Dokumentenmanagement, in der Mandatsverwaltung, in der Finanzbuchhaltung, im E-Mail-Postfach oder in einer Fallakte. Eine eigenständige RAG-Anwendung kann diese Systeme über APIs, Webhooks oder festgelegte Importprozesse verbinden. Dadurch wird die Recherche dort verfügbar, wo der Vorgang ohnehin bearbeitet wird.

Ein Beispiel: Eine Sachbearbeiterin öffnet eine Mandatsakte und startet daraus eine Recherche. Das System übernimmt die freigegebenen Falldaten, ergänzt passende Fachquellen und schreibt das Ergebnis als Entwurf in den vorgesehenen Vermerk. Der Fall muss nicht zwischen mehreren Browser-Tabs kopiert werden. Genau solche Übergänge entscheiden oft darüber, ob ein Werkzeug im Alltag angenommen wird.

Für eine Integration sind vor allem strukturierte Ein- und Ausgaben wichtig. Freier Text ist für Menschen angenehm, für Software aber schwer weiterzuverarbeiten. Eine Anwendung kann deshalb feste Felder liefern, etwa:

NotebookLM eignet sich für die Recherche innerhalb seines eigenen Arbeitsraums. Eine direkte Übergabe an DMS, CRM, ERP oder Kanzleisoftware ist jedoch nicht automatisch Bestandteil des fachlichen Prozesses. Selbst wenn Exporte möglich sind, bleiben oft manuelle Zwischenschritte. Bei einzelnen Recherchen ist das verkraftbar; bei täglich vielen Fällen wird es zum Flaschenhals.

Eine maßgeschneiderte Anwendung kann zudem Ereignisse auslösen. Wird ein neues Dokument in einer Akte abgelegt, startet sie eine Klassifikation. Erkennt das System eine passende Fragestellung, erstellt es einen Recherchevorschlag. Nach der Freigabe wird der Entwurf an die zuständige Person weitergeleitet. Diese Automatisierung verwandelt RAG von einem Nachschlagewerk in einen Bestandteil der Fallbearbeitung.

Technisch sollte eine solche Architektur auf klare Schnittstellen setzen. REST-APIs eignen sich für synchrone Abfragen, während Nachrichtenwarteschlangen größere Mengen und zeitversetzte Aufgaben abfangen. Für Dokumente sind stabile Identifikatoren wichtig. Sonst lässt sich später kaum feststellen, welche Datei zu welchem Fall und welchem Arbeitsschritt gehörte.

Der Nutzen lässt sich an praktischen Kennzahlen messen: weniger Medienbrüche, kürzere Suchzeiten, weniger doppelte Eingaben und eine höhere Quote wiederverwendbarer Arbeitsergebnisse. Wenn diese Effekte nur selten auftreten, reicht ein separates Notebook wahrscheinlich aus. Werden sie täglich benötigt, spricht vieles für eine integrierte RAG-Anwendung.

Benutzerrechte und individuelle Arbeitsabläufe

Benutzerrechte entscheiden darüber, ob ein RAG-Werkzeug im Kanzleialltag sauber funktioniert. Nicht jede Person sollte denselben Wissensraum sehen oder jede Funktion ausführen dürfen. Eine Auszubildende benötigt andere Rechte als die verantwortliche Steuerberaterin oder die IT-Administration.

NotebookLM kann für klar getrennte Arbeitsgruppen praktisch sein. Bei einer größeren Organisation reicht eine bloße Aufteilung in einzelne Notebooks jedoch oft nicht aus. Benötigt werden feinere Regeln: Wer darf Quellen hinzufügen? Wer darf Inhalte entfernen? Wer kann Gespräche teilen? Wer darf Ergebnisse exportieren oder als Arbeitsgrundlage freigeben?

Eine eigene Anwendung kann solche Rollen gezielt abbilden. Typische Berechtigungen sind:

Wichtig ist außerdem die Trennung nach Zuständigkeiten. Eine Person aus dem Bereich Einkommensteuer sollte nicht automatisch auf Wissensbestände zur internationalen Umstrukturierung zugreifen können. Ein eigenes RAG-System kann solche Grenzen über Rollen, Gruppen und Fallzuordnungen abbilden. Das Prinzip der geringsten Rechte verhindert, dass Zugriffe aus Bequemlichkeit zu weit gefasst werden.

Auch der Arbeitsablauf selbst lässt sich individuell gestalten. Ein Berufseinsteiger kann zunächst nur eine Recherche anlegen. Danach prüft eine erfahrene Fachkraft die Antwort und gibt sie für einen Vermerk frei. Erst im letzten Schritt erhält die zuständige Person eine exportierbare Fassung. Dieser Ablauf schafft klare Übergaben, ohne jede Aufgabe per E-Mail weiterzureichen.

Praktisch sind zudem persönliche Einstellungen. Nutzer können bevorzugte Ausgabeformen wählen, etwa eine kurze Mandantenantwort, einen ausführlichen Prüfvermerk oder eine Liste offener Punkte. Solche Vorlagen sollten zentral verwaltet werden, damit persönliche Anpassungen nicht zu widersprüchlichen Ergebnissen führen.

Eine eigene Anwendung kann den Status jedes Vorgangs sichtbar machen: Entwurf, fachliche Prüfung, Rückfrage, freigegeben oder archiviert. NotebookLM unterstützt den Dialog mit Quellen, bildet solche organisationsweiten Zustände aber nicht automatisch als vollständige Fallsteuerung ab.

Der Unterschied zeigt sich besonders bei Vertretungen und Teamwechseln. Muss eine andere Person einen Vorgang übernehmen, sollte sie nicht nur den Chatverlauf sehen. Sie braucht auch Zuständigkeit, Bearbeitungsstand, verwendete Vorlage und nächste Aufgabe. Ein rollenbasiertes RAG-System kann diese Informationen zusammenführen und Übergaben weniger brüchig machen.

Für kleine Gruppen genügt eine einfache Rechteordnung. Sobald mehrere Fachbereiche, Standorte oder Mandatsteams beteiligt sind, wird die Benutzerverwaltung selbst zu einem Architekturthema. Dann spricht der Bedarf an kontrollierten Rollen und fest definierten Übergaben eher für eine eigene Anwendung als für einen losgelösten Dokumentenarbeitsraum.

Automatisierung und Skalierung im täglichen Einsatz

Automatisierung wird im Steuerrecht interessant, wenn aus einzelnen Recherchen ein wiederkehrendes Volumen entsteht. Ein Mensch kann einige Anfragen nacheinander bearbeiten. Bei Hunderten Vorgängen pro Woche werden Wartezeiten, Doppelarbeit und ungleichmäßige Ergebnisse jedoch schnell sichtbar.

Eine eigene RAG-Anwendung kann Aufgaben in eine Verarbeitungskette einordnen. Neue Dokumente lassen sich klassifizieren, Fragen automatisch anstoßen und Ergebnisse nach festen Regeln weiterleiten. Auch wiederkehrende Abfragen, etwa zu Fristen oder typischen Fallgruppen, können als standardisierte Prozesse laufen.

NotebookLM bleibt stärker auf die aktive Nutzung durch eine Person ausgerichtet. Das ist bei Einzelrecherchen angenehm. Für einen automatisierten Massenvorgang fehlen jedoch oft die nötigen Steuerpunkte. Ein System, das regelmäßig viele Fälle bearbeitet, braucht Warteschlangen, Wiederholungslogik, Fehlerpfade und eine Überwachung der Laufzeiten.

Eine skalierbare Verarbeitungskette kann beispielsweise so aussehen:

Wichtig ist dabei eine wirtschaftliche Betrachtung. Sprachmodellaufrufe verursachen Kosten, benötigen Rechenzeit und können bei langen Dokumenten stark schwanken. Eine gute Architektur verarbeitet deshalb nicht jedes Dokument vollständig. Sie nutzt Vorfilter, Zwischenspeicher und kurze Kontextfenster. Für häufige Standardfragen können vorbereitete Ergebnisse den Aufwand zusätzlich senken.

Mit steigender Nutzung ändern sich auch die technischen Anforderungen. Zehn Anfragen pro Tag lassen sich fast beliebig handhaben. Bei 10.000 Anfragen müssen Lastspitzen, Antwortzeiten und Ausfälle geplant werden. Ein eigenes System kann mehrere Modellklassen einsetzen: ein schnelles Modell für die Sortierung, ein leistungsfähigeres Modell für schwierige Fälle und einfache Regeln für formale Prüfungen.

Skalierung bedeutet außerdem nicht nur mehr Nutzer. Auch neue Fachgebiete, Sprachen, Mandatsarten und Dokumentformate vergrößern die Komplexität. Eine modulare Architektur kann solche Erweiterungen getrennt testen. So muss eine Änderung im Bereich Lohnsteuer nicht automatisch die Verarbeitung internationaler Sachverhalte beeinflussen.

Für die Bewertung eignen sich messbare Kennzahlen: durchschnittliche Bearbeitungszeit, Anteil erfolgreich verarbeiteter Fälle, Zahl der manuellen Nachbearbeitungen, Kosten pro Anfrage und Fehlerrate je Fallgruppe. Erst diese Werte zeigen, ob Automatisierung tatsächlich entlastet oder nur Arbeit an eine andere Stelle verschiebt.

NotebookLM kann den Bedarf für solche Prozesse sichtbar machen. Wenn die Nutzung überwiegend aus spontanen Einzelanfragen besteht, wäre eine komplexe Automatisierung überdimensioniert. Entstehen dagegen viele ähnliche Vorgänge mit festen Ergebnissen, liegt der Mehrwert einer eigenen RAG-Anwendung nicht in „mehr KI“, sondern in verlässlicher Prozessleistung.

Suchlogik, Modelle und Antwortqualität selbst steuern

Die Antwortqualität hängt nicht nur von den verwendeten Dokumenten ab. Ebenso wichtig ist, wie das System sucht, welche Textstellen es auswählt und welches Modell daraus eine Antwort erzeugt. NotebookLM nimmt Entwicklern diese Entscheidungen weitgehend ab. Das erleichtert den Einstieg, begrenzt aber die fachliche Feinsteuerung.

In einem eigenen RAG-System lässt sich die Suche auf die jeweilige Frageart abstimmen. Eine semantische Suche findet ähnliche Inhalte, kann aber bei Paragrafennummern, Aktenzeichen oder exakten Begriffen schwächer arbeiten. Eine hybride Suche kombiniert daher Vektorsuche mit Schlüsselwortsuche. Für steuerrechtliche Fragen ist auch ein sogenanntes Reranking sinnvoll: Mehrere Treffer werden zunächst gesammelt und danach nach fachlicher Relevanz neu geordnet.

Die Trefferzahl beeinflusst das Ergebnis direkt. Werden zu wenige Textstellen übergeben, fehlen wichtige Ausnahmen. Werden zu viele Passagen einbezogen, verliert das Modell den roten Faden. Eine eigene Anwendung kann diese Zahl je nach Fragetyp verändern und Regeln anwenden, etwa Mindestwerte bei der Trefferqualität oder einen Abbruch bei widersprüchlichen Ergebnissen.

Auch die Dokumentaufteilung ist kein Nebendetail. Ein Textabschnitt darf nicht so klein sein, dass sein Zusammenhang verloren geht. Ist er zu groß, wird die Suche ungenau. Fachtexte profitieren oft von einer strukturellen Aufteilung nach Paragrafen, Absätzen, Leitsätzen und Begründungen statt von rein gleich großen Textblöcken.

Bei der Modellauswahl eröffnen sich weitere Optionen. Ein schnelles Modell kann kurze Extraktionen erledigen, während ein leistungsfähigeres Modell komplexe Abwägungen formuliert. Für sensible Aufgaben kann ein Anbieter mit geeigneten Datenverarbeitungsbedingungen gewählt werden. NotebookLM bietet diese Modellentscheidung nicht in derselben Tiefe als frei konfigurierbare Systemkomponente an.

Ein eigenes System kann außerdem feste Antwortregeln erzwingen:

Die Qualität sollte mit einem festen Testsatz gemessen werden. Dieser enthält echte, anonymisierte Fragen sowie bewusst schwierige Beispiele. Bewertet werden nicht nur richtige Ergebnisse, sondern auch Trefferqualität, Vollständigkeit, unnötige Behauptungen und die Fähigkeit, eine Antwort zu verweigern, wenn die Beleglage nicht ausreicht.

Für jede Änderung an Suchverfahren, Prompt oder Modell empfiehlt sich ein Vergleich mit derselben Testsammlung. So wird sichtbar, ob eine Verbesserung tatsächlich trägt oder nur einzelne Beispiele schöner aussehen lässt. Diese Form des Benchmarkings ist aufwendig, liefert aber eine belastbare Grundlage für technische Entscheidungen.

Wer Suchstrategie, Modellauswahl und Antwortform systematisch an steuerrechtliche Aufgaben anpassen will, braucht mehr als eine fertige Oberfläche. Der Mehrwert einer eigenen RAG-Anwendung liegt dann in der messbaren und wiederholbaren Steuerung der Antwortentstehung.

Beispiel: Steuerrechtliche Recherche mit NotebookLM und eigenem RAG-System

Ein direkter Vergleich wird greifbar, wenn beide Ansätze dieselbe Rechercheaufgabe bearbeiten. Angenommen, ein Unternehmen prüft, ob Aufwendungen für eine gemischt genutzte Immobilie steuerlich berücksichtigt werden können. Die Arbeitsgrundlage umfasst einen Gesetzesauszug, ein einschlägiges Urteil, ein Verwaltungsschreiben und einen internen Sachverhaltsvermerk.

Im NotebookLM-Szenario lädt das Team diese Unterlagen in einen thematisch begrenzten Quellenraum. Anschließend stellt es nacheinander Fragen wie: Welche Voraussetzungen nennt das Material? Welche Besonderheiten behandelt das Urteil? Welche Angaben fehlen im Sachverhalt? Das Ergebnis ist vor allem eine strukturierte Gesprächs- und Recherchehilfe. Die Fachkraft erhält schnell einen Überblick und kann anschließend gezielt in den Dokumenten weiterarbeiten.

Der Test sollte mit identischen Fragen, identischen Dokumenten und identischen Bewertungskriterien erfolgen. Sonst vergleicht man nicht die Systeme, sondern zwei verschiedene Arbeitsweisen. Sinnvoll sind etwa zehn bis 20 anonymisierte Fälle aus dem Kanzleialltag. Bewertet werden können:

Im eigenen RAG-Szenario wird dieselbe Frage über eine fachlich definierte Schnittstelle eingegeben. Das System übernimmt zusätzlich strukturierte Angaben wie Zeitraum, Steuerart, Fallnummer und Dokumenttyp. Es kann daraus eine Antwortvorlage erzeugen, die nur die verlangten Felder enthält: relevante Voraussetzung, betroffene Norm, passende Rechtsprechung, offene Sachverhaltsangabe und nächster Prüfschritt.

Der Unterschied zeigt sich nicht zwingend bei der ersten Antwort. Beide Lösungen können eine brauchbare Zusammenfassung liefern. Er wird sichtbar, wenn der Fall verändert wird. Was passiert, wenn ein anderes Jahr eingetragen wird? Erkennt das System, dass eine entscheidende Angabe fehlt? Kann es zwei unterschiedliche Fallvarianten getrennt behandeln? Und lässt sich das Ergebnis ohne Nacharbeit in den bestehenden Vorgang übernehmen?

Ein aussagekräftiger Test enthält deshalb auch Negativfälle. Dazu gehören Fragen, deren Antwort nicht im Quellenbestand steht, widersprüchliche Dokumente und unvollständige Sachverhalte. NotebookLM zeigt hier, wie gut Menschen mit der Rechercheoberfläche arbeiten können. Das eigene RAG-System wird zusätzlich daran gemessen, ob es nach festen Regeln stoppt, eine Rückfrage erzeugt oder den Vorgang an eine Fachkraft weiterleitet.

Die Ergebnisse sollten in einer einfachen Versuchsmatrix festgehalten werden. Dabei zählt nicht nur, welches System die schönere Formulierung liefert. Wichtiger sind Fehlertyp, Bearbeitungszeit, Nacharbeit und fachliche Verwendbarkeit. Ein System, das etwas weniger elegant schreibt, aber fehlende Angaben zuverlässig markiert, kann im Alltag die bessere Wahl sein.

Für viele Kanzleien führt ein solcher Vergleich zu einer Mischform: NotebookLM dient der offenen Erkundung und der Vorbereitung von Fragestellungen. Das eigene RAG-System bearbeitet später standardisierte Falltypen mit festen Eingaben und Ausgaben. So wird nicht die gesamte Recherche künstlich verengt, sondern nur der Teil automatisiert, bei dem ein klarer und wiederholbarer Nutzen besteht.

Der entscheidende Nachweis ist kein Demo-Chat, sondern ein realitätsnaher Vergleichstest. Erst wenn beide Ansätze mit denselben Fällen, Messwerten und Fehlerklassen geprüft wurden, lässt sich seriös entscheiden, ob die individuelle Entwicklung einen echten wirtschaftlichen und fachlichen Vorteil bringt.

Fazit: NotebookLM testen und den eigenen RAG-Mehrwert klar prüfen

Die Entscheidung fällt am besten nach einem begrenzten Praxistest, nicht nach einer Produktdemo. NotebookLM sollte mit echten, anonymisierten Steuerfragen geprüft werden. Erst danach lässt sich erkennen, ob der vorhandene Funktionsumfang den Arbeitsalltag trägt oder ob eine eigene Anwendung einen belegbaren Zusatznutzen bietet.

Für den Test braucht es klare Erfolgskriterien. Dazu zählen nicht nur richtige Antworten, sondern auch die Zeit bis zum brauchbaren Ergebnis, die Zahl notwendiger Nachfragen und der Aufwand für die Nachbearbeitung. Ebenso wichtig ist die Akzeptanz im Team: Ein technisch starkes System bringt wenig, wenn Mitarbeitende es umgehen oder Ergebnisse nicht in ihre Arbeit übernehmen.

Der wichtigste Vergleich lautet nicht „NotebookLM gegen Eigenentwicklung“, sondern „heutiger Prozess gegen verbesserter Prozess“. Wenn NotebookLM die Recherche deutlich beschleunigt und die Ergebnisse zuverlässig weiterverwendbar sind, besteht zunächst kein Grund für ein eigenes System. Die gesparte Entwicklungszeit kann dann in gute Quellenpflege, Schulung und klare Arbeitsregeln fließen.

Eine individuelle RAG-Anwendung lohnt sich erst, wenn ein konkreter Engpass bleibt. Das kann ein fehlender Anschluss an Fachsoftware sein, ein hoher manueller Übertragungsaufwand oder ein wiederkehrender Prozess mit festen Eingaben. Solche Anforderungen sollten messbar beschrieben werden. „Mehr Kontrolle“ ist zu ungenau; „automatische Übergabe von 500 geprüften Vorgängen pro Monat“ ist eine belastbare Zielgröße.

Für viele Organisationen ist ein gestuftes Vorgehen sinnvoll. Zuerst wird NotebookLM als günstiger Praxistest verwendet. Danach werden nur die Funktionen individuell entwickelt, die im Alltag nachweislich fehlen. So entsteht keine überladene Plattform, sondern eine Lösung mit nachvollziehbarem Zweck.

NotebookLM kann eine eigene RAG-Anwendung überflüssig machen, wenn der Bedarf bei der quellenbezogenen Recherche endet. Es wird ungeeignet, sobald daraus ein verbindlicher, integrierter und stark standardisierter Kanzleiprozess werden soll.

Die beste Entscheidung ist die mit dem klarsten Nachweis: NotebookLM testen, Ergebnisse messen und nur den verbleibenden Engpass selbst entwickeln.