Lösung

KI-RAG Plattform durch KPMG & die Bundesdruckerei

BDR

Kurzvorstellung des Unternehmens und der angebotenen Lösung

KPMG bringt in der vorliegenden Konstellation ihre fachliche und methodische Beratungskompetenz in den Bereichen Zielbild, Einführungsstrategie, Governance, Sicherheit und Integration ein. Die Bundesdruckerei GmbH stellt mit dem Assistent.iQ den technologischen Lösungsbaustein bereit und verantwortet die produktnahe Plattformperspektive. Damit entsteht ein Zusammenspiel aus etablierter Technologie der Bundesdruckerei und der Umsetzungs-, Integrations- und Transformationsbegleitung durch KPMG, um den Einsatzfall für die Jülicher Entsorgungsgesellschaft für Nuklearanlagen fachlich fundiert und praxisnah umzusetzen.

KPMG

KPMG ist eine Organisation unabhängiger Mitgliedsfirmen mit mehr als 276.000 Mitarbeitenden in 138 Ländern und Territorien. Auch in Deutschland gehört KPMG zu den führenden Wirtschaftsprüfungs- und Beratungsunternehmen und ist mit über 14.100 Mitarbeitenden an 28 Standorten präsent. Unsere Leistungen sind in die Geschäftsbereiche Audit, Tax, Performance & Strategy, Deal Advisory und Consulting gegliedert. Im Mittelpunkt von Audit steht die Prüfung von Konzern und Jahresabschlüssen. Tax steht für die steuerberatende Tätigkeit von KPMG. Die Bereiche Performance & Strategy, Deal Advisory und Consulting bündeln unser hohes fachliches Know how zu betriebswirtschaftlichen, regulatorischen und transaktionsorientierten Themen.

Für wesentliche Branchen unserer Wirtschaft haben wir eine geschäftsbereichsübergreifende Spezialisierung vorgenommen. Hier laufen die Erfahrungen unserer Expertinnen und Experten weltweit zusammen und tragen zusätzlich zur Beratungsqualität bei.

Bundesdruckerei GmbH

Die Bundesdruckerei GmbH samt ihrer Tochtergesellschaft Maurer Electronics GmbH treibt technologische Entwicklungen in den Bereichen Identitäts- und Berechtigungsmanagement, Verwaltungsdigitalisierung, Datenanalyse und Künstliche Intelligenz sowie staatliche Zahlungsmittel und Werttransfersysteme an. Damit schafft sie die Basis für eine moderne und resiliente Gesellschaft.

Als Unternehmen der Bundesdruckerei-Gruppe und mit der Erfahrung von über 250 Jahren ebnet das Unternehmen den Weg in eine sichere digitale Zukunft. Die Bundesdruckerei GmbH beschäftigt derzeit rund 3.200 Mitarbeitende und hat 2024 einen Umsatz von 939,4 Millionen Euro erzielt.

Beschreibung des Lösungsansatzes und des Reifegrads

Assistent.iQ bringt Künstliche Intelligenz sicher und kontrollierbar in die Verwaltung. Der KI-Assistent der Bundesdruckerei unterstützt bei Recherche, Dokumentenverarbeitung und Texterstellung – ausschließlich auf Basis bereitgestellter Inhalte und freigegebener Quellen. Datenschutz, Transparenz und Modellkontrolle stehen dabei im Mittelpunkt. Bereits im Standard verfügt die Lösung über zentrale Funktionen für den Einsatzfall „Chat mit Dokumenten“. Dazu gehören insbesondere:

Ask your documents

Dokumente werden erfasst und stehen dem Nutzer zur Verfügung. Es werden erweiterte Technologien wie das MCP eingesetzt, um die Qualität der Antworten zu verbessern.

Textgenerierung

Die Assistent.iQ Plattform ermöglicht Texte mit und ohne Quellenbezug zu generieren.

Textzusammenfassung

Verschiedene Dokumente können zusammengefasst werden und für den jeweiligen Anwendungsfall individualisiert werden.

Nutzerfreundlichkeit

Uploadfunktionen für verschiedene Dateiformate. Interner Dokumenten-Viewer, Antworten werden mit Confident-Scorings versehen, für wiederkehrende Aufgaben stehen Prompt-Vorlagen zur Verfügung und über Admin-Konsolen können Antwortmodi eingestellt werden.

Ein zentrales Merkmal ist die standardmäßig aktivierte Antwortbeschränkung: Fragen werden zunächst nur dann beantwortet, wenn das erforderliche Wissen in den bereitgestellten Dokumenten enthalten ist. Über den Standard hinaus sind erweiterte Konfigurationen möglich, etwa für einen Zuständigkeitsfinder, freigegebene Dokumente oder die Anzeige ähnlicher Dokumente. Ergänzend sind Integrations- und Customizing-Leistungen vorgesehen, die bei Bedarf durch Schulungen, Rollout-Begleitung oder Prompt-Engineering-Unterstützung flankiert werden können. Damit basiert der Vorschlag auf einem produktiven Standardkern, der gezielt an den konkreten Einsatzfall angepasst und schrittweise weiterentwickelt werden kann.

Einordnung der Eignung für den beschriebenen Einsatzfall

Der vorgeschlagene Lösungsansatz ist grundsätzlich sehr gut auf den beschriebenen Einsatzfall ausgerichtet, da er auf einen sicheren und quellenbasierten „Chat mit Dokumenten“ in einer geschützten Unternehmensumgebung zielt. Besonders relevant ist, dass quellenbasierte, nachvollziehbare Antworten mit Referenzierung relevanter Fundstellen vollständig umgesetzt sind. Gleiches gilt für den transparenten Umgang mit unzureichender Quellenlage: Fragen ohne belastbare Wissensgrundlage werden entsprechend gekennzeichnet; auf Wunsch des Nutzers kann dennoch eine Antwort auf Basis des Sprachmodells erfolgen, wobei die Risiken transparent gemacht und die Antwort entsprechend markiert werden.

Auch die Verarbeitung relevanter Dokumenttypen bietet eine tragfähige Grundlage. Unterstützt werden insbesondere textbasierte und gescannte PDFs, Office-Dokumente, Tabellen sowie vergleichbare Unterlagen. Gescannte Dokumente werden per OCR digitalisiert und aufbereitet, Tabellen extrahiert und strukturiert verarbeitet, und bei Bildern, Grafiken und Zeichnungen wird der enthaltene Text über OCR erfasst. Für sehr große Dokumente ist eine Aufteilung in Chunks vorgesehen. Die Standardgrenze liegt bei rund 300 Seiten, ist jedoch skalierbar.

Gleichzeitig ist eine realistische Einordnung wichtig. Die Lösung deckt bereits wesentliche Anforderungen ab, jedoch noch nicht alle Punkte vollständig im Standard. So ist die Anbindung der genannten Datenquellen grundsätzlich möglich, jedoch noch nicht für alle Datenquellen vollständig umgesetzt. Eine klassische Suche ist innerhalb A.iQ implementiert, jedoch noch nicht auf Dokumenteninhalten, sondern Meta-Informationen. Eine solche Funktion ist aber grundsätzlich umsetzbar. Eine inhaltliche Bilderkennung im Sinne einer visuellen Interpretation ist ebenfalls noch nicht vorhanden. Unterstützt wird aktuell die Texterkennung innerhalb von Bildern. Der Umgang mit Versionen, Dubletten und inkrementellen Aktualisierungsläufen ist grundsätzlich möglich, wird teilweise aber als individuelle Konfiguration nach Aufnahme konkreter Anforderungen umgesetzt.

Dokumentenverarbeitung, Antwortqualität und Transparenz

Die Lösung ist darauf ausgelegt, unterschiedliche dokumentenbasierte Informationsquellen automatisiert aufzubereiten und für die weitere Nutzung im Chat verfügbar zu machen. Text und Tabellen werden automatisch verarbeitet, gescannte PDFs per OCR digitalisiert und aufbereitet, Tabellen strukturiert extrahiert. Bei Bildern, Grafiken und Zeichnungen wird der enthaltene Text ebenfalls per OCR erfasst. Für große Dokumente ist eine Aufteilung in Chunks vorgesehen; die Unterlage nennt hierfür eine Standardgrenze von rund 300 Seiten, die jedoch skalierbar ist. Zugleich gilt: Je strukturierter die Quelle, desto höher die Antwortqualität.

Auch der Umgang mit Versionen, Dubletten und Aktualisierungsläufen ist vorgesehen. Daten werden über eine Migrationsstrategie aktuell gehalten. Dies umfasst auch die Neuverarbeitung bereits verwendeter Dokumente, sofern sich Ingestion-Parameter ändern. Dubletten werden innerhalb eines Mandanten erkannt und nicht erneut verarbeitet, sondern entsprechend dupliziert. Wissen aus angebundenen Datenquellen wird regelmäßig überprüft und bei Veränderungen automatisch verarbeitet.

Ein zentrales Qualitätsmerkmal ist die konsequente Quellenbasierung. Wenn eine Frage nicht auf Basis des bereitgestellten Wissens beantwortet werden kann, wird dies transparent angezeigt und die Beantwortung zunächst abgelehnt. Der Nutzer kann sich anschließend bewusst dafür entscheiden, dennoch eine Antwort auf Basis des Sprachmusters des Modells zu erhalten; die damit verbundenen Risiken werden ausdrücklich kenntlich gemacht und die Antwort entsprechend gekennzeichnet. Für dokumentengestützte Antworten werden Verweise in die zugrunde liegenden Dokumente gegeben, gegebenenfalls mit Text-Highlighting. Auch bei unzureichender Quellenbasis versucht die Lösung, sofern möglich, relevanten Kontext aus den Dokumenten bereitzustellen. Quellen oder der Hinweis auf fehlende Quellen werden stets mit in die Zwischenablage kopiert.

Darstellung der im Standard abgedeckten Anforderungen sowie offener Punkte und realistischer Ausbaupfade

Für den vorliegenden Einsatzfall steht der On-Premises-Betrieb im Vordergrund. Es werden Container Images bereitgestellt, während Installation und Betrieb durch den Kunden in der eigenen Umgebung erfolgen. Damit wird ein lokaler Betrieb der wesentlichen Komponenten im Sinne eines Betriebs im Rechenzentrum des Kunden unterstützt. Auch die Nutzung lokal betriebener Modelle bzw. lokaler Inferenzkomponenten ist in diesem Verständnis möglich. Die Lösung ist produktiv beziehbar und kann bei Vorliegen der entsprechenden Mindestanforderungen sogar in VS-NfD-Umgebungen durch den Kunden betrieben werden.

Die für JEN relevanten Datenquellen können grundsätzlich angebunden werden. Genannt werden insbesondere:

SharePoint Online, SMB-Fileshares und DMS-Systeme
Intranet-/Wiki-Inhalte sowie relationale Datenquellen

Für diese Anbindungen stehen bereits konfigurierbare Standard-Datenquellen zur Verfügung, die fortlaufend erweitert werden. Weitere Anbindungen können gemeinsam mit dem Kunden auf Basis konkreter Bedarfe umgesetzt werden. Voraussetzung ist, dass Dokumente digital bzw. mindestens als Scan vorliegen, Formate strukturiert oder halbstrukturiert sind, Zugriffsrechte des Quellsystems übertragbar sind und relevante Metadaten wie Datum, Abteilung oder Klassifizierung vorhanden sind.

Die Berücksichtigung von Berechtigungen erfolgt über einen OpenID Connect Identity Provider. Eine Anbindung des (gesamten) freien Internets (wie bei einer Google-Suche) ist nicht vorgesehen. Stattdessen kann ein Whitelisting von einzelnen IP-Adressen bzw. deren Datenquellen vorgenommen werden. Für Sonderfälle bestehen Vorverarbeitungsbedarfe, insbesondere bei Handschriften, stark fragmentierten Dokumenten oder passwortgeschützten Dateien. Insgesamt entsteht damit ein Architektur- und Integrationsansatz, der auf Standardisierung, kontrollierte Anbindung und schrittweisen Ausbau der Quellenlandschaft ausgelegt ist.