Startseite
Öffentliche Auftraggeber
Innovative Unternehmen
Challenges Challenge starten
Marktplatz der Innovationen Innovation präsentieren
Mein Bereich
Login
Startseite
Öffentliche Auftraggeber Innovative Unternehmen
Challenges
Challenge starten
Marktplatz der Innovationen
Innovation präsentieren
Login
Zur Website das Kompetenzzentrum innovative Beschaffung vom BMFTR
Lösung

CIVITAS Sentinel – Die souveräne KI-Wissensplattform für sichere Chats mit Dokumenten

KI
Kurzvorstellung des Unternehmens und der angebotenen Lösung

Civitas liefert eine vollständig On-Premises betreibbare KI-Wissensplattform, die Dokumente, SharePoint, DMS-Systeme und Datenbanken verbindet, Berechtigungen berücksichtigt und belastbare Antworten mit Quellenangaben erzeugt.

Die Civitas Europe GmbH entwickelt KI-gestützte Analyse- und Wissensplattformen für Behörden, kritische Infrastrukturen sowie Organisationen mit hohen Anforderungen an Datenschutz, Nachvollziehbarkeit und digitale Souveränität. Unsere Lösungen werden konsequent für den Betrieb in abgeschotteten und sicherheitskritischen Umgebungen entwickelt („On-Premises by Design“) und sind bereits bei Bundes- und Landesbehörden im Einsatz.

Mit CIVITAS Sentinel bieten wir eine modulare KI-Plattform für die intelligente Erschließung, Analyse und Nutzung großer, heterogener Wissensbestände. Die Lösung verbindet Dokumentenarchive, SharePoint, Fileshares, DMS-Systeme, Datenbanken, E-Mail-Systeme und weitere Informationsquellen zu einem gemeinsamen Wissensraum und ermöglicht einen sicheren, nachvollziehbaren „Chat mit Dokumenten“ auf Basis lokaler KI-Komponenten.

CIVITAS Sentinel verarbeitet strukturierte und unstrukturierte Informationen aus Dokumenten, Bildern, Scans, Tabellen, Audio- und Videodaten. Relevante Inhalte werden automatisiert extrahiert, semantisch verknüpft, klassifiziert und für Recherche-, Analyse- und Wissensmanagementprozesse nutzbar gemacht. Antworten werden stets mit Quellenreferenzen, Fundstellen und Herkunftsnachweisen versehen. Rollen- und berechtigungsbasierte Zugriffsmodelle sowie umfassende Audit- und Protokollierungsfunktionen gewährleisten die Einhaltung von Sicherheits- und Compliance-Anforderungen.

Unsere Vision ist es, aus verteiltem Organisationswissen innerhalb weniger Sekunden belastbare und nachvollziehbare Erkenntnisse zu gewinnen. CIVITAS Sentinel kombiniert moderne KI-Verfahren, semantische Suche, Wissensgraph-Technologien und automatisierte Workflows zu einer zukunftssicheren Plattform, die auch sehr große Datenbestände effizient erschließt und langfristig als zentrale Wissensinfrastruktur betrieben werden kann.

Civitas Europe GmbH

Neumarkt 13

01067 Dresden

https://civitas-europe.de/de

info@civitas-europe.de

Beschreibung des Lösungsansatzes und des Reifegrads

CIVITAS Sentinel ist eine modular aufgebaute, On-Premises-fähige KI- und Wissensplattform zur Erschließung, Analyse und Nutzung großer verteilter Informationsbestände. Die Lösung wurde für Organisationen mit hohen Anforderungen an Datenschutz, Nachvollziehbarkeit, Revisionssicherheit und digitale Souveränität entwickelt und unterstützt sowohl klassische Wissensmanagement- als auch Analyse- und Rechercheprozesse.

Der technische Kern der Plattform besteht aus einer mehrstufigen Verarbeitungskette. Dokumente und Informationen aus unterschiedlichen Quellsystemen wie SharePoint, Fileshares, DMS-Systemen, Datenbanken, E-Mail-Systemen oder Wissensplattformen werden über standardisierte Konnektoren eingebunden. Anschließend erfolgt die automatisierte Extraktion, OCR-Verarbeitung und semantische Analyse der Inhalte. Strukturierte und unstrukturierte Informationen werden in einem gemeinsamen Wissensraum zusammengeführt, miteinander verknüpft und für semantische Such-, Analyse- und Chat-Anwendungsfälle bereitgestellt.

Neben klassischen textbasierten Dokumenten unterstützt CIVITAS Sentinel moderne Verfahren aus den Bereichen Computer Vision (CV), Document AI und Intelligent Document Processing (IDP). Dadurch können auch gescannte Dokumente, technische Zeichnungen, Tabellen, Grafiken, Bilder und komplexe Dokumentstrukturen automatisiert erschlossen werden. OCR-Verfahren werden dabei um KI-basierte Struktur- und Inhaltsanalysen ergänzt, sodass nicht nur Text erkannt, sondern auch Zusammenhänge, Dokumentstrukturen, Tabelleninhalte, Metadaten und fachliche Kontexte interpretiert werden können.

Für multimodale Anwendungsfälle nutzt die Plattform Vision-Language-Modelle (VLM), welche Text-, Bild- und Dokumentinhalte gemeinsam verarbeiten können. Dadurch lassen sich beispielsweise technische Dokumentationen, Anlagenzeichnungen, Bauunterlagen, Diagramme oder bebilderte Berichte nicht nur durchsuchen, sondern inhaltlich verstehen, mit anderen Wissensbeständen verknüpfen und für Recherche- und Auskunftsprozesse nutzbar machen. Die Architektur erlaubt dabei den flexiblen Einsatz lokal betriebener Modelle und erfüllt die Anforderungen an digitale Souveränität und geschützte Unternehmensumgebungen.

Im Unterschied zu klassischen Dokumentensuchen beschränkt sich CIVITAS Sentinel nicht auf die Volltextsuche. Die Plattform erkennt Entitäten, Sachverhalte, Beziehungen, Dokumentzusammenhänge und fachliche Kontexte und stellt diese für den Nutzer nachvollziehbar dar. Moderne Retrieval- und KI-Verfahren ermöglichen die Kombination aus klassischer Suche, semantischer Suche und quellenbasierter Generierung von Antworten. Jede Antwort wird mit den zugrunde liegenden Dokumenten und Fundstellen verknüpft. Ist die Quellenlage unzureichend, unvollständig oder widersprüchlich, wird dies transparent ausgewiesen.

Die Plattform unterstützt die Verarbeitung unterschiedlichster Datenformate, darunter Office-Dokumente, PDFs, gescannte Dokumente, Tabellen, Bilder, E-Mails sowie Audio- und Videodateien. Durch die modulare Architektur können einzelne Komponenten wie Large Language Models (LLM), Vision-Language-Modelle (VLM), Embedding-Modelle, OCR-Verfahren, Suchtechnologien oder Datenquellenkonnektoren unabhängig voneinander erweitert oder ausgetauscht werden. Dadurch bleibt die Lösung langfristig technologisch offen und vermeidet Herstellerabhängigkeiten.

CIVITAS Sentinel wird bereits in sicherheitskritischen und behördlichen Einsatzszenarien genutzt, in denen sehr hohe Anforderungen an Nachvollziehbarkeit, Informationssicherheit, Verfügbarkeit, Vertraulichkeit sowie Integrität und den Betrieb in abgeschotteten Infrastrukturen bestehen.

Wesentliche Plattformfunktionen wie Datenintegration und -fusion, Dokumentenanalyse, semantische Suche, Quellenreferenzierung, Rollen- und Berechtigungskonzepte, Auditierung sowie On-Premises-Betrieb (air-gap) stehen als standardisierte Komponenten zur Verfügung.

Einordnung der Eignung für den beschriebenen Einsatzfall

Die in der Challenge beschriebene Ausgangssituation entspricht in wesentlichen Teilen den typischen Herausforderungen großer Organisationen mit historisch gewachsenen Wissensbeständen, hohen Dokumentationsanforderungen und strengen Sicherheitsvorgaben. Aus unserer Sicht adressiert CIVITAS Sentinel die Anforderungen der JEN daher besonders zielgerichtet.

Der zentrale Mehrwert liegt darin, dass verteilte Informationsbestände aus unterschiedlichen Quellen nicht nur durchsucht, sondern in einen gemeinsamen Wissensraum überführt werden. Dokumente, technische Berichte, Gutachten, Genehmigungsunterlagen, Betriebsdokumentationen, Strahlenschutzunterlagen, Zeichnungen, Postfächer, E-Mails und weitere Informationen können unabhängig von ihrem ursprünglichen Speicherort gemeinsam recherchiert, analysiert und miteinander in Beziehung gesetzt werden.

Für die JEN sehen wir insbesondere bei folgenden Herausforderungen eine hohe Passgenauigkeit:

Verteiltes Wissen und heterogene Datenquellen

Die Challenge beschreibt Informationen, die heute über SharePoint Online, Fileshares, DMS-Systeme, Intranet-/Wiki-Strukturen sowie relationale Datenbanken verteilt sind. CIVITAS Sentinel wurde genau für solche heterogenen Informationslandschaften entwickelt. Über standardisierte Konnektoren werden Datenquellen integriert und für eine gemeinsame Recherche- und Wissensbasis erschlossen, ohne bestehende Fachsysteme ersetzen zu müssen.

Große Dokumentenmengen und historisch gewachsene Bestände

Mit einem langfristigen Datenraum von rund 50 TB und etwa einer Million Dokumenten stellt die JEN hohe Anforderungen an Skalierbarkeit und Suchqualität. Die Plattform kombiniert klassische Suchverfahren mit semantischer Suche, Embedding-Technologien und KI-gestützter Wissensextraktion, sodass relevante Informationen auch in sehr großen und historisch gewachsenen Datenbeständen effizient gefunden werden können.

Technische Dokumente, Zeichnungen und gescannte Unterlagen

Besonders relevant für die JEN ist der Umgang mit technischen Dokumentationen, Zeichnungen, Diagrammen, Tabellen und gescannten Altbeständen. CIVITAS Sentinel kombiniert OCR-, Document-AI-, Intelligent-Document-Processing- und Computer-Vision-Verfahren mit modernen Vision-Language-Modellen. Dadurch können auch komplexe technische Dokumente automatisiert erschlossen, analysiert und in die semantische Suche einbezogen werden.

Versionen, Dubletten und Wissensqualität

Historisch gewachsene Dokumentenbestände enthalten häufig Mehrfachablagen, unterschiedliche Versionsstände und redundante Inhalte. Die Plattform unterstützt die Erkennung von Dubletten, die Nachverfolgung von Dokumentenversionen sowie inkrementelle Aktualisierungsläufe und verbessert dadurch die Qualität der Wissensbasis nachhaltig.

Nachvollziehbare und belastbare Antworten

Im nukleartechnischen Umfeld haben Nachvollziehbarkeit und Dokumentationspflicht einen besonders hohen Stellenwert. Antworten von CIVITAS Sentinel basieren deshalb grundsätzlich auf identifizierbaren Quellen und Fundstellen. Nutzer erhalten nicht nur eine Antwort, sondern können unmittelbar nachvollziehen, auf welchen Dokumenten und Textstellen diese beruht. Unzureichende oder widersprüchliche Quellenlagen werden transparent ausgewiesen.

Sicherheit und digitale Souveränität

Die Forderung nach lokalem Betrieb aller wesentlichen Komponenten ist ein zentrales Kriterium der Challenge. CIVITAS Sentinel wurde für den Betrieb in abgeschotteten und sicherheitskritischen Infrastrukturen entwickelt. KI-Modelle, Suchkomponenten, Datenhaltung und Analysefunktionen können vollständig innerhalb der Infrastruktur der JEN betrieben werden. Dadurch verbleiben sensible Unternehmensinformationen jederzeit unter der Kontrolle der Organisation.

Pragmatischer Einstieg mit klarer Ausbauperspektive

Ein weiterer wesentlicher Vorteil besteht darin, dass die Lösung nicht auf eine vollständige Migration oder Konsolidierung aller Datenbestände angewiesen ist. Die von JEN gewünschte Pilotierung über 8 bis 12 Wochen kann mit ausgewählten Datenquellen und Nutzergruppen starten und anschließend schrittweise auf weitere Systeme, Fachbereiche und Anwendungsfälle erweitert werden.

Aus unserer Sicht entsteht die größte Synergie aus der Kombination von sicherem On-Premises-Betrieb, KI-gestützter Wissenserschließung, multimodaler Dokumentenanalyse und nachvollziehbaren quellenbasierten Antworten. Dadurch kann vorhandenes Organisationswissen deutlich schneller nutzbar gemacht werden, ohne bestehende Prozesse, Sicherheitsanforderungen oder Fachsysteme grundlegend verändern zu müssen.

Darstellung der im Standard abgedeckten Anforderungen sowie offener Punkte und realistischer Ausbaupfade

Der überwiegende Teil der in der Challenge beschriebenen Anforderungen wird durch die Standardfunktionalitäten von CIVITAS Sentinel bereits abgedeckt. Der Fokus einer Einführung liegt daher primär auf Konfiguration, Integration bestehender Systeme sowie der fachlichen Anpassung an die Prozesse und Informationsbestände der JEN.

Im Standard abgedeckte Anforderungen

Bereits heute unterstützt CIVITAS Sentinel insbesondere folgende Anforderungen:

  • Vollständig On-Premises betreibbare Architektur

  • Einsatz lokal betriebener KI-Komponenten und Inferenzmodelle

  • Semantische Suche und klassische Volltextsuche

  • Retrieval-Augmented Generation (RAG)

  • Quellenbasierte Antworten mit Referenzierung relevanter Fundstellen

  • Transparente Kennzeichnung unzureichender oder widersprüchlicher Quellenlagen

  • Rollen- und Berechtigungskonzepte

  • Auditierbarkeit und Protokollierung von Nutzeraktivitäten

  • Verarbeitung strukturierter und unstrukturierter Daten

  • Verarbeitung von Office-Dokumenten, PDFs, E-Mails und weiteren Standardformaten

  • OCR-gestützte Verarbeitung gescannter Dokumente

  • Computer Vision, Document AI und Intelligent Document Processing für komplexe Dokumentstrukturen

  • Verarbeitung von Bildern, Grafiken und technischen Dokumentationen

  • Unterstützung multimodaler KI-Modelle (Vision-Language Models)

  • Modulare Austauschbarkeit von KI-Modellen und Infrastrukturkomponenten

  • Inkrementelle Datenverarbeitung und Aktualisierungsläufe

  • Monitoring- und Betriebsfunktionen

  • Mehrbenutzerbetrieb in sicherheitskritischen Umgebungen

Anforderungen mit Konfigurations- und Integrationsaufwand

Einige Anforderungen werden nicht durch reine Standardinstallation, sondern durch projektspezifische Konfiguration und Integration umgesetzt:

Anbindung bestehender Quellsysteme

Die Anbindung von SharePoint Online, SMB-Fileshares, relationalen Datenbanken sowie ausgewählten DMS-Systemen erfolgt über vorhandene oder standardisierte Schnittstellen. Umfang und Aufwand hängen von den jeweils eingesetzten Versionen, Datenstrukturen und Berechtigungskonzepten ab.

Abbildung bestehender Berechtigungsstrukturen

Die Integration von Active Directory, Single Sign On, Gruppen- und Rollenstrukturen erfolgt projektspezifisch. Ziel ist die konsequente Übernahme bestehender Berechtigungsmodelle bis auf Dokumenten- und Datenquellenebene.

Fachliche Optimierung für nukleartechnische Dokumentbestände

Technische Terminologien, Dokumenttypen, Abkürzungen und organisationsspezifische Wissensstrukturen können im Rahmen eines Pilotprojekts schrittweise optimiert werden. Hierbei handelt es sich um Konfigurations- und Trainingsaufwände, nicht um Produktentwicklungen.


Potenzielle Erweiterungen und Ausbaupfade

Einige Themen sehen wir als sinnvolle Ausbaustufen, die über einen ersten Pilotbetrieb hinausgehen können:

  • Erweiterte Wissensgraphen und Expertennetzwerke

  • Zusätzlich zur semantischen Suche können fachliche Zusammenhänge zwischen Dokumenten, Anlagen, Projekten, Prozessen und Experten automatisiert in Wissensgraphen abgebildet werden.

  • Dadurch lassen sich komplexe Wissensbeziehungen noch besser erschließen.

KI-gestützte Workflows und Agentenfunktionen

Nach erfolgreicher Einführung können wiederkehrende Recherche-, Prüf- oder Dokumentationsaufgaben durch KI-gestützte Assistenzfunktionen teilweise automatisiert werden.

Erweiterte Analyse technischer Zeichnungen

Für ausgewählte Anwendungsfälle können zusätzliche Computer-Vision- und Vision-Language-Modelle integriert werden, um technische Zeichnungen, Fließbilder oder Anlagendokumentationen noch detaillierter auszuwerten.

Automatisierte Wissensextraktion aus Altbeständen

In späteren Projektphasen kann die Plattform genutzt werden, um historisch gewachsene Dokumentbestände systematisch zu strukturieren und organisationsweites Wissen dauerhaft verfügbar zu machen.

Realistischer Einführungs- und Ausbaupfad

Phase 1 – Pilotbetrieb (8–12 Wochen)

  • Installation der Plattform in der Zielumgebung

  • Anbindung ausgewählter Datenquellen

  • Integration von Active Directory

  • Aufbau eines ersten Such- und Chat-Arbeitsplatzes

  • Test mit ausgewählten Fachanwendern

  • Optimierung von Such- und Antwortqualität

Phase 2 – Produktive Einführung (3–6 Monate)

  • Erweiterung auf weitere Datenquellen

  • Skalierung des Datenbestandes

  • Ausbau des Berechtigungskonzepts

  • Betriebsübergabe an internes Personal

  • Einführung von Monitoring- und Governance-Prozessen

Phase 3 – Wissensplattform und Automatisierung (ab 6 Monaten)

  • Erweiterte Wissensgraphen

  • Automatisierte Wissensextraktion

  • KI-gestützte Fachassistenten

  • Zusätzliche Fachanwendungen und Nutzergruppen


Aus heutiger Sicht sehen wir keine Anforderungen der Challenge, die eine grundlegende Produktneuentwicklung erfordern. Die wesentlichen Herausforderungen liegen in der strukturierten Einführung, der Anbindung bestehender Systeme sowie der schrittweisen Optimierung für die spezifischen Wissens- und Dokumentbestände der JEN.

Hinweise zu Integrationsaufwand, Pilotvorgehen und Betriebsmodell

CIVITAS Sentinel ist für den Betrieb in sicherheitskritischen und abgeschotteten IT-Umgebungen konzipiert und wird im vorliegenden Anwendungsfall als vollständig On-Premises betriebene Lösung vorgeschlagen. Sämtliche relevanten Komponenten – einschließlich Datenhaltung, Suchindex, Vektordatenbank, KI-Modelle, OCR-Verarbeitung sowie Anwendungsoberflächen – können innerhalb der Infrastruktur der JEN betrieben werden. Ein externer Datentransfer oder die Nutzung cloudbasierter KI-Dienste ist nicht erforderlich.

Integrationsaufwand

Die Einführung der Lösung erfordert keine grundlegenden Änderungen bestehender Fachsysteme oder Datenablagen. Die Integration erfolgt über standardisierte Konnektoren und Schnittstellen zu den vorhandenen Quellsystemen.

Typische Integrationsschritte umfassen:

  • Installation der Plattform in der Zielumgebung

  • Anbindung von Active Directory bzw. bestehender Identity-Management-Systeme

  • Konfiguration von Rollen- und Berechtigungskonzepten

  • Anbindung ausgewählter Datenquellen (z. B. SharePoint Online, SMB-Fileshares, DMS-Systeme, Datenbanken)

  • Aufbau der Such- und Wissensindizes

  • Konfiguration lokaler KI-Modelle

  • Einrichtung von Monitoring-, Logging- und Backup-Konzepten

Der technische Aufwand wird dabei maßgeblich durch die Anzahl der anzubindenden Quellsysteme, die vorhandenen Berechtigungsstrukturen sowie die Qualität der Bestandsdaten beeinflusst. Die Plattform selbst ist bereits produktiv nutzbar und erfordert keine kundenspezifische Softwareentwicklung für die Kernfunktionalitäten.

Vorschlag für einen Pilotbetrieb (8–12 Wochen)

Wir empfehlen einen fokussierten Pilotansatz mit klar definierten Erfolgskriterien und einem begrenzten Datenraum. Ziel ist die schnelle Validierung von Suchqualität, Antwortqualität, Benutzerakzeptanz und Integrationsfähigkeit.

Phase 1 – Vorbereitung und Architektur (Woche 1–2)

  • Bereitstellung der Infrastruktur

  • Installation der Plattform

  • Abstimmung von Sicherheits- und Berechtigungskonzepten

  • Auswahl der Pilotdatenquellen

  • Definition fachlicher Testfälle und Erfolgskriterien

Phase 2 – Datenintegration und Indexaufbau (Woche 3–5)

  • Anbindung von 2–4 repräsentativen Datenquellen

  • Aufbau erster Wissens- und Suchindizes

  • Aktivierung semantischer Suche und Dokumentenchat

  • Integration lokaler KI-Modelle

Phase 3 – Fachliche Erprobung (Woche 6–9)

  • Nutzung durch ausgewählte Fachanwender

  • Durchführung praxisnaher Recherche- und Wissensmanagementszenarien

  • Messung von Antwortqualität, Auffindbarkeit und Zeitersparnis

  • Optimierung von Berechtigungen, Suchprofilen und Dokumentenverarbeitung

Phase 4 – Bewertung und Skalierungsplanung (Woche 10–12)

  • Gemeinsame Auswertung der Pilotziele

  • Priorisierung weiterer Datenquellen

  • Infrastruktur- und Kapazitätsplanung für den Regelbetrieb

  • Definition eines schrittweisen Rolloutplans

Für die Pilotphase empfehlen wir ein kleines interdisziplinäres Team bestehend aus IT, Informationsmanagement und ausgewählten Fachanwendern. Bereits in dieser Phase können belastbare Aussagen zur Suchqualität, Benutzerakzeptanz und technischen Skalierbarkeit getroffen werden.

Betriebsmodell

Für den beschriebenen Einsatzfall empfehlen wir einen vollständig On-Premises betriebenen Ansatz.

Die Plattform unterstützt dabei unterschiedliche Betriebsmodelle:

  • Single-Node-Betrieb für Pilot- und Einführungsphasen

  • Multi-Node-Betrieb für produktive Umgebungen

  • Containerisierte Bereitstellung auf bestehenden Virtualisierungs- oder Kubernetes-Plattformen

  • Betrieb auf Standard-Hardware oder dedizierten GPU-Systemen

  • Integration in bestehende Monitoring-, Backup- und Security-Konzepte

Die Administration der Plattform kann nach einer Einführungsphase durch eigenes Personal der JEN erfolgen. Updates, Modellwechsel, Erweiterungen von Datenquellen sowie Betriebsüberwachung sind über standardisierte Administrationsfunktionen möglich.

Langfristiger Ausbau

Nach erfolgreichem Pilotbetrieb kann die Plattform schrittweise erweitert werden:

  • Erweiterung der Nutzergruppe und frühzeitige Nutzerakzeptanztests oder Beteiligung

  • Anbindung weiterer Datenquellen

  • Ausbau auf zusätzliche Nutzergruppen

  • Erweiterung der KI-Modelle / Fine-Tuning

  • Einführung fachlicher Wissensgraphen

  • Aufbau von Automatisierung-Pipelines

  • Automatisierung wiederkehrender Recherche- und Dokumentationsaufgaben

  • Integration zusätzlicher Analyse- und Assistenzfunktionen

Dadurch entsteht ein risikoarmer Einführungspfad, bei dem frühzeitig Nutzen erzeugt wird und Investitionen schrittweise entlang des tatsächlichen Mehrwerts erfolgen können.

Grobe Einschätzung zu Infrastruktur- und Sizing-Annahmen

Die konkrete Dimensionierung hängt neben Verfügbarkeits- und Performanceerwartungen von mehreren Faktoren ab, insbesondere von den eingesetzten KI-Modell-Varianten, dem gewünschten Antwortverhalten, dem Anteil multimodaler Dokumente, der Anzahl gleichzeitig aktiver Nutzer sowie dem Umfang der zu verarbeitenden Datenbestände.

Orientierungswerte:

Pilotbetrieb (8–12 Wochen)

Für einen Pilotbetrieb mit ausgewählten Datenquellen, mehreren zehntausend bis wenigen hunderttausend Dokumenten sowie einem kleinen Nutzerkreis genügt in der Regel eine kompakte On-Premises-Infrastruktur.

Typische Größenordnung:

  • 1 Applikationsserver (CPU 48 Kerne)

  • Arbeitsspeicher 128 GB RAM

  • 1–2 GPU-Beschleuniger (48 GB VRAM)

  • 2 TB Festplattenspeicher

  • SSD-basierte Speicherung für Such- und Vektorindizes

  • Integration in vorhandene Active-Directory- und Backup-Strukturen

Ein solcher Pilot ermöglicht bereits die Validierung von Suchqualität, Dokumentenverarbeitung, Berechtigungsmodellen und Nutzerakzeptanz.

Produktivbetrieb

Für den langfristig beschriebenen Nutzerkreis von etwa 350 Anwendern und bis zu 30 parallelen interaktiven Anfragen empfehlen wir eine modulare Mehrknotenarchitektur. Typische Komponenten:

  • Applikations- KI-Services- und Datenbankserver

  • Such- und Indexierungscluster

  • Vektordatenbank

  • Dokumentenverarbeitungs- und OCR-Komponenten

  • KI-Inferenzserver

  • Monitoring- und Audit-Komponenten

Typische Größenordnung:

  • 3–6 Serverknoten (CPU 192 Kerne)

  • 512 GB RAM / Knoten

  • 6 GPU-Beschleuniger (160 GB VRAM)

  • 100 TB Festplattenspeicher

  • hochperformante SSD-Speicherbereiche für Indizes und Vektordaten

  • (geo)redundante Datenspeicherung gemäß den betrieblichen Vorgaben

Die Architektur kann schrittweise erweitert werden und unterstützt sowohl vertikale als auch horizontale Skalierung.

Langfristiger Vollausbau

Für den perspektivischen Datenraum von rund 50 TB mit etwa einer Million Dokumenten, hohen Versionierungsanteilen, Bild- und Grafikbeständen sowie umfangreichen OCR- und KI-Verarbeitungen ist mit zusätzlichen Speicher- und Rechenressourcen zu rechnen.

Erfahrungsgemäß entstehen neben den Quelldaten weitere Datenbestände für:

  • OCR-Ergebnisse

  • Metadaten

  • Suchindizes

  • Embeddings und Vektordaten

  • Dokumentversionen

  • Audit- und Betriebsdaten

Je nach Dokumentenstruktur und Verarbeitungsumfang sollte daher langfristig ein zusätzlicher Speicherbedarf von etwa 20–100 % der ursprünglichen Quelldaten eingeplant werden.

Netzwerk und Bandbreite

Im Regelbetrieb entstehen überwiegend interne Datenflüsse zwischen den Plattformkomponenten. Die Anforderungen an externe Bandbreiten sind gering, da sämtliche wesentlichen Verarbeitungsstufen lokal betrieben werden können.

Für die initiale Datenerschließung großer Dokumentbestände sowie inkrementelle Aktualisierungsläufe empfiehlt sich eine Anbindung der Plattform an das interne Rechenzentrumsnetzwerk mit mindestens 10 Gbit/s.

Skalierbarkeit und Zukunftssicherheit

CIVITAS Sentinel verfolgt einen modularen Skalierungsansatz. Datenquellen, Suchkomponenten, KI-Modelle, OCR-Verarbeitung und Analysefunktionen können unabhängig voneinander erweitert werden. Dadurch kann die Infrastruktur schrittweise entlang der tatsächlichen Nutzung und des Datenwachstums ausgebaut werden.

Aus heutiger Sicht erscheint für die Anforderungen der JEN eine schrittweise Skalierung vom Pilotbetrieb über einen Single- bzw. Small-Cluster-Betrieb hin zu einer produktiven Mehrknotenarchitektur als wirtschaftlich und technisch sinnvollster Weg.

Aussage zu Erfahrungen in vergleichbaren Referenzprojekten oder ähnlich gelagerten Einsatzszenarien

Siehe geschützte Angaben (ausschließlich für den Challenge-Geber sichtbar).

Einschätzung zur langfristigen Weiterentwicklungsfähigkeit und Zukunftssicherheit der Lösung

Die langfristige Zukunftssicherheit von CIVITAS Sentinel basiert auf einem zentralen Architekturprinzip: Die Plattform ist nicht auf einzelne Hersteller, KI-Modelle oder Technologien festgelegt, sondern verfolgt einen konsequent modularen und flexiblen komponentenbasierten Ansatz.

Insbesondere im Bereich der Künstlichen Intelligenz entwickeln sich Technologien derzeit mit hoher Geschwindigkeit. Aus unserer Sicht besteht die größte Investitionssicherheit deshalb nicht darin, auf ein bestimmtes Modell zu setzen, sondern eine Plattform bereitzustellen, die zukünftige Entwicklungen flexibel integrieren kann.

Herstellerunabhängigkeit und Austauschbarkeit

Die Architektur von CIVITAS Sentinel ermöglicht den unabhängigen Austausch wesentlicher Komponenten:

  • Large Language Models (LLM)

  • Vision-Language Models (VLM)

  • Embedding-Modelle

  • OCR- und Document-AI-Komponenten

  • Such- und Indexierungstechnologien

  • Vektor- und Metadatenbanken

  • Datenquellenkonnektoren

  • Authentifizierungs- und Berechtigungssysteme

Dadurch können neue Technologien integriert werden, ohne die Gesamtplattform neu aufbauen oder bestehende Wissensbestände migrieren zu müssen.

Digitale Souveränität als Zukunftsprinzip

Für Betreiber kritischer Infrastrukturen und Organisationen mit hohen Sicherheitsanforderungen gewinnt digitale Souveränität zunehmend an Bedeutung. CIVITAS Sentinel wurde deshalb von Beginn an für den Betrieb mit lokal kontrollierten Komponenten entwickelt.

Die Plattform unterstützt den Einsatz proprietärer, europäischer sowie Open-Source-basierter KI-Modelle gleichermaßen. Dadurch können zukünftige regulatorische Anforderungen, Sicherheitsvorgaben oder technologische Entwicklungen flexibel berücksichtigt werden.

Vorbereitung auf die nächste Generation von KI-Systemen

Die aktuelle Entwicklung geht deutlich über klassische Chatbots und reine Dokumentensuche hinaus. Bereits heute integriert CIVITAS Sentinel moderne Verfahren aus den Bereichen:

  • Retrieval-Augmented Generation (RAG)

  • Computer Vision

  • Document AI

  • Intelligent Document Processing (IDP)

  • multimodale Vision-Language-Modelle (VLM)

  • semantische Wissensrepräsentation

Die Architektur ist darauf ausgelegt, zukünftige Entwicklungen wie agentische KI-Systeme, autonome Wissensassistenten, fortgeschrittene Dokumentenanalyse oder neue multimodale Modelle schrittweise integrieren zu können.

Skalierbarkeit über den gesamten Lebenszyklus

Die Plattform unterstützt eine schrittweise Erweiterung sowohl hinsichtlich Datenvolumen als auch Nutzerzahlen. Neue Datenquellen, Fachbereiche und Anwendungsfälle können ohne grundlegende Architekturänderungen integriert werden.

Dadurch kann die Lösung mit den Anforderungen der Organisation wachsen und bleibt auch bei steigenden Datenmengen langfristig wirtschaftlich betreibbar.

Langfristige Wartbarkeit

Ein wesentlicher Aspekt der Zukunftssicherheit ist die Wartbarkeit im laufenden Betrieb. CIVITAS Sentinel setzt deshalb auf:

  • offene und dokumentierte Schnittstellen

  • standardisierte Infrastrukturkomponenten

  • containerisierte Bereitstellung

  • exportierbare Konfigurationen

  • nachvollziehbare Betriebs- und Auditinformationen

  • Integration in bestehende Monitoring- und Sicherheitskonzepte

    Dadurch bleibt die Plattform unabhängig von einzelnen Herstellern oder Dienstleistern langfristig betreibbar.

Roadmap und Weiterentwicklung

Die strategische Weiterentwicklung konzentriert sich in den kommenden Jahren insbesondere auf folgende Bereiche:

  • Erweiterung multimodaler Dokumentenanalyse

  • Optimierung lokaler KI-Modelle

  • Ausbau von Document-AI- und OCR-Funktionen

  • Verbesserte Quellenbewertung und Antwortqualität

  • Erweiterte Wissensgraphen und semantische Wissensräume

  • KI-gestützte Fachassistenten

  • Automatisierung wiederkehrender Wissens- und Rechercheprozesse

  • Erweiterte Analyse technischer Dokumentationen und Zeichnungen

  • Integration zukünftiger KI-Generationen ohne Plattformwechsel

  • Ausbau agentischer Assistenzsysteme

  • Organisationsübergreifende Wissensräume

  • Weitere Automatisierung wissensintensiver Arbeitsabläufe unter voller Wahrung von Governance- und Sicherheitsanforderungen

  • Integration in Smartphones und spatial Clients

Aus unserer Sicht ist die langfristige Zukunftssicherheit weniger eine Frage einzelner Technologien als vielmehr der Fähigkeit, technologische Veränderungen kontrolliert und ohne Herstellerabhängigkeiten integrieren zu können. Genau hierfür wurde CIVITAS Sentinel konzipiert.

Challenge
Interne Dokumente sicher mit KI erschließen: On-Premises KI-RAG-Plattform für „Chat mit Dokumenten“
Lösungsgeber
Civitas Europe GmbH
KOINNOvationsplatz
Bundesministerium für
Forschung, Technologie und Raumfahrt
Kapelle-Ufer 1
10117 Berlin
Der KOINNOvationsplatz orientiert sich an dem Konzept der www.ioeb-innovationsplattform.at der staatlichen IÖB-Initiative (www.ioeb.at) in Österreich.
Illustrationen: „Flat Line Illustrations“ copyright PureSolution via Creative Market
Kontakt Datenschutz Nutzungsbedingungen Impressum FAQ Barrierefreiheit