Lösungsentwurf der neuland.ai zur JEN-Challenge „Chat mit Dokumenten“
Die neuland.ai AG entwickelt mit dem neuland.ai HUB eine KI-Management- und Orchestrierungsplattform für den sicheren, kontrollierten und nachvollziehbaren Einsatz generativer KI in Unternehmen und Organisationen mit erhöhten Anforderungen an Datenschutz, Informationssicherheit und Governance.
Für den beschriebenen Anwendungsfall der Jülicher Entsorgungsgesellschaft für Nuklearanlagen (JEN) schlagen wir den Einsatz des neuland.ai HUB als On-Premises betreibbare KI-Management- und Orchestrierungsplattform vor. Ziel ist die sichere und nachvollziehbare Nutzung verteilter Wissensbestände über einen rollenbasierten „Chat mit Dokumenten“ mit quellenbasierten Antworten und Referenzierung relevanter Fundstellen.
Die Plattform verbindet Large Language Models (LLMs), Retrieval-Augmented Generation (RAG), Dokumentenverarbeitung, Berechtigungskonzepte, Datenquellen, Assistenten und Governance-Funktionen in einer einheitlichen Betriebsumgebung. Dadurch wird KI nicht als isoliertes Einzelwerkzeug eingeführt, sondern als kontrollierbare Unternehmensinfrastruktur für Wissenszugriff, Recherche und perspektivisch weitere KI-gestützte Prozesse nutzbar gemacht.
Die Plattform unterstützt den lokalen Betrieb aller wesentlichen Komponenten einer RAG-Architektur, einschließlich Datenaufnahme, Dokumentenverarbeitung, OCR, Embedding-Erzeugung, Such- und Retrieval-Komponenten, Vektordatenbank sowie LLM-Inferenz. Unternehmensdaten verbleiben vollständig innerhalb der Infrastruktur des Betreibers. Der Einsatz lokal betriebener Open-Source- oder kommerzieller Modelle ist möglich.
Im Standard stellt der neuland.ai HUB Funktionen für semantische und klassische Suche, Dokumentenanalyse, Chat mit Dokumenten, Quellenreferenzierung, Prompt-Management, Rollen- und Rechteverwaltung, Audit Logging, Monitoring sowie API-basierte Erweiterungen bereit. Die Plattform ist produktionsreif und wird für den Einsatz in geschützten Unternehmensumgebungen entwickelt und betrieben.
Die Anbindung von SharePoint Online, OneDrive, SMB-Fileshares, relationalen Datenbanken sowie Intranet-, Wiki- und DMS-Systemen erfolgt über Konnektoren und standardisierte Schnittstellen. Bestehende Berechtigungsstrukturen aus Active Directory beziehungsweise Microsoft Entra ID können übernommen und während Indexierung, Retrieval und Antwortgenerierung berücksichtigt werden. Die konkrete Integration von DMS-Systemen wie nscale oder windream wird im Rahmen der Pilotierung validiert.
Verarbeitet werden können textbasierte und gescannte PDF-Dokumente, Office-Dateien, Tabellen, Bilder sowie weitere dokumentenbasierte Informationsquellen. OCR- und Extraktionskomponenten sind austauschbar. Antworten basieren auf den zugrunde liegenden Quellen und können mit Referenzen versehen werden. Bei fehlender oder unzureichender Quellenlage kann die Plattform dies transparent ausweisen.
Sicherheit und Governance werden durch rollenbasierte Zugriffskontrolle (RBAC), Single Sign-On (SSO), Audit Logging, Monitoring, Backup- und Restore-Konzepte sowie Verschlüsselung während der Übertragung und gespeicherter Daten unterstützt. Externe Modellaufrufe, Datenabflüsse und Telemetrie können vollständig unterbunden werden.
Die Architektur verfolgt einen modularen Ansatz. Komponenten wie LLMs, Embedding-Modelle, OCR-Systeme, Suchtechnologien oder Vektordatenbanken können unabhängig voneinander ausgetauscht oder erweitert werden. Dadurch werden Herstellerabhängigkeiten reduziert und zukünftige technologische Entwicklungen integrierbar gehalten.
Für die JEN empfehlen wir eine Pilotphase von acht bis zwölf Wochen mit ausgewählten Datenquellen, einer definierten Nutzergruppe und lokal betriebenen Modellen. Ziel ist die Validierung von Antwortqualität, Berechtigungskonzepten, Betriebsprozessen sowie Infrastruktur- und Sizing-Annahmen. Anschließend kann die Lösung schrittweise auf weitere Datenquellen und Nutzergruppen erweitert werden.
Der geplante Zielumfang von rund 350 Nutzenden, bis zu 30 parallelen Anfragen sowie perspektivisch bis zu 50 TB Datenbestand und etwa einer Million Dokumenten erscheint grundsätzlich adressierbar. Die konkrete Infrastrukturdimensionierung sollte auf Basis der tatsächlichen Dokumentstruktur, OCR-Anforderungen und Nutzungsprofile im Rahmen eines Pilotprojekts verifiziert werden.
Mit dem neuland.ai HUB steht eine produktionsreife, modular erweiterbare und technologisch offene KI-Management- und Orchestrierungsplattform zur Verfügung, die die wesentlichen Anforderungen der JEN an einen sicheren, nachvollziehbaren und zukunftsfähigen Einsatz von Enterprise-RAG adressiert und einen pragmatischen Einstieg über einen belastbaren Pilotbetrieb ermöglicht.
Der neuland.ai HUB ist eine marktreife KI-Management- und Orchestrierungsplattform für den sicheren, kontrollierten und skalierbaren Einsatz generativer KI in Organisationen mit hohen Anforderungen an Datenschutz, Informationssicherheit und Governance. Die Plattform fungiert als zentrale Betriebsumgebung und verbindet Sprachmodelle, Dokumente, Datenquellen, Suchtechnologien, Berechtigungskonzepte, Assistenten und Workflows in einer einheitlichen Architektur.
Technisch basiert die Lösung auf einer modularen Architektur mit klarer Trennung von Benutzeroberfläche, Orchestrierung, Datenhaltung, Such- und Retrieval-Komponenten sowie KI-Inferenz. Die Plattform ist containerisiert, skalierbar und sowohl für Cloud- als auch für On-Premises-Umgebungen ausgelegt. Dokumentenverarbeitung, Indexierung, Embedding-Erzeugung und weitere rechenintensive Prozesse werden über Hintergrunddienste verarbeitet. Für die Daten- und Vektorhaltung kommen etablierte Standardtechnologien wie PostgreSQL und pgvector zum Einsatz.
Kern der Lösung ist eine Retrieval-Augmented-Generation-Architektur. Dokumente und Wissensbestände aus angebundenen Quellsystemen werden aufgenommen, verarbeitet, in semantisch durchsuchbare Abschnitte zerlegt und indexiert. Nutzeranfragen werden ebenfalls semantisch analysiert. Das System ermittelt anschließend die relevantesten Dokumentpassagen und stellt diese dem Sprachmodell als Kontext zur Verfügung. Antworten basieren dadurch nicht ausschließlich auf Modellwissen, sondern auf den tatsächlich verfügbaren und freigegebenen Unternehmensinformationen. Relevante Fundstellen können referenziert werden, wodurch die Nachvollziehbarkeit der Ergebnisse erhöht wird.
Ein wesentliches Merkmal ist die durchgängige Berücksichtigung von Rollen- und Berechtigungskonzepten. Vorhandene Berechtigungen können aus den Quellsystemen übernommen und bei Indexierung, Suche, Retrieval und Antwortgenerierung berücksichtigt werden. Nutzerinnen und Nutzer erhalten ausschließlich Zugriff auf Informationen, für die sie autorisiert sind.
Die Plattform unterstützt die Anbindung verschiedener Unternehmenssysteme über Konnektoren, APIs und SDKs. Dazu zählen unter anderem SharePoint, Fileshares, Datenbanken, Dokumentenmanagementsysteme sowie weitere Fachanwendungen. Dadurch kann vorhandenes Unternehmenswissen in einer zentralen Wissens- und KI-Schicht zusammengeführt werden.
Über den Dokumentendialog hinaus unterstützt der HUB wiederverwendbare KI-Assistenten, standardisierte Anwendungsfälle und workflowbasierte Automatisierungen. Unterschiedliche Modelle, Datenquellen und Prozessschritte können orchestriert werden, sodass KI nicht nur für Recherche und Wissenszugang, sondern auch zur Unterstützung operativer Prozesse eingesetzt werden kann.
Sicherheit und Governance sind integrale Bestandteile der Plattform. Unterstützt werden unter anderem rollenbasierte Zugriffskontrolle, Single Sign-On, Audit Logging, Monitoring, Mandantentrennung sowie Verschlüsselung während der Übertragung und gespeicherter Daten. Die Plattform kann vollständig mit lokal betriebenen Modellen und ohne Übertragung sensibler Daten an externe KI-Dienste betrieben werden.
Der Reifegrad der Lösung entspricht einem marktreifen Standardprodukt. Der neuland.ai HUB ist produktiv einsetzbar und umfasst bereits heute die wesentlichen Funktionen für Dokumentenverarbeitung, RAG-basierte Wissensnutzung, KI-Assistenten, Berechtigungssteuerung sowie Governance- und Betriebsfunktionen. Die Plattform wird kontinuierlich weiterentwickelt, insbesondere in den Bereichen Konnektivität, WorkflowOrchestrierung und zusätzliche KI-Funktionen.
Erste Markterfahrungen liegen bereits vor. Die Plattform wird in Organisationen mit erhöhten Anforderungen an Datenschutz, Informationssicherheit und Nachvollziehbarkeit eingesetzt beziehungsweise eingeführt. Die dabei gewonnenen Erfahrungen fließen kontinuierlich in die Weiterentwicklung der Lösung ein.
Der neuland.ai HUB adressiert die zentrale Herausforderung der JEN, verteilte Wissensbestände sicher, nachvollziehbar und effizient nutzbar zu machen. Die Anforderungen der Challenge entsprechen einem Enterprise-RAG-Szenario mit hohen Anforderungen an Informationssicherheit, Berechtigungsmanagement, Nachvollziehbarkeit und langfristige Skalierbarkeit. Für genau solche Einsatzfälle wurde die Plattform entwickelt.
Die besondere Eignung der Lösung liegt in der Kombination aus lokalem Betrieb, quellenbasierter KI-Nutzung und umfassenden Governance-Funktionen. Während klassische Suchsysteme Informationen zwar auffindbar machen, unterstützen sie Mitarbeitende nur begrenzt bei Recherche, Analyse und Wissensaufbereitung. Öffentliche KI-Dienste bieten leistungsfähige Sprachmodelle, erfüllen jedoch häufig nicht die Anforderungen an Datenschutz, Berechtigungskonzepte und kontrollierte Datenverarbeitung. Der neuland.ai HUB verbindet beide Welten, indem vorhandene Wissensbestände über Retrieval-Augmented Generation nutzbar gemacht werden, ohne die Kontrolle über Daten und Zugriffsrechte aufzugeben.
Besonders relevant für die JEN ist die Möglichkeit, sämtliche Verarbeitungsstufen lokal zu betreiben. Dokumentenaufnahme, OCR, Embedding-Erzeugung, Suchindex, Vektordatenbank, Retrieval und LLM-Inferenz können vollständig innerhalb der Unternehmensinfrastruktur betrieben werden. Dadurch verbleiben sensible Informationen jederzeit unter Kontrolle der Organisation und ein unkontrollierter Abfluss von Unternehmensdaten wird vermieden.
Die Plattform ist darauf ausgelegt, heterogene Wissensquellen in einer gemeinsamen Such- und Wissensschicht zusammenzuführen. Die in der Challenge genannten Quellsysteme wie SharePoint Online, SMB-Fileshares, DMS-Systeme, Intranet- und Wiki-Lösungen sowie relationale Datenbanken entsprechen typischen Integrationsszenarien. Mitarbeitende erhalten dadurch einen einheitlichen Zugriff auf Informationen, die heute über mehrere Systeme verteilt sind und häufig nur mit erheblichem Rechercheaufwand gefunden werden können.
Ein wesentlicher Erfolgsfaktor für den beschriebenen Einsatzfall ist die Berücksichtigung bestehender Berechtigungsstrukturen. Der HUB kann vorhandene Active-Directory- beziehungsweise Microsoft-Entra-ID-basierte Rollen- und Rechtekonzepte übernehmen und bei Indexierung, Suche, Retrieval und Antwortgenerierung berücksichtigen. Nutzerinnen und Nutzer erhalten ausschließlich Zugriff auf Informationen, für die sie bereits autorisiert sind. Dadurch eignet sich die Lösung auch für Umgebungen mit sensiblen oder unterschiedlich klassifizierten Informationen.
Die Anforderungen an Nachvollziehbarkeit werden durch den quellenbasierten Ansatz unterstützt. Antworten basieren auf tatsächlich gefundenen Dokumenten und können mit Referenzen auf relevante Fundstellen versehen werden. Gleichzeitig kann die Plattform transparent ausweisen, wenn keine ausreichende Informationsgrundlage für eine belastbare Antwort vorhanden ist. Dies ist insbesondere in sicherheitskritischen und regulierten Umgebungen von hoher Bedeutung.
Auch die langfristigen Rahmenbedingungen der Challenge werden adressiert. Der geplante Zielumfang von rund 350 Nutzenden, bis zu 30 parallelen Anfragen sowie perspektivisch bis zu einer Million Dokumenten erfordert eine skalierbare und modular erweiterbare Architektur. Der neuland.ai HUB verfolgt bewusst einen technologieoffenen Ansatz, bei dem Sprachmodelle, Embedding-Modelle, OCR-Komponenten, Suchtechnologien und Konnektoren unabhängig voneinander weiterentwickelt oder ausgetauscht werden können. Dadurch werden Herstellerabhängigkeiten reduziert und technologische Weiterentwicklungen können flexibel übernommen werden.
Ein weiterer Vorteil besteht in der Möglichkeit eines schrittweisen Vorgehens. Die Architektur ermöglicht einen klar abgegrenzten Pilotbetrieb mit ausgewählten Datenquellen, Nutzergruppen und Anwendungsfällen. Erkenntnisse zu Datenqualität, Antwortqualität, Berechtigungskonzepten und Betriebsprozessen können frühzeitig validiert werden. Gleichzeitig entsteht keine Insellösung, da dieselbe KI-Management- und Orchestrierungsplattform anschließend schrittweise auf weitere Datenquellen, Fachbereiche und Nutzergruppen erweitert werden kann.
Der wesentliche Mehrwert für die JEN liegt somit in der Kombination aus sicherem Wissenszugang, nachvollziehbarer KI-gestützter Recherche, lokaler Datenverarbeitung und einer langfristig erweiterbaren Plattformarchitektur. Der neuland.ai HUB adressiert nicht nur den Aufbau eines „Chat mit Dokumenten“, sondern schafft die Grundlage für eine nachhaltige Nutzung von KI im Wissensmanagement und in zukünftigen Fachprozessen.
Im Standard deckt der neuland.ai HUB bereits wesentliche Anforderungen des beschriebenen Einsatzfalls ab. Dazu gehören ein quellenbasierter Chat mit Dokumenten, die Verarbeitung gängiger Dokumentenformate, semantische Suche, Knowledge-Bases, Assistenten, rollenbasierte Zugriffskontrolle, Mandantentrennung, Integration bestehender Identitätssysteme, Auditierbarkeit sowie die Möglichkeit, Daten- und Systemintegrationen über APIs und Konnektoren aufzubauen.
Bereits abbildbar sind insbesondere:
dokumentenbasierte Frage-Antwort-Szenarien mit Quellenbezug
Upload und Verarbeitung strukturierter und unstrukturierter Dokumente
OCR-gestützte Erschließung gescannter Dokumente, abhängig von Scanqualität
semantische Suche über größere Wissensbestände
rollenbasierte Zugriffskontrolle und Nutzerverwaltung
Integration mit bestehenden Identitätssystemen
Knowledge-Bases für definierte Themen- oder Dokumentenbereiche
Nutzung unterschiedlicher Modelle je nach Betriebsmodell
private, hybride oder On-Premises-nahe Betriebsarchitekturen
API- und SDK-basierte Erweiterbarkeit
Gleichzeitig gibt es Punkte, die für JEN projektspezifisch geklärt werden müssen. Diese Offenheit ist aus unserer Sicht wichtig, da sicherheitskritische Umgebungen selten durch ein generisches Standardsetup vollständig abgedeckt werden.
DMS-Anbindung: Systeme wie nscale oder windream müssen auf Basis der vorhandenen APIs, Berechtigungsmodelle, Metadatenstrukturen und Dokumentenobjekte geprüft werden. Ziel wäre eine Anbindung, die sowohl Dokumenteninhalte als auch relevante Metadaten und Berechtigungen berücksichtigt. Der Aufwand hängt stark von Version, API-Reife und Zugriffskonzept ab.
Relationale Datenbanken: MS SQL Server kann grundsätzlich über Datenbank- oder API-Zugriffe angebunden werden. Für eine sinnvolle semantische Nutzung müssen jedoch Tabellen, Felder, Relationen und fachliche Bedeutungen modelliert werden. Ein reiner Datenbankzugriff reicht meist nicht aus; erforderlich ist eine kontrollierte semantische Abbildung der relevanten Datenbereiche.
Intranet/Wiki/CMS: Inhalte können je nach System über Crawler, Export, API oder Datenbankzugriff erschlossen werden. Zu klären sind Authentifizierung, Änderungsfrequenz, Berechtigungen, Seitenstrukturen, Anhänge und Versionierung.
Netzwerk- und Sicherheitsarchitektur: Für JEN ist zu definieren, ob der Betrieb vollständig isoliert, teilisoliert oder kontrolliert mit definierten Updatepfaden erfolgen soll. Dies betrifft Modellupdates, Security-Patches, ContainerImages, Monitoring und Supportzugriffe.
Hochverfügbarkeit: Für einen Pilot ist ein reduziertes Setup ausreichend. Für einen späteren Produktivbetrieb mit größerem Nutzerkreis sollten Redundanz, Backup, Restore, Monitoring, Logging und Failover-Konzept gesondert ausgelegt werden.
Qualitätsmetriken: Für die Bewertung des Piloten sollten klare Kriterien definiert werden: Antwortgenauigkeit, Quellenqualität, Abdeckung, Latenz, Nutzerakzeptanz, Fehlerfälle und Berechtigungsprüfung.
Versionen, Dubletten und inkrementelle Aktualisierungen: Der Umgang mit Versionierung, Dubletten und Aktualisierungsläufen sollte im Pilot anhand der tatsächlichen Quellsysteme validiert werden. Ziel ist, geänderte Dokumente nachvollziehbar neu zu indexieren, Dubletten zu erkennen beziehungsweise zu kennzeichnen und Aktualisierungsläufe so zu gestalten, dass der Wissensbestand aktuell bleibt, ohne unnötig vollständige ReIndexierungen auszulösen.
Der realistische Ausbaupfad besteht aus einem fokussierten Pilot mit ausgewählten Quellen und Nutzergruppen, anschließendem Qualitäts- und Sicherheitsreview und danach stufenweiser Erweiterung um weitere Systeme, Datenbestände und Nutzerkreise.
Für JEN empfehlen wir ein kontrolliertes, phasenweises Vorgehen. Ziel des Piloten sollte nicht sein, sofort alle Dokumentenbestände und Quellsysteme vollständig anzubinden, sondern die technische, fachliche und sicherheitsbezogene Machbarkeit belastbar zu validieren. Gerade in einer sensiblen Umgebung ist ein begrenzter, sauber kontrollierter Einstieg sinnvoller als ein breiter Rollout ohne vorherige Qualitäts- und Governance-Prüfung.
Als Betriebsmodell empfehlen wir für den JEN-Kontext einen On-Premises- oder Private-Betrieb innerhalb einer kontrollierten Infrastruktur. Die genaue Ausprägung sollte gemeinsam mit IT, Informationssicherheit und Datenschutz definiert werden. Dabei sind insbesondere folgende Fragen zu klären: Netzsegmentierung, Zugriff auf interne Quellen, Update- und Patchprozesse, Modellbetrieb, GPU-Infrastruktur, Backup/Restore, Monitoring, Protokollierung und Supportzugriffe.
Vorgeschlagenes Pilotvorgehen:
Phase 1 - Architekturklärung und Setup, Wochen 1 bis 4:
Abstimmung der Zielarchitektur mit IT/Security
Festlegung des Betriebsmodells
Bereitstellung der Pilotumgebung
Anbindung von AD/Entra ID oder alternativem Identitätssystem
Definition erster Nutzerrollen und Berechtigungen
Auswahl eines repräsentativen Dokumentenbestands
Anbindung erster Quellen, zum Beispiel Fileshare oder SharePoint
Phase 2 - Dokumentenerschließung und Qualitätstest, Wochen 5 bis 8:
Ingestion des ausgewählten Dokumentenbestands
OCR-/Parsing-Validierung
Aufbau der Knowledge-Base
Test typischer Nutzerfragen
Bewertung von Quellenreferenzierung und Antwortqualität
Prüfung von Berechtigungen und Zugriffstrennung
Anpassung von Chunking-, Retrieval- und Metadatenparametern
Phase 3 - Erweiterung und Stabilisierung, Wochen 9 bis 12:
Einbindung weiterer Datenquellen, zum Beispiel DMS, Wiki oder MS SQL
Test mit erweitertem Nutzerkreis
Governance-Feinjustierung
Dokumentation der Architektur und Betriebsprozesse
Bewertung von Performance, Betriebskosten und Skalierung
Empfehlung für Produktivbetrieb und Ausbaustufen
Der Integrationsaufwand hängt stark von der Systemlandschaft und den Sicherheitsvorgaben ab. Für Standardquellen ist der Aufwand geringer; für proprietäre DMS-, Datenbank- oder Intranetsysteme sind API beziehungsweise Konnektorarbeiten einzuplanen.
Mitwirkungsaufwand JEN:
IT/Security: typischerweise 1 bis 2 Personentage pro Woche während der Pilotphase
Fachbereiche: ca. 0,5 bis 1 Personentag pro Woche für Testfragen, Qualitätsbewertung und Feedback
Datenschutz/Compliance: punktuell für Freigaben, Risikoanalyse und Betriebsdokumentation
Das Ergebnis des Piloten sollte ein belastbarer Entscheidungsstand sein: Welche Quellen funktionieren gut, welche Anpassungen sind erforderlich, welche Infrastruktur ist nötig, welche Qualität ist erreichbar und wie kann ein sicherer Regelbetrieb aussehen.
Die finale Infrastruktur muss auf Basis der tatsächlichen Datenmengen, Dokumentenarten, Modellwahl, Performanceziele und Sicherheitsvorgaben gemeinsam mit JEN dimensioniert werden. Die folgenden Angaben sind daher bewusst indikativ und dienen als erste Orientierung für typische RAG- und On-Premises-Szenarien.
Ausgangspunkt laut Challenge:
bis zu 350 Nutzer im Zielbild
bis zu 30 gleichzeitige interaktive Anfragen
langfristig bis ca. 50 TB Dokumentenbestand
Dokumente mit bis zu ca. 900 Seiten
Betrieb in einer kontrollierten Infrastruktur
Für einen Pilotbetrieb mit begrenztem Dokumentenausschnitt und kleinem Nutzerkreis ist kein Vollausbau erforderlich. Ein sinnvoller Pilot kann mit deutlich reduzierter Infrastruktur starten, zum Beispiel:
1 bis 2 Worker Nodes mittlerer Größe
1 GPU für lokale Inferenz und/oder Embedding, abhängig vom Modell
2 bis 4 TB nutzbarer Storage für repräsentative Dokumentenausschnitte
PostgreSQL beziehungsweise geeignete Datenhaltung für Metadaten, Indexe und Vektoren
Monitoring, Logging und Backup in reduzierter Pilot-Ausprägung
Für einen späteren Produktivbetrieb mit größerem Datenbestand und paralleler Nutzung sollte die Architektur horizontal skalierbar ausgelegt werden. Typische Komponenten:
Kubernetes- oder OpenShift-basierte Plattform
mehrere Worker Nodes für Applikationsservices
separate Datenbank-/Indexkomponenten
skalierbarer Objekt- oder Dateispeicher
GPU-Kapazität für lokale Modellinferenz
Monitoring, Logging, Backup und Restore
optional hochverfügbare Architektur
Für ein größeres Zielbild können je nach Modell und Antwortzeit-Anforderungen mehrere leistungsfähige GPUs erforderlich werden. Die konkrete GPU-Auswahl hängt stark davon ab, ob kleinere, effizientere Modelle oder größere Modelle mit höherem Ressourcenbedarf eingesetzt werden. Auch die Frage, ob Embedding, OCR und LLM-Inferenz auf gemeinsamer oder getrennter Hardware laufen, beeinflusst das Sizing.
Wesentliche Sizing-Treiber sind:
Anzahl und Größe der Dokumente
Scanqualität und OCR-Aufwand
Häufigkeit von Re-Indexierungen
Anzahl paralleler Nutzeranfragen
gewünschte Antwortzeit
ausgewähltes Sprachmodell
Kontextfenster und Retrieval-Strategie
Umfang von Audit-Logging und Backup
Grad der Hochverfügbarkeit
Für den Endausbau mit sehr großen Dokumentenmengen empfehlen wir einen gestaffelten Skalierungsplan:
Pilot mit repräsentativem Ausschnitt
Erweiterung auf mehrere Dokumentenklassen und Quellen
Performance-Test mit parallelen Nutzern
Infrastruktur-Review
Produktiv-Sizing auf Basis gemessener Lastdaten
So wird vermieden, die Infrastruktur vorab zu überdimensionieren oder auf Basis theoretischer Annahmen falsch auszulegen.
neuland.ai verfügt über Erfahrung mit Enterprise-KI-Projekten in Organisationen mit hohen Anforderungen an Datenschutz, Compliance, vertrauliche Dokumente, Wissensmanagement und operative Nutzbarkeit. Die Projekte sind nicht identisch mit dem JEN-Szenario, weisen aber relevante strukturelle Gemeinsamkeiten auf: große Dokumentenbestände, sensible Informationen, heterogene Datenquellen, nachvollziehbare KI-Nutzung, Rechte-/Rollenkonzepte und der Bedarf an einer skalierbaren, governance-orientierten Einführung von KI.
Beispiele für vergleichbare Einsatzszenarien:
Ein international tätiges Professional-Services-Unternehmen
In diesem Einsatzkontext stehen Vertraulichkeit, Mandantentrennung, berufsrechtliche Verschwiegenheit, Dokumentenarbeit und Nachvollziehbarkeit im Vordergrund. Die Relevanz für JEN liegt insbesondere in der sicheren Verarbeitung sensibler Informationen, der strukturierten Wissensnutzung und der Notwendigkeit belastbarer Governance- und Zugriffskonzepte.
Eine Organisation aus dem regulierten Finanzumfeld
Hier bestehen relevante Parallelen in Bezug auf Compliance-Anforderungen, kontrollierte Datenverarbeitung, prüfbare Datenflüsse, Governance, Rollen- und Rechtekonzepte sowie die Einführung von KI in operative Unternehmensprozesse. Für JEN ist insbesondere die Erfahrung mit regulierten Organisationen und nachvollziehbaren KI-gestützten Prozessen relevant.
Eine große Organisation mit heterogener IT- und Dokumentenlandschaft
Der Einsatz umfasst Wissensmanagement, Dokumentenverarbeitung und Prozessunterstützung in einer Umgebung mit verteilten Datenquellen und hohen Datenschutzanforderungen. Die Parallelen zum JEN-Kontext liegen in der Verteilung von Wissen über verschiedene Systeme, der Sensibilität der Inhalte und der Notwendigkeit einer sicheren, rollenbasierten Nutzung.
Eine technisch und regulatorisch anspruchsvolle Organisation
In diesem Umfeld bestehen relevante Erfahrungen mit sicherheitsorientierten Strukturen, technischem Dokumentenkontext, nachvollziehbarer KI-Unterstützung und kontrollierter Umsetzung. Für JEN ist insbesondere die Erfahrung mit komplexen technischen Informationsbeständen, Governance-Anforderungen und prüfbaren Prozessen übertragbar.
Darüber hinaus wurden bei neuland.ai weitere Use Cases in Industrie, Professional Services, Finanzumfeld sowie öffentlichen beziehungsweise gemeinnützigen Organisationen umgesetzt. Der gemeinsame Nenner dieser Projekte ist nicht eine identische Branche, sondern die Kombination aus sensiblen Dokumentenbeständen, hohen Anforderungen an Datenschutz und Governance, komplexen Wissens- und Informationsstrukturen, heterogenen IT-Systemen, quellenbasierten Antworten sowie kontrollierter Einführung von KI in operative Arbeitsprozesse.
Detaillierte Referenzgespräche, konkrete Ansprechpartner oder projektspezifische Nachweise können bei Bedarf und nach interner Freigabe beziehungsweise unter NDA bereitgestellt werden.
Der neuland.ai HUB ist langfristig auf Erweiterbarkeit, Modellunabhängigkeit und kontrollierte Betriebsfähigkeit ausgelegt. Gerade für Organisationen mit längerfristigem Planungshorizont ist entscheidend, dass eine KIPlattform nicht von einem einzelnen Modell, einem einzelnen Hyperscaler oder einer proprietären Architektur abhängig ist.
Ein zentraler Zukunftsfaktor ist die Modell-Agnostik. Die Plattform ist so konzipiert, dass verschiedene Sprachmodelle eingebunden werden können. Dazu gehören proprietäre Modelle ebenso wie selbst gehostete Open-Source-Modelle. Für JEN bedeutet dies: Die Organisation kann im Zeitverlauf auf leistungsfähigere, sicherere oder kosteneffizientere Modelle wechseln, ohne die gesamte Plattformarchitektur neu aufzubauen.
Zweitens basiert die Architektur auf etablierten Standards und Komponenten. Dazu gehören unter anderem containerisierte Betriebsmodelle, Kubernetes- beziehungsweise OpenShift-fähige Architekturen, PostgreSQLnahe Datenhaltung, API-basierte Integrationen, OAuth-/AD-/Entra-ID-nahe Identitätskonzepte sowie offene Schnittstellen für Erweiterungen. Dadurch bleibt die Lösung wartbar, prüfbar und anschlussfähig.
Drittens unterstützt die Plattform unterschiedliche Betriebsmodelle: Cloud, Dedicated, Hybrid und On-Premises. Für JEN ist insbesondere relevant, dass ein lokaler oder privater Betrieb möglich ist. Gleichzeitig bleibt die Architektur so ausgelegt, dass spätere Anpassungen an Sicherheitszonen, Modellbetrieb, Datenquellen oder Governance-Vorgaben möglich sind.
Viertens kann der HUB über den initialen Dokumentenchat hinaus erweitert werden. Mögliche Ausbaustufen sind:
weitere Datenquellen und Konnektoren
domänenspezifische Assistenten
strukturierte Datenanalysen
Prozessunterstützung
Dokumentenklassifikation
Berichtserstellung
agentische Unterstützung bei klar definierten Aufgaben
Fünftens ist die Plattform governance-orientiert. Neue Modelle, neue Datenquellen oder neue Anwendungsfälle können kontrolliert eingebunden werden, statt unkoordiniert im Unternehmen zu entstehen. Dadurch wird KI nicht als punktuelles Experiment betrieben, sondern als steuerbare Infrastruktur.
Für JEN ist diese Zukunftssicherheit besonders wichtig, weil sich sowohl KI-Modelle als auch regulatorische Anforderungen in den kommenden Jahren weiterentwickeln werden. Eine langfristig geeignete Lösung muss daher austauschbar, erweiterbar, auditierbar und betrieblich kontrollierbar bleiben. Genau darauf ist der neuland.ai HUB ausgerichtet.
