HITS Pulse
Die PF IT Consult GmbH mit Sitz in Brandenburg an der Havel ist ein seit 2013 etabliertes IT- und Softwareunternehmen mit Schwerpunkt auf sicheren IT-Infrastrukturen, individueller Softwareentwicklung sowie KI-gestützten Informations- und Assistenzsystemen.
Das Unternehmen entwickelt modulare und praxisnahe Digitalisierungslösungen für kleine und mittelständische Unternehmen sowie technische, soziale und pflegenahen Organisationen. Im Mittelpunkt stehen kontrollierbare, langfristig betreibbare und sicherheitsorientierte Systeme zur strukturierten Nutzung betrieblicher Informationen.
PF IT verbindet Erfahrung aus größeren IT-Infrastrukturprojekten mit der Flexibilität eines spezialisierten, interdisziplinären Teams aus Entwicklung, Systemadministration und Projektmanagement.
Der technologische Fokus liegt auf:
sicheren On-Premises- und Hybrid-Infrastrukturen
hochverfügbaren, verschlüsselten Systemarchitekturen
Dokumenten- und Informationsmanagement
Workflow- und Prozessdigitalisierung
Monitoring-, Logging- und Auditierungssystemen
KI-gestützten Wissens- und Assistenzsystemen
Kernkompetenzen:
Planung, Betrieb und Monitoring sicherer IT-Infrastrukturen in geschützten Umgebungen
Entwicklung individueller Fachanwendungen für Web, Desktop und mobile Systeme
modulare Prozessdigitalisierung mit schrittweisem Ausbau
Integration heterogener Daten- und Dokumentenquellen
Aufbau lokaler KI-Infrastrukturen und RAG-basierter Wissenssysteme
sichere Backup-, Monitoring- und Betriebskonzepte
Mit der Produktfamilie „HITS“ betreibt PF IT mehrere spezialisierte Systeme, u. a. Inventar-, Wartungs- und Notruflösungen, die in sicherheitskritischen und dokumentationsintensiven Umgebungen eingesetzt werden.
Besonders relevant für den JEN-Kontext ist HITS Pulse als produktiv eingesetzte KI-Plattform mit lokaler Modell-Inferenz, semantischer Suche, Dokumenten-RAG und Multi-Agent-Orchestrierung. Die Lösung wird bereits heute im eigenen Betrieb genutzt und adressiert zentrale Anforderungen wie lokale Datenverarbeitung, quellenbasierte Antworten, Rollenmodelle sowie die Verarbeitung heterogener und versionierter Dokumentenbestände.
Ergänzend verfolgt das Unternehmen einen nachhaltigen Betriebsansatz, u. a. durch eigene Photovoltaik-Infrastruktur, Energiespeicherung sowie elektrische Mobilitätskonzepte. Die Architektur der Lösungen ist bewusst modular und offen gestaltet, um langfristige Weiterentwicklung ohne Herstellerabhängigkeiten zu ermöglichen.
Angebotene Lösung: Enterprise-RAG-Plattform (HITS Pulse)
Die vorgeschlagene Lösung ist eine modulare Enterprise-RAG-Plattform zur sicheren, nachvollziehbaren Nutzung verteilter Unternehmenswissensbestände in geschützten IT-Umgebungen.
Im Gegensatz zu klassischen Chatbots oder cloudbasierten KI-Diensten handelt es sich um eine vollständig lokal betreibbare KI-Wissensplattform. Sämtliche Verarbeitungsschritte – von der Datenanbindung über die Indexierung bis zur Antwortgenerierung – erfolgen innerhalb der Infrastruktur des Auftraggebers.
Die Plattform kombiniert klassische Volltextsuche mit semantischer Vektorsuche (Hybrid Retrieval). Dadurch werden Informationen aus unterschiedlichen Quellsystemen kontextbezogen zusammengeführt und für die Beantwortung von Nutzeranfragen aufbereitet. Hierbei verbleiben sämtliche Rohdaten und Originaldokumente unangetastet in den führenden Quellsystemen. Das HITS-Pulse-Gesamtsystem extrahiert und speichert lokal ausschließlich die mathematischen Vektorrepräsentationen und Textsegmente (Indexdaten), was Speicherplatz und Ressourcen schont.
Die KI generiert anschließend ausschließlich quellenbasierte Antworten mit nachvollziehbaren Referenzen auf Dokumente, Abschnitte oder Fundstellen. Dies ermöglicht eine fachliche Validierung der Ergebnisse und erfüllt Anforderungen an Nachvollziehbarkeit und Einsatzfähigkeit in regulierten Umgebungen.
Ein integriertes Rollen- und Berechtigungskonzept stellt sicher, dass ausschließlich autorisierte Inhalte angezeigt werden. Bestehende AD- und Systemberechtigungen können übernommen und in den gesamten Retrieval- und Antwortprozess integriert werden.
Für die JEN entsteht damit eine zentrale Wissensplattform für einen einheitlichen „Chat mit Dokumenten“ über alle angebundenen Informationsquellen hinweg (z. B. SharePoint, Fileshares, DMS oder Datenbanken). Informationen werden schneller auffindbar, konsistent bereitgestellt und unabhängig von individuellem Expertenwissen zugänglich gemacht.
Gleichzeitig bleibt jederzeit transparent, aus welchen Quellen eine Antwort abgeleitet wurde. Bei fehlender oder unzureichender Datenlage erfolgt keine spekulative Antwort, sondern eine nachvollziehbare Rückmeldung über die unzureichende Quellenbasis.
Die Lösung ist vollständig auf einen sicheren On-Premises-Betrieb ausgelegt und ermöglicht damit maximale Datenhoheit, kontrollierte KI-Nutzung und langfristige technologische Unabhängigkeit.
Der vorgeschlagene Lösungsansatz basiert auf einer heute etablierten Enterprise-RAG-Architektur (Retrieval Augmented Generation) für die sichere, nachvollziehbarse und quellenbasierte Nutzung verteilter Wissensbestände.
Die zugrunde liegende Plattform wurde über mehrere Jahre hinweg kontinuierlich entwickelt und praktisch erprobt. In diesem Zeitraum wurden unterschiedliche Such- und Retrievalverfahren, Embedding-Modelle, Dokumentenaufbereitungen, Prompting-Strategien sowie verschiedene Large-Language-Modelle untersucht und bewertet.
Die heutige Architektur ist das Ergebnis einer schrittweisen Optimierung auf Basis realer Erfahrungen und produktiver Nutzungsszenarien. Seit rund einem Jahr werden mit der aktuellen Plattform stabile und belastbare Ergebnisse erzielt. Gleichzeitig erfolgt eine kontinuierliche Weiterentwicklung.
Die Lösung basiert auf folgenden Architekturbausteinen:
Enterprise-RAG-Architektur
Hybrid Retrieval aus Volltext- und Vektorsuche
Lokale LLM-Inferenz ohne Cloud-Abhängigkeit
Dokumentenbasierte Wissensindizierung
Agentenbasierte Orchestrierung komplexer Anfragen
Rollen- und berechtigungsbasierte Informationssteuerung
Vollständig lokaler Betrieb aller Verarbeitungsschritte
Standardkomponenten und Projektspezifika
Die vorgeschlagene Lösung setzt auf etablierte und am Markt bewährte Standardkomponenten. Der Projektschwerpunkt liegt in der Integration und Konfiguration der Komponenten innerhalb der bestehenden JEN-Systemlandschaft.
Folgende Bestandteile werden als Standardkomponenten eingesetzt:
Lokale Large-Language-Modelle und Inferenz: Modell-Serving via vLLM (unterstützt offene Modellfamilien wie Qwen oder Llama).
Core Search Engine: Kombinierte Suchstruktur auf Basis von Vespa.ai für Hybrid Search (BM25 und dichte Vektorsuche via multilingual-e5-large).
Dokumentenanalyse & Parsing: Strukturierte Textextraktion und OCR via Apache Tika / Unstructured-API inklusive layoutbewusstem, semantischem Chunking.
Folgende Leistungen sind projektspezifisch (Integrations- und Konfigurationsleistungen):
Anbindung von SharePoint Online: Nutzung der Microsoft Graph API inklusive Delta-Synchronisation (vorausgesetzt wird die Bereitstellung entsprechender API-Zugriffe durch die JEN).
DMS- & Fileshare-Konnektoren: Aufbau einer entkoppelten Ingestion-Architektur über eine lokale PostgreSQL-Staging-Datenbank für Systeme wie nscale oder windream (die finale Anbindungslogik ist von den vor Ort freigegebenen Schnittstellen abhängig).
Kopplung an das Active Directory: Integration bestehender ACL-Strukturen über ein Parent-Child-Modell in Vespa zur dynamischen Rechteprüfung bei Suchabfragen (Query-Time-Filtering).
Spezifisches Dokumenten-Handling: Konfiguration JEN-spezifischer Metadatenmodelle sowie Kontextinjektion für Großdokumente und komplexe Tabellenstrukturen.
Reifegrad
Die Plattform befindet sich in einem fortgeschrittenen, produktionsnahen Entwicklungsstadium. Einzelne Kernkomponenten werden bereits heute in realen Umgebungen eingesetzt und kontinuierlich weiterentwickelt.
Der aktuelle Reifegrad ist insbesondere geprägt durch:
langjährige Erfahrung im Aufbau RAG-basierter Wissenssysteme in komplexen IT-Service-Landschaften und stark regulierten Branchen
erfolgreich validierte und produktive Nutzung der Gesamtlösung im Bereich komplexer Support- und Qualitätsmanagementdaten
stabile Implementierung zentraler Architekturkomponenten wie Retrieval, Indexierung und lokaler Inferenz
kontinuierliche Weiterentwicklung der Plattform im Hinblick auf Skalierbarkeit und Sicherheit
Die Gesamtlösung ist für den sofortigen Einsatz in Pilot- und großskaligen Produktionsszenarien geeignet. Die Dimensionierung der Infrastruktur ist gezielt darauf ausgelegt, den historisch gewachsenen Gesamtdatenraum der JEN (Bereich 50 TB) hocheffizient und massiv parallel zu erschließen, um die Erstindizierung innerhalb des engen Projektfensters von vier Wochen performant und qualitätsgesichert abzuschließen.
Zusammenfassung des Lösungsansatzes
Der Lösungsansatz kombiniert eine standardisierte Enterprise-RAG-Plattform mit einer kontrollierten Integrationsarchitektur für komplexe, heterogene Unternehmenslandschaften. Der zentrale Mehrwert liegt in der Verbindung von sicherem On-Premises-Betrieb, konsistenter Berechtigungsintegration, hybrider Suchlogik und nachvollziehbarer, quellenbasierter KI-Antwortgenerierung. Damit entsteht ein skalierbares, modular erweiterbares System für den sicheren Zugriff auf verteiltes Unternehmenswissen in hochregulierten Umgebungen.
Die vorgeschlagene Lösung HITS Pulse ist gezielt für den Einsatz in sicheren, datenintensiven und organisatorisch komplexen Umgebungen ausgelegt. Sie adressiert unmittelbar die in der JEN beschriebenen Herausforderungen einer stark fragmentierten Wissenslandschaft mit verteilten Systemen, heterogenen Dokumentenbeständen und hohen Anforderungen an Nachvollziehbarkeit und Sicherheit.
Im Mittelpunkt steht die Fähigkeit, bestehende Systeme nicht zu ersetzen, sondern kontrolliert zu integrieren. Dadurch entsteht eine einheitliche, semantische Zugriffsschicht über bestehende Informationsquellen, ohne bestehende Speicher-, Prozess- oder Berechtigungsstrukturen zu verändern.
Integration verteilter Wissensquellen ohne Systembruch
Die Lösung ist darauf ausgelegt, gewachsene IT-Landschaften konsistent zu erschließen. In der JEN betrifft dies insbesondere SharePoint Online, Fileshares, DMS-Systeme (nscale, windream), Intranet-/Wiki-Strukturen sowie relationale Datenbanken. Statt einer riskanten Datenmigration erfolgt eine logische Zusammenführung über eine zentrale Retrieval-Schicht. Dadurch bleiben bestehende Systeme unverändert, während gleichzeitig ein einheitlicher, KI-gestützter Zugang zu allen relevanten Informationen entsteht.
On-Premises-Betrieb und Datenhoheit
Die gesamte Verarbeitung erfolgt innerhalb der Infrastruktur der JEN. Dazu gehören Dokumentenverarbeitung, Indexierung, semantische Analyse sowie KI-gestützte Antwortgenerierung. Es findet keine Auslagerung von Daten, Dokumenten oder Nutzeranfragen an externe Systeme statt. Damit bleibt die vollständige Datenhoheit innerhalb der Organisation gewährleistet, was insbesondere für sicherheitskritische und regulatorisch geprägte Umgebungen ein zentrales Kriterium darstellt.
Berechtigungsintegration (AD / ACL)
Ein wesentlicher Bestandteil der Lösung ist die durchgängige Übernahme bestehender Berechtigungsmodelle. Active-Directory-Strukturen sowie ACLs aus Fileshares und DMS-Systemen werden über das Parent-Child-Schema nativ in die Such- und Retrievallogik integriert. Die Zugriffskontrolllisten verbleiben auf Dokumentenebene (Parent), während die Textsegmente (Children) diese Rechte dynamisch zur Query-Time erben. Nutzer erhalten ausschließlich Inhalte, für die sie bereits systemseitig autorisiert sind. Eine Umgehung bestehender Berechtigungen oder ein Information Leakage wird architektonisch unterbunden.
Verarbeitung heterogener Dokumente und großer Datenbestände
Die Plattform unterstützt die native Verarbeitung unterschiedlichster Dokumenttypen, darunter komplexe PDFs, Office-Dokumente, Tabellen sowie bildbasierte Inhalte und Scans. Durch eine hochparallelisierte, GPU-beschleunigte Ingestion-Pipeline mit fortschrittlicher OCR-Erkennung werden auch Großdokumente (bis zu 900 Seiten) effizient in semantische Einheiten zerlegt. Um Redundanzen im 50 TB Datenraum zu minimieren, generiert das System inhaltsbasierte SimHashes zur automatischen Erkennung identischer Dokumente. Die zugrunde liegende Infrastruktur ist architektonisch darauf ausgelegt, diesen massiven Initialbestand innerhalb von vier Wochen vollständig zu analysieren, zu strukturieren und zu indexieren, während die Originaldaten revisionssicher in den Quellsystemen verbleiben.
Quellenbasierte Antworten und Nachvollziehbarkeit
Alle Antworten basieren ausschließlich auf zuvor identifizierten und berechtigten Dokumentinhalten. Jede Antwort wird mit konkreten Quellenreferenzen versehen, die eine Rückverfolgung bis auf Dokument- oder Abschnittsebene ermöglichen. Wenn keine ausreichende Datenbasis vorhanden ist, erfolgt keine spekulative Antwort, sondern ein transparenter Hinweis auf die unzureichende Quellenlage. Dadurch wird eine kontrollierte und nachvollziehbare Nutzung von KI im Unternehmenskontext sichergestellt.
Skalierbarkeit und Datenarchitektur
Die Architektur ist horizontal skalierbar und für wachsende Datenmengen sowie Nutzerzahlen ausgelegt. Durch die strikte architektonische Trennung von Quellsystemen und der lokalen KI-Indexschicht bleibt die Systemlast kontrollierbar und unabhängig von der Gesamtgröße des Datenbestands. Die Lösung ist damit optimal geeignet für den schrittweisen Ausbau von Pilotumgebungen hin zu großskaligen Produktionssystemen.
Die HITS-Pulse-Plattform basiert auf einem modularen Enterprise-RAG-Standard, der zentrale Anforderungen moderner KI-gestützter Wissenssystems bereits im Grundsystem abdeckt. Gleichzeitig ist die Architektur bewusst so ausgelegt, dass projektspezifische Erweiterungen ohne Eingriffe in den Kern möglich sind. Dies ermöglicht eine klare Trennung zwischen standardisierten Plattformfunktionen und kundenspezifischer Integrationsarbeit, wie sie im Kontext der JEN erforderlich ist.
Im Standard abgedeckte Funktionen
Im Standardumfang der Plattform sind die wesentlichen Kernfunktionen für den sicheren Betrieb eines KI-gestützten Wissenssystems bereits enthalten:
Lokale KI-Inferenz: Vollständig On-Premises-basierter Betrieb von Sprachmodellen via vLLM innerhalb der kundeneigenen Infrastruktur (kein Abfluss von Telemetrie- oder Nutzerdaten).
Hybride Sucharchitektur: Kombination aus lexikalischer Volltextsuche (BM25) und semantischer Vektorsuche (multilingual-e5-large) inklusive nachgelagertem Re-Ranking via Cross-Encoder.
Dokumentenverarbeitung: Integrierte OCR-Verfahren und Dokumenten-Parser zur logischen, layoutbewussten Segmentierung von Standardformaten.
Strikte Quellenbindung: Ein deterministisches RAG-Muster zwingt das Modell zu präzisen Zitationslinks und minimiert das Risiko von Halluzinationen auf ein technologisches Minimum.
Basis-Berechtigungssteuerung: Rollenbasierte Zugriffskontrolle (RBAC) als technologisches Fundament für die AD-Kopplung.
Projektspezifische Erweiterungen für die JEN
Für den konkreten Einsatz bei der JEN ergeben sich Erweiterungen insbesondere im Bereich der Systemintegration und Datenanbindung:
Konnektorenlandschaft: Konfiguration der PostgreSQL-gestützten, transienten Staging-Zone zur inkrementellen Synchronisation von nscale und windream (abhängig von Schnittstellen-Bereitstellungen der JEN).
ACL-Replikation: Projektspezifische Implementierung des Parent-Child-Schemas zur dynamischen Abbildung komplexer Active-Directory- und lokaler Dateisystem-Berechtigungen.
Metadaten-Mapping: Anpassung der Parsing-Pipelines zur Extraktion und Injektion JEN-spezifischer Dokumenten-Klassifikationen und Tabellenkontexte.
Offene Punkte im Kontext der Einführung
Im Rahmen der initialen Einführung ergeben sich typischerweise keine funktionalen Lücken im Kernsystem, jedoch technische und organisatorische Abstimmungsbedarfe in folgenden Bereichen:
Feinjustierung der Berechtigungsabbildung bei komplexen, tief verschachtelten AD-Strukturen oder Sonderberechtigungen.
Optimierung der Indexierungsstrategie für historisch gewachsene, unstrukturierte Dateiablagen (Datenbereinigung).
Abstimmung der OCR-Schwellenwerte für ältere, qualitativ stark variierende Scan-Dokumente.
Diese Punkte sind nicht als Systemdefizite zu verstehen, sondern als erwartbare und planbare Konfigurationsaufwände im Rahmen einer komplexen Systemintegration.
Realistische Ausbaupfade
Die Architektur ist konsequent modular aufgebaut und erlaubt eine schrittweise Weiterentwicklung ohne Systembruch.
Kurzfristig: Stabilisierung der Kernfunktionalitäten im Pilotbetrieb (Datenintegration, fehlerfreie ACL-Filterung, Antwortqualität).
Mittelfristig: Funktionaler Ausbau um LangGraph-basierte Multi-Agenten-Prozesse zur automatisierten Dokumentenanalyse und Compliance-Prüfung.
Langfristig: Modularer Austausch von Modellgenerationen (Inferenzschicht) oder Embedding-Verfahren bei technologischem Fortschritt – vollständig geschützt vor einem Vendor-Lock-in.
Die Einführung der HITS-Pulse-Plattform in die bestehende IT-Landschaft der JEN erfolgt grundsätzlich als schrittweise Integration in eine bereits vorhandene Systemumgebung. Ziel ist es, einen kontrollierten, risikoarmen Einstieg in den produktiven Einsatz eines KI-gestützten Wissenssystems zu ermöglichen, ohne bestehende Fachanwendungen oder Datenstrukturen zu verändern.
Die Lösung ist dabei so konzipiert, dass sie sich in bestehende On-Premises-Infrastrukturen integrieren lässt und keine Anpassungen an den führenden Quellsystemen erfordert.
Integrationsaufwand
Der technische Integrationsaufwand konzentriert sich im Wesentlichen auf drei Bereiche.
Erstens erfolgt die Anbindung der relevanten Datenquellen. Dazu gehören insbesondere SharePoint Online, Fileshare-Strukturen sowie Dokumentenmanagementsysteme wie nscale oder windream. Die Integration erfolgt über standardisierte Konnektor-Mechanismen, die auf die jeweiligen Systemcharakteristika abgestimmt werden.
Zweitens ist die Abbildung der bestehenden Berechtigungslogik erforderlich. Hierbei werden Active-Directory-Strukturen sowie ACL-basierte Zugriffsmodelle aus den Quellsystemen übernommen und in das Retrieval-System überführt. Ziel ist eine konsistente Durchsetzung der bestehenden Berechtigungsregeln über alle angebundenen Datenquellen hinweg.
Drittens umfasst der Aufwand die initiale Datenaufbereitung. Insbesondere bei historisch gewachsenen Systemen mit heterogenen Dokumentstrukturen, Dubletten und uneinheitlichen Metadaten ist eine strukturierte Normalisierung erforderlich, um eine stabile Indexbasis zu schaffen.
Der Aufwand ist damit primär integrationsgetrieben und nicht durch eine Neuentwicklung der Kernfunktionalität geprägt.
Pilotvorgehen (8–12 Wochen)
Für die Einführung wird ein klar abgegrenzter Pilotbetrieb von etwa 8 bis 12 Wochen empfohlen. Dieser dient nicht der vollständigen Abbildung aller Systeme, sondern der validierten Erprobung der zentralen Funktionen unter realistischen Bedingungen.
Der Pilot umfasst typischerweise eine reduzierte Anzahl an Datenquellen, beispielsweise ein priorisiertes DMS oder ein SharePoint-Bereich sowie ausgewählte Fileshare-Strukturen. Ergänzend wird eine definierte Nutzergruppe aus Fachanwendern und IT-Administratoren eingebunden.
Im Mittelpunkt des Pilotbetriebs stehen insbesondere:
die Qualität und Nachvollziehbarkeit der KI-Antworten
die korrekte Umsetzung der Berechtigungslogik
die Performance bei paralleler Nutzung
die Stabilität der Datenintegration und Indexierung
Der Pilot dient damit als technische und organisatorische Validierungsphase, bevor eine schrittweise Ausweitung auf weitere Datenquellen und Nutzergruppen erfolgt.
Betriebsmodell
Die Lösung ist vollständig für den Betrieb in einer On-Premises-Umgebung ausgelegt. Sämtliche Komponenten werden innerhalb der Infrastruktur der JEN betrieben. Eine Nutzung externer Cloud- oder KI-Dienste ist nicht erforderlich.
Das Betriebsmodell ist modular gestaltet und kann flexibel an die organisatorischen Rahmenbedingungen angepasst werden. Grundsätzlich sind zwei Betriebsvarianten möglich:
Zum einen der vollständig interne Betrieb durch die IT der JEN, inklusive Administration, Monitoring und Systempflege. Zum anderen ein kooperatives Betriebsmodell, bei dem PF IT Consult unterstützend in Betrieb, Wartung und Weiterentwicklung eingebunden ist.
Die Plattform selbst ist containerisiert aufgebaut, wodurch Updates, Erweiterungen und Wartungsarbeiten kontrolliert und ohne tiefgreifende Systemeingriffe durchgeführt werden können.
Zusammenfassende Einordnung
Der Integrationsaufwand ist insgesamt als moderat einzustufen, da die bestehende Systemlandschaft nicht ersetzt, sondern angebunden wird. Der wesentliche Aufwand liegt in der initialen Konnektor- und Berechtigungsintegration sowie in der strukturierten Aufbereitung der Ausgangsdaten.
Der Pilotbetrieb ist bewusst so ausgelegt, dass er innerhalb eines überschaubaren Zeitraums valide Aussagen zur technischen und organisatorischen Eignung der Lösung ermöglicht. Das Betriebsmodell ist vollständig auf sichere, isolierte Unternehmensumgebungen ausgerichtet und unterstützt sowohl eigenständigen Betrieb als auch betreuten Regelbetrieb.
Die HITS-Pulse-Plattform ist für den Betrieb in einer modernen Enterprise-Serverarchitektur ausgelegt und adressiert insbesondere die Verarbeitung großer Dokumentenbestände, die lokale KI-Inferenz sowie den parallelen Betrieb von OCR-, Such- und Retrieval-Komponenten.
Die nachfolgende Konfiguration stellt eine Referenzarchitektur für den produktionsnahen Betrieb im JEN-Kontext dar.
CPU- und Verarbeitungsebene
2 × AMD EPYC 9755 oder vergleichbare Enterprise-CPUs
insgesamt ≥ 256 CPU-Kerne
Die CPU-Ebene wird insbesondere für folgende Aufgaben genutzt:
OCR-Verarbeitung gescannter Dokumente
Dokumentenparsing und Strukturierung
Embedding-Generierung
Indexierung (Vektor- und Volltextsuche)
parallele Retrieval- und API-Prozesse
Die Architektur ist auf hohe Parallelisierbarkeit ausgelegt, um auch große Dokumentvolumina effizient verarbeiten zu können.
Arbeitsspeicher
mindestens 1 TB ECC-RAM
skalierbar auf 2 TB oder mehr
Der Arbeitsspeicher wird insbesondere benötigt für:
In-Memory-Suchindizes (z. B. Vespa/OpenSearch-Komponenten)
Caching- und Retrieval-Strukturen
parallele Verarbeitung mehrerer Dokument- und Nutzeranfragen
Die Dimensionierung ermöglicht eine stabile Verarbeitung auch bei großen, gleichzeitig aktiven Daten- und Nutzerlasten.
GPU-Infrastruktur
4 × NVIDIA H200 (141 GB HBM3e) oder vergleichbare Rechenzentrums-GPUs
alternativ NVIDIA B200 oder Nachfolgegenerationen
insgesamt > 500 GB GPU-Speicher
Die GPU-Ressourcen werden verwendet für:
lokale Ausführung von Large Language Models
semantische Analyse- und Klassifikationsprozesse
OCR-Beschleunigung (optional GPU-gestützt)
Embedding-Generierung
agentenbasierte Verarbeitung komplexer Anfragen
Die Architektur ist so ausgelegt, dass mehrere KI-Prozesse parallel betrieben werden können.
Speicher- und Storage-Architektur
mindestens 8 × Enterprise-NVMe-SSDs
Gesamtkapazität ≥ 40 TB nutzbar
RAID-10 oder gleichwertige Hochverfügbarkeitskonfiguration
Die Speicherstruktur ist logisch getrennt in:
Dokumentenspeicher (Originaldaten / Referenzen)
Such- und Vektorindizes
temporäre Verarbeitungs- und Zwischendaten
Wesentlich ist dabei, dass Rohdaten primär in den Quellsystemen verbleiben und im KI-System lediglich indexierte und vektorisierte Repräsentationen verarbeitet werden.
Netzwerk
mindestens 2 × 25 Gbit/s Ethernet
optional 100 Gbit/s für Cluster- und Storage-Anbindungen
Die Netzwerkkonfiguration ist auf die parallele Verarbeitung großer Dokumentenmengen sowie schnelle Index- und Retrievalprozesse ausgelegt.
Leistungsdimensionierung und Lastannahmen
Die Plattform ist für folgende Referenzlasten ausgelegt:
initiale Verarbeitung von bis zu ca. 1.000.000 Dokumenten
bzw. mehreren zehn Millionen Dokumentseiten innerhalb eines initialen Indexierungszeitraums von ca. vier Wochenanschließender inkrementeller Betrieb (Delta-Verarbeitung für neue und geänderte Dokumente)
produktionsnaher Betrieb für mindestens 35 gleichzeitige Nutzer
Verarbeitung von bis zu ca. 350 parallelen Retrieval- und KI-Anfragen
Die Architektur unterstützt dabei den gleichzeitigen Betrieb von:
Hybrid Retrieval (BM25 + semantische Vektorsuche)
OCR- und Dokumentenanalyse
lokaler KI-Inferenz
agentenbasierter Wissensverarbeitung
Zusammenfassende Einordnung
Die vorgeschlagene Infrastruktur stellt eine skalierbare Enterprise-Referenzarchitektur dar, die sowohl für einen strukturierten Pilotbetrieb als auch für den produktiven Einsatz in großen, heterogenen Datenumgebungen geeignet ist.
Durch die klare Trennung von Rohdatenhaltung, Indexschicht und KI-Inferenz bleibt die Architektur auch bei wachsendem Datenvolumen und steigender Last technisch kontrollierbar und erweiterbar.
Die PF IT Consult GmbH verfügt über praktische Erfahrung in der Umsetzung KI-gestützter Wissens- und Assistenzsysteme auf Basis von Enterprise-RAG-Architekturen sowie im Betrieb sicherer, datenintensiver IT-Infrastrukturen.
Referenzprojekt 1: KI-gestützte Service- und Wissensplattform (IT-Dienstleister)
Für einen mittelständischen IT-Dienstleister wurde eine unternehmensweite KI-Wissensplattform zur zentralen Nutzung verteilter Wissensquellen implementiert.
Die Lösung integriert Daten aus Ticketsystemen, Dokumentenmanagement, Inventarsystemen und Dateiablagen in eine gemeinsame semantische Such- und Assistenzschicht.
Technisch basiert das System auf Hybrid Retrieval (BM25 + Vektorsuche) in Kombination mit lokal betriebenen KI-Modellen und agentenbasierter Verarbeitung. Ergänzend wurde eine kontrollierte Einbindung externer Hersteller- und Sicherheitsinformationen ermöglicht.
Ergebnis: Deutliche Verbesserung der Support-Effizienz durch schnellere Informationsbereitstellung, reduzierte Reaktionszeiten und höhere Erstlösungsquoten.
Referenzprojekt 2: KI-Wissensplattform im Gesundheits- und Pflegesektor
Für ein Pflegeunternehmen wurde eine KI-gestützte Wissensplattform zur strukturierten Nutzung von Qualitätsmanagement-, Richtlinien- und Einsatzplandaten umgesetzt.
Die Plattform stellt relevante Informationen aus heterogenen Dokumentbeständen über eine semantische Such- und RAG-Architektur bereit und unterstützt Fach- und Führungskräfte im operativen Alltag.
Ergebnis: Schnellere Verfügbarkeit relevanter Informationen, erhöhte Prozess- und Dokumentationssicherheit sowie reduzierte Einarbeitungs- und Schulungsaufwände unter Einhaltung hoher Datenschutz- und Sicherheitsanforderungen.
Übertragbarkeit auf den JEN-Kontext
Beide Referenzen zeigen die erfolgreiche Umsetzung vergleichbarer Anforderungen in Bezug auf verteilte Wissenssysteme, hohe Sicherheitsanforderungen, heterogene Datenquellen und strukturierte, nachvollziehbare Informationsbereitstellung.
Die HITS-Pulse-Plattform ist konsequent auf langfristige technologische und organisatorische Weiterentwicklungsfähigkeit ausgelegt. Im Zentrum steht dabei die Anforderung, KI-gestützte Wissenssysteme nicht als statische Einzellösung zu betrachten, sondern als modular erweiterbare Plattform, die sich kontinuierlich an neue technologische Entwicklungen, steigende Datenmengen und veränderte organisatorische Anforderungen anpassen lässt.
Modulare Architektur als Grundprinzip
Die gesamte Systemarchitektur ist komponentenbasiert aufgebaut und strikt entkoppelt. Zentrale Funktionsbereiche wie Datenintegration, Retrieval, KI-Inferenz und Benutzerinteraktion sind technisch voneinander getrennt und kommunizieren ausschließlich über definierte Schnittstellen.
Diese Struktur ermöglicht es, einzelne Systembestandteile unabhängig voneinander weiterzuentwickeln oder auszutauschen, ohne die Gesamtplattform neu aufbauen zu müssen. Dies betrifft insbesondere:
KI-Modelle (Inferenzschicht)
Such- und Retrievalkomponenten
OCR- und Dokumentenverarbeitung
Konnektoren zu externen Datenquellen
UI- und API-Schichten
Damit wird eine hohe Anpassungsfähigkeit an zukünftige technologische Entwicklungen sichergestellt.
Austauschbarkeit zentraler Technologien
Ein wesentliches Designprinzip ist die Technologie-Agnostik innerhalb der Kernkomponenten. Neue oder verbesserte KI-Modelle, Embedding-Verfahren oder Suchtechnologien können in die bestehende Architektur integriert werden, ohne dass die darüberliegenden Anwendungsschichten angepasst werden müssen.
Dies betrifft insbesondere den Austausch oder die Weiterentwicklung:
von Sprachmodellen in der lokalen Inferenzschicht
von Embedding- und Vektorisierungsverfahren
von Such- und Rankingmechanismen
sowie von Datenkonnektoren zu neuen Quellsystemen
Die Plattform bleibt dadurch technologisch anschlussfähig und kann Entwicklungen im Bereich der künstlichen Intelligenz flexibel aufnehmen.
Vermeidung von Vendor Lock-in
Ein zentrales Ziel der Architektur ist die Vermeidung technologischer Abhängigkeiten von einzelnen Herstellern oder proprietären Plattformen.
Die Lösung basiert daher auf offenen, etablierten und breit unterstützten Technologien sowie standardisierten Schnittstellen. Dadurch entsteht eine hohe Unabhängigkeit von einzelnen Cloud- oder KI-Anbietern.
Für die Organisation ergibt sich daraus eine langfristig stabile Kosten- und Betriebsstruktur, da keine Abhängigkeit von proprietären Lizenz- oder Token-Modellen besteht.
Skalierbarkeit und Weiterentwicklung
Die Plattform ist sowohl funktional als auch infrastrukturell skalierbar ausgelegt. Neue Datenquellen, steigende Nutzerzahlen oder wachsende Datenvolumina können durch horizontale Erweiterung der Systemkomponenten abgebildet werden.
Gleichzeitig ist die Plattform so strukturiert, dass neue funktionale Erweiterungen schrittweise ergänzt werden können, beispielsweise:
agentenbasierte Prozessunterstützung
automatisierte Klassifikation und Strukturierung von Dokumenten
erweiterte Kontextvernetzung über Systemgrenzen hinweg
Integration zusätzlicher Fachanwendungen
Diese Erweiterungen erfolgen ohne Eingriffe in den stabilen Kern der Plattform.
Langfristige Betriebs- und Wirtschaftsperspektive
Durch den vollständig On-Premises-basierten Betrieb entstehen keine nutzungsabhängigen variablen Kostenmodelle externer KI-Dienste. Die Betriebskosten orientieren sich primär an der internen Infrastruktur und bleiben dadurch langfristig planbar und stabil.
Die modulare Architektur ermöglicht zudem eine schrittweise Weiterentwicklung der Plattform im Rahmen regulärer IT-Weiterentwicklungszyklen, ohne dass vollständige Systemerneuerungen erforderlich sind.
Zusammenfassende Einordnung
Die HITS-Pulse-Plattform ist gezielt auf langfristige Nutzbarkeit in komplexen und sicherheitskritischen Organisationen ausgelegt. Durch die Kombination aus modularer Architektur, offenen Schnittstellen und lokaler Betriebsfähigkeit entsteht eine Lösung, die sowohl technologisch als auch organisatorisch nachhaltig weiterentwickelt werden kann.
Damit bietet die Plattform eine zukunftssichere Grundlage für den Aufbau eines skalierbaren, kontrollierbaren und erweiterbaren KI-gestützten Wissenssystems in hochregulierten Umgebungen wie der JEN.
