tucan.ai - API für automatisierte Einkaufsprozesse

Mit tucan.ai entscheiden Sie sich für ein bewährtes System zur automatisierten Verarbeitung von Kundenanfragen auf Basis von KI. Durch bestehende Kundenbeziehungen mit strukturell wichtigen Deutschen Unternehmen wie Porsche und Mercedes-Benz hatten wir das Privileg, ab Tag 1 Erfahrung bei der Entwicklung und Implementation von groß angelegten KI-Systemen zu sammeln.

Zuletzt haben wir ein Projekt für die CONEN Group realisiert, das dem Wunsch dieser Challenge sehr ähnelte, wobei die Suchfunktion allerdings potentiellen Kunden bereitgestellt wurde, damit diese automatisiert bei der Suche nach geeigneten Produkten aus dem Katalog der CONEN Group (mit über 50000 Artikeln) beraten werden.

Ein aus dieser Challenge hervorgehendes Projekt wäre lediglich eine Wiederholung unseres vorherigen Projektes mit einer größeren Datenbank aber dafür kleineren und kontrollierteren Nutzerzahl, was die Implementation für uns verhältnismäßig einfach gestalten würde.

Abgesehen von Vorerfahrung, spricht auch der generelle Aufbau unserer Technologie für uns, denn wir sind das einzige europäische KI-Unternehmen, dass es sich zum Ziel gemacht hat einen Prozess für die Verarbeitung von Daten via LLM zu finden, der kostentechnisch höchst skalierbar ist. Andere Unternehmen versuchen üblicherweise so viele Daten wie möglich zu verarbeiten, was auf den ersten Blick sinnvoll erscheinen mag, aber die Genauigkeit der Ergebnisse maßgeblich verschlechtert und extrem hohe Kosten verursacht. Unsere Software nutzt ein proprietäres Chunking-System um den Informationsgehalt einer gesamten Datenbank auf kleinere Blöcke herunterzubrechen. Jede Anfrage wird im Anschluss vom System vorklassifiziert, sodass nur die genau passenden Informationen verarbeitet werden und jede Anfrage günstig und vor allem schnell bleibt.

Natürlich spielt auch der Datenschutz eine große Rolle und wir als Deutsches Unternehmen haben uns diesen Punkt zu einem der Hauptaugenmerke unserer Lösungen gemacht. Unsere Technologien und Implementationen folgen den aller höchsten Sicherheitsstandards. Der Präsentation können Sie zudem nochmal detaillierte Informationen zum Thema Data Governance im Rahmen dieser Lösung entnehmen.

Die Kombination aus Vorerfahrung in vergleichbaren Projekten, einem einzigartigen und hochqualitativen Entwicklungsansatz und Exzellenz bei Datenschutzbedenken machen uns unserer Meinung nach zum idealen Kandidaten für ein gemeinsames Projekt.

Darüber hinaus hätte eine erfolgreiche Implementation durch uns selbstverständlich den Vorteil Einkaufsprozesse massiv zu beschleunigen und zu automatisieren und gleichzeitig die Zufriedenheit der Einkäufer zu erhöhen, da das optimale Angebot nicht "übersehen" werden kann.

Bitte ziehen Sie für die Voraussetzungen zusätzlich die Präsentation heran, die auch eine visuelle und detailliertere Darstellung der folgenden Punkte enthält.

Primär benötigen wir eine Entscheidung zum Thema Data Governance, die auch unsere technischen & finanziellen Voraussetzungen beeinflussen würde.

Option 1: Hosting in unserer normalen Cloud unter Nutzung von Ressourcen bei Hetzner und AWS, teils auch Auslagerung von AI Services. Dies benötigt nur eine Anbindung der Angebots/Produktdatenbank an unseren API Gateway und ist die finanziell günstigste Variante.

Option 2: Hosting in einer private cloud - eigene Serverinstanzen und getrennte Datenhaltung im Betrieb durch Tucan.ai und in Rechenzentren von Hetzner bei Nürnberg. Auch dies würde nur eine Anbindung der Angebots/Produktdatenbank an unseren API Gateway erfordern, hätte allerdings durch den single-tenant Aufbau einen mittleren Kosteneinsatz. Hier hätten wir jedoch auch die Möglichkeit unabhängig von der Anfrage Reaktionszeiten von unter 5 Sekunden zu garantieren.

Option 3: Hosting On-Premise mit Lizenz und Wartungsvertrag. Hierfür muss eine Einmalentwicklung vorgenommen werden um den Deploymentprozess anzupassen, weshalb dies auch den höchsten Kosteneinsatz mit sich bringen würde. Zudem müsste DLR die folgende Hardware stellen:

3 x Intel Xeon W-2145 NIC 1 Gbit - Intel I210

1x U.2 NVMe 2,0 TB Enterprise

8x RAM 32768 MB DDR4 ECC reg -> Kubernetes Compute Nodes

1 x Intel Xeon W-2145 NIC 1 Gbit - Intel I210

1x U.2 NVMe 2,0 TB Enterprise

8x RAM 32768 MB DDR4 ECC reg Nvidia GPU(s) mit mindestens 80 GB GPU-Speicher CUDA-Rechenleistung von 7,5-9,0 einschließlich. Karten mit der Volta-Architektur oder darunter können die Modelle nicht ausführen -> Kubernetes ML Node