GenAI - Unternehmenssuche

• Die bestehende Suchfunktion basierte auf einer herkömmlichen Stichwortsuche, die oft nicht in der Lage war, relevante Erkenntnisse aus einem umfangreichen und komplexen Datensatz zu gewinnen, der mehrere Bereiche umfasste.
• Die Verwaltung einer großen Datenbank mit strukturierten und unstrukturierten Daten erschwerte es den Benutzern, präzise Suchanfragen durchzuführen, was oft manuellen Aufwand und technisches Fachwissen erforderte.
• Ineffizienzen bei der Ausführung von Abfragen führten zu langen Verarbeitungszeiten, wodurch die Informationsgewinnung langsam und unzuverlässig wurde.
• Strenge Datenschutz- und Sicherheitsanforderungen erschwerten den Umgang mit sensiblen Informationen und schränkten die Wirksamkeit herkömmlicher Suchmethoden ein.
• Herkömmliche Suchwerkzeuge lieferten häufig unvollständige oder irrelevante Ergebnisse, sodass die Benutzer ihre Abfragen mehrfach verfeinern mussten, um die richtigen Informationen zu finden.
• Lange Antwortzeiten im bisherigen System führten zu Verzögerungen beim Zugriff auf wichtige Daten und behinderten die Entscheidungsfindung und Berichterstattung in Echtzeit.

Der Kunde benötigte ein GenAI-gesteuertes Suchmodul, um die Datenabfrage innerhalb seines Transparenzportals zu optimieren. Das System musste sich nahtlos in bestehende Datenquellen integrieren, die Suchfunktionen verbessern und eine hohe Leistung aufrechterhalten, während gleichzeitig die Datensicherheit gewährleistet sein musste.

Die GenAI-Suchlösung folgte einem dreistufigen Fahrplan:

• SQL-Generator: Entwicklung eines Generators für natürliche Sprache zu SQL-Abfragen, der Benutzeranfragen in präzise Datenbankabfragen übersetzen konnte.
• Ähnlichkeitssuche: Implementierung einer vektorbasierten Ähnlichkeitssuche, um relevante Informationen aus der Wissensdatenbank schnell zu identifizieren.
• LLM-Router, Text- und SQL-Engine: Integration eines hochentwickelten GenAI-Systems, das Abfragen je nach Abfragetyp an die entsprechende Verarbeitungs-Engine (Text oder SQL) weiterleitet und umfassende Antworten generiert.

Dieser vielschichtige Ansatz stellt sicher, dass Benutzer Informationen über Abfragen in natürlicher Sprache abrufen können, ohne technische Kenntnisse über Datenbankstrukturen oder Abfragesprachen zu benötigen. Das System entscheidet intelligent, ob eine Anfrage durch direkte Textanalyse oder Datenbankabfrage verarbeitet wird, und liefert so die genaueste und effizienteste Antwort.

• Der beschleunigte Zugriff auf Informationen führte zu einer Zeitersparnis von 85% beim Abrufen komplexer Informationen.
• Die verbesserte Entscheidungsunterstützung erhöhte die Datenverfügbarkeit und ermöglichte eine evidenzbasierte Entscheidungsfindung.
• Die mehrsprachige Inklusivität verbesserte den Zugang für nicht englischsprachige Teammitglieder erheblich.
• Datengestützte Erkenntnisse erleichtern die Identifizierung von Mustern und Trends über Programme und Regionen hinweg.
• Eine verbesserte Berichterstattung an Spender gewährleistet genaue und zeitnahe Updates für die Stakeholder.
• Der verstärkte Wissensaustausch verbesserte die organisationsübergreifende Sichtbarkeit von Programmen und Ergebnissen.
• Das skalierbare und sichere Design gewährleistet eine zukunftsfähige Lösung, die den Datenschutzbestimmungen entspricht.

• Die intelligente GenAI-Abfrageweiterleitung ermittelt automatisch die am besten geeignete Verarbeitungsmethode für jede Abfrage.
• Dank der Verarbeitung natürlicher Sprache kann das System komplexe dialogorientierte Abfragen verstehen.
• Die mehrsprachige Unterstützung ermöglicht die nahtlose Bearbeitung von Abfragen in mehreren Sprachen.
• Kontextbezogene Antworten berücksichtigen den weiteren Kontext der Anfrage.
• Die dynamische SQL-Generierung wandelt natürliche Sprache in optimierte Datenbankabfragen um.
• Die vektorbasierte Ähnlichkeitssuche identifiziert schnell relevante Informationen aus umfangreichen Wissensdatenbanken.
• Die leistungsstarke Architektur gewährleistet Skalierbarkeit und sorgt auch unter hoher Last für eine konstante Geschwindigkeit.
• Sicherheit auf Unternehmensniveau bietet robusten Schutz für sensible Daten während der gesamten Verarbeitungskette.
• Anklickbare Begriffe ermöglichen eine interaktive Erkundung für tiefere Einblicke.
• Die intelligente Abfragepräzisierung verbessert die Genauigkeit durch die Verfeinerung mehrdeutiger Anfragen.
• Die dialogorientierte Suche bietet eine nahtlose Benutzerinteraktion für intuitive Abfragen.
• Mehrteilige Abfragen unterstützen komplexe Datenanfragen mit strukturierter Verarbeitung.
• Verbesserte Geschwindigkeit und Präzision durch GenAI-gesteuerte Optimierung für schnellere Ergebnisse.
• Grafische Einblicke wandeln Daten in visuelle Darstellungen um, um eine bessere Analyse zu ermöglichen.

• Azure OpenAI
• LLMs
• RAG
• Python
• FastAPI
• pgvector
• LangChain
• LlamaIndex
• PostgreSQL
• MongoDB
• Prompt Engineering
• Azure API Management
• Azure Pipelines
• Re-ranking