​Wir arbeiten derzeit an einem Prototypen für einen Chatbot auf unserer Seminar-Webseite – intern bekannt als „Semibot".

Ziel dieses Use-Cases ist es, herauszufinden, ob sich unser bestehender Chatbot effizient mit den Bordmitteln von Oracle APEX, in der aktuellen Version 24.2, nachbilden lässt. Im Zentrum unserer Analyse steht das neue Feature zur Retrieval-Augmented Generation (RAG), das Oracle mit diesem Release eingeführt hat.

Im Rahmen dieses Experiments haben wir unseren bisherigen Prototypen unter Verwendung des neuen RAG-Ansatzes nachgebaut, um zu evaluieren, wie weit man mit den nativen Funktionen von Oracle APEX tatsächlich kommt. Besonders interessant war dabei die Frage, wie stark das neue Feature die Entwicklung vereinfacht und wie viel technisches Wissen wirklich erforderlich ist, um zu funktionierenden Ergebnissen zu gelangen.

Unser Beitrag zeigt, welches Potenzial in der Low-Code-Umsetzung steckt, welche Grenzen dabei sichtbar werden und in welchen Fällen es sich lohnt, tiefer in die Technik einzusteigen, um eine robuste, performante und zukunftsfähige Lösung zu schaffen.

APEX 24.2 AI Configurations and RAG Sources 

Das mit APEX 24.2 neu eingeführte Feature ermöglicht es, RAG (Retrieval-Augmented Generation) in der eigenen Applikation einzubinden. Bei RAG handelt es sich um einen KI-Ansatz, bei dem ein Large Language Model (LLM) durch eine vorgelagerte Informationsrecherche ergänzt wird: Relevante Inhalte werden zur Laufzeit aus externen Datenquellen abgerufen und dem Modell als Kontext zur Verfügung gestellt, um fundiertere und aktuellere Antworten zu generieren.

Dazu werden in APEX drei neue Komponenten eingeführt:

• „Generative AI Services“ unter den „Workspace Utilities“
• „AI Configurations“, zu finden unter den „Shared Components“
• die beiden „Dynamic Actions“ „Generate Text with AI“ und „Show AI“

In den „Generative AI-Services" werden die allgemeinen Informationen zu der zu verwendenden AI hinterlegt. Dazu gehören beispielsweise der Anbieter (OpenAI, OCI oder Cohere) und die entsprechenden Zugangsinformationen (Credentials).  

In der jeweiligen Applikation unter den Shared Components finden sich die „AI Configurations“: Hier werden zum AI-Service die konkreten RAG-Informationen hinterlegt. Es kann dazu unter anderen ein System Prompt angegeben werden, um der AI initiale Anweisungen zu erteilen bzw. den Kontext mitzugeben, sowie die Willkommensnachricht, die der/die Anwender:in zur Begrüßung sieht. Zudem gibt es die Möglichkeit, ein oder mehrere „RAG Sources“ zu definieren.

Die sogenannte „RAG Source“ definiert die Datenbasis, die der KI für die Generierung von Antworten zur Verfügung gestellt wird. Hierzu kann beispielsweise eine SELECT-Anweisung genutzt werden, um gezielt Informationen aus der Datenbank bereitzustellen. Zusätzlich lässt sich die maximale Anzahl an Tokens begrenzen, die eine RAG Source umfassen darf, um die Antwortqualität und Performance zu steuern. Für die praktische Umsetzung innerhalb der Anwendung stellt Oracle APEX zwei neue Dynamic Actions bereit, über die sich die zuvor konfigurierten AI-Einstellungen direkt nutzen lassen:

• Mit der Dynamic Action „Generate Text with AI“ lassen sich einmalige Textantworten erzeugen. Dieses Feature eignet sich beispielsweise zur automatisierten Zusammenfassung bestehender Inhalte, die anschließend direkt auf der Seite eingebunden werden können. Die Generierung kann dabei auch auf Grundlage einer Benutzereingabe über ein Page-Item erfolgen. Charakteristisch für diese Variante ist, dass sie keine Konversationshistorie verwaltet.
• Ergänzend dazu stellt die Aktion „Show AI Assistant“ ein interaktives Chatfenster mit Verlauf zur Verfügung. Dieses kann wahlweise als Dialog oder inline in die Seite eingebettet werden und bietet somit die Möglichkeit, einen kontextsensitiven Dialog mit der KI zu führen – inklusive einer nachvollziehbaren Historie der bisherigen Interaktionen.

Semibot

Der „Semibot" (SeminarBot) ist ein KI-gestützter Chatbot auf Basis von Retrieval Augmented Generation (RAG), der speziell für die Beantwortung von Fragen rund um unser Seminarangebot entwickelt wurde. Ziel ist es, die User Experience auf der ORDIX-Seminar-Webseite spürbar zu verbessern, indem Interessierte ihre Anliegen künftig einfach per Chat klären können – schnell, direkt und kontextbezogen. Bei komplexeren Anfragen übernimmt der Bot die Weiterleitung an das Trainingssekretariat. Technisch basiert der Semibot auf den Python-Frameworks LangGraph und LangChain und nutzt zur semantischen Suche die Vektordatenbank ChromaDB. 

Erstellung in APEX​

Für den Nachbau des Semibots in Oracle APEX kommt der AI-Service von OpenAI zum Einsatz. Die Anbindung erfolgt über einen API-Key, der in der APEX-Konfiguration hinterlegt wird. Um eine einfache Anbindung an die RAG-Source per SQL zu ermöglichen, wurden die relevanten Seminardaten vorab in die Oracle-Datenbank importiert.

Im Rahmen der Umsetzung fiel die Entscheidung zugunsten des Dynamic-Action-Typs „Show AI Assistant“, da dieser sowohl eine Historie der Nutzeranfragen als auch ein benutzerfreundliches Chatfenster bereitstellt. Dies trägt zur intuitiven Bedienung und zur besseren Nachvollziehbarkeit von Interaktionen bei.

Im System Prompt wird die Rolle der KI klar definiert: Sie soll ausschließlich auf die mitgelieferten Seminardaten zurückgreifen und keine externen oder erfundenen Informationen liefern. So wird sichergestellt, dass ausschließlich valide, intern geprüfte Inhalte kommuniziert werden und keine Antworten „halluziniert“ werden. Die Welcome Message legt schließlich fest, mit welcher Begrüßung der Chatbot in den Dialog mit den Nutzer:innen einsteigt. 

Was ist in kurzer Zeit machbar?

Ein einfacher RAG-Ansatz lässt sich in Oracle APEX mit vergleichsweise geringem Aufwand umsetzen – sowohl in technischer als auch in zeitlicher Hinsicht. Umfangreiche Kenntnisse in der Programmierung oder im Umgang mit Retrieval Augmented Generation sind dabei nicht erforderlich. Voraussetzung ist lediglich, dass die benötigten Daten innerhalb von APEX verfügbar sind und die Benutzeroberfläche Zugriff auf das Chatbot-Fenster bietet. Die gesamte Konfiguration erfolgt direkt über die grafische Oberfläche von APEX, ohne dass zusätzlicher Code geschrieben werden muss.

Die Antworten der KI lassen sich dabei gezielt über den System-Prompt steuern, indem entsprechende Instruktionen mitgegeben werden. Auf diese Weise kann der inhaltliche Rahmen klar eingegrenzt und unerwünschtes Verhalten – wie das Beantworten fachfremder Fragen – wirksam unterbunden werden. Über die zur Verfügung stehenden Konfigurationsoptionen lassen sich viele Detailaspekte anpassen. Allerdings zeigt sich auch, dass bestimmte Funktionen – etwa eine integrierte semantische Ähnlichkeitssuche – derzeit nicht nativ unterstützt werden. 

​Grenzen der nativen Umsetzung in APEX und Bereiche mit höherem Know-how-Bedarf

​Für die Umsetzung eines leistungsfähigen RAG-Ansatzes ist ein vertieftes technisches Verständnis erforderlich – insbesondere dann, wenn die bestehenden Konfigurationsoptionen gezielt erweitert oder zusätzliche Funktionalitäten integriert werden sollen. In der Praxis ist ein RAG in der Regel mit einer semantischen Ähnlichkeitssuche verknüpft, um ausschließlich die relevantesten Ergebnisse an die KI weiterzugeben. Dies verbessert nicht nur die inhaltliche Qualität der Antworten, sondern verhindert auch eine Überfrachtung mit irrelevanten Informationen. Gleichzeitig reduziert sich die Anzahl der zu verarbeitenden Tokens, was direkte Auswirkungen auf die Nutzungskosten hat.

In Oracle APEX müsste eine solche Ähnlichkeitssuche explizit über das SQL-Statement in der RAG Source realisiert werden – etwa durch Anbindung an eine Vektorsuche oder einen passenden Ranking-Mechanismus.

Sollte anstelle des Chatfensters der Dynamic Action „Show AI Assistant“ auf die Variante „Generate Text with AI“ zurückgegriffen werden, entfällt die integrierte Konversationshistorie. Diese müsste dann manuell umgesetzt werden, beispielsweise durch persistente Speicherung der Eingaben und Antworten. Darüber hinaus bietet APEX die Möglichkeit, erweiterte Parameter für das Verhalten der KI in Form eines JSON-Objekts zu übergeben – etwa zur Feinjustierung von Temperatur, Antwortlänge oder anderen modellspezifischen Einstellungen.

Fazit

Eine simple RAG lässt sich schnell ohne Programmiererfahrung dank dem Low-Code-Ansatz von APEX umsetzen. Für bessere Ergebnisse oder reduzierte Kosten durch weniger Tokens werden tiefere Kenntnisse über APEX, RAGs und SQL benötigt. Der mit APEX entwickelte Semibot ist ein guter Prototyp – ersetzt aber ohne weitere Verfeinerung nicht den bestehenden, spezialisierten Semibot. Wenn ihr RAG in eurem Unternehmen nutzen möchtet und Fragen habt oder Hilfe benötigt, kontaktiert uns gerne!  

Seminarempfehlungen