Aufgabe
Unternehmen mit Preislisten, Lieferbedingungen und wiederkehrenden Fragen brauchen einen Berater, der Kunden zu passenden Informationen und zur Bestellung führt. Fehlende Informationen sollen an einen Manager samt Kontext übergeben werden.
Dafür habe ich ein Demonstrationsprojekt für die fiktive Bäckerei Kolosok gebaut. Eine Engine bedient Website-Widget und Telegram-Bot. Es ist ein offenes Projekt mit laufendem Service, keine Geschichte über eine Einführung bei einem echten Kunden.
Lösung
Kunden fragen nach Bedingungen, erhalten eine Antwort und öffnen den verwendeten Abschnitt aus Preisliste oder FAQ. Fragen mit zu geringer Ähnlichkeit werden vor dem Modellaufruf abgelehnt. Sonst erhält GigaChat passende Abschnitte und die Anweisung, daraus zu antworten oder abzulehnen. Bei Ausfall des Anbieters zeigt der Service einen geeigneten Abschnitt ohne Generierung.
Für menschliche Hilfe erfasst der Berater Name, Telefon und Anliegen. Im Produktivmodus wird die Anfrage zuerst in PostgreSQL gespeichert, dann mit Gesprächskontext an den Manager in Telegram gemeldet. Die öffentliche Demo zeigt nur eine Vorschau mit Testkontakten. Fragen und gefundene Abschnitte gehen an den Modellanbieter; Kontakte aus dem Formular werden nicht in den Modellkontext aufgenommen.
Umgesetzte Aufgaben
- Preise, Lieferbedingungen und FAQ in einer Wissensbasis für Widget und Telegram-Bot zusammengeführt
- GigaChat und aufklappbare Quellen zum Prüfen von Preisen und Bedingungen angebunden
- Ablehnung bei fehlenden Informationen und ein Anfrageformular ergänzt
- Uploads von TXT, Markdown und PDF für Fragen zu eigenen Dokumenten ermöglicht
- Kontaktdaten des Formulars vom Modellkontext getrennt
- Fragenlimit, Modellwarteschlange und Textantwort bei Ausfall des Anbieters ergänzt
- Anfragevorschau ohne Versand, Testkontakte und Löschen von Sitzung und Datei beim Zurücksetzen gebaut
Ergebnis
Der gesamte Weg von der Dokumentenfrage zur Anfrage mit Kontext funktioniert. Das Widget wird mit einer Skriptzeile eingebunden, der Telegram-Bot nutzt dieselbe Wissensbasis und Antwortregeln. Auf der Website stehen das Live-Widget, Dokumentuploads und eine Browservorschau des Telegram-Ablaufs ohne Versand bereit.
Im kleinen Abnahmesatz findet die Suche bei 16 von 16 Fragen den richtigen Abschnitt zuerst. Ohne Modell erhalten zwölf eine Antwort, vier Umformulierungen brauchen ein Modell; sieben themenfremde Fragen erhalten „weiß nicht“. Das prüft einen festen Testsatz, verspricht keine KI-Genauigkeit für beliebige Fragen.
Anmerkung des Entwicklers
Was schwierig war
Die größte Herausforderung war, ähnlichen Text von einer tatsächlichen Antwort zu unterscheiden. Preisbegriffe stehen in mehreren Abschnitten; selbst eine Wetterfrage kann Wörter mit der Preisliste teilen. Deshalb habe ich Suche und Modellprüfung getrennt sowie Quellen und klare Entscheidungsgründe ergänzt.
Auch Ausfälle und parallele Fragen müssen beherrscht werden. Kontingente werden atomar reserviert, das Budget vor dem Modellaufruf geprüft und Netzfehler durch Textsuche abgefangen. Formularkontakte gelangen nicht in nachfolgende Modellanfragen.
Was leicht fiel
Eine eigene Python-Engine erleichterte die gemeinsame Logik beider Kanäle. Widget und Telegram-Bot übergeben Fragen und erhalten dieselben Antworten, Quellen und Formularschritte. Preisänderungen erfordern keine zwei unabhängigen Implementierungen.
Einfache Markdown-Dateien machen die Wissensbasis gut pflegbar. Lieferbedingungen, Preise und FAQ sind in lesbare Abschnitte gegliedert, die unter einer Antwort geöffnet und mit dem Original verglichen werden können.
Technologien
PythonFastAPIPostgreSQLGigaChataiogramDocker