SupportFlowAI

Kapitel 9 — KI-Anbindung & Konfidenz-Schwellen

Wie Ollama eingebunden ist, wann ein optionaler Cloud-Fallback greift und wo die Konfidenz-Schwellen eingestellt werden.

/Admin/Llm

Ollama zentral verwalten

Screenshot: Admin-Seite KI-Anbindung mit echtem Ollama-Status

1 2 3

1 Ollama-Status: erreichbar

2 Aktives Embedding-Modell

3 Fallback-Reihenfolge mit Priorität

Alles an einem Ort statt verstreuter Konfigurationsdateien.

Unter /Admin/Llm sehen Sie den Status des lokalen Ollama-Dienstes sowie die aktuell verwendeten Modelle für Embedding und Textgenerierung.

Optionaler Fallback

Cloud-LLM mit eigener Priorität

Screenshot: Echter Anthropic-Cloud-Provider in der Anbieter-Tabelle

1 2 3

1 Anthropic als Cloud-Fallback

2 Eigener API-Key nötig

3 Priorität konfigurierbar (hier: 2)

Ausnahme, nicht Standard.

Optional lässt sich ein Cloud-Anbieter als begrenzter Fallback für die Textgenerierung hinterlegen — mit eigener Priorität gegenüber dem lokalen Modell.

Wichtig

Embeddings bleiben immer lokal

Screenshot: Embeddings-Block bleibt unabhängig vom Cloud-Fallback immer Ollama

1 2 3

1 Ähnlichkeitssuche lokal

2 Nur Textgenerierung optional Cloud

3 Datensparsamkeit by Design

Selbst mit aktiviertem Cloud-Fallback bleibt ein Kern lokal.

Unabhängig davon, ob ein Cloud-Fallback aktiv ist, laufen Embeddings und die Ähnlichkeitssuche immer lokal über Ollama — nur die eigentliche Formulierung des Entwurfs kann optional ausgelagert werden.

Konfiguration

retrieval-settings.json

1 2 3

1 HighConfidenceThreshold

2 MediumConfidenceThreshold

3 Keine Admin-Oberfläche

Bewusst eine Datei statt einer Oberfläche.

Die globalen Konfidenz-Schwellwerte liegen in data/retrieval-settings.json und werden direkt editiert — es gibt bewusst keine eigene Admin-Oberfläche dafür.

Standardwerte

0,85 hoch, 0,60 mittel

Screenshot: echte Schwellenwert-Erklärung auf /Admin/Test

1 2 3

1 Hoch ≥ 0,85

2 Mittel 0,60–0,85

3 Niedrig < 0,60

Drei Stufen statt einer binären Entscheidung.

Hoch löst Vollautomatik aus (falls aktiviert), mittel landet in der Review-Queue mit Entwurf, niedrig erhält bewusst nur eine neutrale Zwischenantwort statt frei erfundenem Text.

Fazit

KI-Anbindung konfiguriert, Schwellen verstanden

Im letzten Kapitel werfen wir einen Blick auf das Dashboard und die System-Health-Übersicht.

Weiter zu Kapitel 10 →