- KI-Qualitätsmetriken, wie Korrektheit, Fundiertheit (Groundedness), Relevanz, Kontextqualität, Sicherheit oder Compliance
- Agenten-Leistungsmetriken, wie erfolgreiche Tool-Nutzung oder Aufgabenerfüllung
- Operative Metriken, wie Latenz, Token-Verbrauch, Fehler und Kosten
- Nutzer- und Geschäftsmetriken, wie Zufriedenheit, Eskalation, Conversion, Bindung und Umsatz
Evaluierung und Experimente lösen unterschiedliche Probleme
Evaluierung stellt fest, ob eine einzelne Modell- oder Agenten-Ausgabe einen definierten Qualitätsstandard erfüllt. Observability-Tools ermöglichen es Ihnen, die Prompts, Antworten, Traces, Retrieval-Schritte und Tool-Aufrufe hinter dieser Ausgabe zu untersuchen. Experimente stellen fest, ob eine Änderung an der zugrunde liegenden Konfiguration eine messbare Verbesserung für Nutzer oder das Geschäft bewirkt: eine Frage, die weder die Evaluierung noch die Observability beantwortet. Ein LLM-Judge könnte beispielsweise den überarbeiteten System-Prompt eines Kundensupport-Agenten als fundierter bewerten als den aktuellen. Ein Kameleoon-Experiment beantwortet die Fragen, für die Ihr Team verantwortlich ist: ob dieselbe Konfiguration mehr Tickets löst, ohne an einen Menschen zu eskalieren, und was das an Latenz und Token-Kosten kostet. Kameleoon ersetzt nicht Ihren LLM-Observability- oder Evaluierungs-Stack. Speisen Sie Bewertungsergebnisse aus RAGAS, einem LLM-Judge oder einem menschlichen Review-Prozess als benutzerdefiniertes Ziel in Kameleoon ein, und verfolgen Sie diese Werte zusammen mit den Verhaltens- und Geschäftszielen, die Ihr Experiment bereits misst. Ihre Qualitätssignale auf Modellebene lassen sich damit mit einer statistisch zuverlässigen Messung der tatsächlichen Auswirkung auf Nutzer verbinden. Kombinieren Sie bei den meisten KI-Experimenten mehrere Metriktypen, anstatt sich auf einen einzigen zu verlassen:- Legen Sie ein Nutzer- oder Geschäftsergebnis als primäres Ziel fest.
- Verfolgen Sie KI-Qualitätsmetriken als sekundäre Ziele oder Guardrails.
- Überwachen Sie Latenz, Kosten, Fehler und Sicherheit als operative Guardrails.
- Validieren Sie automatisierte Judges anhand einer Stichprobe menschlich geprüfter Beispiele, bevor Sie deren Bewertungen im großen Maßstab vertrauen.
Funktionsweise
Ein Experiment mit einer LLM-Anwendung oder einem KI-Agenten durchläuft in Kameleoon fünf Phasen:- Ein Feature Flag speichert die Konfiguration. Jeder Teil der Konfiguration, etwa ein Prompt oder ein Modellname, wird zu einer Feature-Variable des Flags.
- Jede Variation legt ihre eigenen Werte fest. Eine Variation ist eine vollständige mögliche Konfiguration mit einem Wert für jede Variable.
- Das SDK weist jedem Besucher eine Variation zu. Wenn ein Besucher Ihre Anwendung erreicht, fragt Ihr Code das Flag ab und erhält die Werte der zugewiesenen Variation, um damit das LLM aufzurufen oder den Agenten zu konfigurieren.
- Ziele erfassen, was passiert ist. Ihre Anwendung verfolgt eine Conversion für jedes an das Flag angehängte Ziel, einschließlich einer Guardrail-Conversion, die nur eintritt, wenn eine Antwort einen akzeptablen Schwellenwert für Qualität oder Latenz verletzt.
- Die Ergebnisseite vergleicht die Variationen. Sobald Sie genügend Traffic gesammelt haben, vergleichen Sie die Variationen anhand aller angehängten Ziele, um zu entscheiden, welche Konfiguration Sie ausrollen.
Voraussetzungen
- Ein Kameleoon-Konto mit einem für Feature Experimentation eingerichteten Projekt.
- Die Client-ID und das Client-Secret Ihres Kontos. Diese Werte finden Sie unter API-Anmeldeinformationen.
- Eine serverseitige Anwendung, in der Sie ein Kameleoon SDK installieren können, zum Beispiel eine Python-Anwendung.
Ihr KI-Agenten-Experiment in Kameleoon einrichten
Die folgenden Schritte bauen ein konkretes Experiment auf: Hilft ein überarbeiteter System-Prompt in Kombination mit einem stärkeren Modell und einem höheren Reasoning-Aufwand einem Kundensupport-KI-Agenten dabei, mehr Tickets eigenständig zu lösen, und bleibt die Latenz dabei in einem akzeptablen Bereich? Konfigurieren Sie das Feature Flag, die Variationen und die Tracking-Ziele in der Kameleoon-Plattform, bevor Sie Ihren Anwendungscode anfassen.Das Feature Flag erstellen
Erstellen Sie ein Feature Flag, um die Konfiguration Ihres Agenten aufzunehmen und die Bereitstellung Ihres Experiments zu steuern.- Klicken Sie in der Kameleoon-App auf Features > Flags & Experiments > New feature flag.
- Geben Sie einen Namen ein, zum Beispiel
AI support agent config, und wählen Sie das Projekt für das Flag aus. - Notieren Sie im Feld Description, wofür das Flag steht, zum Beispiel “Steuert den System-Prompt, das Modell, den Reasoning-Aufwand und die Retrieval-Einstellungen für den Support-Chatbot”, damit andere Teammitglieder seinen Zweck verstehen.
- Klicken Sie auf Validate.
- Kameleoon generiert aus dem Namen des Flags einen Feature-Key. Notieren Sie sich den generierten Key, oder bearbeiten Sie ihn zu
ai_support_agent. Ihr Anwendungscode identifiziert das Flag anhand dieses Keys und nicht anhand seines Namens, daher müssen beide übereinstimmen.
Die Agenten-Konfiguration in Feature-Variablen speichern
Fügen Sie für jeden Teil der Agenten-Konfiguration, den Sie testen möchten, eine Feature-Variable hinzu, sodass Sie jede davon über die Kameleoon-Plattform ändern können, ohne Ihren Anwendungscode zu bearbeiten. Dieses Beispiel testet vier Variablen:- Klicken Sie auf der Seite des Flags in der linken Seitenleiste auf Set Up > Variables > Add Variable.
- Setzen Sie den Type der Variable passend zur Tabelle auf String oder Number.
- Geben Sie den Variable Key aus der Tabelle ein, zum Beispiel
system_prompt. - Setzen Sie die Default Value auf den Wert, den Ihre Anwendung heute in der Produktion verwendet. Jede Variation, die Sie später erstellen, wird zunächst mit diesen Werten vorausgefüllt. Genaue Standardwerte ersparen Ihnen daher Arbeit und liefern eine bewährte Konfiguration, auf die Sie zurückgreifen können.
- Klicken Sie auf Save.
- Wiederholen Sie diese Schritte für jede verbleibende Variable in der Tabelle.

Ihre Variationen erstellen
Eine Auslieferungsregel kann nur Off oder eine selbst erstellte Variation ausliefern, daher benötigt ein A/B-Vergleich sowohl eine Variation für Ihre aktuelle Konfiguration als auch eine für jede neue Konfiguration, die Sie testen möchten. Dieses Beispiel erstellt zwei Variationen:Baseline, die widerspiegelt, was Ihre Anwendung bereits in der Produktion ausliefert, und Grounded, high reasoning, eine Challenger-Variation, die einen überarbeiteten, expliziteren Prompt mit einem stärkeren Modell und mehr Reasoning-Aufwand kombiniert.
- Klicken Sie in der linken Seitenleiste auf Set Up > Variations > Add variation.
- Geben Sie einen Name ein, zum Beispiel
Baseline, sowie einen passenden Variation Key, zum Beispielbaseline. Jede Variable ist bereits mit ihrem Standardwert vorausgefüllt, lassen Sie daher alle vier unverändert. - Klicken Sie auf Save.
- Wiederholen Sie diese Schritte für eine zweite Variation namens
Grounded, high reasoning(Keygrounded_high_reasoning), und bearbeiten Sie dabei alle vier Variablen so, dass sie dem Wert in der Tabelle für diese Variation entsprechen. - Klicken Sie auf Save.

Ziele für Geschäftsauswirkung, KI-Qualität und Latenz anhängen
Hängen Sie mehrere Ziele an das Feature Flag an, damit Sie Variationen anhand der Ergebnisse vergleichen können, für die Ihr Team verantwortlich ist, nicht nur anhand der Antwortqualität. Da Kameleoon eine einheitliche Plattform ist, können Sie jedes bereits in Ihrer Organisation vorhandene Ziel anhängen oder ein Ziel erstellen, das speziell auf Ihre LLM-basierte Funktion zugeschnitten ist. Dieses Beispiel hängt drei Ziele an, jeweils eines aus jeder Metrikkategorie, die für einen KI-Agenten relevant ist:
Erstellen Sie alle drei als Custom goals, die Ihr Backend auslöst, da Ihre Anwendung sie auslöst und nicht der Browser des Besuchers. Wählen Sie beim Erstellen jedes Ziels Custom goal als Type aus, und wählen Sie dann die Option für ein Backend-Ereignis über SDK.
- Klicken Sie auf der Seite des Flags im Menü Set Up auf Goals > Add goal.
- Wählen Sie ein vorhandenes Ziel aus, oder klicken Sie auf Create a new goal, um eines zu definieren. Fügen Sie zuerst
Ticket resolved without escalationhinzu, da Kameleoon das erste angehängte Ziel automatisch als Primary goal festlegt. - Klicken Sie auf Save.
- Wiederholen Sie diese Schritte für
Response groundedness scoreundResponse latency, die Kameleoon als Secondary goals anhängt.
Response groundedness score und Response latency tragen keinen numerischen Wert. Ihre Anwendung entscheidet, ob eine bestimmte Antwort einen akzeptablen Schwellenwert verletzt hat, entweder zu langsam oder zu wenig fundiert, und löst die Conversion des Ziels nur aus, wenn das der Fall war. Kameleoon meldet dann die Conversion-Rate jedes Ziels pro Variation und zeigt Ihnen so, welcher Anteil der Antworten diesen Schwellenwert verletzt hat.

Das Experiment ausrollen
Fügen Sie eine Experiment-Regel hinzu, die den Traffic auf Ihre beiden Variationen verteilt, und schalten Sie das Flag dann ein, um mit der Datenerfassung zu beginnen. Das Menü Add a rule gruppiert Regeln nach Zweck. Feature testing enthält die Experiment-Regel, die den Traffic aufteilt und einen statistisch signifikanten Vergleich zwischen Variationen misst, während Feature delivery Progressive delivery und Targeted delivery enthält, die eine einzelne Variation schrittweise oder an ein bestimmtes Segment ausliefern, ohne Varianten zu vergleichen. Ein A/B-Test benötigt die Experiment-Regel.- Wählen Sie im Rollout Planner die Umgebung aus, die Sie anvisieren möchten, zum Beispiel Production.
- Klicken Sie auf Add a rule, und wählen Sie dann unter Feature testing die Option Experiment aus.
- Legen Sie unter Variations to serve
Baselineals Control fest, und fügen SieGrounded, high reasoningals Treatment hinzu. Kameleoon misst die Ergebnisse jedes Treatments gegen die Control, daher muss die Control die Konfiguration sein, die Sie bereits in der Produktion einsetzen. - Legen Sie die Traffic-Verteilung auf die beiden Variationen fest, zum Beispiel je 50 %.
- Legen Sie das Targeting der Regel so fest, dass es die Besucher einschließt, die Sie testen möchten, zum Beispiel alle Besucher, die ein Support-Gespräch beginnen.
- Wählen Sie im Drop-down Then, for everyone else in production, serve
Baselineaus. Besucher, die außerhalb des Targetings der Regel liegen, erhalten dann Ihre aktuelle, validierte Konfiguration, und Ihre Anwendung erhält weiterhin einen vollständigen Variablensatz für sie. - Schalten Sie den ON/OFF-Schalter des Flags auf ON.
- Klicken Sie auf Save.

Die Konfiguration in Ihrer Anwendung abrufen
Installieren Sie das Kameleoon Python SDK, rufen Sie dann die dem Besucher zugewiesene Konfiguration ab, und verfolgen Sie im Verlauf des Tickets des Besuchers eine Conversion für jedes Ziel. Das gleiche Muster gilt für jedes serverseitige Kameleoon SDK, einschließlich Node.js, Java und Go. Da Kameleoon nur die Konfigurationswerte liefert, funktioniert dasselbe Muster auch mit jedem Agenten-Framework, etwa dem OpenAI Agents SDK, dem Claude Agent SDK oder LangChain. Der meiste Agenten-Code läuft auf Python oder TypeScript, wählen Sie also, was zu Ihrer Anwendung passt.-
Installieren Sie das SDK als Abhängigkeit:
-
Initialisieren Sie den Client mit Ihrem Site Code und Ihren Zugangsdaten. Setzen Sie
environmentauf dieselbe Rollout-Planner-Umgebung, in der Ihre Experiment-Regel liegt, da das SDK sonst die Regeln einer anderen Umgebung auswertet: -
Rufen Sie die zugewiesene Konfiguration ab, bevor Sie Ihr LLM aufrufen, und verfolgen Sie im Verlauf des Tickets des Besuchers eine Conversion für jedes Ziel:
Rufen Sie
get_agent_config_for_visitor()mit demvisitor_codedes Besuchers auf, bevor Sie eine Anfrage an Ihr LLM senden, und verwenden Sie die zurückgegebenen Werte, um die Anfrage aufzubauen: den System-Prompt, das Modell, den Reasoning-Aufwand und die Anzahl der abgerufenen Dokumente. Rufen Sietrack_ticket_resolved()auf, wenn der Agent das Problem des Besuchers löst, ohne an einen Menschen zu eskalieren. Nachdem der Agent geantwortet hat, rufen Siescore_response_groundedness()mit den abgerufenen Dokumenten und der generierten Antwort auf, und übergeben Sie den zurückgegebenen Score dann antrack_quality_score(). Rufen Sietrack_response_latency()mit der Antwortzeit in Millisekunden nach jedem LLM-Aufruf auf. Sowohltrack_quality_score()als auchtrack_response_latency()verfolgen eine Conversion nur, wenn der Wert seinen Schwellenwert verletzt, sodass eine Antwort, die innerhalb beider Guardrails bleibt, keines der beiden Ziele auslöst.score_response_groundedness()ist ein minimales LLM-as-a-Judge-Beispiel: Es fordert ein Modell auf, die Behauptungen der Antwort mit dem abgerufenen Kontext zu vergleichen und den unterstützten Anteil zurückzugeben. RAGAS’ Factual-Correctness-Metrik bewertet dieselbe grundlegende Idee, und Sie können sie oder ein anderes Evaluierungs-Framework, das Ihr Team bereits verwendet, anstelle eines selbst geschriebenen Judge-Prompts einsetzen. Kameleoon meldet dann die Conversion-Rate jedes Ziels pro Variation und zeigt Ihnen so, welcher Anteil der Antworten die Qualitäts- oder Latenz-Guardrail verletzt hat, statt den rohen Score- oder Millisekundenwert selbst zu erfassen.
Verwenden Sie
get_visitor_code(), um jedem Besucher eine eindeutige ID zuzuweisen, und set_legal_consent(), falls Ihre Anwendung die Einwilligung des Besuchers vor dem Tracking von Daten benötigt. Die vollständige Referenz zur Client-Initialisierung und -Konfiguration finden Sie im Entwicklerhandbuch des Python SDK.Überwachen und iterieren
Öffnen Sie die Ergebnisseite des Feature Flags, umBaseline und Grounded, high reasoning anhand aller drei angehängten Ziele zu vergleichen. Kameleoon verfolgt Expositionen und Conversions automatisch, sobald Ihre Anwendung get_variation() und track_conversion() aufruft, sodass Sie keine zusätzliche Instrumentierung benötigen.
Betrachten Sie die drei Ziele gemeinsam und nicht isoliert. Der Challenger in diesem Beispiel setzt ein größeres Modell mit höherem Reasoning-Aufwand ein und ruft mehr Dokumente ab, kostet also pro Konversation mehr und verletzt mit höherer Wahrscheinlichkeit die Latenz-Guardrail. Ein Gewinn bei Ticket resolved without escalation rechtfertigt diesen Kompromiss nur, wenn Response latency und Response groundedness score beim Challenger nicht häufiger konvertieren als bei Baseline. Wenn sich das primäre Ziel verbessert, die Conversion-Rate eines Guardrails aber stärker ansteigt, als Sie bereit sind zu akzeptieren, liefern Sie weiterhin Baseline aus und verfeinern Sie den Challenger.
Wenn ein Challenger gewinnt, übernehmen Sie ihn: Aktualisieren Sie die Default Value jeder Variable auf die gewinnende Konfiguration, damit sie zur neuen bewährten Baseline wird, und deaktivieren Sie anschließend die Experiment-Regel, oder verwenden Sie die Variation für Ihre nächste Hypothese weiter.
Weitere Details finden Sie unter Die Gesamtergebnisse eines Feature Flags anzeigen.
Nächste Schritte
- Lesen Sie die Python SDK-Referenz für erweiterte Optionen wie Custom Data, geräteübergreifende Experimente und Targeting-Bedingungen.
- Hängen Sie präzise Segmentierungskriterien an, um das Experiment auf eine bestimmte Zielgruppe auszurichten, zum Beispiel nur Tickets, die mit einem bestimmten Produktbereich getaggt sind.
- Fügen Sie neben der Latenz ein Ziel für Token-Kosten hinzu, das die pro Konversation verbrauchten Tokens als numerisches benutzerdefiniertes Ziel erfasst, damit Sie den Kostenunterschied zwischen einer Sonnet- und einer Opus-Konfiguration direkt beziffern können. Siehe Ein Ziel erstellen.
- Fügen Sie ein Ziel für Kontextrelevanz hinzu, um zu prüfen, ob eine Erhöhung von
retrieval_top_ktatsächlich verbessert, welche Dokumente der Agent abruft, da eine fundierte Antwort trotzdem aus den falschen Dokumenten stammen kann. Siehe Ein Ziel erstellen. - Fügen Sie ein Ziel für direktes Nutzerfeedback hinzu, etwa ein Daumen-hoch/Daumen-runter-Element nach jeder Antwort, um die Zufriedenheit der Besucher zusammen mit den Verhaltenssignalen zu erfassen, die dieses Beispiel bereits verfolgt. Siehe Ein Ziel erstellen.
- Fügen Sie weitere Variablen hinzu, um andere Teile der Agenten-Konfiguration zu testen, etwa die Temperatur, Tool-Definitionen oder ein Fallback-Modell für Wiederholungsversuche. Siehe Feature-Variablen definieren.
- Validieren Sie den Schwellenwert Ihres Ziels
Response groundedness score, indem Sie eine Stichprobe automatisierter Scores mit einem menschlichen Review vergleichen, bevor Sie ihm im großen Maßstab vertrauen. Siehe Ziele für Feature Flags erstellen.