Eine Organisation legt fest, welche Modelle sie erlaubt. Ein Agent bietet eines oder mehrere davon an, und Benutzer können pro Nachricht wählen. Der Auto Router, im Early Access, wählt pro Nachricht ein Modell und startet im Schattenmodus, sodass Sie sehen, was er wählen würde, bevor er antwortet. Fällt ein Modell aus, übernimmt nur ein erlaubtes Modell zum gleichen oder niedrigeren Preis.
Mehrere KI-Modelle pro Agent, ohne Änderung für alle, die nur eines nutzen.
Ist ein gewähltes Modell nicht verfügbar, kommt die Antwort von einem anderen Modell, das der Agent bereits anbietet, nie von einem teureren. Die Antwort nennt das Modell, das geantwortet hat.
Bei Modellen, die das unterstützen, kann jeder Agent für einfache Aufgaben auf weniger Denkaufwand eingestellt werden. In unserem Test mit 30 echten Support-Fragen sank die Ausgabe pro Antwort um mehr als die Hälfte, ohne zusätzliche Fehler.
Wir führen Sie mit Ihren eigenen Daten und Ihren eigenen Kanälen durch.