Chat-Assistent
Eine neue Organisation startet mit einer Checkliste aus neun Schritten: Registry, erster Prompt, Umgebung, Zugangsdaten des Deployment-Anbieters, LLM-Anbieter, Agent, Deployment, Flotte und Governance-Richtlinie. Du kannst sie auf zwei Wegen abarbeiten und jederzeit zwischen ihnen wechseln.
Wähle in der Checkliste Beginnen (oder Weiter) und entscheide, wie du einrichten möchtest:
- Ich mache es selbst. Gehe die Schritte nacheinander durch. Jeder Schritt öffnet ein kurzes Formular.
- Chat-Assistent. Es öffnet sich ein Panel, in dem du beschreibst, was du baust, und der Assistent schlägt die passende Einrichtung vor.
Nur Organisations-Admins können die Aktionen der Checkliste und den Assistenten nutzen.
So arbeitet der Assistent
Der Assistent stellt immer nur eine Frage. Er prüft, was schon eingerichtet ist, und schlägt nichts vor, was es bereits gibt. Legst du zwischen zwei Nachrichten etwas von Hand an, bemerkt er es in der nächsten Runde, und der Fortschrittsbalken oben im Panel wird mit jedem erledigten Schritt aktualisiert.
Es wird nichts angelegt, bevor du zustimmst. Will der Assistent etwas ändern, zeigt er einen Vorschlag:
- Annehmen legt es an.
- Bearbeiten lässt dich zuerst die Details ändern und nimmt dann an.
- Ablehnen verwirft den Vorschlag. Der Assistent macht von dort aus weiter.
Jeder Vorschlag verlinkt außerdem auf die Seite, auf der du dasselbe selbst erledigen kannst. Nach dem Annehmen zeigt die Karte, was angelegt wurde und wo du es findest.
Zugangsdaten
Der Assistent bittet dich nie, einen Schlüssel in den Chat zu tippen. Fügst du
trotzdem einen ein, wird er aus der Nachricht entfernt, bevor sie gespeichert
wird. Braucht ein Schritt Zugangsdaten, etwa für den Deployment- oder den
LLM-Anbieter, zeigt der Assistent ein sicheres Formular: dasselbe Formular
wie in der Checkliste, das den Wert direkt an die Plattform sendet. Du kannst ein
Secret auch selbst unter Secrets speichern und als ${SECRET_NAME}
verwenden.
Schließen und zurückkehren
Mit Escape oder der Schließen-Schaltfläche blendest du das Panel aus. Deine Unterhaltung wird gespeichert, und beim erneuten Öffnen geht es dort weiter, wo du aufgehört hast. Die manuelle Checkliste bleibt die ganze Zeit verfügbar.
Modellwahl
Der Assistent läuft immer auf einem Modell der Plattform, nicht auf deinem
eigenen LLM-Anbieter, und seine Nutzung zählt zum Token-Kontingent der
Organisation auf der Plattform. Plattform-Administratoren wählen das Modell mit
SYSTEM_LLM_ONBOARDING_MODEL_KEY.
Grenzen und Protokoll
Jede Unterhaltung hat ein Budget: bis zu 80 Nachrichten und 750.000 Modell-Tokens. Eine Nachricht zählt, sobald sie gesendet wird, auch wenn die Antwort fehlschlägt. Zusätzlich gibt es ein Tageskontingent pro Organisation: bis zu 120 Nachrichten und 800.000 Tokens über alle Unterhaltungen der letzten 24 Stunden, auch beendete, sodass eine neue Unterhaltung kein frisches Budget bringt. Ist ein Budget aufgebraucht, sagt der Assistent das und antwortet nicht mehr; die Checkliste funktioniert weiter, sodass Sie die übrigen Schritte von Hand erledigen können.
Jeder akzeptierte Vorschlag wird im Audit-Log der Organisation festgehalten, mit der Person, die ihn akzeptiert hat, und dem, was er erstellt hat.