Konzepte

Modelle: gehostete Inferenz und BYOK

Wählen Sie in FlexyAgents gehostete Modelle oder bringen Sie eigene Anbieterschlüssel mit — pro Agent — mit denselben Wissens-, Retrieval- und Kanal-Panels.

byokopenaianthropicgehostete modelle

Die Modellwahl ist eine Entscheidung zu Beschaffung, Sicherheit und Latenz. FlexyAgents hält Agent Builder, Wissen und Analytik identisch, egal ob Tokens bei uns oder über Ihren Anbietervertrag abgerechnet werden.

Sie können mischen: gehostet für Tests und BYOK für regulierte Produktionsagenten in derselben Organisation.

Gehostete Inferenz

Gehostete Modelle vereinfachen das Onboarding: Keine externen API-Konten für die Testphase nötig, und der Support kann Vorfälle reproduzieren, ohne auf Ihre Anbieter-Konsole zugreifen zu müssen.

Die Nutzung respektiert weiterhin Tarif-Quotas; überwachen Sie Dashboards bei Spitzen nach Kampagnen oder neuen Kanälen.

Eigene Schlüssel mitbringen

BYOK speichert Anmeldedaten verschlüsselt in FlexyAgents; nur autorisierte Rollen können sie sehen oder rotieren. Wenn Schlüssel ablaufen, schlagen betroffene Agenten sichtbar fehl — planen Sie Erinnerungen passend zu Ihrer Sicherheitsrichtlinie.

Kostentransparenz trennt Plattform-Abonnement von Anbieterrechnungen; die Finanzabteilung sollte Agenten nach Abteilung für Weiterbelastung kennzeichnen.

Ein Google-Gemini-Schlüssel betreibt auch optionale Wissensfunktionen: Beschreibung importierter oder gecrawlter Bilder und Transkription von Audio/Video bei der Ingestion. Mit aktivem Schlüssel werden diese Aufrufe bei Google unter Ihrem Projekt abgerechnet und verbrauchen in der Regel nicht die gehosteten Quotas für „Bilderkennung“ oder „Medientranskription“.

  • Konfigurationspfad: Dashboard → Einstellungen → LLM-API-Schlüssel (siehe Dokumentation → Governance → LLM-API-Schlüssel).
  • Chat-Modellwahl und Gemini-Verarbeitung auf Dokumenten respektieren Org-Schlüssel und Tarifregeln (gehostet vs. nur BYOK).

Routing pro Agent

Jeder Agent wählt seinen Modell-Stack unabhängig. Das ermöglicht Blue/Green-Updates: Agent klonen, Modell wechseln, Regression mit Schlüsselfragen testen, dann Traffic umschalten.

Siehe auch die Marketing-Seite „Gehostet vs. BYOK“ für stakeholderorientierte Diagramme.

Auf Ihrem Stack bauen

Bereit für fundierte Assistenten?

Testversion starten oder mit uns über Rollout, Governance und Enterprise-Anforderungen sprechen.