Provider

Provider sind die externen AI-Dienste, die Admin Bud-E für die eigentliche KI-Verarbeitung nutzt. Sie konfigurieren Provider mit Name, Base-URL und API-Key. Der Name muss exakt mit den Referenzen in den Routen übereinstimmen.

Was ist ein Provider?

Ein Provider ist ein externer KI-Dienst, der eine oder mehrere der folgenden Funktionen bereitstellt:

• LLM (Large Language Models): Textgenerierung und -verständnis
• VLM (Vision-Language Models): Bild- und Textverständnis
• TTS (Text-to-Speech): Sprachausgabe
• ASR (Automatic Speech Recognition): Spracherkennung

Provider hinzufügen

1. Öffnen Sie das Admin-Dashboard
2. Navigieren Sie zu Providers
3. Klicken Sie auf Add Provider
4. Füllen Sie die erforderlichen Felder aus

Erforderliche Felder

Feld	Beschreibung
Name	Eindeutiger Bezeichner (z.B. vertex, together, mistral)
Base URL	API-Endpunkt des Providers
API Key	Authentifizierungsschlüssel
Region	Optional: Spezifische Region (z.B. europe-west4)

Name ist wichtig!

Der Provider-Name wird in den Routen referenziert. Bei Tippfehlern funktioniert das Routing nicht!

Unterstützte Provider

Google Vertex AI

Vertex AI ist Googles ML-Plattform mit Gemini-Modellen.

Besonderheit: Admin Bud-E enthält einen integrierten OpenAI-kompatiblen Proxy für Vertex AI.

Feld	Wert
Name	vertex (exakt!)
Base URL	Vertex-Endpoint-URL
API Key	JSON-Schlüssel des Service-Accounts
Region	z.B. europe-west4

Mehr Details

Siehe Google Cloud & Vertex AI für die vollständige Setup-Anleitung.

Verfügbare Modelle

• gemini-1.5-pro - Hohe Leistung, große Kontextfenster
• gemini-1.5-flash - Schnell und kosteneffizient
• gemini-2.0-flash - Neueste Version
• Cloud TTS Stimmen (z.B. de-DE-Neural2-C)
• Chirp ASR

Together AI

Together AI bietet verschiedene Open-Source-Modelle.

Feld	Wert
Name	together
Base URL	https://api.together.xyz
API Key	Ihr Together API-Key

Verfügbare Modelle

• Meta Llama-Modelle
• Mistral-Modelle
• Qwen-Modelle
• DeepSeek-Modelle

API-Key erhalten

Registrieren Sie sich unter together.ai und erstellen Sie einen API-Key im Dashboard.

Mistral AI

Mistral AI bietet eigene leistungsstarke Modelle.

Feld	Wert
Name	mistral
Base URL	https://api.mistral.ai
API Key	Ihr Mistral API-Key

Verfügbare Modelle

• mistral-large-latest - Größtes Modell
• mistral-medium-latest - Ausgewogen
• mistral-small-latest - Schnell und effizient

OpenAI

Die originale OpenAI API.

Feld	Wert
Name	openai
Base URL	https://api.openai.com/v1
API Key	Ihr OpenAI API-Key

EU-Datenschutz

OpenAI verarbeitet Daten primär in den USA. Für DSGVO-konforme Setups prüfen Sie die Datenschutzrichtlinien.

Verfügbare Modelle

• GPT-4o
• GPT-4 Turbo
• GPT-3.5 Turbo

Anthropic Claude

Anthropic bietet die Claude-Modellfamilie.

Feld	Wert
Name	anthropic
Base URL	https://api.anthropic.com
API Key	Ihr Anthropic API-Key

Verfügbare Modelle

• Claude 3.5 Sonnet
• Claude 3 Opus
• Claude 3 Haiku

Provider-Verwaltung

Provider bearbeiten

1. Klicken Sie auf den Provider in der Liste
2. Ändern Sie die gewünschten Felder
3. Klicken Sie auf Save

Vorsicht bei Name-Änderungen

Wenn Sie den Namen ändern, müssen Sie auch alle Routen-Referenzen aktualisieren!

Provider löschen

1. Klicken Sie auf Delete beim entsprechenden Provider
2. Bestätigen Sie die Löschung

Abhängigkeiten prüfen

Stellen Sie sicher, dass der Provider nicht mehr in aktiven Routen verwendet wird!

Provider deaktivieren

Anstatt einen Provider zu löschen, können Sie ihn temporär aus den Routen entfernen:

1. Gehen Sie zu Routes
2. Entfernen Sie den Provider aus den Prioritätslisten
3. Der Provider bleibt konfiguriert und kann später wieder hinzugefügt werden

Best Practices

Mehrere Provider verwenden

Nutzen Sie mehrere Provider für:

• Ausfallsicherheit: Automatisches Failover bei Problemen
• Kostenkontrolle: Günstigere Modelle als Fallback
• Leistungsoptimierung: Schnellere Modelle für einfache Aufgaben

API-Keys sicher verwalten

Sicherheit

• Teilen Sie API-Keys niemals öffentlich
• Speichern Sie Keys nicht in Git-Repositories
• Rotieren Sie Keys regelmäßig
• Verwenden Sie separate Keys für Produktion und Tests

Monitoring einrichten

Überwachen Sie:

• API-Verfügbarkeit
• Response-Zeiten
• Fehlerraten
• Kosten pro Provider

EU-Compliance

Für DSGVO-konforme Setups:

1. Bevorzugen Sie Provider mit EU-Regionen (z.B. Vertex AI)
2. Prüfen Sie Datenverarbeitungsverträge (DPAs)
3. Dokumentieren Sie Datenflüsse
4. Informieren Sie Nutzer über verwendete Provider

Problembehebung

Provider erscheint nicht in Routes

Problem: Neu angelegter Provider wird in Routen nicht angezeigt.

Lösung:

• Prüfen Sie, ob der Provider korrekt gespeichert wurde
• Aktualisieren Sie die Seite (F5)
• Prüfen Sie die Browser-Konsole auf Fehler

Authentifizierungsfehler

Problem: API-Anfragen schlagen mit 401/403 fehl.

Lösung:

• Prüfen Sie den API-Key auf Tippfehler
• Stellen Sie sicher, dass der Key aktiv ist
• Bei Vertex: Prüfen Sie Service-Account-Berechtigungen

Timeout-Fehler

Problem: Anfragen dauern zu lange oder laufen in Timeout.

Lösung:

• Prüfen Sie die Netzwerkverbindung
• Erhöhen Sie Timeout-Werte in der Konfiguration
• Wählen Sie eine nähere Region

Nächste Schritte

Nach der Provider-Konfiguration:

1. Routen einrichten - Request-Routing konfigurieren
2. Preise festlegen - Modellpreise hinterlegen
3. Erste Anfrage testen - Funktionalität prüfen