0001 — OpenRouter statt direkter OpenAI-API
Status: Akzeptiert
Kontext
Abschnitt betitelt „Kontext“Die App braucht LLM-Inferenz an mehreren Stellen (Ausschuss- Zusammenfassung, Topic-Matching, Protokoll-Extraktion). Anforderungen:
- Modelle frei wählbar und pro Aufgabe austauschbar, ohne Code-Umbau.
- Kostenkontrolle und die Option, je Task ein günstigeres Modell zu nutzen.
- DSGVO-konformes Provider-Routing (siehe ADR 0002).
- Kein Lock-in auf einen einzelnen Anbieter.
Entscheidung
Abschnitt betitelt „Entscheidung“Alle LLM-Aufrufe laufen über OpenRouter mit dem offiziellen openai-SDK
(base_url auf den OpenRouter-Endpunkt, OPENROUTER_API_KEY). Modellnamen sind
über Env-Variablen konfigurierbar (COUNCIL_PROTOCOL_MODEL, COUNCIL_TOPIC_MODEL,
…), Defaults greifen ohne Konfiguration.
Konsequenzen
Abschnitt betitelt „Konsequenzen“- Plus: Ein einziger Key, ein SDK, viele Modelle. Modellwechsel ist eine Env-Änderung, kein Deploy von Code. Provider-Routing-Regeln (ADR 0002) lassen sich zentral durchsetzen.
- Plus: Ein Modellvergleich konnte ohne Integrationsaufwand mehrere Anbieter gegeneinander testen.
- Minus: Zusätzliche Abhängigkeit von OpenRouter als Vermittler (eine weitere Ausfall-/Latenzquelle). Einige OpenAI-spezifische Features (z. B. strikte JSON-Schema-Outputs) sind je nach geroutetem Anbieter nicht garantiert — die Pipeline nutzt daher nur den breit unterstützten JSON-Mode.