datasette-llm-limits: Neues Plugin steuert LLM-Ausgabenlimits in Datasette
Das Plugin datasette-llm-limits 0.1a0 ist ein Alpha-Release von Simon Willison, das in Verbindung mit den bestehenden Plugins datasette-llm und datasette-llm-accountant funktioniert. Es erlaubt, innerhalb einer Datasette-Instanz pro Nutzer oder global Ausgabenlimits für LLM-Anfragen zu konfigurieren. Die Konfiguration erfolgt deklarativ per YAML: So lässt sich etwa ein rollierendes 24-Stunden-Limit von 1,00 USD pro Nutzer (scope: actor, window: rolling-24h) festlegen. Das Plugin richtet sich an Betreiber von Datasette-Instanzen, die ihren Nutzern LLM-gestützte Funktionen anbieten, dabei aber die entstehenden API-Kosten kontrollieren möchten. Die Veröffentlichung als Alpha-Version signalisiert, dass die API noch nicht stabil ist.
- Arbeitet zusammen mit datasette-llm und datasette-llm-accountant.
- Unterstützt Scopes: per-Nutzer (actor) und global.
- Fenstertyp rolling-24h ermöglicht rollierende Tageslimits.
- Konfiguration erfolgt deklarativ im Datasette-YAML-Config-Block.
- Veröffentlicht als Alpha (0.1a0) — API noch nicht stabil.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
datasette-llm-limits: Neues Plugin steuert LLM-Ausgabenlimits in Datasette
Das Plugin datasette-llm-limits 0.1a0 ist ein Alpha-Release von Simon Willison, das in Verbindung mit den bestehenden Plugins datasette-llm und datasette-llm-accountant funktioniert. Es erlaubt, innerhalb einer Datasette-Instanz pro Nutzer oder global Ausgabenlimits für LLM-Anfragen zu konfigurieren. Die Konfiguration erfolgt deklarativ per YAML: So lässt sich etwa ein rollierendes 24-Stunden-Limit von 1,00 USD pro Nutzer (scope: actor, window: rolling-24h) festlegen. Das Plugin richtet sich an Betreiber von Datasette-Instanzen, die ihren Nutzern LLM-gestützte Funktionen anbieten, dabei aber die entstehenden API-Kosten kontrollieren möchten. Die Veröffentlichung als Alpha-Version signalisiert, dass die API noch nicht stabil ist.
- Arbeitet zusammen mit datasette-llm und datasette-llm-accountant.
- Unterstützt Scopes: per-Nutzer (actor) und global.
- Fenstertyp rolling-24h ermöglicht rollierende Tageslimits.
- Konfiguration erfolgt deklarativ im Datasette-YAML-Config-Block.
- Veröffentlicht als Alpha (0.1a0) — API noch nicht stabil.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.