datasette-llm-limits: Neues Plugin steuert LLM-Ausgabenlimits in Datasette
Das Plugin datasette-llm-limits 0.1a0 ist ein Alpha-Release von Simon Willison, das in Verbindung mit den bestehenden Plugins datasette-llm und datasette-llm-accountant funktioniert. Es erlaubt, innerhalb einer Datasette-Instanz pro Nutzer oder global Ausgabenlimits für LLM-Anfragen zu konfigurieren. Die Konfiguration erfolgt deklarativ per YAML: So lässt sich etwa ein rollierendes 24-Stunden-Limit von 1,00 USD pro Nutzer (scope: actor, window: rolling-24h) festlegen. Das Plugin richtet sich an Betreiber von Datasette-Instanzen, die ihren Nutzern LLM-gestützte Funktionen anbieten, dabei aber die entstehenden API-Kosten kontrollieren möchten. Die Veröffentlichung als Alpha-Version signalisiert, dass die API noch nicht stabil ist.
- Arbeitet zusammen mit datasette-llm und datasette-llm-accountant.
- Unterstützt Scopes: per-Nutzer (actor) und global.
- Fenstertyp rolling-24h ermöglicht rollierende Tageslimits.
- Konfiguration erfolgt deklarativ im Datasette-YAML-Config-Block.
- Veröffentlicht als Alpha (0.1a0) — API noch nicht stabil.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGsimonwillison.net3w
Willison fordert harte Budget-Caps als Standard für APIs und Cloud-Dienste
- FORSCHUNGarxiv.org0mo
TokenCast prognostiziert Token-Verbrauch von LLM-Agenten in Echtzeit
- LAUNCHsimonwillison.net1w
llm-echo 0.5: Debug-Plugin für LLM simuliert Token-Nutzung präziser
- LAUNCHsimonwillison.net1w
llm-tools-datasette 0.1.1 behebt httpx-Kompatibilitätsfehler
datasette-llm-limits: Neues Plugin steuert LLM-Ausgabenlimits in Datasette
Das Plugin datasette-llm-limits 0.1a0 ist ein Alpha-Release von Simon Willison, das in Verbindung mit den bestehenden Plugins datasette-llm und datasette-llm-accountant funktioniert. Es erlaubt, innerhalb einer Datasette-Instanz pro Nutzer oder global Ausgabenlimits für LLM-Anfragen zu konfigurieren. Die Konfiguration erfolgt deklarativ per YAML: So lässt sich etwa ein rollierendes 24-Stunden-Limit von 1,00 USD pro Nutzer (scope: actor, window: rolling-24h) festlegen. Das Plugin richtet sich an Betreiber von Datasette-Instanzen, die ihren Nutzern LLM-gestützte Funktionen anbieten, dabei aber die entstehenden API-Kosten kontrollieren möchten. Die Veröffentlichung als Alpha-Version signalisiert, dass die API noch nicht stabil ist.
- Arbeitet zusammen mit datasette-llm und datasette-llm-accountant.
- Unterstützt Scopes: per-Nutzer (actor) und global.
- Fenstertyp rolling-24h ermöglicht rollierende Tageslimits.
- Konfiguration erfolgt deklarativ im Datasette-YAML-Config-Block.
- Veröffentlicht als Alpha (0.1a0) — API noch nicht stabil.
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- MEINUNGsimonwillison.net3w
Willison fordert harte Budget-Caps als Standard für APIs und Cloud-Dienste
- FORSCHUNGarxiv.org0mo
TokenCast prognostiziert Token-Verbrauch von LLM-Agenten in Echtzeit
- LAUNCHsimonwillison.net1w
llm-echo 0.5: Debug-Plugin für LLM simuliert Token-Nutzung präziser
- LAUNCHsimonwillison.net1w
llm-tools-datasette 0.1.1 behebt httpx-Kompatibilitätsfehler