LFM 2.5-350M läuft per reinem WASM ohne GPU im Browser
ToolsHugging Face
CompaniesHugging Face
Warum es zählt
Zeigt, dass LLM-Inferenz ohne GPU, Backend und spezielle Browser-APIs (WebGPU) realisierbar ist. Entwickler können datenschutzfreundliche, vollständig clientseitige KI-Anwendungen als statische Seite deployen – lediglich ein Hugging-Face-Hosting für die Gewichte wird benötigt.
— Lumeric Redaktion
285 MB (Q4_0)
Modellgröße im Browser (4-Bit-Quantisierung)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- LAUNCHreddit.com2w
LFM2.5 230M läuft im Browser mit 1.400 tok/s via WebGPU-Kernels
- LAUNCHreddit.com2w
Sipp: Open-Source-Bibliothek für In-Browser-Inferenz auf Basis von llama.cpp
- LAUNCHreddit.com2w
Barebones CPU-only Inferenz-Engine für Qwen 3 in purem C
- LAUNCHreddit.com11h
Bonsai 27B: 1-Bit-LLM läuft mit 3,8 GB im Browser via WebGPU
LFM 2.5-350M läuft per reinem WASM ohne GPU im Browser
ToolsHugging Face
CompaniesHugging Face
Warum es zählt
Zeigt, dass LLM-Inferenz ohne GPU, Backend und spezielle Browser-APIs (WebGPU) realisierbar ist. Entwickler können datenschutzfreundliche, vollständig clientseitige KI-Anwendungen als statische Seite deployen – lediglich ein Hugging-Face-Hosting für die Gewichte wird benötigt.
— Lumeric Redaktion
285 MB (Q4_0)
Modellgröße im Browser (4-Bit-Quantisierung)
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
- LAUNCHreddit.com2w
LFM2.5 230M läuft im Browser mit 1.400 tok/s via WebGPU-Kernels
- LAUNCHreddit.com2w
Sipp: Open-Source-Bibliothek für In-Browser-Inferenz auf Basis von llama.cpp
- LAUNCHreddit.com2w
Barebones CPU-only Inferenz-Engine für Qwen 3 in purem C
- LAUNCHreddit.com11h
Bonsai 27B: 1-Bit-LLM läuft mit 3,8 GB im Browser via WebGPU