192-GB-RAM-Nutzer diskutieren Großmodelle auf M2 Ultra Mac Pro
CompaniesDeepSeek
Warum es zählt
Für Entwickler mit High-Memory-Apple-Silicon zeigt der Post, welche Modelle im 200–430B-Bereich lokal laufen – darunter GLM 4.7 357B, DeepSeek V4 Flash 284B und Minimax M3 428B. Zudem werden konkrete llama.cpp-Bugfixes für KV-Cache-Probleme bei hybriden Recurrent-Modellen beschrieben.
— Lumeric Redaktion
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.
Verwandte Beiträge
192-GB-RAM-Nutzer diskutieren Großmodelle auf M2 Ultra Mac Pro
CompaniesDeepSeek
Warum es zählt
Für Entwickler mit High-Memory-Apple-Silicon zeigt der Post, welche Modelle im 200–430B-Bereich lokal laufen – darunter GLM 4.7 357B, DeepSeek V4 Flash 284B und Minimax M3 428B. Zudem werden konkrete llama.cpp-Bugfixes für KV-Cache-Probleme bei hybriden Recurrent-Modellen beschrieben.
— Lumeric Redaktion
Frag die KI zum Artikel
Folgefragen zu Headline, Quelle und Volltext — Antwort streamt in wenigen Sekunden.