llama-modchip: DeepSeek mit 284 Milliarden Parametern läuft auf 64 GB RAM – ohne GPU

From Tokenstrom – KI-News des Tages · 7:46

Show by Tokenstrom

Das Open-Source-Projekt llama-modchip will das riesige Sprachmodell DeepSeek-V4-Flash auf einem normalen Rechner mit 64 GB Arbeitsspeicher laufen lassen, ganz ohne Grafikkarte. Möglich machen sollen das eine eigene Kompression und stark optimierte Prozessor-Routinen. Die Zahlen stammen allerdings nur vom Projekt selbst, und die Modelldateien funktionieren nicht mit gängigen Tools wie Ollama.Ganzer Artikel mit Quellen: https://tokenstrom.de/posts/llama-modchip-deepseek-mit-284-milliarden-parametern-lauft-auf-64-gb-r/Gesprochen von einer KI-Stimme.

More episodes of Tokenstrom – KI-News des Tages

More episodes

PodSearch is a free, independent podcast search engine. Read about PodSearch, the privacy policy or contact us.