capy-flash 0.7.1: Qwen3.8-Flash-Next (125B MoE) läuft mit 64 GB RAM

From Tokenstrom – KI-News des Tages · 4:50

Show by Tokenstrom

Die Open-Source-Inferenz-Engine capy-flash bringt das 125B-MoE-Modell Qwen3.8-Flash-Next auf Rechner mit 64 GB RAM und ein bis zwei RTX-50-Karten. Das 27B-Modell läuft in 3-Bit-Quantisierung auf einer einzigen 16-GB-Karte.Ganzer Artikel mit Quellen: https://tokenstrom.de/posts/capy-flash-v0-7-1-qwen3-8-flash-next-125b-moe-lauft-mit-64-gb-ram/Gesprochen von einer KI-Stimme.

More episodes of Tokenstrom – KI-News des Tages

More episodes

PodSearch is a free, independent podcast search engine. Read about PodSearch, the privacy policy or contact us.