20 nov 22:59
WiCi brengt desktopapp voor 800B-modellen uit
WiCi Infer streamt modelgewichten vanaf een SSD en laat DeepSeek- en Muse-modellen lokaal draaien. De app is gratis, maar vraagt 520 GB vrije opslag. WiCi’s tabellen komen voor Muse op 0,944 tot 1,097 outputtokens per seconde.