Modelcompressie

Meta zet de gewichten van agentmodel Muse Glimmer onder Apache 2.0 op Hugging Face. Het model van 30 miljard parameters draait op één consumenten-GPU en keert de gesloten koers van juni om.

Een spin-off van Caltech comprimeert een volwaardig redeneermodel van 27 miljard parameters tot minder dan 4 gigabyte, klein genoeg voor een iPhone zonder cloud. Lokale AI zonder tokenrekening komt zo binnen bereik van elk bedrijf.