Nieuws4 min
15 jul 20:22
PrismML propt een 27B-redeneermodel in 4 GB op je iPhone
Een spin-off van Caltech comprimeert een volwaardig redeneermodel van 27 miljard parameters tot minder dan 4 gigabyte, klein genoeg voor een iPhone zonder cloud. Lokale AI zonder tokenrekening komt zo binnen bereik van elk bedrijf.
Indirect gerelateerd
Quartz
Tech Times
The Decoder