13 nov 06:27
Thinking Machines stelt Inkling 2 Small-gewichten beschikbaar
Inkling 2 Small is nu downloadbaar onder Apache 2.0. De hoofdvariant vraagt 500 GB GPU-geheugen; de huidige vLLM- en SGLang-recepten vragen nog test- of ontwikkelversies.
Modellen draaien op eigen hardware, met aandacht voor gewichten, software en hardwarevereisten.