Meta rilascia Muse Glimmer: modello locale da 30 miliardi di parametri e pesi in Apache 2.0
Il modello di Meta Superintelligence Labs è distillato dagli output di Muse Spark e quantizzato a 4 bit per stare in un budget da 24 o 32 GB, con un drafter che accelera la generazione. Pesi su Hugging Face, integrazioni llama.cpp e MLX a giorni
Il modello di Meta Superintelligence Labs è distillato dagli output di Muse Spark e quantizzato a 4 bit per stare in un budget da 24 o 32 GB, con un drafter che accelera la generazione. Pesi su Hugging Face, integrazioni llama.cpp e MLX a giorni
Hardware Upgrade
Le News di Hardware Upgrade sulla tecnologia e sul mondo informatico - https://www.hwupgrade.it
