La RTX 3090 non va ancora in pensione: Qwen3.8 gira a 133 token/s in chat
Il repository syv-ai dichiara 381 token/s per Qwen3.8-27B su una RTX 3090 da 24 GB di VRAM grazie alla decodifica speculativa, ma solo quando la risposta cita il prompt: in una normale chat ci si ferma intorno a 133 token/s
Il repository syv-ai dichiara 381 token/s per Qwen3.8-27B su una RTX 3090 da 24 GB di VRAM grazie alla decodifica speculativa, ma solo quando la risposta cita il prompt: in una normale chat ci si ferma intorno a 133 token/s
Hardware Upgrade
Le News di Hardware Upgrade sulla tecnologia e sul mondo informatico - https://www.hwupgrade.it
