DeepSeek apre DeepInfer: il motore di V4.1-Flash gira su Nvidia e su Huawei Ascend 950
Il framework che muove V4.1-Flash in produzione è su GitHub con licenza Apache 2.0 e gira su GPU Nvidia SM100 e NPU Huawei Ascend 950. Mancano però la KV cache e il bilanciamento del carico, e i benchmark pubblicati sono di DeepSeek
Il framework che muove V4.1-Flash in produzione è su GitHub con licenza Apache 2.0 e gira su GPU Nvidia SM100 e NPU Huawei Ascend 950. Mancano però la KV cache e il bilanciamento del carico, e i benchmark pubblicati sono di DeepSeek
Hardware Upgrade
Le News di Hardware Upgrade sulla tecnologia e sul mondo informatico - https://www.hwupgrade.it
