Favicon de moonshotai

MoonshotAI: Moonlight 16B A3B Instruct

moonshotai/moonlight-16b-a3b-instruct

Poids du modèle

Moonlight-16B-A3B-Instruct is a 16B-parameter Mixture-of-Experts (MoE) language model developed by Moonshot AI. It is optimized for instruction-following tasks with 3B activated parameters per inference. The model advances the Pareto frontier in performance per FLOP across English, coding, math, and Chinese benchmarks. It outperforms comparable models like Llama3-3B and Deepseek-v2-Lite while maintaining efficient deployment capabilities through Hugging Face integration and compatibility with popular inference engines like vLLM12.

Modalités
Contexte
8K
Publié
28 févr. 2025
Date limite des connaissances
juin 2024

Activité

Volume de jetons et trafic des requêtes vers ce modèle au fil du temps.

Actuellement indisponible via le routage dans la région UE. Documentation sur le routage intrarégional

Questions fréquentes

Explorer d’autres modèles