Favicon de mistralai

Mistral: Ministral 8B

mistralai/ministral-8b

Ministral 8B is an 8B parameter model featuring a unique interleaved sliding-window attention pattern for faster, memory-efficient inference. Designed for edge use cases, it supports up to 128k context length and excels in knowledge and reasoning tasks. It outperforms peers in the sub-10B category, making it perfect for low-latency, privacy-first applications.

Modalités
Contexte
128K
Publié
17 oct. 2024
Date limite des connaissances
sept. 2024

Activité

Volume de jetons et trafic des requêtes vers ce modèle au fil du temps.

Actuellement indisponible via le routage dans la région UE. Documentation sur le routage intrarégional

Questions fréquentes

Explorer d’autres modèles