Zephyr 141B-A35B
huggingfaceh4/zephyr-orpo-141b-a35b
Pesos del modeloZephyr 141B-A35B is A Mixture of Experts (MoE) model with 141B total parameters and 35B active parameters. Fine-tuned on a mix of publicly available, synthetic datasets.
It is an instruct finetune of Mixtral 8x22B.
#moe
Modalidades
Contexto
66K
Publicado
12 abr 2024
Fecha límite de conocimiento
ene 2024
Actualmente no está disponible mediante el enrutamiento dentro de la región de la UE. Documentación de enrutamiento dentro de la región