Zephyr 141B-A35B
huggingfaceh4/zephyr-orpo-141b-a35b
Pesos do modeloZephyr 141B-A35B is A Mixture of Experts (MoE) model with 141B total parameters and 35B active parameters. Fine-tuned on a mix of publicly available, synthetic datasets.
It is an instruct finetune of Mixtral 8x22B.
#moe
Modalidades
Contexto
66K
Lançado
12 de abr. de 2024
Data de corte do conhecimento
jan. de 2024
Atualmente indisponível por meio do roteamento intrarregional da UE. Documentação de roteamento na região