Zephyr 141B-A35B
huggingfaceh4/zephyr-orpo-141b-a35b
モデルの重みZephyr 141B-A35B is A Mixture of Experts (MoE) model with 141B total parameters and 35B active parameters. Fine-tuned on a mix of publicly available, synthetic datasets.
It is an instruct finetune of Mixtral 8x22B.
#moe
モダリティ
コンテキスト
66K
公開日
2024年4月12日
知識のカットオフ
2024年1月
現在、EU 域内ルーティングでは利用できません。 リージョン内ルーティングのドキュメント