Mistral's official instruct fine-tuned version of Mixtral 8x22B. It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include:
- strong math, coding, and reasoning
- large context length (64k)
- fluency in English, French, Italian, German, and Spanish
See benchmarks on the launch announcement hereOpens in new tab. #moe
提供商
不同公司托管同一模型。OpenRouter 根据您选择的路由模式将请求路由到其中一家公司:Balanced(价格 + 速度)、Nitro(速度最快)或 Floor(价格最低)。
| US$2.00 | US$6.00 | US$0.20 | 0.54s | 133 tok/s | ||
| US$2.20 | US$6.60 | US$0.22 | 0.65s | 121 tok/s |

- 输入 /百万
- US$2.00
- 输出 /百万
- US$6.00
- 缓存读取 /百万
- US$0.20
- 延迟
- 0.54s
- 吞吐量
- 133 tok/s
- 正常运行时间
- 100.00%

- 输入 /百万
- US$2.20
- 输出 /百万
- US$6.60
- 缓存读取 /百万
- US$0.22
- 延迟
- 0.65s
- 吞吐量
- 121 tok/s
- 正常运行时间
- 100.00%
定价
客户为此模型实际支付的平均价格,与提供商公布的价格并列展示。由于缓存和折扣,实际支付的价格往往远低于标价。
加权平均值
Mixtral 8x22B Instruct — 价格历史
| US$1.50 | US$6.00 | 28.0% | 64.1% | ||
| US$1.76 | US$6.60 | 22.2% | 35.9% |
- 有效输入价格 US$1.50 / 实际输出 US$6.00token 占比64.1%
- 有效输入价格 US$1.76 / 实际输出 US$6.60token 占比35.9%
性能
吞吐量是模型生成内容的速度(每秒 token 数,越高越好)。延迟是完整的往返时间(越低越好)。TTFT 是首个 token 的响应时间,即您看到内容出现前需要等待的时间(越低越好)。
P50,所有提供商中最佳
P50,最佳提供商
正常运行时间
正常运行时间是指过去 3 天中至少有一家提供商响应请求的时间百分比。可用性是指成功提供推理服务的时间百分比。OpenRouter 会持续监控,并在某家提供商返回错误时使用次优提供商。
过去 3 天的可用性
最近 72 小时过去 24 小时的可用性
当上游提供商发生错误时,如果您的请求筛选条件允许,我们可以通过路由到另一家健康的提供商来恢复服务。您可以通过以下接口以编程方式访问各提供商的正常运行时间数据: 端点 API。了解更多有关我们的 负载均衡和提供商路由选项。
基准测试
标准化评测得分,以及此模型针对共用基准测试提示词的实际输出。百分比越高越好,每项排名显示此模型在该来源所评测的模型中的位置。
| 来源 | 基准测试 | 得分 |
|---|---|---|
| Artificial Analysis | Mixtral 8x22B Instruct GPQA Diamond | 33.2% |
| Artificial Analysis | Mixtral 8x22B Instruct HLE | 4.0% |
应用
向此模型发送最多流量的公开应用。这能很好地反映实际生产工作负载的情况,也能提示此模型最适合哪些用例。
活动
此模型的 token 用量和请求流量随时间的变化。
API
可直接用于调用此模型的代码。OpenRouter 的 API 与 OpenAI 兼容——大多数 SDK 只需替换基础 URL 即可使用。切换模型时,唯一需要更改的是下方的模型标识符。
可通过欧盟区域内路由使用
Mistral: Mixtral 8x22B Instruct 可通过欧盟区域内路由使用。发送至 eu.orr.api.report.finance 的请求会在欧盟境内解密,并且仅路由至欧洲(欧盟/欧洲经济区、英国和瑞士)的共享提供商端点。
- 欧洲的提供商
- Mistral
- 欧洲价格
- Mistral:输入 US$2.20/M tokens,输出 US$6.60/M tokens
- 基础 URL
https://eu.orr.api.report.finance/api/v1- 套餐
- 需要 Business 或 Enterprise 套餐。Business 支持自助使用:无需合同,无每月最低消费。 用于欧盟区域内路由的 OpenRouter Business
故障时关闭:如果欧洲没有可用的共享提供商端点,请求将报错,而不会离开该区域。使用您自己的 BYOK 密钥处理的请求会发送至您部署所在的区域,该区域由您控制。 区域内路由文档
常见问题
Mistral's official instruct fine-tuned version of Mixtral 8x22B. It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include: - strong math, coding, and reasoning - large context length (64k) - fluency in English, French, Italian, German, and Spanish See benchmarks on the launch announcement here. #moe
Mixtral 8x22B Instruct 的费用为 US$2.00/百万输入 token 和 US$6.00/百万输出 token,Cache Read,价格为 US$0.20/M tokens 单独计费。
Mixtral 8x22B Instruct 的上下文窗口为 65,536 token。
是的。Mixtral 8x22B Instruct 接受 tools 和 tool_choice,以进行函数调用。 它还支持通过 response_format 中的 JSON schema 实现结构化输出。
Mixtral 8x22B Instruct 接受 文本和PDF 等文件 作为输入,并返回 文本。
在 OpenRouter 上,Mixtral 8x22B Instruct 由 1 家提供商提供服务:Mistral。
Mistral Large 4, Mistral Medium 3.5, Mistral Small 4 及另外 16 个 是 Mistral 的其他 文本 模型。
Mixtral 8x22B Instruct 于 2024年4月17日 发布。其知识截止日期为 2024年1月31日。