
Meta: Llama 3.3 70B Instruct
meta-llama/llama-3.3-70b-instruct
The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model is optimized for multilingual dialogue use cases and outperforms many of the available open source and closed chat models on common industry benchmarks.
Supported languages: English, German, French, Italian, Portuguese, Hindi, Spanish, and Thai.
Proveedores
Distintas empresas alojan el mismo modelo. OpenRouter enruta su solicitud a una de ellas según el modo de enrutamiento que elija: Balanced (precio + velocidad), Nitro (el más rápido) o Floor (el más económico).
| 0,710 US$ | 0,710 US$ | 0,710 US$ | 0,23s | 80 tok/s | ||
| 0,220 US$ | 0,500 US$ | 0,110 US$ | 1,03s | 37 tok/s | ||
| 0,293 US$ | 2,253 US$ | -- | 0,65s | 35 tok/s | ||
Solo BYOK | 0,720 US$ | 0,720 US$ | -- | -- | -- | |
Solo BYOK | 0,720 US$ | 0,720 US$ | -- | -- | -- | |
| 0,100 US$ | 0,320 US$ | -- | 0,51s | 19 tok/s | ||
| 0,200 US$ | 0,520 US$ | 0,100 US$ | 1,30s | 20 tok/s | ||
| 0,590 US$ | 0,790 US$ | 0,295 US$ | 0,31s | 203 tok/s |
- Entrada 0,71 US$ / Salida 0,71 US$80 tok/s100,00 % de tiempo de actividad
- Entrada 0,22 US$ / Salida 0,50 US$37 tok/s99,90 % de tiempo de actividad
- Entrada 0,293 US$ / Salida 2,253 US$35 tok/s99,15 % de tiempo de actividad
- Entrada 0,72 US$ / Salida 0,72 US$-- tok/s-- de tiempo de actividadSolo BYOK
- Entrada 0,72 US$ / Salida 0,72 US$-- tok/s-- de tiempo de actividadSolo BYOK
Entrada 0,10 US$ / Salida 0,32 US$19 tok/s99,41 % de tiempo de actividad- Entrada 0,20 US$ / Salida 0,52 US$20 tok/s99,55 % de tiempo de actividad
- Entrada 0,59 US$ / Salida 0,79 US$203 tok/s100,00 % de tiempo de actividad
Precios
El precio medio que los clientes pagan realmente por este modelo, junto a los precios que publican los proveedores. El uso de caché y los descuentos hacen que el precio realmente pagado a menudo sea muy inferior al publicado.
Media ponderada
Llama 3.3 70B Instruct — Historial de precios
| 0,0998 US$ | 0,316 US$ | 0,0 % | 7,5 % | ||
| 0,1524 US$ | 0,516 US$ | 47,4 % | 7,3 % | ||
| 0,1859 US$ | 0,498 US$ | 30,7 % | 32,7 % | ||
| 0,2927 US$ | 2,248 US$ | 0,0 % | 4,4 % | ||
| 0,5897 US$ | 0,786 US$ | 0,0 % | 23,6 % | ||
| 0,7097 US$ | 0,706 US$ | 50,3 % | 24,5 % | ||
| — | — | — | — | ||
| — | — | — | — |
- En vigor en 0,0998 US$ / Salida efectiva 0,316 US$Proporción de tókenes7,5 %
- En vigor en 0,1524 US$ / Salida efectiva 0,516 US$Proporción de tókenes7,3 %
- En vigor en 0,1859 US$ / Salida efectiva 0,498 US$Proporción de tókenes32,7 %
- En vigor en 0,2927 US$ / Salida efectiva 2,248 US$Proporción de tókenes4,4 %
- En vigor en 0,5897 US$ / Salida efectiva 0,786 US$Proporción de tókenes23,6 %
- En vigor en 0,7097 US$ / Salida efectiva 0,706 US$Proporción de tókenes24,5 %
- En vigor en — / Salida efectiva —Proporción de tókenes —
- En vigor en — / Salida efectiva —Proporción de tókenes —
Rendimiento
La velocidad de generación indica lo rápido que escribe el modelo (tokens por segundo: cuanto mayor, mejor). La latencia es el tiempo total de ida y vuelta (cuanto menor, mejor). TTFT es el tiempo hasta el primer token: cuánto tarda en aparecer algo en pantalla (cuanto menor, mejor).
P50, el mejor entre los proveedores
P50, mejor proveedor
Tiempo de actividad
El tiempo de actividad es el porcentaje de los últimos 3 días en que al menos un proveedor respondía a las solicitudes. La disponibilidad es el porcentaje de tiempo en que la inferencia se sirvió correctamente. OpenRouter supervisa continuamente y utiliza el siguiente mejor proveedor cuando uno devuelve un error.
Disponibilidad durante los últimos 3 días
Últimas 72 horasDisponibilidad en las últimas 24 horas
Cuando se produce un error en un proveedor ascendente, podemos recuperarnos enrutando la solicitud a otro proveedor que funcione correctamente, si los filtros de su solicitud lo permiten. Puede acceder mediante programación a los datos de tiempo de actividad de cada proveedor a través de la API de endpoints. Obtenga más información sobre nuestras opciones de equilibrio de carga y enrutamiento de proveedores.
Pruebas de rendimiento
Puntuaciones en evaluaciones estandarizadas y respuestas de este modelo a instrucciones compartidas de las pruebas de referencia. Los porcentajes más altos son mejores, y cada posición indica dónde se sitúa este modelo entre los modelos evaluados en esa fuente.
| Fuente | Prueba de rendimiento | Puntuación |
|---|---|---|
| Artificial Analysis | Llama 3.3 Instruct 70B Openness Index | 38,9 |
| Artificial Analysis | Llama 3.3 Instruct 70B Multilingual Index | 76.4% |
| Artificial Analysis | Llama 3.3 Instruct 70B ITBench-AA | 0.6% |
| Artificial Analysis | Llama 3.3 Instruct 70B GPQA Diamond | 49.8% |
| Artificial Analysis | Llama 3.3 Instruct 70B HLE | 3.6% |
| Artificial Analysis | Llama 3.3 Instruct 70B IFBench | 47.1% |
| Artificial Analysis | Llama 3.3 Instruct 70B τ²-Bench Telecom | 26.6% |
| Artificial Analysis | Llama 3.3 Instruct 70B AA-LCR | 15.7% |
| Artificial Analysis | Llama 3.3 Instruct 70B GDPval-AA | 0.0% |
| Artificial Analysis | Llama 3.3 Instruct 70B CritPt | 0.0% |
| Artificial Analysis | Llama 3.3 Instruct 70B Terminal-Bench Hard | 3.0% |
| Artificial Analysis | Llama 3.3 Instruct 70B Terminal-Bench 2.1 | 4.9% |
Aplicaciones
Aplicaciones públicas que envían más tráfico a este modelo. Una buena señal de cómo son las cargas de trabajo reales en producción, y una pista sobre los casos de uso para los que este modelo es más adecuado.
Actividad
Volumen de tokens y tráfico de solicitudes a este modelo a lo largo del tiempo.
API
Código listo para usar para llamar a este modelo. La API de OpenRouter es compatible con OpenAI: la mayoría de los SDK funcionan con solo cambiar la URL base. Lo único que cambia entre modelos es el identificador del modelo que aparece a continuación.
Actualmente no está disponible mediante el enrutamiento dentro de la región de la UE. Documentación de enrutamiento dentro de la región
Documentación
Guías, recetarios, artículos de blog y herramientas para desarrollar con Meta: Llama 3.3 70B Instruct en OpenRouter.
Preguntas frecuentes
The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model is optimized for multilingual dialogue use cases and outperforms many of the available open source and closed chat models on common industry benchmarks.
La documentación de Llama 3.3 70B Instruct en OpenRouter incluye la publicación del blog Price Drops and Llama 3.3 70b . La guía de inicio rápido cubre las claves de API y su primera solicitud, y la referencia de la API enumera todos los parámetros.
Llama 3.3 70B Instruct cuesta 0,10 US$/M de tokens de entrada y 0,32 US$/M de tókenes de salida.
Llama 3.3 70B Instruct tiene una ventana de contexto de 131.072 tókenes. Admite hasta 16.384 tókenes de respuesta.
Sí. Llama 3.3 70B Instruct acepta tools y tool_choice para llamadas a funciones en 5 de los 7 proveedores que lo ofrecen, y las solicitudes que envían herramientas se enrutan a esos proveedores. También admite salidas estructuradas mediante un esquema JSON en response_format.
Llama 3.3 70B Instruct está disponible a través de 7 proveedores en OpenRouter: DeepInfra (Turbo), AkashML, Parasail, Cloudflare, Groq, CoreWeave y Google Vertex. Las solicitudes se enrutan al mejor proveedor disponible, con conmutación automática a los demás en caso de fallo, y puede fijar o excluir proveedores mediante el enrutamiento de proveedores.
Llama 3.3 70B Instruct se lanzó el 6 de diciembre de 2024. Su fecha límite de conocimientos es 31 de diciembre de 2023.