Favicon für ai21

AI21: Jamba 1.6 Large

ai21/jamba-1.6-large

Modellgewichte

AI21 Jamba Large 1.6 is a high-performance hybrid foundation model combining State Space Models (Mamba) with Transformer attention mechanisms. Developed by AI21, it excels in extremely long-context handling (256K tokens), demonstrates superior inference efficiency (up to 2.5x faster than comparable models), and supports structured JSON output and tool-use capabilities. It has 94 billion active parameters (398 billion total), optimized quantization support (ExpertsInt8), and multilingual proficiency in languages such as English, Spanish, French, Portuguese, Italian, Dutch, German, Arabic, and Hebrew.

Usage of this model is subject to the Jamba Open Model License.

Modalitäten
Kontext
256K
Veröffentlicht
13. März 2025
Wissensstand
Aug. 2024

Aktivität

Token-Volumen und Anfrageaufkommen für dieses Modell im Zeitverlauf.

Derzeit nicht über EU-regionales Routing verfügbar. Dokumentation zum regionsinternen Routing

Häufig gestellte Fragen

Weitere Modelle entdecken