Favicon für aion-labs

AionLabs: Aion-RP 1.0 (8B)

aion-labs/aion-rp-llama-3.1-8b

Modellgewichte

Aion-RP-Llama-3.1-8B ranks the highest in the character evaluation portion of the RPBench-Auto benchmark, a roleplaying-specific variant of Arena-Hard-Auto, where LLMs evaluate each other’s responses. It is a fine-tuned base model rather than an instruct model, designed to produce more natural and varied writing.

Modalitäten
Eingabe- / Ausgabepreis
0,80 $ / 1,60 $pro 1 Mio.
Kontext
33K
Veröffentlicht
4. Feb. 2025
Wissensstand
Dez. 2023

Anbieter

Dieses Modell wird von einem Anbieter gehostet. OpenRouter leitet jede Anfrage ohne Routing weiter.

Preise

Der durchschnittliche Preis, den Kunden tatsächlich für dieses Modell zahlen, neben den von Anbietern veröffentlichten Preisen. Durch Caching und Rabatte liegt der tatsächlich gezahlte Preis oft deutlich unter dem Listenpreis.

Gewichteter Durchschnitt

Eingabe
0,7997 $/Mio. Token
Ausgabe
1,596 $/Mio. Token
Preisverlauf
Keine effektiven Preisdaten für diese Auswahl

Leistung

Der Durchsatz gibt an, wie schnell das Modell schreibt (Token pro Sekunde – höher ist besser). Die Latenz ist die gesamte Umlaufzeit (niedriger ist besser). TTFT ist die Zeit bis zum ersten Token – also die Wartezeit, bis etwas angezeigt wird (niedriger ist besser).

Durchsatz
31Token/s

P50, bester Wert über alle Anbieter hinweg

Latenz
0,91s

P50, bester Anbieter

Verfügbarkeit

Verfügbarkeit ist der prozentuale Anteil der letzten 3 Tage, in dem mindestens ein Anbieter auf Anfragen reagiert hat. Die Verfügbarkeit der Inferenz ist der prozentuale Anteil der Zeit, in der Inferenz erfolgreich bereitgestellt wurde. OpenRouter überwacht dies kontinuierlich und verwendet den nächstbesten Anbieter, wenn ein Anbieter einen Fehler zurückgibt.

Verfügbarkeit (3 Tage)Das Modell war erreichbar. Die Anfrage wurde an einen Anbieter weitergeleitet.
100,00 %
Verfügbarkeit (3 Tage)Das Modell hat über einen beliebigen Anbieter ein Inferenzergebnis zurückgegeben. Fehler und leere Antworten wirken sich negativ darauf aus.
99,88 %

Verfügbarkeit in den letzten 3 Tagen

Letzte 72 Stunden
Verfügbarkeit 99,88 %
Vor 3 TagenVor 2 TagenGesternJetzt

Verfügbarkeit in den letzten 24 Stunden

OpenRouter Availability
99,65 %

Wenn bei einem vorgelagerten Anbieter ein Fehler auftritt, können wir diesen durch die Weiterleitung an einen anderen funktionsfähigen Anbieter beheben, sofern Ihre Anfragefilter dies zulassen. Sie können programmgesteuert auf die Verfügbarkeitsdaten pro Anbieter zugreifen, und zwar über die Endpunkt-API. Erfahren Sie mehr über unsere Optionen für Lastverteilung und Anbieter-Routing.

Apps

Öffentliche Apps, die den meisten Datenverkehr an dieses Modell senden. Ein guter Anhaltspunkt dafür, wie echte Produktionsworkloads aussehen – und ein Hinweis darauf, für welche Anwendungsfälle dieses Modell am besten geeignet ist.

1.
Favicon für https://sillytavern.app/
SillyTavern
6,13MToken
2.
4,86MToken
3.
1,95MToken
4.
Favicon für https://janitorai.com/
Janitor AI
1,75MToken
5.
1,62MToken
Rest von OpenRouter
854K
Top 5 Apps
229K

Aktivität

Token-Volumen und Anfrageaufkommen für dieses Modell im Zeitverlauf.

API

Direkt einsetzbarer Code zum Aufrufen dieses Modells. Die API von OpenRouter ist OpenAI-kompatibel – bei den meisten SDKs genügt es, die Basis-URL auszutauschen. Zwischen den Modellen ändert sich nur der unten stehende Modell-Slug.

Derzeit nicht über EU-regionales Routing verfügbar. Dokumentation zum regionsinternen Routing

Häufig gestellte Fragen

Weitere Modelle entdecken