Vorrangige Verarbeitung für API-Kunden
Die vorrangige Verarbeitung bietet zuverlässige Hochgeschwindigkeitsleistung mit der Flexibilität des „Pay-as-you-go“-Dienstes.
Durch Auswahl der vorrangigen Verarbeitung erhältst du Folgendes:
- Vorhersehbar niedrige Latenz: Die vorrangige Verarbeitung generiert Token schneller und mit konstanterer Geschwindigkeit als der Standardverarbeitungsdienst, selbst bei hoher Nachfrage.
- Benutzerfreundliche Flexibilität: Wie bei der Standardverarbeitung kannst du auch bei der vorrangigen Verarbeitung flexibel und nutzungsabhängig bezahlen, ohne dass eine Bereitstellung im Voraus erforderlich ist.
| Preis pro 1 Million Eingabe-Tokens | Preis pro 1 Million Eingabe-Tokens (zwischengespeichert) | Preis pro 1 Million Output-Tokens | Uptime SLA3 | Latenz-SLA (Service Level Agreement)3 | |
|---|---|---|---|---|---|
GPT-5.2 schließt Langzeit-Kontext aus1 | 3,50 $ | 0,350 $ | 28,00 $ | 99,9 % | 99 % > 50 Tokens pro Sekunde2 |
GPT-5.1 schließt Langzeit-Kontext aus1 | 2,50 $ | 0,250 $ | 20,00 $ | 99,9 % | 99 % > 50 Tokens pro Sekunde2 |
GPT-5 schließt Langzeit-Kontext aus1 | 2,50 $ | 0,250 $ | 20,00 $ | 99,9 % | 99 % > 50 Tokens pro Sekunde2 |
GPT-5 mini schließt Langzeit-Kontext aus1 | 0,45 $ | 0,045 $ | 3,60 $ | 99,9 % | 99 % > 80 Tokens pro Sekunde2 |
GPT-5.1 codex schließt Langzeit-Kontext aus1 | 2,50 $ | 0,250 $ | 20,00 $ | 99,9 % | 99 % > 50 Tokens pro Sekunde2 |
GPT-5 codex schließt Langzeit-Kontext aus1 | 2,50 $ | 0,250 $ | 20,00 $ | 99,9 % | 99 % > 50 Tokens pro Sekunde2 |
GPT-4.1 schließt Langzeit-Kontext aus1 | 3,50 $ | 0,875 $ | 14,00 $ | 99,9 % | 99 % > 80 Tokens pro Sekunde2 |
GPT-4.1 mini schließt Langzeit-Kontext aus1 | 0,70 $ | 0,175 $ | 2,80 $ | 99,9 % | 99 % > 90 Tokens pro Sekunde2 |
GPT-4.1 nano schließt Langzeit-Kontext aus1 | 0,20 $ | 0,050 $ | 0,80 $ | 99,9 % | 99 % > 100 Tokens pro Sekunde2 |
GPT-4o gpt-4o-2024-11-20 gpt-4o-2024-08-06 | 4,25 $ | 2,125 $ | 17,00 $ | 99,9 % | 99 % > 80 Tokens pro Sekunde2 |
gpt-4o-2024-05-13 | 8,75 $ | — | 26,25 $ | 99,9 % | 99 % > 80 Tokens pro Sekunde2 |
GPT-4o mini | 0,25 $ | 0,125 $ | 1,00 $ | 99,9 % | 99 % > 90 Tokens pro Sekunde2 |
o3 | 3,50 $ | 0,875 $ | 14,00 $ | 99,9 % | 99 % > 80 Tokens pro Sekunde2 |
o4-mini | 2,00 $ | 0,500 $ | 8,00 $ | 99,9 % | 99 % > 90 Tokens pro Sekunde2 |
Funktionsweise
Kunden können den Traffic auf Anfragebasis mithilfe des bestehenden service_tier-Parameters mit der Option service_tier = „priority“ an die vorrangige Verarbeitung weiterleiten.
Tokens, die mit der vorrangigen Verarbeitung bereitgestellt werden, werden pro Token abgerechnet und kosten im Vergleich zu den Standardverarbeitungsgebühren einen Aufpreis.
Zusätzlich zur Konfiguration auf Anfrageebene kannst du für ein Projekt auch in den Projekteinstellungen → Standard-Servicestufe: Vorrangig als Standard festlegen. Du kannst weiterhin die Einstellung pro Anfrage überschreiben.
Einschränkungen
- Die Ratenlimits für die vorrangige Verarbeitung werden mit anderen Servicestufen geteilt.
- In seltenen Fällen kann eine schnelle Erhöhung deiner vorrangigen Verarbeitungs-Tokens pro Minute dazu führen, dass du die Ramp-Ratenlimits erreichst. Wenn du das Ramp-Ratenlimit überschreitest, kann zusätzlicher Traffic stattdessen an die Standardverarbeitung gesendet werden.
Preisgestaltung
Scale Tier bleibt von der vorrangigen Verarbeitung getrennt.
Anfragen, die an die vorrangige Verarbeitung gesendet werden, werden separat in Rechnung gestellt und nicht auf deine erworbenen Scale Tier TPM-Pakete angerechnet.
Modelle
Im Moment nicht. Wir werden in Zukunft prüfen, ob wir die vorrangige Verarbeitung auch für weitere Produkte über unsere neuesten Modelle hinaus anbieten.
Ratenbegrenzungen
Der Verbrauch bei vorrangiger Verarbeitung wird hinsichtlich der Ratenlimits genauso behandelt wie der Standard-API-Traffic.
Zuverlässigkeit
Für Enterprise-Kunden, wende dich bei Fragen oder Anliegen bitte an deinen Account Director.
SLAs für die vorrangige Verarbeitung werden genauso behandelt wie SLAs der Scale-Tier-Stufe; sollten wir diese SLAs für Kunden mit Unternehmensvereinbarungen innerhalb eines bestimmten Zeitfensters nicht einhalten, werden Servicegutschriften angeboten.
Richtlinien
Ja
