ImageOmniRouteby Cheaper Inference
OmniRoute er nu en del af Cheaper InferenceUdforsk Cheaper Inference

#1 open source AI-router

Rout på tværs af 352 udbydere gennem ét OpenAI-kompatibelt endpoint, med automatisk fallback.

Prøv Cheaper InferenceSelvhost OmniRoute (åbner i et nyt faneblad)
OpenAI-kompatibel Gratis og open source71.6k stars (åbner i et nyt faneblad)

OmniRoute × Cheaper Inference

Kombiner OmniRoutes automatiske fallback og udviklerværktøjer med Cheaper Inferences omkostningsrangerede marketplace. Hver berettiget request starter med den billigste tilgængelige udbyderrute.

72 modellerDirekte listepris sammenlignet med Cheaper Inference-prisen
Direkte listepriser sammenlignet med Cheaper Inference-priser pr. model
ModelInputprisOutputprisBesparelseKontekstDetaljer
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokens60% rabat1.1M
gpt-oss-120bOpenAI · text$0.10$0.04/ 1M tokens$0.50$0.20/ 1M tokens60% rabat131K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokens50% rabat1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokens50% rabat1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% rabat128K
glm-4.5-airZ.ai · text$0.20$0.11/ 1M tokens$1.10$0.605/ 1M tokens45% rabat128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% rabat198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45% rabat128K
Viser 8 af 72 modeller
Direkte listepris → Cheaper Inference-pris · Gennemse alle modeller · Se live-katalog (åbner i et nyt faneblad)Priser kontrolleret 30. sep. 2026, 15.15 UTC. Satserne kan ændre sig, når upstream-priser eller tilgængelige ruter ændrer sig.

Kernekontroller

Ét endpoint til dine konfigurerede udbydere.

Core control

Hold requests i gang

Når et mål er utilgængeligt eller uden kvote, vælger OmniRoute det næste sunde mål.

Core control

Komprimer berettiget kontekst

En pipeline med 12 motorer reducerer berettiget kontekst med 15–95%. Det dokumenterede værktøjstunge eksempel reducerede den med ~89%.

Core control

$0 at starte

90+ gratis niveauer og 56 tilbagevendende eller nøglefri udbydere, der er gratis for altid. Ingen kreditkort til den nøglefri hurtigstart.

Core control

35 understøttede integrationer

Konfigurer Claude Code, Codex, Cursor, Cline, Copilot, Antigravity og andre understøttede klienter gennem ét endpoint.

Core control

Ét endpoint

Modtag OpenAI-, Claude-, Gemini- og Responses API-requests på /v1.

Core control

Driftskontroller

Circuit breakers, krypterede credentials, MCP, A2A, hukommelse, guardrails og evals følger med den selvhostede gateway.

Kataloget

Alle bag ét endpoint.

Et katalog, der dækker chat, medier, søgning, lokale runtimes, cloud-agenter og systemintegrationer.

352 udbydere

Hver eneste af dem, bag ét lokalt endpoint.

Det ene endpoint, alle klienter peger påhttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
ImageOpenAIImageAnthropicImageGoogleImageDeepSeekImagexAIImageZ.aiImageMoonshotImageMiniMaxImageAlibabaImageMetaImageBytedanceImageAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233API-nøgleOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35Web-cookieChatGPT Web, Claude Web, Gemini Web, Grok Web…
14LokalOllama, LM Studio, vLLM, llama.cpp…
13Ingen autentificeringOpenCode Free, Felo, Pollinations og andre nøglefri ruter…
Udforsk udbyderreferencen (opens in a new tab)

Hurtigstart

Installer, kør, forbind.

Installer pakken, start gatewayen, og peg derefter en vilkårlig OpenAI-kompatibel klient på port 20128.

Udbyderkatalog
352
Routingstrategier
19
Lokalt endpoint
:20128/v1

Step 1: Installer

Installer npm-pakken omniroute globalt.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Kør

Start API og dashboard sammen på port 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Forbind dit værktøj

Brug http://localhost:20128/v1; den nøglefri auto-rute virker på en frisk installation.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

Gateway-kontroller

Gatewayens kernekontroller i én proces.

Konfigurer fallback, kvote, komprimering, hukommelse, MCP og A2A fra det lokale dashboard.

Gateway control

Smart Combos

Sæt en model til auto, eller byg din egen combo med 19 strategier og lagdelt fallback.

Brug en færdig tilstand, eller kombiner 19 strategier omkring det mål, der betyder noget.

Gateway control

Hukommelse

Vedvarende samtalehukommelse med FTS5-nøgleord og Qdrant-vektorgenkaldelse.

Gateway control

Robusthed i 3 lag

Udbyder-breaker, forbindelsesnedkøling og modellockout isolerer fejl i det mindste nyttige omfang.

Gateway control

Gratis kvote

Pool-dedupliceret regnskab på tværs af 90+ gratis niveauer.

Publiceret gratis kapacitet, deduplikeret.

Gateway control

Komprimering

12 kombinerbare motorer til værktøjsoutput, kontekst og svarstil.

Reducer berettigede tokens med 15–95%.

Gateway control

MCP-server

En indbygget server, der eksponerer 110 gateway-værktøjer på tværs af 33 scopes.

110 værktøjer · 33 scopes · stdio / HTTP

Gateway control

A2A-protokol

En JSON-RPC-agentserver med 6 skills.

6 skills · JSON-RPC 2.0 · Agent Card

Gateway control

Semantisk cache

En gentaget request kan besvares fra cachen, og svarheaderen viser, hvad det sparede.

X-OmniRoute-Cache: HIT

Klientkompatibilitet

Behold dine nuværende kodeværktøjer.

Peg en OpenAI-kompatibel CLI eller editor på én lokal base-URL; OmniRoute håndterer udbyderne bag den.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Brug OmniRoute-modeller i Copilot Chat.

OmniCopilot tilføjer OmniRoute-modeller til den eksisterende modelvælger.

Officiel Marketplace

Virker i VS Code stable og Insiders. Installer fra Marketplace eller Extensions-visningen.

Open VSX Registry

Til Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod og andre kompatible editorer.

Ingen Copilot-plan nødvendig

Udbydermodeller kan køre gennem OmniRoute i Copilot Chat uden at route inferens gennem en Copilot-plan.

VS Code Marketplace (åbner i et nyt faneblad)Open VSX Registry (åbner i et nyt faneblad)OmniCopilot source (åbner i et nyt faneblad)

Almindelige fejltilstande

Hvorfor OmniRoute

Se, hvilken kontrol der adresserer hver almindelig fejltilstand.

Without routing
With OmniRoute
Kvoten udløber ubrugt
Følg og udnyt den kvote, du allerede har
Rate limits stopper dig midt i opgaven
Auto-fallback i 4 lag på millisekunder
Værktøjsoutput brænder tokens af
Komprimering med 12 motorer, 15–95% på berettiget indhold
Dyre API'er løber op
Omkostningsoptimeret routing kan vælge det billigste berettigede mål
Hvert værktøj kræver sin egen opsætning
Ét endpoint og ét dashboard
En udbyder er utilgængelig fra dit netværk
Proxy-scopes og kontrol over klientfingeraftryk
Én død nøgle bryder en udbyder
Breaker, nedkøling og lockout isolerer fejlen
Et team deler ét abonnement
Nøglepools og fair-share-kvoter
Du har brug for lokal kontrol over routingdata
Lokal lagring først med krypterede credentials
Ingen indsigt i forbrug eller sundhed
Analyse af forbrug, kvote, besparelser og latenstid

Dokumentationssnapshot

Sådan sammenlignes gatewayene

Funktioner kontrolleret mod den linkede projektdokumentation 2026-08-30.

FunktionOmniRoute (åbner i et nyt faneblad)9Router (åbner i et nyt faneblad)LiteLLM (åbner i et nyt faneblad)CLIProxyAPI (åbner i et nyt faneblad)
Udbydere35240+100+8+ upstreams
Routingstrategier193-tierretry / priorityround-robin / fill-first
Lagdelt fallback med UIYesYesManual policyMulti-account
Tokenkomprimering12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

Snapshot af offentlig README og officiel dokumentation; verificér de linkede kilder, før du træffer beslutninger om køb eller udrulning.

Udrulning

9 understøttede måder at køre OmniRoute.

Installer den på en laptop, server eller telefon, eller forbind gennem en understøttet editor og plugin.

npm

Én kommando på ethvert understøttet desktop-OS

npm install -g omnirouteÅbn guide (åbner i et nyt faneblad)

Docker

Multi-arch-image til AMD64 og ARM64

docker run … diegosouzapw/omnirouteÅbn guide (åbner i et nyt faneblad)

Desktop

Native vindue og systembakke på Windows, macOS og Linux

npm run electron:buildÅbn guide (åbner i et nyt faneblad)

ARM

Raspberry Pi, ARM-servere og Apple Silicon

native arm64

Android · Termux

Kører på Android uden root

pkg install nodejs && npx -y omnirouteÅbn guide (åbner i et nyt faneblad)

PWA

Fuldskærm, offline-klar og kan installeres fra en browser

Add to Home ScreenÅbn guide (åbner i et nyt faneblad)

OpenCode plugin

Native OpenCode-udbyderplugin

@omniroute/opencode-providerÅbn guide (åbner i et nyt faneblad)

VS Code

OmniRoute-modeller i Copilot Chat-vælgeren

Install OmniCopilotÅbn guide (åbner i et nyt faneblad)

From source

Hack på den og bidrag

npm install && npm run devÅbn guide (åbner i et nyt faneblad)

Routing

Vælg en auto-rute.

Brug en færdig tilstand, eller kombiner 19 strategier omkring det mål, der betyder noget.

Model · fallback aktiveretautoBalanced default
OpenAI-kompatibel request
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

Brug abonnementskvoten op

Brug den kvote, du allerede har, før du rører betalte API'er.

priority · fill-first

Fordel belastningen

Balancer trafik på tværs af nøgler og konti for at mindske presset fra rate limits.

weighted · round-robin · p2c · least-used · headroom

Billigste først

Rout til det billigste berettigede mål.

cost-optimized

Kontekstbevidst

Hold lange kontekster på modeller, der har plads, og skift videre ved behov.

context-relay · context-optimized · cache-optimized

Tilfældig

Fordel berettiget trafik på tværs af mål.

random · strict-random

Adaptiv scoring

Brug scoring med 15 faktorer, sidst kendte gode mål og reset-bevidste vinduer.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Regnskab for gratis niveauer

Publiceret gratis kapacitet, deduplikeret.

455 katalogposter deduplikeres til 40 tilbagevendende pools; kun publicerede positive budgetter tæller med i overskriften.

1.51B

Pool-deduplikeret regnskab forhindrer, at delte kvoter tælles mere end én gang. Udbydere uden loft forbliver synlige uden at puste tokentotalen op. Checked 2026-08-30.

Se beregningen (åbner i et nyt faneblad)
Tilbagevendende eller nøglefri udbydere, gratis for altid56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

Kontekstkomprimering

Reducer berettigede tokens med 15–95%.

Værktøjsoutput, gentaget kontekst og oppustede strukturerede data kan komprimeres, før de når modellen.

Kontekst reduceret fra 15–95% på berettigede tokens

Før: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. Efter: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

Samme instruktion. Mindre kontekst at betale for.

Før69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
Efter19 tokens
sum all list items where value > 0

Kombinerbar pipeline

  1. Session-Dedup
    Fjern indhold, der allerede er sendt tidligere i sessionen.
  2. CCR
    Arkivér store blokke, og gendan dem efter behov.
  3. Lite
    Anvend konservativ tabsfri oprydning.
  4. RTK
    Filtrer og deduplikér kommando- og værktøjsoutput.
  5. Responses Tool Output
    Komprimer Responses API-værktøjspayloads.
  6. Headroom
    Anvend reversibel komprimering af tabeller og strukturerede data.
  7. Relevance
    Behold de sætninger, der er mest relevante for den seneste forespørgsel.
  8. Caveman
    Brug regelbaseret fortætning af prosa.
  9. Aggressive
    Anvend kraftigere konfigureret beskæring.
  10. LLMLingua-2
    Brug kodesikker semantisk beskæring i en isoleret worker.
  11. Ultra
    Kombiner trin med høj besparelse med bevaringsværn.
  12. OmniGlyph
    Indkod berettigede gentagne strukturer kompakt.

Profiler

Publiceret profilinterval~30%x-omniroute-compression: standard

Standard-komprimering valgt. Publiceret interval ~30%.

Kontroller og outputstile

  • Navngivne profiler og aktiv vælger
  • Visual Compression Studio
  • Anthropic Context Editing
  • Adaptiv drejeknap til kontekstbudget
  • Pr. request \
  • -header
  • Offline eval-harness
  • Auto-trigger ved tokengrænse
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

Kontrolrækkefølge: request-header → combo → profil → adaptiv politik → standard.

Fejlisolering

Isolér fejl i udbyder, forbindelse og model.

En dårlig nøgle bør ikke slå en udbyder ud. En begrænset model bør ikke slå en forbindelse ud.

model ⊂ forbindelse ⊂ udbyder
Circuit breaker for udbyderNår en udbyder er usund, springer combo-routing den over, indtil en half-open-probe lykkes.
ForbindelsesnedkølingNedkøl én nøgle eller konto, mens søskendeforbindelser fortsætter med at levere.
ModellockoutLås én rate-begrænset eller utilgængelig model, mens andre modeller på forbindelsen forbliver tilgængelige.

Netværkskontroller

Kontrol over netværksrouting og lokale data.

Proxy-scopes styrer netværksrouting, mens lokal lagring holder driftsdata på din maskine.

Tre proxy-scopes

Rout globalt, pr. udbyder eller pr. enkelt forbindelse.

  • Globalt · pr. udbyder · pr. forbindelse
  • SOCKS5- og HTTP(S)-proxyer
  • Integration med proxy-marketplace

Kontrol over TLS- og klientfingeraftryk

Match understøttede udbyderklienter ned til udvalgte transportegenskaber.

  • JA3/JA4-kompatibel transport via wreq-js
  • Udbyderspecifikke klientprofiler
  • Kontrol over IPv4- og IPv6-egress

Privat og lokalt først

Nøgler, forbrug og historik bliver på den host, du kontrollerer.

  • SQLite på disk med AES-256-GCM-krypterede credentials
  • Ingen OmniRoute-konto påkrævet
  • Selvhost på den infrastruktur, du vælger
RuslandKinaIranCubaTyrkiet

Lokalt dashboard

Konfigurer OmniRoute uden at redigere YAML.

Administrer udbydere, combos, analyse, sundhed og omkostninger på localhost:20128/dashboard.

localhost:20128/dashboardEksempeldata
352udbydere forbundet
90+gratis niveauer tilgængelige
198sunde i dette eksempel
  • Claude Code · OAuth · live
  • Cerebras · gratis · live
  • Groq · eksempel på nedkøling
  • NVIDIA NIM · gratis · live

Agentprotokoller

Eksponér OmniRoute over MCP og A2A.

OmniRoute kan eksponere sin gateway til MCP-klienter, A2A-netværk og understøttede cloud-kodeagenter.

MCP-server

110 værktøjer på tværs af 33 scopes over stdio- og HTTP-transport.

110 værktøjer · 33 scopes · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

A2A-server

6 skills til smart routing, kvote, discovery, omkostningsanalyse og sundhedsrapportering over JSON-RPC 2.0.

6 skills · JSON-RPC 2.0 · Agent Card

Cloud-agenter

Forbind understøttede Codex-, Cursor-, Devin- og Jules-workflows gennem én orkestreringsflade.

Codex · Cursor · Devin · Jules

Yderligere tjenester

Udvid gatewayen.

Indlejrede tjenester

Kør Bifrost, 9Router eller CLIProxy som administrerede sidecars, eller kør en fuld klusterprofil.

Din viden, i kontekst

Forbind Notion og Obsidian som MCP-baserede kontekstkilder.

Indbyggede guardrails

Tjek for prompt-injection, valgfri PII-maskering og normaliserede sikkerhedsfiltre uden udbyder-lock-in.

Forbrugsmål

Følg streaks, præstationer og løbende besparelser side om side med driftsanalyse.

Fra fællesskabet

Sådan bruges og diskuteres OmniRoute.

Se, hvad udviklere bygger, spørger om og deler på X, Reddit og YouTube.

32 videoer fra 32 kanalerSe alle 32 videoer fra fællesskabet

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…
Image

25 posts from X · 25 Reddit postsSe alle opslag

Bygget i det åbne

Aktivitet i repositoryet

Se stars, forks, bidragydere og releases fra det indtjekkede GitHub-snapshot.

  • 10,203forks
  • 737bidragydere
  • 281releases udgivet
  • 7,924PR'er merget
  • 4,504issues lukket
  • 30,000automatiserede tests

Snapshot fra 2026-09-30

Discord

Chat, support og roadmap

(åbner i et nyt faneblad)

Telegram

Nyheder og annonceringer

(åbner i et nyt faneblad)

WhatsApp 🌍

Globalt fællesskab

(åbner i et nyt faneblad)

WhatsApp 🇧🇷

Comunidade Brasil

(åbner i et nyt faneblad)
Mød bidragyderne (åbner i et nyt faneblad)

OmniRoute fra Cheaper Inference

Vælg, hvordan du kører OmniRoute.

Selvhost OmniRoute, eller start med Cheaper Inference for en hostet, omkostningsrangeret gateway.

Prøv Cheaper Inference Selvhost OmniRoute (åbner i et nyt faneblad)