ImageOmniRouteby Cheaper Inference
OmniRoute je nyní součástí Cheaper InferenceProzkoumat Cheaper Inference

#1 open-source AI router

Směrujte požadavky mezi 352 poskytovateli přes jeden endpoint kompatibilní s OpenAI, s automatickým fallbackem.

Vyzkoušet Cheaper InferenceProvozovat OmniRoute u sebe (otevře se na nové kartě)
Kompatibilní s OpenAI Zdarma a open source71.6k hvězd (otevře se na nové kartě)

OmniRoute × Cheaper Inference

Spojte automatický fallback a vývojářské nástroje OmniRoute s marketplace Cheaper Inference řazeným podle ceny. Každý vhodný požadavek začíná u nejlevnější dostupné trasy poskytovatele.

72 modelůPřímá ceníková cena ve srovnání s cenou Cheaper Inference
Přímé ceníkové ceny ve srovnání s cenami Cheaper Inference podle modelu
ModelCena vstupuCena výstupuÚsporaKontextDetaily
gpt-5.6-terraOpenAI · text$2.00$0.80/ 1M tokens$12.00$4.80/ 1M tokens60 % sleva1.1M
gpt-oss-120bOpenAI · text$0.10$0.04/ 1M tokens$0.50$0.20/ 1M tokens60 % sleva131K
deepseek-v4.1-flashDeepSeek · text$0.15$0.075/ 1M tokens$0.60$0.30/ 1M tokens50 % sleva1.0M
gpt-5.6-solOpenAI · text$4.00$2.00/ 1M tokens$20.00$10.00/ 1M tokens50 % sleva1.1M
glm-4.5Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45 % sleva128K
glm-4.5-airZ.ai · text$0.20$0.11/ 1M tokens$1.10$0.605/ 1M tokens45 % sleva128K
glm-4.6Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45 % sleva198K
glm-4.7Z.ai · text$0.60$0.33/ 1M tokens$2.20$1.21/ 1M tokens45 % sleva128K
Zobrazeno 8 z 72 modelů
Přímá ceníková cena → cena Cheaper Inference · Procházet všechny modely · Zobrazit živý katalog (otevře se na nové kartě)Ceny ověřeny 30. 9. 2026 15:15 UTC. Sazby se mohou změnit, když se změní ceny upstreamu nebo dostupné trasy.

Základní mechanismy

Jeden endpoint pro vaše nakonfigurované poskytovatele.

Core control

Požadavky se nezastaví

Když je cíl nedostupný nebo mu došla kvóta, OmniRoute vybere další zdravý cíl.

Core control

Komprese vhodného kontextu

Pipeline s 12 enginy zmenší vhodný kontext o 15–95%. Dokumentovaný příklad s velkým podílem nástrojů ho zmenšil o ~89%.

Core control

Začněte za 0 $

90+ free tierů a 56 opakovaně bezplatných nebo bezklíčových poskytovatelů zdarma navždy. Bezklíčový rychlý start nevyžaduje platební kartu.

Core control

35 podporovaných integrací

Nastavte Claude Code, Codex, Cursor, Cline, Copilot, Antigravity a další podporované klienty přes jeden endpoint.

Core control

Jeden endpoint

Přijímá požadavky OpenAI, Claude, Gemini a Responses API na /v1.

Core control

Provozní mechanismy

Circuit breakery, šifrované přihlašovací údaje, MCP, A2A, paměť, guardraily a evaly jsou součástí self-hostované gateway.

Katalog

Vše za jedním endpointem.

Katalog zahrnuje chat, média, vyhledávání, lokální runtimy, cloudové agenty i systémové integrace.

352 poskytovatelů

Každý z nich za jedním lokálním endpointem.

Jeden endpoint, na který míří každý klienthttp://localhost:20128/v1

14 Search12 Audio-only2 Upstream proxy3 Cloud agent1 System
ImageOpenAIImageAnthropicImageGoogleImageDeepSeekImagexAIImageZ.aiImageMoonshotImageMiniMaxImageAlibabaImageMetaImageBytedanceImageAion Labs
25OAuthClaude Code, Codex, Cursor, GitHub Copilot, Kimi Code…
233API klíčOpenAI, Anthropic, Groq, NVIDIA, Cerebras, Mistral…
35Webová cookieChatGPT Web, Claude Web, Gemini Web, Grok Web…
14LokálníOllama, LM Studio, vLLM, llama.cpp…
13Bez autentizaceOpenCode Free, Felo, Pollinations a další bezklíčové trasy…
Prozkoumat referenci poskytovatelů (opens in a new tab)

Rychlý start

Nainstalovat, spustit, připojit.

Nainstalujte balíček, spusťte gateway a nasměrujte libovolného klienta kompatibilního s OpenAI na port 20128.

Katalog poskytovatelů
352
Strategie směrování
19
Lokální endpoint
:20128/v1

Step 1: Instalace

Nainstalujte npm balíček omniroute globálně.

omniroute: install
$ npm install -g omnirouteadded 1 package

Step 2: Spuštění

Spusťte API a dashboard společně na portu 20128.

omniroute: run
$ omniroute▸ dashboard ✓ http://localhost:20128/dashboard▸ api ...... ✓ serving on :20128

Step 3: Připojte svůj nástroj

Použijte http://localhost:20128/v1; bezklíčová trasa auto funguje hned po čisté instalaci.

omniroute: connect
$ curl localhost:20128/v1/models✓ models listed

Ovládání gateway

Základní mechanismy gateway v jednom procesu.

Fallback, kvóty, kompresi, paměť, MCP a A2A nastavíte z lokálního dashboardu.

Gateway control

Smart Combos

Nastavte model na auto nebo si sestavte vlastní combo s 19 strategiemi a víceúrovňovým fallbackem.

Použijte hotový režim nebo zkombinujte 19 strategií podle cíle, na kterém vám záleží.

Gateway control

Paměť

Trvalá konverzační paměť s vyhledáváním klíčových slov FTS5 a vektorovým vybavováním přes Qdrant.

Gateway control

3-vrstvá odolnost

Breaker poskytovatele, cooldown připojení a lockout modelu izolují selhání v nejmenším užitečném rozsahu.

Gateway control

Bezplatná kvóta

Deduplikované účtování napříč 90+ free tiery.

Publikovaná kapacita free tierů, bez duplicit.

Gateway control

Komprese

12 skládatelných enginů pro výstup nástrojů, kontext i styl odpovědi.

Snižte počet vhodných tokenů o 15–95%.

Gateway control

MCP server

Vestavěný server zpřístupňuje 110 nástrojů gateway v 33 rozsazích.

110 nástrojů · 33 rozsahů · stdio / HTTP

Gateway control

Protokol A2A

Agentní server JSON-RPC s 6 dovednostmi.

6 dovedností · JSON-RPC 2.0 · Agent Card

Gateway control

Sémantická cache

Opakovaný požadavek se může vrátit z cache a hlavička odpovědi uvede, co to ušetřilo.

X-OmniRoute-Cache: HIT

Kompatibilita klientů

Ponechte si své současné nástroje.

Nasměrujte CLI nebo editor kompatibilní s OpenAI na jednu lokální base URL; poskytovatele za ní řeší OmniRoute.

Claude Code
Codex CLI
Cursor
Cline
GitHub Copilot
Gemini CLI
OpenCode
Kilo Code
Factory Droid
Continue
Roo Code
Antigravity
Aider
OpenClaw
Goose
Grok Build
Windsurf
Devin CLI

http://localhost:20128/v1

request.sh
curl http://localhost:20128/v1/chat/completions \
  -H "Authorization: Bearer $OMNIROUTE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

OmniCopilot

Používejte modely OmniRoute v Copilot Chat.

OmniCopilot přidá modely OmniRoute do stávajícího výběru modelů.

Oficiální Marketplace

Funguje ve VS Code stable i Insiders. Instalujte z Marketplace nebo ze zobrazení Extensions.

Open VSX Registry

Pro Cursor, Windsurf, VSCodium, Theia, code-server, Gitpod a další kompatibilní editory.

Bez plánu Copilot

Modely poskytovatelů mohou v Copilot Chat běžet přes OmniRoute, aniž by inference procházela plánem Copilot.

VS Code Marketplace (otevře se na nové kartě)Open VSX Registry (otevře se na nové kartě)OmniCopilot source (otevře se na nové kartě)

Časté problémy

Proč OmniRoute

Podívejte se, který mechanismus řeší který častý problém.

Without routing
With OmniRoute
Kvóta vyprší nevyužitá
Sledujte a vyčerpejte limit, který už máte
Rate limity vás zastaví uprostřed práce
4-úrovňový auto-fallback v milisekundách
Výstup nástrojů spaluje tokeny
Komprese s 12 enginy, 15–95% na vhodném obsahu
Drahá API se sčítají
Nákladově optimalizované směrování vybere nejlevnější vyhovující cíl
Každý nástroj chce vlastní nastavení
Jeden endpoint a jeden dashboard
Poskytovatel je z vaší sítě nedostupný
Rozsahy proxy a řízení fingerprintu klienta
Jeden mrtvý klíč shodí poskytovatele
Breaker, cooldown a lockout selhání izolují
Tým sdílí jedno předplatné
Pooly klíčů a spravedlivé kvóty
Potřebujete lokální kontrolu nad daty směrování
Local-first úložiště se šifrovanými přihlašovacími údaji
Žádný přehled o útratě ani zdraví
Analytika využití, kvót, úspor a latence

Snímek dokumentace

Jak si gateway stojí ve srovnání

Schopnosti ověřené podle odkazované dokumentace projektů dne 2026-08-30.

SchopnostOmniRoute (otevře se na nové kartě)9Router (otevře se na nové kartě)LiteLLM (otevře se na nové kartě)CLIProxyAPI (otevře se na nové kartě)
Poskytovatelé35240+100+8+ upstreams
Strategie směrování193-tierretry / priorityround-robin / fill-first
Víceúrovňový fallback s UIYesYesManual policyMulti-account
Komprese tokenů12 engines · 15–95%RTK / Headroom / CavemanNo built-in pipelineHTTP compression

Snímek veřejného README a oficiální dokumentace; před nákupem nebo nasazením si ověřte odkazované zdroje.

Nasazení

9 podporovaných způsobů, jak OmniRoute spustit.

Nainstalujte ho na laptop, server nebo telefon, nebo se připojte přes podporovaný editor a plugin.

npm

Jeden příkaz na libovolném podporovaném desktopovém OS

npm install -g omnirouteOtevřít návod (otevře se na nové kartě)

Docker

Multi-arch image pro AMD64 a ARM64

docker run … diegosouzapw/omnirouteOtevřít návod (otevře se na nové kartě)

Desktop

Nativní okno a systémová lišta na Windows, macOS a Linuxu

npm run electron:buildOtevřít návod (otevře se na nové kartě)

ARM

Raspberry Pi, ARM servery a Apple Silicon

native arm64

Android · Termux

Běží na Androidu bez rootu

pkg install nodejs && npx -y omnirouteOtevřít návod (otevře se na nové kartě)

PWA

Celoobrazovkové, offline a instalovatelné z prohlížeče

Add to Home ScreenOtevřít návod (otevře se na nové kartě)

OpenCode plugin

Nativní plugin poskytovatele pro OpenCode

@omniroute/opencode-providerOtevřít návod (otevře se na nové kartě)

VS Code

Modely OmniRoute ve výběru Copilot Chat

Install OmniCopilotOtevřít návod (otevře se na nové kartě)

From source

Hackujte a přispívejte

npm install && npm run devOtevřít návod (otevře se na nové kartě)

Směrování

Vyberte si auto trasu.

Použijte hotový režim nebo zkombinujte 19 strategií podle cíle, na kterém vám záleží.

Model · fallback zapnutýautoBalanced default
Požadavek kompatibilní s OpenAI
curl http://localhost:20128/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model":"auto","messages":[{"role":"user","content":"Write a TypeScript retry helper."}]}'

Routing alias auto selected. Objective: Balanced default. Fallback enabled.

Vyčerpat kvótu předplatného

Využijte kvótu, kterou už máte, než sáhnete na placená API.

priority · fill-first

Rozložit zátěž

Rozdělte provoz mezi klíče a účty a snižte tlak rate limitů.

weighted · round-robin · p2c · least-used · headroom

Nejlevnější první

Směrujte na nejlevnější vyhovující cíl.

cost-optimized

Podle kontextu

Dlouhé kontexty nechte na modelech, kam se vejdou, a v případě potřeby je předejte dál.

context-relay · context-optimized · cache-optimized

Náhodné

Rozdělte vyhovující provoz mezi cíle.

random · strict-random

Adaptivní skórování

Použijte 15-faktorové skórování, last-known-good a okna respektující reset.

reset-window · reset-aware · lkgp · auto · fusion · pipeline

Účtování free tierů

Publikovaná kapacita free tierů, bez duplicit.

455 položek katalogu je deduplikováno do 40 opakujících se poolů; do hlavního čísla vstupují jen publikované kladné rozpočty.

1.51B

Účtování deduplikované podle poolů brání tomu, aby se sdílené kvóty počítaly vícekrát. Poskytovatelé bez limitu zůstávají viditelní, ale součet tokenů nenavyšují. Checked 2026-08-30.

Zobrazit výpočet (otevře se na nové kartě)
Opakovaně bezplatní nebo bezklíčoví poskytovatelé zdarma navždy56
  • Mistral1B/month
  • LLM7150M/month
  • Nara150M/month
  • Gemini CLI · forever60M/month
  • Kiro50 credits/month
  • Qoder · foreverFree catalog
  • LongCat · forever50M/day
  • Cerebras1M/day
  • NVIDIA NIM~40 RPM
  • Pollinations · foreverNo key
  • Cloudflare Workers AI · foreverDaily neurons
  • OpenCode Free · foreverNo-auth catalog

Komprese kontextu

Snižte počet vhodných tokenů o 15–95%.

Výstup nástrojů, opakovaný kontext a nafouklá strukturovaná data lze zkomprimovat dřív, než dorazí k modelu.

Kontext zmenšen o 15–95% u vhodných tokenů

Před: The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total. Po: sum all list items where value > 0

  1. Session-Dedup
  2. CCR
  3. Lite
  4. RTK
  5. Responses Tool Output
  6. Headroom
  7. Relevance
  8. Caveman
  9. Aggressive
  10. LLMLingua-2
  11. Ultra
  12. OmniGlyph

Stejná instrukce. Méně kontextu k placení.

Před69 tokens
The function should iterate over the list of items, and for each item, it should check whether the value is greater than zero, and if so, add it to the running total.
Po19 tokens
sum all list items where value > 0

Skládatelná pipeline

  1. Session-Dedup
    Vypustí obsah, který už byl v relaci odeslán dříve.
  2. CCR
    Archivuje velké bloky a na vyžádání je obnoví.
  3. Lite
    Provede konzervativní bezeztrátové čištění.
  4. RTK
    Filtruje a deduplikuje výstup příkazů a nástrojů.
  5. Responses Tool Output
    Zhušťuje payloady nástrojů Responses API.
  6. Headroom
    Provede vratné zhuštění tabulkových a strukturovaných dat.
  7. Relevance
    Ponechá věty nejrelevantnější k poslednímu dotazu.
  8. Caveman
    Používá pravidlové zhušťování prózy.
  9. Aggressive
    Provede silnější nakonfigurované prořezávání.
  10. LLMLingua-2
    Používá sémantické prořezávání šetrné ke kódu v izolovaném workeru.
  11. Ultra
    Kombinuje fáze s vysokou úsporou s ochrannými pojistkami.
  12. OmniGlyph
    Kompaktně kóduje vhodné opakující se struktury.

Profily

Publikovaný rozsah profilu~30%x-omniroute-compression: standard

Vybrána komprese Standard. Publikovaný rozsah ~30%.

Ovládání a styly výstupu

  • Pojmenované profily a aktivní selektor
  • Vizuální Compression Studio
  • Anthropic Context Editing
  • Adaptivní regulace rozpočtu kontextu
  • Hlavička \
  • per požadavek
  • Offline eval harness
  • Auto-spuštění při prahu tokenů
  • Terse prose
  • Less code (YAGNI)
  • Terse CJK 文言

Priorita řízení: hlavička požadavku → combo → profil → adaptivní politika → výchozí.

Izolace selhání

Izolujte selhání poskytovatele, připojení i modelu.

Špatný klíč by neměl shodit poskytovatele. Omezený model by neměl shodit připojení.

model ⊂ připojení ⊂ poskytovatel
Circuit breaker poskytovateleKdyž je poskytovatel nezdravý, combo směrování ho přeskakuje, dokud neuspěje half-open sonda.
Cooldown připojeníZchlaďte jeden klíč nebo účet, zatímco sousední připojení dál obsluhují.
Lockout modeluZamkněte jeden model omezený rate limitem nebo nedostupný, zatímco ostatní modely na připojení zůstávají k dispozici.

Síťové mechanismy

Síťové směrování a kontrola lokálních dat.

Rozsahy proxy řídí síťové směrování, zatímco local-first úložiště drží provozní data na vašem stroji.

Tři rozsahy proxy

Směrujte globálně, per poskytovatel nebo per jednotlivé připojení.

  • Globální · per poskytovatel · per připojení
  • SOCKS5 a HTTP(S) proxy
  • Integrace proxy marketplace

Řízení TLS a fingerprintu klienta

Napodobte podporované klienty poskytovatelů až po vybrané vlastnosti transportu.

  • Transport s podporou JA3/JA4 přes wreq-js
  • Profily klientů pro konkrétní poskytovatele
  • Řízení odchozího provozu IPv4 a IPv6

Soukromé a local-first

Klíče, využití i historie zůstávají na hostiteli, který ovládáte.

  • SQLite na disku s přihlašovacími údaji šifrovanými AES-256-GCM
  • Bez nutnosti účtu OmniRoute
  • Self-hosting na infrastruktuře podle vašeho výběru
RuskoČínaÍránKubaTurecko

Lokální dashboard

Nastavte OmniRoute bez editace YAML.

Poskytovatele, comba, analytiku, zdraví a náklady spravujte na localhost:20128/dashboard.

localhost:20128/dashboardUkázková data
352připojených poskytovatelů
90+dostupných free tierů
198zdravých v tomto příkladu
  • Claude Code · OAuth · živě
  • Cerebras · zdarma · živě
  • Groq · příklad cooldownu
  • NVIDIA NIM · zdarma · živě

Agentní protokoly

Zpřístupněte OmniRoute přes MCP a A2A.

OmniRoute může svou gateway zpřístupnit MCP klientům, A2A sítím a podporovaným cloudovým kódovacím agentům.

MCP server

110 nástrojů v 33 rozsazích přes transporty stdio a HTTP.

110 nástrojů · 33 rozsahů · stdio / HTTP

claude mcp add omniroute --type http --url http://localhost:20128/api/mcp/stream

A2A server

6 dovedností pro chytré směrování, kvóty, discovery, analýzu nákladů a hlášení zdraví přes JSON-RPC 2.0.

6 dovedností · JSON-RPC 2.0 · Agent Card

Cloudoví agenti

Připojte podporované workflow Codex, Cursor, Devin a Jules přes jednu orchestrační plochu.

Codex · Cursor · Devin · Jules

Další služby

Rozšiřte gateway.

Vestavěné služby

Spouštějte Bifrost, 9Router nebo CLIProxy jako spravované sidecary, nebo provozujte plný clusterový profil.

Vaše znalosti v kontextu

Připojte Notion a Obsidian jako zdroje kontextu přes MCP.

Vestavěné guardraily

Kontroly prompt injection, volitelná redakce PII a normalizované bezpečnostní filtry bez závislosti na poskytovateli.

Cíle využití

Sledujte série, úspěchy a živé úspory vedle provozní analytiky.

Z komunity

Jak se OmniRoute používá a o čem se diskutuje.

Podívejte se, co vývojáři staví, na co se ptají a co sdílejí na X, Redditu a YouTube.

32 videí z 32 kanálůZobrazit všech 32 komunitních videí

Profile picture of Peng
Peng@pengsonal
Link to tweet (opens in a new tab)
one local endpoint for cursor / cline / claude code / copilot 😳 OmniRoute (24.7k★ on GitHub) runs a self-hosted router on your machine so you only need one base URL for all your coding agents. wha…
Image

25 posts from X · 25 Reddit postsZobrazit všechny příspěvky

Vyvíjeno otevřeně

Aktivita repozitáře

Hvězdy, forky, přispěvatelé a vydání z uloženého snímku GitHubu.

  • 10,203forků
  • 737přispěvatelů
  • 281vydaných verzí
  • 7,924sloučených PR
  • 4,504uzavřených issues
  • 30,000automatizovaných testů

Snímek z 2026-09-30

Discord

Chat, podpora a roadmapa

(otevře se na nové kartě)

Telegram

Novinky a oznámení

(otevře se na nové kartě)

WhatsApp 🌍

Globální komunita

(otevře se na nové kartě)

WhatsApp 🇧🇷

Comunidade Brasil

(otevře se na nové kartě)
Seznamte se s přispěvateli (otevře se na nové kartě)

OmniRoute od Cheaper Inference

Vyberte si, jak OmniRoute provozovat.

Provozujte OmniRoute u sebe, nebo začněte s Cheaper Inference, hostovanou gateway řazenou podle ceny.

Vyzkoušet Cheaper Inference Provozovat OmniRoute u sebe (otevře se na nové kartě)