> Kukusanya viwango vya bure kwa mkono ni kazi ngumu — SDK nyingi, vikomo vingi vya matumizi, na hujui kwa hakika una kiasi gani. OmniRoute inaorodhesha **vipengee 489 vya viwango vya bure katika funguo 35 za hifadhi zinazojirudia** na hukokotoa jumla ya tokeni kutokana na **hifadhi 17 zenye bajeti chanya ya kila mwezi iliyochapishwa pamoja na vikomo vitano vya Groq kwa kila modeli**, huku nakala zinazoingia kwenye hifadhi moja zikiondolewa. Mgao unaopatikana tu baada ya ukaguzi wa utambulisho wa kikanda (kwa sasa: ModelScope) unaonyeshwa kando, +~6M baada ya uthibitishaji wa utambulisho wa kikanda, na kamwe haujumuishwi katika jumla kuu. Matokeo yanaendelea kuonekana kwenye dashibodi (`/dashboard/free-tiers`).
> Muhtasari uliohuishwa wa ukurasa wa moja kwa moja wa `/dashboard/free-tiers`. Mbinu kamili (uondoaji wa nakala za hifadhi, viwango vya salio, masharti ya watoa huduma): **[docs/reference/FREE_TIERS.md](docs/reference/FREE_TIERS.md)**.
>
> Takwimu hizi hukaguliwa upya kila baada ya wiki mbili kwa kulinganishwa na katalogi ya moja kwa moja na **hubadilika pande zote mbili** — mtoa huduma akisitisha kiwango cha bure, idadi hupungua; kiwango kipya kikiongezwa, idadi huongezeka. Tunachapisha kile ambacho katalogi hukokotoa kwa hakika, kamwe si hali bora iliyoongezwa kwa makadirio.
⭐ Ipe hazina nyota ikiwa OMNIROUTE imekusaidia kuokoa pesa na kurahisisha kazi yako.
[](https://github.com/diegosouzapw/OmniRoute)
[](https://www.star-history.com/diegosouzapw/omniroute)
[](https://olud.ai/project/diegosouzapw-omniroute.html)
### 💬 Jiunge na jumuiya
**👋 Mfuate mtunzaji — pata taarifa za watoa huduma wapya, matoleo na vidokezo kwanza:**
[](https://www.linkedin.com/in/diegosouzapw/)
[](https://github.com/diegosouzapw)
[](https://discord.gg/U47eFqAXCn)
[](https://t.me/omnirouteOficial)
[](https://chat.whatsapp.com/FvuCbrpZmQ6I85n2vW5QIC?s=cl&p=a&mlu=4)
[](https://chat.whatsapp.com/KWgatljAjmbELQory59Oti?s=cl&p=a&mlu=4)
[](https://omniroute.online)
**Maswali, vidokezo kuhusu watoa huduma, mpango wa maendeleo na usaidizi → [Discord](https://discord.gg/U47eFqAXCn) · [Telegram](https://t.me/omnirouteOficial) · WhatsApp [🌍 Kimataifa](https://chat.whatsapp.com/FvuCbrpZmQ6I85n2vW5QIC?s=cl&p=a&mlu=4) / [🇧🇷 Brasil](https://chat.whatsapp.com/KWgatljAjmbELQory59Oti?s=cl&p=a&mlu=4) / [Tovuti Kuu](https://portal.sthub.com.br/communities/groups/st-hub/channels/Omniroute-World-8kRjmK)**
## 📈 Gateway Inaendelea Kukua
| | v3.8.49 | **v3.8.50** | `v3.8.51+` |
| ----------------------------------------------- | :-----: | :-------------------------: | :--------------: |
| 🌐 Watoa huduma | 290 | **357** | zaidi zinasubiri |
| 🧠 Vitambulisho vya kipekee vya modeli za gumzo | 1185 | **1312** | — |
| 🖼️ Daraja la Modali | — | 🆕 kuona + sauti + video | — |
| 📡 Katalogi ya bila malipo ya Radar | — | 🆕 kwa kujisajili kwa hiari | — |
| ⚖️ Upangaji unaozingatia mgao | — | 🆕 Quota-Share | — |
| 📊 Telemetria ya mgao | — | 🆕 moja kwa moja | — |
**→ [Ramani ya Maendeleo](ROADMAP.md) — tukifuata mkondo kuelekea `v3.9.0 LTS`**
## 🧩 Inapatikana
[](https://www.npmjs.com/package/omniroute)

[](https://hub.docker.com/r/diegosouzapw/omniroute)
[](LICENSE)


## 🆓 Hufanya kazi mara tu unapoipakia — hakuna funguo, hakuna usanidi
```bash
# Usakinishaji mpya, sifa sifuri — `auto` tayari inafanya kazi:
curl http://localhost:20128/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"auto","messages":[{"role":"user","content":"Hello!"}]}'
```
Unapendelea backend maalum isiyolipishwa? Piga `oc/…` (OpenCode Free) moja kwa moja. Kisha panda hadi `auto` na umruhusu OmniRoute achague.📦 Nakili-bandika hati za kuanza haraka kwa **Python, Node.js, PHP, na cURL** → [`examples/quickstart/`](examples/quickstart/)
# 💥 Ahadi
# 🤔 Kwa nini OmniRoute?
## 🤝 Inaungwa mkono na Marafiki wetu wa Chanzo Huria
> **Je, unataka kujiunga kama Rafiki wa Chanzo Huria?** Hizi ni kampuni zinazou
## 🎯 Combo — Kipengele Kikuu
> **Combo** ni msururu wa modeli ambao OmniRoute huelekeza kupitia kwao **kiotomatiki**. Kiwango cha matumizi kikiisha, mtoa huduma akishindwa, au gharama zikipanda ghafla, combo inaweza kuhamia kwenye modeli inayofuata inayostahiki na iliyo katika hali nzuri. 🛡️
### ⚡ Hakuna usanidi — tumia tu `auto`
Hakuna combo ya kuunda. Weka modeli yako kuwa `auto` (au lahaja yake), na OmniRoute huunda combo pepe kutoka kwa watoa huduma wako waliounganishwa, huku ikiwapa alama moja kwa moja:
Kitambulisho cha modeli
Kile inachoboresha
auto
🎯 Chaguo-msingi lenye uwiano (LKGP — hushikamana na mtoa huduma wako wa mwisho aliyefanya kazi vizuri)
auto/coding
🧑💻 Uzito unaotanguliza ubora kwa ajili ya kuzalisha msimbo
auto/fast
⚡ Huanzia kwenye muda mfupi zaidi wa kusubiri
auto/cheap
💰 Huanzia kwenye gharama ndogo zaidi kwa tokeni
auto/offline
🔋 Huanzia kwenye nafasi kubwa zaidi ya kiwango cha matumizi / kikomo cha kasi
auto/smart
🔭 Hutanguliza ubora + ugunduzi wa 10% ili kutambua modeli bora zaidi
auto/lkgp
📌 Kushikamana moja kwa moja na mtoa huduma wa mwisho anayejulikana kuwa mzuri
auto/chaos
🧪 Uzito wa kuingiza hitilafu kwa ajili ya kupima ustahimilivu (uhandisi wa vurugu)
##
### 🔀 Au unda yako mwenyewe — mikakati 19 ya uelekezaji
Mikakati yote **19** — changanya na ulinganishe katika kila hatua ya combo:
#
Mkakati
Kile unachofanya
1
priority
Orodha iliyopangwa kuanzia lengwa la kwanza — tumia kila moja hadi iishe kabla ya inayofuata 🥇
2
fill-first
Tumia kikamilifu kiwango cha matumizi cha kila lengwa kabla ya kuendelea
3
weighted
Uchaguzi nasibu wenye uzito kulingana na uzito wa kila lengwa
4
round-robin
Pitia malengwa kwa mzunguko kwa mpangilio
5
p2c
Usawazishaji nasibu wa mzigo kwa kutumia chaguo mbili
6
least-used
Chagua lengwa lenye mzigo mdogo zaidi kwa sasa
7
random
Uchaguzi nasibu sawia (marudio yameondolewa)
8
strict-random
Uchaguzi nasibu bila kuondoa marudio 🎲
9
cost-optimized
Punguza $ kwa kila ombi kulingana na bei za moja kwa moja kwenye katalogi 💸
10
headroom
Chagua lengwa lenye kiwango kikubwa zaidi cha matumizi kilichosalia
11
reset-window
Pendelea lengwa ambalo kipindi chake cha kiwango cha matumizi kitawekwa upya mapema zaidi
12
reset-aware
Panga kwa muda wa kuweka upya kiwango cha matumizi — vipindi vifupi kwanza 📊
13
context-relay
Hamisha muktadha kati ya malengwa kwa mazungumzo marefu 🧠
14
context-optimized
Chagua kinachofaa zaidi kwa ukubwa wa sasa wa muktadha
15
cache-optimized
Unganisha kila kiambishi awali cha kidokezo kinachoweza kutumika tena kwenye akaunti ileile — ongeza mafanikio ya akiba ya vidokezo 🎯
16
lkgp
Njia ya Mwisho Inayojulikana Kuwa Nzuri — hushikilia mtoa huduma wa mwisho aliyefanikiwa, kisha hurudi kwenye kanuni ikishindikana
17
auto
Utoaji wa alama moja kwa moja kwa kutumia vipengele 16 kwenye kila muunganisho 🤖
18
fusion
Sambaza ombi kwa jopo la modeli + mwamuzi huunganisha jibu moja 🧬
19
pipeline
Unganisha hatua — matokeo ya kila lengwa huingizwa kwenye linalofuata 🔗
Injini ya Auto-Combo huipa kila kandidati alama kwa kutumia **vipengele 16** (hali, kiwango cha matumizi, gharama, muda wa kusubiri, ulinganifu na jukumu, ubora, upatikanaji wa kipindi…) — tazama [`docs/routing/AUTO-COMBO.md`](docs/routing/AUTO-COMBO.md).
##
### 🧱 Ustahimilivu umejengewa ndani (tabaka 3 huru)
📖 [Injini ya Auto-Combo](docs/routing/AUTO-COMBO.md) · [Mwongozo wa Ustahimilivu](docs/architecture/RESILIENCE_GUIDE.md)
## 🏆 Kinachotofautisha OmniRoute
📊 Mbinu kamili & maelezo ya kila kipengele dhidi ya 9router, OpenRouter, CLIProxyAPI & LiteLLM → [`docs/comparison/OMNIROUTE_VS_ALTERNATIVES.md`](docs/comparison/OMNIROUTE_VS_ALTERNATIVES.md)
## 💚 Saidia OmniRoute
OmniRoute ina leseni ya MIT na inadumishwa kwa uwazi. Ikiwa inakuokoa muda au pesa, hivi ndivyo unavyoweza kuisaidia ibaki huru — chagua chochote kinachokufaa. Ufadhili hauathiri kamwe kipaumbele cha uelekezaji; unanunua mwonekano, si nafasi katika orodha.
**🇧🇷 PIX** — papo hapo, bila ada (Brazili)
Ufunguo (nasibu): `5d865059-bc44-483a-962d-43ceb80126eb`
Pix ya kunakili na kubandika:
```
00020101021126580014br.gov.bcb.pix01365d865059-bc44-483a-962d-43ceb80126eb5204000053039865802BR5922OMNIROUTE CONTRIBUICAO6006BRASIL62070503***630475DD
```
₿ Sarafu za kidijitali — BTC · ETH · USDT-TRC20 · USDC-Solana (bofya ili kupanua)
₿ BTC
Bitcoin (SegWit)
bc1qh00smz004sy85wyl28v77tenkt3ckl6eaep7fd
Ξ ETH
Ethereum (ERC20)
0x64Cf6B68A6Ff34288e89172950a2d00102337a84
₮ USDT
Tron (TRC20)
TKAF41JpuQrHbKTnsQa9svJE2T192Hvsc2
$ USDC
Solana
2emNNZzVVWQc3FQ2wk9M6qXUQmW8AKdjjL174fXR28Tu
⚠️ Tuma kila sarafu kwenye mtandao ulioonyeshwa pekee — kutuma kwenye mtandao usio sahihi kunaweza kusababisha fedha kupotea.
🐛 Umepata hitilafu au una maoni? Fungua [Mjadala](https://github.com/diegosouzapw/OmniRoute/discussions).
Maelezo kwa wasanidi: Mradi unaweza kutengeneza faili ya ndani ya .env wakati wa npm install/postinstall kwa urahisi wa msanidi. Faili hii inapuuzwa kimakusudi kupitia .gitignore (angalia .gitignore) na haipaswi kamwe kuwekwa kwenye hazina — ikiwa imewekwa kwa bahati mbaya, badilisha siri zozote zilizofichuliwa na uondoe faili hiyo kwenye historia. Angalia docs/DEVELOPER-ENVIRONMENT.md kwa mwongozo kuhusu kudhibiti faili za mazingira ya ndani na siri.
## 📡 Rada ya OmniRoute
Kichwa kikuu cha kiwango kisicholipishwa kinaendelea kuwa **~1.62B tokeni/mwezi** kutoka kwenye katalogi iliyoelezwa hapo juu, iliyopunguzwa marudio kulingana na hifadhi ya pamoja. Salio la muda la kujisajili kwa watoa huduma linaweza kuongeza kiasi cha mwezi wa kwanza kando hadi **~2.22B**. Radar ni safu ya hiari ya katalogi iliyotiwa saini kwa watu wanaotaka taarifa mpya zaidi kuhusu upatikanaji wa modeli zisizolipishwa kati ya matoleo ya OmniRoute; katalogi ya jumuiya na kila kipengele kilichopo kisicholipishwa vitaendelea kuwa bila malipo.
Waungaji mkono wanaweza kupokea katalogi ya moja kwa moja na fursa za ziada kutoka kwa watoa huduma. Kikomo chake tofauti, kinachoweza kubadilika, ni **takribani tokeni 3B/mwezi kwa kiwango cha juu**, kulingana na upatikanaji wa watoa huduma. Kikomo hicho si hakikisho: watoa huduma wanaweza kubadilisha viwango vya matumizi, masharti ya kustahiki, modeli, au maeneo wakati wowote.
Radar ni ya kujiunga kwa hiari na hutumia GET pekee. Kiteja cha OmniRoute hakipakii vidokezo, trafiki, usanidi wa watoa huduma, data ya telemetria ya matumizi, au hali ya ndani ya kufuta matangazo. Jifunze kuhusu ustahiki na katalogi ya sasa kwenye **[radar.omniroute.online/planos](https://radar.omniroute.online/planos)**.
## ✨ Mambo Mapya
> Vivutio vya hivi karibuni kutoka **v3.8.20 → v3.8.50**. Historia kamili iko katika [`CHANGELOG.md`](CHANGELOG.md).
- **🎛️ OmniConductor** — ukabidhi wa A2A unaoingia kwa kundi lako la mawakala, ujuzi wa Conductor kwenye Agent Card, na paneli ya dashibodi yenye gumzo la sauti la kubonyeza-ili-kuzungumza la Faro. → [Seva ya A2A](docs/frameworks/A2A-SERVER.md)
- **🛂 Udhibiti unaobadilika wa ruhusa za kuingia na ulinzi dhidi ya mzigo kupita kiasi** — maombi mazito ya gumzo huwekwa kwenye foleni badala ya kurudisha 503, yakiwa na ukodishaji atomiki unaosogea wa RPM kwa kila muunganisho. → [Mwongozo wa Ustahimilivu](docs/architecture/RESILIENCE_GUIDE.md)
- **🗂️ Mpangilio sanifu wa `/v1/models`** — bloku moja mfululizo iliyopangwa kwa mtoa huduma kwa kila mtoa huduma (michanganyiko ikibandikwa kwanza), inayobaki thabiti katika kila chanzo cha katalogi. → [Rejeleo la API](docs/reference/API_REFERENCE.md)
- **🗜️ Uimarishaji wa mbano** — ulinzi dhidi ya upanuzi uliowashwa kwa chaguo-msingi, vifurushi vya Caveman vya DE / FR / JA + Kichina (wényán), vichujio vya RTK vya Gradle na .NET. → [Mbano](docs/compression/COMPRESSION_ENGINES.md)
- **💸 Gharama ya kweli ya kiwango kisichobadilika** — watoa huduma wa usajili / mpango wa usimbaji huonyesha **$0** katika uchanganuzi wa gharama; bajeti, kiasi kinachoruhusiwa na uelekezaji huendelea kufanya makadirio. → [Rejeleo la API](docs/reference/API_REFERENCE.md)
- **⚖️ Uelekezaji wa Quota-Share** — gawanya kwa haki kiasi kinachoruhusiwa cha akaunti inayoshirikiwa kati ya funguo zilizokusanywa pamoja, huku mfumo ukiendelea kutumia uwezo uliopo ili sehemu zisizotumika zikopeshwe. → [Mwongozo wa Ustahimilivu](docs/architecture/RESILIENCE_GUIDE.md)
- **🤖 Usanidi wa CLI/wakala kwa amri moja** — amri 13 za `setup-*` zilizosajiliwa; `omniroute run` huanzisha CLI 7 (Claude Code, Codex, Aider, Goose, OpenCode, Qwen Code, Gemini CLI); `omniroute configure` hutumia shabaha 10 zenye kiteuzi shirikishi cha mtoa huduma+modeli na vipendwa kwa kila muktadha. → [Miunganisho ya CLI](docs/guides/CLI-INTEGRATIONS.md)
- **🛰️ Hali ya mbali** — endesha OmniRoute ya mbali kwa tokeni zenye wigo (`connect` / `contexts` / `tokens`) + kisaidizi cha OAuth cha `antigravity` kwa usakinishaji wa VPS. → [Hali ya Mbali](docs/guides/REMOTE-MODE.md)
- **🧭 Uelekezaji otomatiki wenye akili zaidi** — michanganyiko ya `auto/:`, **Fusion** (paneli ya modeli + mwamuzi), uelekezaji unaozingatia jukumu, ubatilishaji wa modeli / hali / bajeti ya USD kwa kila ombi. → [Auto-Combo](docs/routing/AUTO-COMBO.md)
- **🗜️ Mbano unaoweza kuongezewa moduli** — injini 12 zinazoweza kuunganishwa + Compression Studios: LLMLingua-2, Ultra ya ngazi mbili, omniglyph, lango la uaminifu kwa kila hatua, GCF v3.2, kihariri cha kuburuta na kupanga upya. → [Mbano](docs/compression/COMPRESSION_ENGINES.md)
- **🕵️ Usimbuaji fiche wa uwazi wa MITM (TPROXY)** — nasa CLI zinazopuuza vigezo vya mazingira vya proksi, kwa kutumia CA ya kila SNI + kisakinishaji cha hifadhi ya uaminifu. → [MITM/TPROXY](docs/security/MITM-TPROXY-DECRYPT.md)
- **💸 Telemetria ya gharama kila mahali** — vichwa vya gharama/matumizi vya `X-OmniRoute-*` kwenye kila endpoint, kichwa cha akiba ya cache-HIT, vikomo vya matumizi ya USD kwa kila ufunguo. → [Rejeleo la API](docs/reference/API_REFERENCE.md)
- **🧠 Kumbukumbu unayoidhibiti** — imezimwa kwa chaguo-msingi, ukadiriaji wa vekta wa int8 wa kuwashwa kwa hiari + ufifiaji wenye aina, `x-omniroute-no-memory` kwa kila ombi. → [Kumbukumbu](docs/frameworks/MEMORY.md)
- **🛡️ Usalama** — ulinzi dhidi ya udungaji wa prompt kwenye kila njia ya LLM (msururu wa majaribio ya red-team), ulinzi wa kuficha vitambulisho unaowashwa kwa hiari (huficha funguo/siri za API zilizovuja katika pande zote mbili), utafutaji wa wavuti wa bure wa DuckDuckGo kama suluhisho la mwisho, na lango la hiari la kuingia la OIDC kwa dashibodi (uingiaji kwa nenosiri daima hubaki kupatikana). → [Vizuizi vya Usalama](docs/security/GUARDRAILS.md)
- **🖼️ Endpoint mpya** — `/v1/ocr` (Mistral OCR) na `/v1/audio/translations` (kwa mtindo wa Whisper) hukamilisha huduma za midia. → [Rejeleo la API](docs/reference/API_REFERENCE.md)
- **🎨 Utengenezaji wa picha / video / sauti** — API moja ya midia: video za xAI Grok Imagine na Novita AI, ComfyUI, Magnific, Adobe Firefly, Segmind, na watoa huduma za matamshi kama ElevenLabs. → [Rejeleo la API](docs/reference/API_REFERENCE.md)
- **🌍 Usambazaji na uendeshaji** — `basePath` ya reverse-proxy, utambuzi otomatiki wa lugha ya kivinjari, ufuatiliaji wa vifaa kwa kila ufunguo, uaminifu wa MITM usiohitaji root, ujanibishaji wa zh-TW. → [Mazingira](docs/reference/ENVIRONMENT.md)
- **🤝 Watoa huduma na mawakala zaidi** — mawakala wa wingu (Codex Cloud, Cursor, Devin, Jules), Grok Build (xAI) yenye kivinjari + uingiaji wa OAuth, kadi kamili ya Ollama, Claude Opus 5 na Sonnet 5, ushirikiano rasmi na Kimi (Code/Web/Moonshot), Zed, Requesty, SenseNova, Yuanbao, Agnes AI… na **katalogi ya watoa huduma 352** iliyosasishwa. → [Watoa Huduma](docs/reference/PROVIDER_REFERENCE.md)
- **📡 Uwazi wa uelekezaji** — kila jibu huwa na kichwa cha `X-OmniRoute-Decision` kinachotaja mkakati/mtoa huduma/muda wa kusubiri uliolitumikia, mkakati mpya wa mchanganyiko wa `cache-optimized` + kipengele cha Auto-Combo cha `cacheAffinity` huelekeza maombi yanayorudiwa kwenye muunganisho ulio na kiambishi awali kilichohifadhiwa kwenye cache, na endpoint ya kusoma pekee ya `/v1/auto-combo/{channel}/candidates` huonyesha kundi hai la wagombea la channel ya `auto/*`. → [Auto-Combo](docs/routing/AUTO-COMBO.md)
- **⚡ Utendaji na miundombinu ya ndani** — Redis ya ndani kwa mbofyo mmoja, visambazaji vya relay vya Cloudflare Workers / Deno Deploy, Bifrost na Mux kama huduma zilizopachikwa na kusimamiwa. → [Huduma Zilizopachikwa](docs/frameworks/EMBEDDED-SERVICES.md)
- **🧩 Pia ndani ya kifurushi** — mfumo wa programu-jalizi + soko, mifumo ya ujuzi ya Omni/Agent/GitHub, muunganisho wa hifadhi ya Obsidian (zana 22 za MCP), API za Batch na Files zinazooana na OpenAI, cache ya kisemantiki ya majibu, uchezeshaji wenye bao za wanaoongoza, ugunduzi wa mawakala wa ACP (mawakala 15 waliojengewa ndani), uhamishaji wa kumbukumbu ulioratibiwa kwenda BigQuery, udungaji wa hitilafu wa `auto/chaos`, daraja la boti ya Telegram, kidhibiti cha matoleo ndani ya programu na viwango vya watoa huduma wa bure vya LMArena-ELO. → [Nyaraka](docs/README.md)
## 🤖 CLI na Mawakala wa Uandishi wa Msimbo Wanaooana
> Usanidi mmoja — `http://localhost:20128/v1` — na **kila** IDE au CLI ya AI hufanya kazi kwa kutumia modeli za bure na za gharama nafuu.
+ pia hufanya kazi na · Agent Deck · Kiro · Command Code · Antigravity · Windsurf · AMP · zana yoyote inayooana na OpenAI
📖 Usanidi wa kila zana kwa zana zote 36 (CLI Code 26 + CLI Agents 10) → [`docs/reference/CLI-TOOLS.md`](docs/reference/CLI-TOOLS.md) · 🧩 Programu-jalizi ya OpenCode → [`@omniroute/opencode-provider`](https://www.npmjs.com/package/@omniroute/opencode-provider)
**Zindua CLI yoyote inayotumika kupitia OmniRoute kwa amri moja** — hakuna faili za usanidi zinazoandikwa,
vitambulisho vinawekwa kwa kila mchakato, Qwen/Gemini hupata saraka ya nyumbani iliyotengwa na ya muda:
```bash
omniroute run claude --model openai/gpt-5.4 # Claude Code
omniroute run codex --model glm/glm-5.2 # OpenAI Codex CLI
omniroute run aider --model glm/glm-5.2 -- --message "reply OK"
omniroute run goose --model glm/glm-5.2
omniroute run opencode --model glm/glm-5.2 -- run "reply OK"
omniroute run qwen --model glm/glm-5.2 -- -p "reply OK"
omniroute run gemini --model glm/glm-5.2 -- --skip-trust -p "reply OK"
# Au chagua mtoa huduma+modeli kwa maingiliano na uandike usanidi wa zana yenyewe:
omniroute configure codex # pia: claude opencode qwen aider goose gemini cline continue kilo
```
Kila amri huheshimu muktadha amilifu wa mbali (`omniroute connect `), `--dry-run`
huonyesha mapema env/args halisi bila kuzitekeleza, na `--api-key-env NAME` huzuia siri zisiingie
kwenye historia ya shell yako. → [Miunganisho ya CLI](docs/guides/CLI-INTEGRATIONS.md)
## 🌐 Watoa Huduma 357 wa AI — 152 Waliotiwa Alama kwenye Katalogi kuwa Bila Malipo
> **Watoa huduma 357 waliosajiliwa** katika mikusanyiko sanifu ya gumzo, midia, utafutaji, huduma za ndani, mawakala wa wingu na mfumo, ikijumuisha **152 wenye metadata ya ugunduzi ya `hasFree: true`**. Sajili ya modeli za gumzo inajumuisha **watoa huduma 229 / jozi 2,554 tofauti za mtoa huduma na modeli / vitambulisho ghafi 1,283 vya modeli**; katalogi tofauti ya bajeti isiyolipishwa ina **safu 491 za kila modeli**, **makundi 35 yanayojirudia** na **watoa huduma 54 wa kudumu wasiolipishwa wenye huduma zinazojirudia/zisizohitaji ufunguo**. Hizi ni denomineta tofauti kimakusudi; ufafanuzi na hesabu zilizoondoa urudufu wa makundi zinapatikana katika [Rejeleo la Watoa Huduma](docs/reference/PROVIDER_REFERENCE.md) na [Viwango vya Matumizi Bila Malipo](docs/reference/FREE_TIERS.md).
### 🏢 Kila maabara kuu — kupitia endpoint moja
OpenAI
Anthropic
Gemini
xAI Grok
DeepSeek
Mistral
Qwen
Meta Llama
Groq
NVIDIA
MiniMax
Cohere
Perplexity
HuggingFace
Together
Fireworks
Cloudflare
Baidu
…na wengine 330+ — kila ikoni hupatikana moja kwa moja kutoka kwenye katalogi ya watoa huduma ya dashibodi. 📖 [Rejeleo la Watoa Huduma](docs/reference/PROVIDER_REFERENCE.md)
### 🆓 Bila Malipo Milele — $0, hakuna kadi
OpenCode Zen DeepSeek V4, Nemotron 3 Hakuna kikomo cha tokeni
Kilo Code Kipanga-njia otomatiki, Tencent Hy3 Bure milele
Requesty GPT-OSS 120B, Nemotron Bure milele
SiliconFlow DeepSeek V3.2 / R1 Kiwango cha bure
Z.AI GLM GLM-4.7 / 4.5-Flash Bure milele
Baidu ERNIE ERNIE 4.0 Bure milele
Qoder AI Qwen3-Max, Kimi-K2 BURE bila kikomo
Pollinations GPT, Llama, Claude Hakuna ufunguo unaohitajika
Cloudflare AI Miundo 50+ Neuroni 10K/siku
NVIDIA NIM GLM, MiniMax ~40 RPM bila malipo
Cerebras GLM 4.7, GPT-OSS Tokeni 1M/siku
OpenRouter Miundo ya :free +$10 → RPM ya juu zaidi
📖 Katalogi kamili inayosomeka na mashine → [`docs/reference/PROVIDER_REFERENCE.md`](docs/reference/PROVIDER_REFERENCE.md)
## 🖥️ OmniRoute Huendeshwa Wapi — Popote
> Programu ileile, mashine yako, sheria zako. Kuanzia usakinishaji wa kimataifa wa npm hadi **simu yako** kupitia Termux.
Jukwaa
Usakinishaji
Vipengele muhimu
📦 npm (kimataifa)
npm install -g omniroute
Amri moja, mfumo wowote wa uendeshaji
🐳 Docker
docker run … diegosouzapw/omniroute
Miundio mingi AMD64 + ARM64
🖥️ Kompyuta ya mezani (Electron)
npm run electron:build
Dirisha asilia + trei ya mfumo — Windows / macOS / Linux
🎩 Upau wa menyu (OmniRouteTray)
brew install --cask zoispag/tap/omniroute-tray
Husimamia & kusasisha seva kiotomatiki — macOS
💪 ARM
asilia arm64
Raspberry Pi, seva za ARM, Apple Silicon
📱 Android (Termux)
pkg install nodejs && npx -y omniroute
Huendeshwa kwenye simu yako, saa 24/7, bila root
📲 PWA
"Ongeza kwenye Skrini ya Mwanzo"
Skrini nzima, nje ya mtandao, inaweza kusakinishwa kutoka kwenye kivinjari
🧩 Programu-jalizi ya OpenCode
@omniroute/opencode-provider
Muunganisho asilia wa OpenCode
🤖 VS Code Copilot Chat
sakinisha kiendelezi cha OmniCopilot
Kila modeli ya OmniRoute katika kiteuzi asilia cha Copilot Chat — toleo thabiti & Insiders
🛠️ Kutoka kwenye msimbo chanzo
npm install && npm run dev
Ifanyie marekebisho, changia
📖 [Mwongozo wa Docker](docs/guides/DOCKER_GUIDE.md) · [Kompyuta ya mezani](electron/README.md) · [Trei ya upau wa menyu](https://github.com/zoispag/omniroute-tray) · [Termux](docs/guides/TERMUX_GUIDE.md) · [PWA](docs/guides/PWA_GUIDE.md) · [OpenCode](docs/frameworks/OPENCODE.md)
### 🧩 Mpya: OmniRoute ndani ya Copilot Chat asilia ya VS Code
> Hakuna upau mpya wa pembeni, hakuna kiolesura kipya cha gumzo — kila modeli inayotolewa na OmniRoute huonekana moja kwa moja kwenye
> **kiteuzi cha modeli cha Copilot Chat ambacho tayari unatumia**. Tangu VS Code 1.122, modeli za watoa huduma hufanya kazi
> bila kuingia kwa akaunti ya GitHub au kuwa na usajili wa Copilot — hali ya ajenti, uitaji wa zana na uwezo wa kuona, bila
> malipo.
Sakinisha kiendelezi cha **[OmniCopilot](https://github.com/diegosouzapw/OmniCopilot)**, kielekeze
kwenye seva yako ya OmniRoute (chaguo-msingi ni `localhost:20128`), kisha fungua Copilot Chat → kiteuzi cha modeli
→ **Dhibiti Modeli…** → **OmniRoute**.
Kutoka ndani ya kihariri: fungua mwonekano wa **Viendelezi**, tafuta **"OmniRoute"**, bofya **Sakinisha**
— hufanya kazi kwa njia ileile kwenye maduka yote mawili. Msimbo chanzo, masuala na mwongozo wa uchapishaji vinapatikana kwenye
[diegosouzapw/OmniCopilot](https://github.com/diegosouzapw/OmniCopilot).
📖 [Mwongozo wa VS Code Copilot Chat](docs/guides/VSCODE-COPILOT.md) — usanidi, kile ambacho kiteuzi huonyesha, dashibodi ndani ya kichupo, utatuzi wa matatizo
### 🎩 Mpya: OmniRouteTray — lango lako, likiishi kwenye upau wa menyu
> `omniroute serve` hufanya kazi vyema zaidi ikiwa imewashwa kila wakati. **[OmniRouteTray](https://github.com/zoispag/omniroute-tray)**
> hubadilisha hilo kuwa programu ya upau wa menyu ya macOS unayosanidi na kuisahau: huanzisha seva, huiweka ikiendelea kufanya kazi
> baada ya kuwasha upya, huisasisha papo hapo, na kuweka bajeti yako ya tokeni ya moja kwa moja umbali wa mbofyo mmoja — **hakuna
> dirisha la terminal linaloachwa wazi, hakuna `npm install -g omniroute` ya kuendelea kusimamia.**
Imeundwa kwa [Tauri v2](https://v2.tauri.app/) (kiini cha Rust chenye ukubwa mdogo sana), inakuja
na mazingira yake ya utekelezaji ya Node 24 yaliyotiwa sahihi na inasimamia usakinishaji wa OmniRoute unaomilikiwa na programu, kwa hivyo haigongani kamwe na
`node`/`bun` yako ya kimataifa. **Inashiriki usanidi na hifadhidata yako iliyopo ya `~/.omniroute/`** — kwa hivyo ni
OmniRoute ileile ambayo tayari unaendesha, lakini sasa ikiwa imevaa kofia. 🎩
Inachofanya
Jinsi inavyofanya
🟢 Husimamia seva
Huanzisha omniroute serve, hutumia instansi ambayo tayari inaendeshwa badala ya kuiunda mara mbili
📊 Matumizi ya moja kwa moja kwa muhtasari
Pau za mgao wa watoa huduma, vikomo vya vipindi vya Claude/kila wiki pamoja na vihesabio vya muda hadi kuwekwa upya, uchanganuzi wa gharama za siku 30
🔄 Hujisasisha kiotomatiki papo hapo
Usakinishaji wa hatua kwa hatua, ubadilishaji atomiki, kurejesha toleo la awali ikishindikana — daima kwenye toleo jipya zaidi
🚀 Anza wakati wa kuingia
Uzinduzi wa hiari wakati wa kuingia; trei pekee, hakuna ikoni ya dock
🩺 Uchunguzi & kumbukumbu
Uchunguzi kwa mbofyo mmoja na ufikiaji wa kumbukumbu za seva
```sh
brew install --cask zoispag/tap/omniroute-tray
```
Unapendelea kupakua? Pakua .dmg ya hivi karibuni kutoka
Matoleo. Msimbo chanzo, masuala na nyaraka za
ujenzi zinapatikana katika zoispag/omniroute-tray.
💛 Mradi wa jamii ulioundwa na @zoispag — si toleo rasmi la OmniRoute.
## 🔒 Faragha na Inayotanguliza Uendeshaji wa Ndani
📖 [Uidhinishaji](docs/architecture/AUTHZ_GUIDE.md) · [Vizuizi vya Usalama](docs/security/GUARDRAILS.md) · [Uzingatiaji](docs/security/COMPLIANCE.md)
## 🔌 CLI Kamili + A2A na MCP
> Zaidi ya seva, OmniRoute ni **kituo kamili cha udhibiti cha mstari wa amri** chenye **amri 80+**, pamoja na itifaki wazi za mawakala ili wakala wa AI aweze kuiendesha **peke yake**.
### ⌨️ CLI halisi (si `start` pekee)
```bash
omniroute # endesha lango + dashibodi (porti 20128)
omniroute chat # kiteja shirikishi cha gumzo cha TUI (mikato: /model /combo /skill /memory)
omniroute setup # kiratibu kinachoongozwa cha matumizi ya kwanza
omniroute doctor # tambua matatizo ya watoa huduma, porti na vitegemezi asilia
```
### 🛰️ Hali ya mbali — endesha CLI hapa, OmniRoute kwenye VPS
OmniRoute iko kwenye seva? Iendeshe kutoka kwenye kompyuta yako mpakato kwa **CLI ileile**. Ingia mara moja
kwa tokeni ya ufikiaji yenye mawanda; baada ya hapo kila amri inalenga seva ya mbali.
```bash
omniroute connect 192.168.0.15 # nenosiri → tokeni yenye mawanda, imehifadhiwa kama muktadha
omniroute models list # ← huendeshwa dhidi ya seva ya MBALI
omniroute configure codex # ← huchagua modeli ya mbali, huandika wasifu wa ndani wa Codex
omniroute tokens create --name ci --scope read # tengeneza tokeni zenye mawanda finyu zaidi kwa mashine nyingine
omniroute contexts use default # ← rudi kwenye seva ya ndani
```
Tokeni zina mawanda ya `read` / `write` / `admin`; njia zinazoanzisha michakato hubaki kwenye loopback pekee.
📖 [Hali ya Mbali](docs/guides/REMOTE-MODE.md)
### 🤝 Unganisha wakala — naye atadhibiti OmniRoute yenyewe
Fichua OmniRoute kupitia **MCP**, **A2A**, **REST API**, **webhooks** au **CLI ya mbali** — wakala yeyote mwenye uwezo (au msimbo wako mwenyewe) anapata udhibiti wa lango zima: uelekezaji, watoa huduma, michanganyiko, kache, ubanaji, kumbukumbu — kwa kujitegemea. Vituo vya HTTP vilivyo hapa chini vinapatikana chini ya `http://localhost:20128`.
Kiolesura
Kituo / amri
Kitumie kwa
🧰 MCP (stdio)
omniroute --mcp
Unganisha na Claude Desktop, Cursor au kiteja chochote cha MCP
🌊 MCP (HTTP)
/api/mcp/stream
MCP ya mbali — zana 110, mawanda 33 (utekelezaji huwashwa kwa hiari), rekodi kamili ya ukaguzi
📡 MCP (SSE)
/api/mcp/sse
Usafirishaji wa MCP kwa mtiririko
🤝 A2A
/.well-known/agent.json
Wakala-kwa-wakala, JSON-RPC 2.0 + SSE, ujuzi 6
🌐 REST API
/v1/*
Inayooana na OpenAI — gumzo, upachikaji, picha, sauti, OCR
🔔 Webhooks
/api/webhooks
Sukuma matukio ya maombi / mgao kwenda Slack, Discord, Telegram au URL yoyote
🛰️ CLI ya Mbali
omniroute connect
Endesha mfumo wa mbali kwa tokeni za ufikiaji zenye mawanda
```bash
# Ipe Claude Code seti kamili ya zana za OmniRoute kupitia MCP:
claude mcp add-server omniroute --type http --url http://localhost:20128/api/mcp/stream
```
📖 [Seva ya MCP](docs/frameworks/MCP-SERVER.md) · [Seva ya A2A](docs/frameworks/A2A-SERVER.md) · [Itifaki za Mawakala](docs/frameworks/AGENT_PROTOCOLS_GUIDE.md)
## 🗜️ Okoa Tokeni 15–95% — Kiotomatiki
### 📖 Jinsi inavyofanya kazi — mfululizo wa uchakataji, usanifu na hesabu ya uokoaji
Mchanganyiko chaguo-msingi uliopangwa kwa mfululizo huendesha `RTK → Caveman`. Zote mbili zinapotumika kwenye mzigo uleule wa zana/muktadha, uokoaji huongezeka kwa kuzidishana:
```txt
combined = 1 − (1 − RTK) × (1 − Caveman_input)
average = 1 − (1 − 0.80) × (1 − 0.46) = 89.2%
range = 78.4 – 94.6%
```
Vizuizi vya msimbo, URL, JSON na data iliyopangwa **hulindwa kila wakati** na injini ya uhifadhi.
> **Kwa nini utumie tokeni nyingi ilhali chache zinatosha?** Kila ombi hupitia mfululizo wa ubanaji wa OmniRoute **kwa uwazi** — hakuna mabadiliko kwa mteja. Sasa ni **msururu wa injini 12 zinazoweza kuunganishwa** ambazo huendeshwa kwa mpangilio na kuchanganywa kulingana na kila mchanganyiko wa uelekezaji — ukijengwa juu ya mawazo kutoka [RTK](https://github.com/rtk-ai/rtk), [Caveman](https://github.com/JuliusBrussee/caveman) (⭐ 90K+), [LLMLingua-2](https://github.com/microsoft/LLMLingua), na [Troglodita](https://github.com/leninejunior/troglodita) (PT-BR).
### 🧱 Msururu wa injini 12
Injini huendeshwa kwa mpangilio wa mfululizo wa uchakataji; kila moja inaweza kuwashwa au kuzimwa na kusanidiwa kivyake kwa kila mchanganyiko:
#
Injini
Inachofanya
1
Session-Dedup
Huondoa maudhui yanayorudiwa katika zamu mbalimbali (yanayotambuliwa kwa maudhui, kati ya zamu)
2
CCR
Huhifadhi vizuizi vikubwa nyuma ya viashirio vya urejeshaji, ambavyo huchukuliwa vinapohitajika
3
Lite
Upunguzaji wa nafasi tupu + URL za picha (msingi wenye ucheleweshaji mdogo)
4
RTK
Uchujaji mahiri, uondoaji wa nakala na ufupishaji wa matokeo ya zana (unaotambua amri)
5
Responses Tool Output
JSON inayotanguliza kutopoteza data + ubanaji wa uchunguzi wenye mipaka kwa matokeo ya shell/patch/search/build (Responses API)
6
Headroom
Ubanaji wa jedwali usiopoteza data wa safu za JSON (~30%) kupitia kodeki ya GCF iliyojumuishwa
7
Relevance
Upangaji wa alama za sentensi kwa uchimbaji dhidi ya hoja ya mwisho ya mtumiaji
8
Caveman
Ubanaji wa nathari unaotegemea kanuni (~65–75% kwenye matokeo)
9
Aggressive
Ufupishaji + uzeeshaji endelevu wa zamu za zamani
10
LLMLingua-2
Upogoaji wa kisemantiki wa ML kupitia MobileBERT ONNX — salama kwa msimbo, usawazishaji huru
11
Ultra
Upogoaji wa tokeni wa kiheuristiki wenye daraja la hiari la modeli ndogo (SLM)
12
OmniGlyph
Usimbaji wa majaribio wa muktadha kama picha kwa Claude Fable 5 iliyopimwa kwenye muunganisho wa moja kwa moja wa Anthropic; vigeuzi vya GPT 5.6 huendelea kukataa kwa usalama hadi stakabadhi za mtoa huduma zipatikane. Wasifu wanne wa ubanaji (mkali kama chaguo-msingi, uliosawazishwa, salama kwa uandishi wa msimbo, upitishaji bila mabadiliko) (mkali zaidi; lazima uchague kuutumia)
Vizuizi vya msimbo, URL na data iliyopangwa **huhifadhiwa kila wakati** bila kubadilisha hata baiti moja. **Mipangilio ya awali ya mbofyo mmoja** huunganisha injini:
Hali
Uokoaji
Inafaa zaidi kwa
🪶 Lite
~15%
Chaguo-msingi salama linalowashwa kila wakati
🪨 Standard (Caveman)
~30%
Uandishi wa msimbo wa kila siku
⚡ Aggressive
~50%
Vipindi virefu vinavyotumia zana nyingi
🔥 Ultra
~75%
Uokoaji wa kiwango cha juu zaidi
🧰 RTK
60–90%
Matokeo ya shell/test/build/git
🔗 Stacked (RTK → Caveman)
78–95%
Vidokezo mchanganyiko + kumbukumbu za zana
**Mfano halisi — Hali ya Standard:**
> **Kabla (tokeni 69):** _"Sababu inayowezekana ya kijenzi chako cha React kuonyeshwa upya ni kwamba unaunda rejeleo jipya la kitu katika kila mzunguko wa uonyeshaji. Unapopitisha kitu kilichoandikwa moja kwa moja kama prop, ulinganishaji wa juu juu wa React hukiona kama kitu tofauti kila wakati, jambo linalosababisha kuonyeshwa upya. Ningependekeza utumie useMemo kuhifadhi kitu hicho kwenye kumbukumbu."_
>
> **Baada (tokeni 19):** _"Rejeleo jipya la kitu kila uonyeshaji. Prop ya kitu kilichoandikwa moja kwa moja = rejeleo jipya = kuonyeshwa upya. Kifunge katika useMemo."_
>
> **Jibu lilelile. Tokeni chache kwa 72%. Hakuna upotevu wa usahihi.** ✅
**Mfano wa PT-BR — hali ya [Troglodita](https://github.com/leninejunior/troglodita):**
> **Kabla (tokeni 42):** _"Tatizo ni kwamba kijenzi kinachorwa upya kwa sababu rejeleo jipya la kitu linaundwa katika kila mzunguko wa uchoraji. Ningependekeza kutumia useMemo."_
>
> **Baada (tokeni 12):** _"Uchoraji upya: rejeleo jipya kila mzunguko (kitu cha inline kinaundwa upya). Tumia `useMemo`."_
>
> **Jibu lilelile. Takriban tokeni 70% chache. Usahihi wa kiufundi haujabadilika.** ✅
### 🎚️ Zaidi ya injini — mitindo ya matokeo, kidhibiti kinachojirekebisha na udhibiti kwa kila ombi
Injini 12 zilizo hapo juu hupunguza kinachoingia **ndani**. Tabaka nyingine tatu huamua **jinsi**, **wakati**, na kile kinachotoka **nje**:
- **🪄 Mitindo ya Matokeo** _(uelekezaji wa mhimili wa matokeo)_ — huingiza maagizo thabiti, salama kwa akiba, ya kuunda mwitikio; yanaweza kuunganishwa, kila moja likiwa na kiwango cha `lite` / `full` / `ultra`. Kuongeza mtindo ni ingizo la mstari mmoja kwenye sajili:
- **Nathari fupi** — ondoa maneno ya ziada / vihisishi / kauli za kusita; hifadhi maudhui ya kiufundi kwa usahihi.
- **Msimbo mchache** — YAGNI ya "msanidi mkuu mvivu": badiliko dogo zaidi linalofanya kazi, bila miundombinu ambayo haikuombwa.
- **Ponytail (msanidi mkuu mvivu)** — panda ngazi ya YAGNI, rekebisha chanzo cha tatizo, tofauti ndogo zaidi inayofanya kazi.
- **Nina ADHD (kitendo kwanza)** — anza na kitendo kinachofuata, hatua ziwekwe nambari, hatua moja mahususi inayofuata, bila utangulizi.
- **CJK fupi (文言)** — mtindo mfupi sana wa Kichina cha kale (umewekewa kikomo cha lugha ya `zh`).
- **🎯 Bajeti ya muktadha inayojirekebisha** _(kidhibiti)_ — badala ya kizingiti kimoja cha tokeni cha kuwasha/kuzima, ongeza matumizi ya injini za gharama nafuu zaidi na zisizopoteza taarifa kadiri tu inavyohitajika ili **kutoshea dirisha la muktadha la modeli**. Sera: `reserve-output` (chaguo-msingi, hutambua modeli) · `percentage` · `absolute`. Hali: `floor` (hakikisha inatoshea) · `replace-autotrigger` (chaguo lako mahususi linatawala) · `off` (kizingiti cha zamani).
- **🎛️ Mahali ambapo ufinyazaji unaamuliwa** _(mpangilio wa kipaumbele, juu → chini)_ — kichwa cha kila ombi cha `x-omniroute-compression` › ubatilishaji wa mchanganyiko wa uelekezaji › wasifu uliotajwa unaotumika › urekebishaji / uanzishaji otomatiki › chaguo-msingi la paneli › kuzima. Mpango uliotumika hurudishwa katika kichwa cha mwitikio cha `X-OmniRoute-Compression: ; source=`.
Anzisha kiotomatiki kwa kizingiti cha tokeni, washa kidhibiti kinachojirekebisha, bandika wasifu uliotajwa, weka mpangilio wa mara moja kwa kila ombi, au gawa mnyororo wa uchakataji kwa kila mchanganyiko wa uelekezaji — lolote linalofaa mzigo wa kazi. **Zana ya tathmini** ya nje ya mtandao ya kuchagua kutumia (`npm run eval:compression`) hupima uaminifu dhidi ya uokoaji kwenye mkusanyiko uliobandikwa kabla hujapitisha badiliko.
📖 [`COMPRESSION_GUIDE.md`](docs/compression/COMPRESSION_GUIDE.md) · [`RTK_COMPRESSION.md`](docs/compression/RTK_COMPRESSION.md) · [`COMPRESSION_ENGINES.md`](docs/compression/COMPRESSION_ENGINES.md)
# ⚡ Anza Haraka
**1) Sakinisha na uendeshe**
```bash
npm install -g omniroute
omniroute
```
> 💡 Unaona `npm warn ERESOLVE` au maonyo ya peer-dep? [Hayana madhara](docs/guides/TROUBLESHOOTING.md#npm-install-warnings-eresolve--peer--deprecated).
Dashibodi iko `http://localhost:20128` · API iko `http://localhost:20128/v1`.
**2) Unganisha mtoa huduma wa BURE (bila kujisajili)**
Dashibodi → **Watoa Huduma** → unganisha **Kiro AI** (Claude ya bure, takriban salio 50/mwezi kwa kila akaunti) au **OpenCode Free** (bila uthibitishaji) → tayari.
**3) Elekeza zana yako ya kuandika msimbo**
```txt
URL ya Msingi: http://localhost:20128/v1
Ufunguo wa API: [nakili kutoka Dashibodi → Vituo vya Mwisho]
Modeli: auto (uelekezaji mahiri bila usanidi — au mtoa huduma/modeli yoyote)
```
**4) Thibitisha kuwa inafanya kazi**
```bash
curl http://localhost:20128/v1/models -H "Authorization: Bearer YOUR_KEY"
```
Unapaswa kuona modeli ulizounganisha zikiwa zimeorodheshwa. 🎉 Imekamilika — anza kuandika msimbo, na OmniRoute itakuelekezea kiotomatiki na kutumia njia mbadala inapohitajika.
Ikiwa kiteja chako hakiwezi kutuma vichwa maalum, OmniRoute pia hutoa lakabu za uoanifu zilizo na tokeni:
```txt
Katalogi ya OpenAI: http://localhost:20128/vscode/YOUR_KEY/
Modeli za OpenAI: http://localhost:20128/vscode/YOUR_KEY/models
Gumzo la OpenAI: http://localhost:20128/vscode/YOUR_KEY/chat/completions
Majibu ya OpenAI: http://localhost:20128/vscode/YOUR_KEY/responses
Gumzo la Ollama: http://localhost:20128/vscode/YOUR_KEY/api/chat
Lebo za Ollama: http://localhost:20128/vscode/YOUR_KEY/api/tags
```
Tumia hizi kwa viteja ambavyo haviwezi kuambatisha `Authorization: Bearer ...` pekee. Uthibitishaji kwa kichwa unabaki kuwa hali inayopendelewa.
## 📦 Mbinu zaidi za usakinishaji — Docker, msimbo chanzo, pnpm, Arch
**🐳 Docker**
```bash
docker run -d --name omniroute --restart unless-stopped --stop-timeout 40 \
-p 127.0.0.1:20128:20128 -v omniroute-data:/app/data diegosouzapw/omniroute:latest
```
`:latest` hufuata toleo thabiti la juu zaidi la SemVer **lililochapishwa**. Haifuatilii `main` ya git. Bandika `:X.Y.Z` kwa GitOps. Tazama [Vituo vya Matoleo ya Docker](docs/guides/DOCKER_GUIDE.md#release-channels).Image hubandika **`OMNIROUTE_MEMORY_MB=1024`**. Hiyo inatosha kwa dashibodi na gumzo jepesi. **Mawakala wa uandishi wa msimbo** (`POST /v1/responses` kutoka Claude Code, Codex, Grok, …) wanahitaji heap kubwa zaidi ya V8, la sivyo mchakato hupata `FATAL ERROR` unapofikia takriban GiB 12 chini ya miktadha miwili mirefu inayopishana. Weka ukubwa wa kontena juu ya heap (bafa asilia huwa nje ya V8):
| Mzigo wa kazi | Heap (`-e OMNIROUTE_MEMORY_MB`) | Kontena (`--memory`) |
| -------------------------------------------- | ------------------------------- | -------------------- |
| Dashibodi / gumzo jepesi | `1024` (chaguo-msingi la image) | ≥2 g |
| Wakala mmoja wa uandishi wa msimbo | `8192` | ≥10 g |
| `/v1/responses` mbili ndefu kwa wakati mmoja | `10240`–`12288` | ≥12–16 g |
```bash
docker run -d --name omniroute --restart unless-stopped --stop-timeout 40 \
-e OMNIROUTE_MEMORY_MB=8192 --memory=10g \
-p 127.0.0.1:20128:20128 -v omniroute-data:/app/data diegosouzapw/omniroute:latest
```
Jedwali kamili: [Mwongozo wa Docker — RAM ya wakati wa utekelezaji](docs/guides/DOCKER_GUIDE.md#runtime-ram-for-coding-agents).
> **Kituo cha Docker cha matoleo ya awali:** `diegosouzapw/omniroute:next` na
> `diegosouzapw/omniroute:next-web` hufuata tawi la sasa la chaguo-msingi `release/v*`.
> Lebo hizi zinazoweza kubadilika zimekusudiwa tu kwa kujaribu marekebisho ambayo bado hayajatolewa na
> **hazitumiki katika mazingira ya uzalishaji**. Tazama
> [Vituo vya Matoleo ya Docker](docs/guides/DOCKER_GUIDE.md#release-channels).
**🥟 Bun**
`bun install` ya kawaida na usakinishaji wa kimataifa (`bun install -g omniroute`) vinaweza kutumika kupitia utambuzi wa mazingira ya utekelezaji ya Bun:
- **`bun:sqlite` iliyojengewa ndani**: OmniRoute hutumia kiendeshaji cha Bun cha `bun:sqlite` kilichojengewa ndani inapoendeshwa chini ya Bun, na kurejea kwenye `better-sqlite3` katika Node.js au `sql.js`.
- **Uteuzi otomatiki wa kifungashaji cha Webpack wakati wa usanidi**: Mazingira ya usanidi (`bun run dev`) hutambua Bun kiotomatiki na kuzima Turbopack ili kutumia Webpack, kwa lengo la kuzuia kutooana kwa vifungo asilia vya V8. Miundo ya uzalishaji (`bun run build`) hufuata `OMNIROUTE_USE_TURBOPACK` sawasawa na ilivyo kwenye Node: Turbopack kwa chaguo-msingi, `OMNIROUTE_USE_TURBOPACK=0` ili kujenga kwa Webpack (`Dockerfile.bun` huiwasilisha kama `--build-arg`).
- **Dockerfile maalumu ya Bun**: `Dockerfile.bun` ya hatua nyingi kwa ajili ya upelekaji asilia wa uzalishaji wa Bun (`docker build -f Dockerfile.bun -t omniroute:bun .`).
```bash
# Sakinisha na uendeshe kwa Bun
bun install
bun run dev
```
**🛠️ Kutoka kwenye msimbo chanzo**
```bash
cp .env.example .env && npm install
PORT=20128 npm run dev
```
**📦 pnpm**
```bash
pnpm add -g omniroute@latest --allow-build=better-sqlite3 --allow-build=@swc/core && omniroute
```
**🐧 Arch Linux (AUR)**
```bash
yay -S omniroute-bin && systemctl --user enable --now omniroute.service
```
**🔧 Nix (Flake)**
```bash
# Kwa kutumia Nix flakes
nix develop
npm run dev
# Au kwa kutumia devbox
devbox run npm run dev
```
📖 [Mwongozo wa Docker](docs/guides/DOCKER_GUIDE.md) — Wasifu wa Compose, Caddy HTTPS, vichuguu vya Cloudflare.
**🦭 Podman**
```bash
# 1. Andaa saraka ya data iliyounganishwa kwa bind mount
mkdir -p data
# 2. Kwa Linux + Podman ya ndani isiyo na root pekee (kamwe si kiteja cha mbali cha Podman Machine):
podman unshare chown 1000:1000 ./data
# 3. Weka kidokezo cha mazingira ya utekelezaji, jenga image ya ndani ya Compose, kisha uanzishe
echo "CONTAINER_HOST=podman" >> .env
podman compose --profile base up -d --build
```
Kwenye macOS au Windows, Podman hutumia Podman Machine ya mbali: ruka `podman unshare` na
ufuate [mwongozo wa saraka ya data unaolingana na topolojia](contrib/podman/README.md#data-directory-permissions-by-topology).
📖 [Mwongozo wa Podman](contrib/podman/README.md) — Miundo ya Compose, Podman Machine, na
usanidi wa Quadlet wa Linux/systemd.
**⚡ Usakinishaji wa haraka zaidi / mwepesi zaidi (ruka ujenzi asilia)**
Injini asilia ya SQLite (`better-sqlite3`) ni tegemezi la **hiari**, kwa hivyo usakinishaji wa
kimataifa haukwami kamwe ukisubiri utungaji kutoka kwenye msimbo chanzo: hutumia faili jozi iliyojengwa tayari inapolingana
na mfumo wako/Node, na vinginevyo hubadilika kwa uwazi hadi injini ya JavaScript safi
(`node:sqlite` kwenye Node 22+, au `sql.js` WASM iliyofungashwa) — hakuna zana za ujenzi zinazohitajika.
Ili kuruka kabisa uanzishaji asilia wa baada ya usakinishaji (CI, bila kiolesura cha picha, au mashine za polepole):
```bash
OMNIROUTE_SKIP_POSTINSTALL=1 npm install -g omniroute # CI=1 pia huiruka
```
Kwa usakinishaji wa haraka zaidi, pendelea **pnpm** (hifadhi inayotegemea maudhui + viungo vigumu — tazama hapo juu).
Kwa mazingira ya utekelezaji yasiyo na dashibodi wala kiolesura cha picha, tumia wasifu wa Docker wa `base` (hapo juu) au
[mwongozo wa Termux](docs/guides/TERMUX_GUIDE.md). CLI na dashibodi ya wavuti huhudumiwa na
mchakato uleule kwenye port moja, kwa hivyo kwa sasa hakuna package tofauti ya CLI pekee.
# 🎬 OmniRoute Ikifanya Kazi
## 📹 Miongozo ya Video
Picha ya paneli mnamo 2026-08-24 · Katalogi ghafi: YT 809 | TT 137 | IG 124 · Usasisho (siku): YT 1 | TT 21 | IG 22
OAuth 2.0 (PKCE) + JWT + API Keys + Uthibitishaji wa MCP uliowekwa mipaka · AES-256-GCM wakati wa kupumzika · DOMPurify
Usiri
wreq-js — uigaji wa alama za vidole za JA3 / JA4 TLS, proksi ya viwango 3
Ustahimilivu
Kivunja mzunguko, kurudi nyuma kwa kasi, kuzuia umati mkubwa, kujiponya kiotomatiki kwa mchanganyiko
Uwekaji Kumbukumbu
pino — kumbukumbu za JSON zilizopangwa na muktadha wa ombi
Kujaribu
Node.js test runner + Vitest — matamko 39,000+ ya majaribio tuli katika faili 5,100+ za majaribio zilizofuatiliwa (kitengo, ujumuishaji, E2E, usalama, mfumo ikolojia)
Mkakati wa ufunikaji wa majaribio kwa matamko tuli 39,000+ ya majaribio katika faili 5,100+ za majaribio zinazofuatiliwa
# ⭐ Wachangiaji Wakuu
> OmniRoute imeundwa na jumuiya yenye ari ya programu huria. Watu hawa wametoa michango ya kipekee inayoathiri moja kwa moja ubora, uthabiti na ufikiaji wa mradi. **Asanteni.**
### Wachangiaji wa nje kulingana na maombi ya kuvuta yaliyounganishwa
Ilisimamishwa kwenye kilele cha moja kwa moja cha release/v3.8.50 cha dafb4ae808, ikiwa na miunganisho hadi 2026-08-24 05:26:03 UTC. Sensa ya GitHub GraphQL yenye upangaji wa kurasa ina PR 5,911 zilizounganishwa: 2,707 za mmiliki wa hazina, 179 za Dependabot, na PR 3,025 za nje kutoka kwa wachangiaji 535 tofauti. “Mistari iliyobadilishwa” ni nyongeza + ufutaji wa GitHub na inajumuisha faili zilizozalishwa, lockfiles, katalogi, tafsiri na nyaraka; ni kiasi cha mabadiliko, si LOC iliyoandikwa. Waliofungana kwenye kikomo wamejumuishwa.
### Commit zinazohusishwa na GitHub
Bob.Hou 🏅 commit 51 zinazohusishwa na GitHub · nafasi sawa ya #10
Xiangzhe 🏅 commit 51 zinazohusishwa na GitHub · nafasi sawa ya #10
Imekaguliwa tena saa 2026-08-24 06:14:31 UTC: commit zinazohusishwa na GitHub zilizoripotiwa na API ya Wachangiaji wa hazina kwa tawi chaguo-msingi la release/v3.8.50. API ilirejesha vitambulisho 525 (watumiaji 415, boti 2, wasiojulikana 108); jedwali hili halijumuishi msimamizi, boti na vitambulisho visivyojulikana, na linahifadhi nafasi zilizofungana. Ni tofauti na upangaji wa PR zilizounganishwa hapo juu na sensa ya watu 639 ya metadata ya Git hapa chini.
> 🙏 Vipengele, marekebisho ya hitilafu na maboresho ya miundombinu ya wachangiaji hawa ni **sehemu ya msingi** ya kinachoifanya OmniRoute kuwa ya kuaminika na yenye vipengele vingi. Kila ombi la kuvuta, kila kisa cha majaribio na kila faili ya tafsiri ya i18n ni muhimu. Programu huria hujengwa na watu kama wao.
---
## 💖 Wafadhili
Shukrani za dhati kwa watu wanaofadhili OmniRoute kutoka mifukoni mwao — kila mchango unasaidia mradi uendelee kuwa bila malipo, huru na kusonga mbele.
… na wengine wanaopendelea kutotambulika 💛Wafadhili wa umma wa GitHub walithibitishwa upya tarehe 2026-08-24. Hali ya GitHub ya activeOnly ndiyo huamua lebo za wanaofadhili hai zilizo hapo juu; wafadhili wa umma wa mara moja waliotangazwa hapo awali wanaendelea kushukuriwa, na wafadhili wa faragha wanaendelea kutotambulishwa.💖 Kuwa mfadhili → — kila dola inasaidia OmniRoute iendelee kuwa bila malipo na huru.
## 👥 Wachangiaji 600+
[](https://github.com/diegosouzapw/OmniRoute/graphs/contributors)
Ukaguzi ulifanywa tarehe 2026-08-24 kwenye msingi usiobadilika wa ac02c5b42f na kukaguliwa tena kwenye ncha hai ya release/v3.8.50 ya dafb4ae808: vitambulisho 639 vya Git vya watu vilivyosawazishwa — 407 vinaonekana kama waandishi wa commit (ikiwemo mtunzaji) na 232 vinaonekana tu katika trela dhahiri za Co-authored-by. Sensa hii husawazisha majina ya akaunti za GitHub za noreply, huondoa vitambulisho 26 vya bot/ajenti/huduma/vishikilia nafasi, na haiunganishi anwani za kawaida za barua pepe kwa sababu tu majina yao yanayoonyeshwa yanafanana.
### Jinsi ya Kuchangia
1. Tengeneza fork ya hazina
2. Anzia kwenye ncha **hai** ya `release/vX.Y.Z` (si `main`) — angalia [Muundo wa Matawi na Matoleo](docs/ops/BRANCHING_MODEL.md)
3. Unda tawi lako la kipengele (`git checkout -b feat/amazing-feature`)
4. Weka mabadiliko yako kwenye commit (`git commit -m 'feat: add amazing feature'`)
5. Sukuma kwenye tawi (`git push origin feat/amazing-feature`)
6. Fungua Pull Request yenye **base = tawi hilo la `release/vX.Y.Z`**
Angalia [CONTRIBUTING.md](CONTRIBUTING.md) kwa miongozo ya kina.
### Kutoa Toleo Jipya
```bash
# Unda toleo — npm publish hufanyika kiotomatiki
VERSION=x.y.z
gh release create "v${VERSION}" --title "v${VERSION}" --generate-notes
```
## 📊 Nyota
## 🌍 StarMapper
## 🙏 Shukrani
OmniRoute imejengwa juu ya kazi kubwa za wengine. Ilianza kama fork ya **[9router](https://github.com/decolua/9router)** na port ya TypeScript ya mradi wa Go **[CLIProxyAPI](https://github.com/router-for-me/CLIProxyAPI)** — na tangu hapo, kila mfumo mdogo ulio hapa chini ulihamasishwa na mradi wa programu huria ulioutangulia. Kila mmoja uliunda sehemu mahususi ya OmniRoute. Hii ndiyo njia yetu ya kuwashukuru wote. 🙏
> ⭐ idadi ya nyota ilithibitishwa kupitia REST API ya GitHub mnamo Agosti 24, 2026 — nenda ukaipatie miradi hii nyota. Idadi hizi ni taswira kamili ya tarehe hiyo na kwa kawaida zitabadilika.
### 🧬 Asili na lango
Lango la AI ambalo seti yake ya data ya umma ya bei huwezesha ulandanishi wetu wa ufuatiliaji wa gharama na ambalo modeli yake ya kusawazisha watoa huduma iliongoza uelekezaji wetu.
Chanzo cha MIT kilichorekebishwa kuwa daraja lililojumuishwa la ChatGPT Web → Codex Responses, likijumuisha adapta za kipindi cha kivinjari, uundaji wa fremu za majibu, matumizi na utafutaji wa wavuti.
Miundo iliyohamishwa hadi kwenye urejeshaji wa mtiririko, lakabu zisizo na fikra, utafutaji mbadala wa wavuti, vikomo vya dirisha linalosogea, ufichaji wa taarifa nyeti kwenye kumbukumbu na mitiririko iliyoimarishwa ya kizinduzi.
Chaguo-msingi za ugeuzaji zinazooana na Claude Code na tabia ya vichwa vya malipo iliyofanywa iwe ya jumla katika daraja la OmniRoute linaloendeshwa na usanidi.
Ulinganishaji wake wa modeli za Grok, jenereta ya Statsig ya TypeError bandia, chaguo-msingi za ombi na kifaa, na kichakataji cha majibu cha NDJSON vilirekebishwa kwa kiasi kikubwa katika kitekelezaji cha Grok Web cha OmniRoute.
Chanzo kikuu cha msimbo tegemezi nyuma ya grok2api-merged; utekelezaji wake wa modeli, vichwa, payload, Statsig na vichakataji umehifadhiwa katika nasaba ya Grok Web.
Chanzo tegemezi kilichotambuliwa na grok2api-merged kwa safu yake ya mkusanyiko wa proksi; OmniRoute huhifadhi taarifa hiyo ya nasaba lakini haidai kuhamisha mkusanyiko wa proksi katika kitekelezaji chake chenye mipaka cha Grok Web.
Utekelezaji wa awali wa Grok Web ulitumia muundo wake wa upstream wa HTTP/kivinjari; njia yake ya moja kwa moja ya HTTP inatokana na GrokProxy, kwa hivyo hakuna dai la kuhamisha msimbo huru.
ChatOptions zake za Rust na skima za bahasha za majibu zilisaidia kuunda aina za maombi na majibu yanayotiririshwa za TypeScript Grok katika OmniRoute.
Mradi uliosambaa sana wa "kwa nini utumie tokeni nyingi wakati tokeni chache zinatosha" — falsafa yake ya lugha ya mtu wa pangoni ndiyo msingi wa modi yetu ya kawaida ya mbano na kanuni zaidi ya 30 za kuondoa maneno ya kujaza/kufupisha.
Mbano wenye utendaji wa juu wa matokeo ya amri — ulihamasisha injini yetu ya RTK, DSL ya vichujio vya JSON, urejeshaji wa matokeo ghafi na mnyororo uliopangwa wa RTK → Caveman.
Utafiti wa mbano wa vidokezo (LLMLingua / LLMLingua-2) — ulihamasisha injini yetu ya llmlingua isawazishaji, salama kwa msimbo na inayoendelea kufanya kazi hata ikishindwa.
Mbano wa tokeni za pt-BR — unaendesha kifurushi chetu cha lugha cha pt-BR: upunguzaji wa uradidi na uondoaji wa maneno ya kujaza ulioboreshwa kwa sarufi ya Kireno cha Brazili.
Ujuzi uliosambaa sana wa msimbo wa "msanidi mwandamizi mvivu" wa YAGNI — ulihamasisha Mtindo wetu wa Matokeo wa less-code: uelekezaji wa mabadiliko madogo zaidi yanayofanya kazi ambao hupunguza msimbo _unaozalishwa_ (sambamba katika mhimili wa matokeo na nathari fupi ya Caveman).
Mbano wa matokeo unaotambua maudhui kwa kila aina ya faili, pamoja na usitishaji unaotambua hitilafu — ulithibitisha uelekezaji wetu kulingana na aina na kuruka pale ambapo faida ya chini zaidi haijafikiwa.
"Tafuta tokeni zisizoonekana" — muundo wake wa kuhamisha mzigo pamoja na kishikio kinachoweza kurejeshwa ulitoa mwongozo kwa fikra zetu kuhusu uhamishaji wa CCR.
Ramani ya usanifu ya grafu ya kipindi pamoja na uondoaji wa mistari inayojirudia katika zamu mbalimbali ambayo ilitoa mwongozo kwa usanifu wetu wa session-dedup.
JSON ya safu-wima ya Rust pamoja na urejeshaji unaotegemea anwani ya maudhui na uondoaji wa nakala katika ujumbe mbalimbali — ulithibitisha usanifu wa injini zetu za headroom/ccr/session-dedup na kanuni thabiti ya akiba kwamba "muundo uliobanwa hautegemei nafasi".
Zana ya TypeScript Compiler API — ilihamasisha uondoaji wetu wa maoni unaotegemea kichanganuzi ambao huhifadhi literali za mifuatano, violezo na semi za kawaida.
Ukamataji/uchanganuzi wa MITM wa trafiki kati ya msaidizi wa usimbaji ↔ LLM ulitoa mwongozo kwa mahitaji ya awali ya Kikaguzi cha Trafiki. Moduli nne zilizotokana nayo hapo awali — uunganishaji wa SSE, usanifishaji wa mazungumzo, ufichaji wa siri na usafishaji wa vichwa — zimebadilishwa na utekelezaji huru wa kuanzia mwanzo unaotegemea viwango vya itifaki vya umma. Sehemu mbili za upitishaji wa moja kwa moja kwa seva-pangishi (passthrough.ts na _internal/bypass.cjs) zinasalia kuwa utekelezaji wa ndani wa OmniRoute ulioainishwa kivyake; hazikuandikwa upya kama sehemu ya ubadilishaji huo.
Uelekezaji angavu wa proksi kwa kila mchakato — ulihamasisha usitishaji wetu wa MITM ulio salama dhidi ya hitilafu, muda wa kuisha kwa soketi zisizotumika, uhusishaji wa michakato ya /proc na ukamataji wa TPROXY.
Uangalizi wa matundu ya huduma ya Istio — ulihamasisha beji zetu za kivunja saketi na vielelezo vya kingo za hitilafu katika Studio ya Uelekezaji/Mchanganyiko.
Orodha iliyochaguliwa kwa makini ya maktaba salama kwa chaguo-msingi inayoongoza maamuzi yetu ya usalama (Helmet.js, DOMPurify, ssrf-req-filter, safe-regex, Google Tink).
Ilihamasisha uondoaji wa maombi yanayojirudia, chaguo la dharura lisilo na gharama, mikakati ya Auto-Combo inayoweza kuchomekwa na uainishaji wa dhamira wa lugha nyingi.
Ubadilishaji wake wa modeli unaozingatia akaunti, uthibitishaji wa njia ya faili tekelezi na tabia ya lebo za mipango ulitoa mwongozo kwa mazingira ya utekelezaji ya Antigravity ya OmniRoute.
Muundo wake mfupi wa kuhesabu muda uliosalia hadi uwekaji upya wa kikomo ulihamasisha onyesho linalolingana la kikomo cha mtoa huduma katika OmniRoute.
Ilitambua eneo la mgao la Grok Build; kisha OmniRoute ilithibitisha na kusahihisha kwa kujitegemea umbizo la moja kwa moja la data inayopitishwa.
## 📄 Leseni
Leseni ya MIT - tazama [LICENSE](LICENSE) kwa maelezo.
---
**[⬆ Rudi juu](#-omniroute)** · Imetengenezwa kwa ❤️ kwa ajili ya jumuiya ya AI ya programu huria.
OmniRoute v3.8.51 · Node ≥22.22.2 · Leseni ya MIT · omniroute.online