# OmniRoute — Deployment Guide on VM with Cloudflare (മലയാളം) 🌐 **Languages:** 🇺🇸 [English](../../../../ops/VM_DEPLOYMENT_GUIDE.md) · 🇪🇹 [am](../../../am/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇸🇦 [ar](../../../ar/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇦🇿 [az](../../../az/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇧🇬 [bg](../../../bg/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇧🇩 [bn](../../../bn/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇧🇦 [bs](../../../bs/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇨🇿 [cs](../../../cs/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇩🇰 [da](../../../da/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇩🇪 [de](../../../de/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇬🇷 [el](../../../el/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇪🇸 [es](../../../es/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇪🇪 [et](../../../et/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇷 [fa](../../../fa/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇫🇮 [fi](../../../fi/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇫🇷 [fr](../../../fr/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇪 [ga](../../../ga/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇳 [gu](../../../gu/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇳🇬 [ha](../../../ha/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇱 [he](../../../he/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇳 [hi](../../../hi/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇭🇷 [hr](../../../hr/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇭🇺 [hu](../../../hu/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇦🇲 [hy](../../../hy/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇩 [id](../../../id/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇳🇬 [ig](../../../ig/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇹 [it](../../../it/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇯🇵 [ja](../../../ja/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇬🇪 [ka](../../../ka/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇰🇭 [km](../../../km/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇳 [kn](../../../kn/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇰🇷 [ko](../../../ko/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇱🇹 [lt](../../../lt/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇱🇻 [lv](../../../lv/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇳 [mr](../../../mr/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇲🇾 [ms](../../../ms/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇲🇹 [mt](../../../mt/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇲🇲 [my](../../../my/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇳🇵 [ne](../../../ne/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇳🇱 [nl](../../../nl/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇳🇴 [no](../../../no/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇳 [or](../../../or/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇳 [pa](../../../pa/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇵🇭 [phi](../../../phi/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇵🇱 [pl](../../../pl/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇵🇹 [pt](../../../pt/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇧🇷 [pt-BR](../../../pt-BR/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇷🇴 [ro](../../../ro/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇷🇺 [ru](../../../ru/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇱🇰 [si](../../../si/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇸🇰 [sk](../../../sk/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇸🇮 [sl](../../../sl/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇷🇸 [sr](../../../sr/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇸🇪 [sv](../../../sv/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇰🇪 [sw](../../../sw/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇳 [ta](../../../ta/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇳 [te](../../../te/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇹🇭 [th](../../../th/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇹🇷 [tr](../../../tr/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇺🇦 [uk-UA](../../../uk-UA/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇵🇰 [ur](../../../ur/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇺🇿 [uz](../../../uz/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇻🇳 [vi](../../../vi/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇳🇬 [yo](../../../yo/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇨🇳 [zh-CN](../../../zh-CN/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇹🇼 [zh-TW](../../../zh-TW/docs/ops/VM_DEPLOYMENT_GUIDE.md) --- 🌐 **Languages:** 🇺🇸 [English](../../../../ops/VM_DEPLOYMENT_GUIDE.md) · 🇪🇹 [am](../../../am/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇸🇦 [ar](../../../ar/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇦🇿 [az](../../../az/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇧🇬 [bg](../../../bg/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇧🇩 [bn](../../../bn/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇧🇦 [bs](../../../bs/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇨🇿 [cs](../../../cs/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇩🇰 [da](../../../da/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇩🇪 [de](../../../de/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇬🇷 [el](../../../el/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇪🇸 [es](../../../es/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇪🇪 [et](../../../et/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇷 [fa](../../../fa/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇫🇮 [fi](../../../fi/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇫🇷 [fr](../../../fr/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇪 [ga](../../../ga/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇳 [gu](../../../gu/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇳🇬 [ha](../../../ha/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇱 [he](../../../he/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇳 [hi](../../../hi/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇭🇷 [hr](../../../hr/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇭🇺 [hu](../../../hu/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇦🇲 [hy](../../../hy/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇩 [id](../../../id/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇳🇬 [ig](../../../ig/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇹 [it](../../../it/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇯🇵 [ja](../../../ja/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇬🇪 [ka](../../../ka/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇰🇭 [km](../../../km/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇳 [kn](../../../kn/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇰🇷 [ko](../../../ko/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇱🇹 [lt](../../../lt/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇱🇻 [lv](../../../lv/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇳 [mr](../../../mr/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇲🇾 [ms](../../../ms/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇲🇹 [mt](../../../mt/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇲🇲 [my](../../../my/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇳🇵 [ne](../../../ne/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇳🇱 [nl](../../../nl/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇳🇴 [no](../../../no/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇳 [or](../../../or/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇳 [pa](../../../pa/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇵🇭 [phi](../../../phi/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇵🇱 [pl](../../../pl/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇵🇹 [pt](../../../pt/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇧🇷 [pt-BR](../../../pt-BR/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇷🇴 [ro](../../../ro/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇷🇺 [ru](../../../ru/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇱🇰 [si](../../../si/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇸🇰 [sk](../../../sk/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇸🇮 [sl](../../../sl/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇷🇸 [sr](../../../sr/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇸🇪 [sv](../../../sv/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇰🇪 [sw](../../../sw/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇳 [ta](../../../ta/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇮🇳 [te](../../../te/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇹🇭 [th](../../../th/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇹🇷 [tr](../../../tr/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇺🇦 [uk-UA](../../../uk-UA/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇵🇰 [ur](../../../ur/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇺🇿 [uz](../../../uz/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇻🇳 [vi](../../../vi/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇳🇬 [yo](../../../yo/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇨🇳 [zh-CN](../../../zh-CN/docs/ops/VM_DEPLOYMENT_GUIDE.md) · 🇹🇼 [zh-TW](../../../zh-TW/docs/ops/VM_DEPLOYMENT_GUIDE.md) Cloudflare വഴി നിയന്ത്രിക്കുന്ന ഡൊമെയ്നോടുകൂടിയ ഒരു VM-ൽ (VPS) OmniRoute ഇൻസ്റ്റാൾ ചെയ്യുന്നതിനും കോൺഫിഗർ ചെയ്യുന്നതിനുമുള്ള സമ്പൂർണ്ണ മാർഗ്ഗനിർദ്ദേശം. --- ## മുൻവ്യവസ്ഥകൾ | ഇനം | ഏറ്റവും കുറഞ്ഞത് | ശുപാർശ ചെയ്യുന്നത് | | ----------- | ------------------------------ | ------------------ | | **CPU** | 1 vCPU | 2 vCPU | | **RAM** | 1 GB | 2 GB | | **ഡിസ്ക്** | 10 GB SSD | 25 GB SSD | | **OS** | Ubuntu 22.04 LTS | Ubuntu 24.04 LTS | | **ഡൊമെയ്ൻ** | Cloudflare-ൽ രജിസ്റ്റർ ചെയ്തത് | — | | **Docker** | Docker Engine 24+ | Docker 27+ | **പരിശോധിച്ച ദാതാക്കൾ**: Akamai (Linode), DigitalOcean, Vultr, Hetzner, AWS Lightsail. --- ## 1. VM കോൺഫിഗർ ചെയ്യുക ### 1.1 ഇൻസ്റ്റൻസ് സൃഷ്ടിക്കുക നിങ്ങൾ തിരഞ്ഞെടുക്കുന്ന VPS ദാതാവിൽ: - Ubuntu 24.04 LTS തിരഞ്ഞെടുക്കുക - ഏറ്റവും കുറഞ്ഞ പ്ലാൻ തിരഞ്ഞെടുക്കുക (1 vCPU / 1 GB RAM) - ശക്തമായ ഒരു root പാസ്വേഡ് സജ്ജീകരിക്കുകയോ SSH കീ കോൺഫിഗർ ചെയ്യുകയോ ചെയ്യുക - **പബ്ലിക് IP** രേഖപ്പെടുത്തുക (ഉദാ., `203.0.113.10`) ### 1.2 SSH വഴി കണക്റ്റ് ചെയ്യുക ```bash ssh root@203.0.113.10 ``` ### 1.3 സിസ്റ്റം അപ്ഡേറ്റ് ചെയ്യുക ```bash apt update && apt upgrade -y ``` ### 1.4 Docker ഇൻസ്റ്റാൾ ചെയ്യുക ```bash # ഡിപെൻഡൻസികൾ ഇൻസ്റ്റാൾ ചെയ്യുക apt install -y ca-certificates curl gnupg # ഔദ്യോഗിക Docker റിപ്പോസിറ്ററി ചേർക്കുക install -m 0755 -d /etc/apt/keyrings curl -fsSL https://download.docker.com/linux/ubuntu/gpg | gpg --dearmor -o /etc/apt/keyrings/docker.gpg chmod a+r /etc/apt/keyrings/docker.gpg echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.gpg] https://download.docker.com/linux/ubuntu $ (. /etc/os-release && echo "$VERSION_CODENAME") stable" | tee /etc/apt/sources.list.d/docker.list > /dev/null apt update apt install -y docker-ce docker-ce-cli containerd.io docker-compose-plugin ``` ### 1.5 nginx ഇൻസ്റ്റാൾ ചെയ്യുക ```bash apt install -y nginx ``` ### 1.6 ഫയർവാൾ (UFW) കോൺഫിഗർ ചെയ്യുക ```bash ufw default deny incoming ufw default allow outgoing ufw allow 22/tcp # SSH ufw allow 80/tcp # HTTP (റീഡയറക്ട്) ufw allow 443/tcp # HTTPS ufw enable ``` > **നുറുങ്ങ്**: പരമാവധി സുരക്ഷയ്ക്കായി, 80, 443 പോർട്ടുകളിലേക്കുള്ള ആക്സസ് Cloudflare IP-കൾക്ക് മാത്രമായി പരിമിതപ്പെടുത്തുക. [വിപുലമായ സുരക്ഷ](#advanced-security) വിഭാഗം കാണുക. --- ## 2. OmniRoute ഇൻസ്റ്റാൾ ചെയ്യുക ### 2.1 കോൺഫിഗറേഷൻ ഡയറക്ടറി സൃഷ്ടിക്കുക ```bash mkdir -p /opt/omniroute ``` ### 2.2 എൻവയോൺമെന്റ് വേരിയബിളുകളുടെ ഫയൽ സൃഷ്ടിക്കുക ```bash cat > /opt/omniroute/.env << 'EOF' # === സുരക്ഷ === JWT_SECRET=CHANGE-TO-A-UNIQUE-64-CHAR-SECRET-KEY INITIAL_PASSWORD=YourSecurePassword123! API_KEY_SECRET=REPLACE-WITH-ANOTHER-SECRET-KEY STORAGE_ENCRYPTION_KEY=REPLACE-WITH-THIRD-SECRET-KEY STORAGE_ENCRYPTION_KEY_VERSION=v1 MACHINE_ID_SALT=CHANGE-TO-A-UNIQUE-SALT OMNIROUTE_WS_BRIDGE_SECRET=REPLACE-WITH-WS-BRIDGE-SECRET # പ്രൊഡക്ഷനിൽ ആവശ്യമാണ്: Codex Responses WS ബ്രിഡ്ജ് ഉപയോഗിക്കുന്നത് # === ആപ്പ് === PORT=20128 NODE_ENV=production HOSTNAME=0.0.0.0 DATA_DIR=/app/data APP_LOG_TO_FILE=true AUTH_COOKIE_SECURE=true REQUIRE_API_KEY=false # === URL-കൾ (നിങ്ങളുടെ ഡൊമെയ്നിലേക്ക് മാറ്റുക) === # ഷെഡ്യൂൾ ചെയ്ത ജോലികൾക്കും സ്വയം നടത്തുന്ന fetch-കൾക്കുമുള്ള ആന്തരിക server-to-server അടിസ്ഥാന URL. BASE_URL=http://127.0.0.1:20128 # OAuth callback-കൾക്കും ഡാഷ്ബോർഡ് ലിങ്കുകൾക്കും ജനറേറ്റ് ചെയ്യുന്ന പബ്ലിക് URL-കൾക്കുമായി ഉപയോഗിക്കുന്ന ബ്രൗസർ-അഭിമുഖ URL. NEXT_PUBLIC_BASE_URL=https://llms.seudominio.com # ജനറേറ്റ് ചെയ്യുന്ന പബ്ലിക് അസറ്റ് URL-കൾക്കായുള്ള ഐച്ഛികമായ വ്യക്തമായ പബ്ലിക് origin override. # OMNIROUTE_PUBLIC_BASE_URL=https://llms.seudominio.com # === ക്ലൗഡ് സമന്വയം (ഐച്ഛികം) === # CLOUD_URL=https://cloud.omniroute.online # NEXT_PUBLIC_CLOUD_URL=https://cloud.omniroute.online EOF ``` > ⚠️ **പ്രധാനം**: തനതായ രഹസ്യ കീകൾ സൃഷ്ടിക്കുക! ഓരോ കീയ്ക്കും `openssl rand -hex 32` ഉപയോഗിക്കുക. ### 2.3 കണ്ടെയ്നർ ആരംഭിക്കുക ```bash docker pull diegosouzapw/omniroute:latest docker run -d \ --name omniroute \ --restart unless-stopped \ --env-file /opt/omniroute/.env \ -p 20128:20128 \ -v omniroute-data:/app/data \ diegosouzapw/omniroute:latest ``` ### 2.4 ഇത് പ്രവർത്തിക്കുന്നുണ്ടെന്ന് സ്ഥിരീകരിക്കുക ```bash docker ps | grep omniroute docker logs omniroute --tail 20 ``` ഇത് `[DB] SQLite database ready`, `listening on port 20128` എന്നിവ പ്രദർശിപ്പിക്കണം. --- ## 3. nginx കോൺഫിഗർ ചെയ്യുക (റിവേഴ്സ് പ്രോക്സി) ### 3.1 SSL സർട്ടിഫിക്കറ്റ് സൃഷ്ടിക്കുക (Cloudflare Origin) Cloudflare ഡാഷ്ബോർഡിൽ: 1. **SSL/TLS → Origin Server** എന്നതിലേക്ക് പോകുക 2. **Create Certificate** ക്ലിക്ക് ചെയ്യുക 3. ഡിഫോൾട്ട് ക്രമീകരണങ്ങൾ നിലനിർത്തുക (15 വർഷം, \*.yourdomain.com) 4. **Origin Certificate**, **Private Key** എന്നിവ പകർത്തുക ```bash mkdir -p /etc/nginx/ssl # സർട്ടിഫിക്കറ്റ് ഇവിടെ ഒട്ടിക്കുക nano /etc/nginx/ssl/origin.crt # പ്രൈവറ്റ് കീ ഇവിടെ ഒട്ടിക്കുക nano /etc/nginx/ssl/origin.key chmod 600 /etc/nginx/ssl/origin.key ``` ### 3.2 Nginx കോൺഫിഗറേഷൻ ```bash cat > /etc/nginx/sites-available/omniroute << 'NGINX' # ഡിഫോൾട്ട് സെർവർ — IP വഴിയുള്ള നേരിട്ടുള്ള ആക്സസ് തടയുന്നു server { listen 80 default_server; listen [::]:80 default_server; listen 443 ssl default_server; listen [::]:443 ssl default_server; ssl_certificate /etc/nginx/ssl/origin.crt; ssl_certificate_key /etc/nginx/ssl/origin.key; server_name _; return 444; } # OmniRoute — HTTPS server { listen 443 ssl; listen [::]:443 ssl; server_name llms.yourdomain.com; # നിങ്ങളുടെ ഡൊമെയ്നിലേക്ക് മാറ്റുക ssl_certificate /etc/nginx/ssl/origin.crt; ssl_certificate_key /etc/nginx/ssl/origin.key; ssl_protocols TLSv1.2 TLSv1.3; client_max_body_size 100M; location / { proxy_pass http://127.0.0.1:20128; proxy_set_header Host $host; proxy_set_header X-Forwarded-Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_set_header X-Forwarded-Proto $scheme; # WebSocket പിന്തുണ proxy_http_version 1.1; proxy_set_header Upgrade $http_upgrade; proxy_set_header Connection "upgrade"; # SSE (Server-Sent Events) — സ്ട്രീമിംഗ് AI പ്രതികരണങ്ങൾ proxy_buffering off; proxy_cache off; proxy_read_timeout 600s; proxy_send_timeout 600s; } } # HTTP → HTTPS റീഡയറക്ട് server { listen 80; listen [::]:80; server_name llms.yourdomain.com; return 301 https://$server_name$request_uri; } NGINX ``` റിവേഴ്സ്-പ്രോക്സി സ്ട്രീം ടൈംഔട്ടുകൾ നിങ്ങളുടെ OmniRoute ടൈംഔട്ട് env vars-നോട് പൊരുത്തപ്പെടുത്തി നിലനിർത്തുക. നിങ്ങൾ `FETCH_TIMEOUT_MS` / `STREAM_IDLE_TIMEOUT_MS` വർധിപ്പിക്കുകയാണെങ്കിൽ, `proxy_read_timeout` / `proxy_send_timeout` എന്നിവ അതേ പരിധിയെക്കാൾ ഉയർന്നതാക്കുക. OAuth കോൾബാക്കുകൾക്കും സൃഷ്ടിക്കപ്പെടുന്ന പൊതു ലിങ്കുകൾക്കുമുള്ള കാനോനിക്കൽ ബ്രൗസർ-ഫേസിംഗ് ഒറിജിനായി OmniRoute `NEXT_PUBLIC_BASE_URL` ഉപയോഗിക്കുന്നു. ഓതന്റിക്കേറ്റ് ചെയ്ത ഡാഷ്ബോർഡ് റൈറ്റുകൾ സെഷനുമായി ബന്ധിപ്പിച്ച CSRF സംരക്ഷണത്തോടൊപ്പം same-origin റിക്വസ്റ്റുകൾ ഉപയോഗിക്കുന്നതിനാൽ, അവയ്ക്ക് ഒരു സ്റ്റാറ്റിക് പൊതു ബേസ് URL ആവശ്യമില്ല. മുകളിലുള്ള `X-Forwarded-*` ഹെഡറുകൾ ഇപ്പോഴും ഉപകാരപ്രദമായ റൂട്ടിംഗ് മെറ്റാഡാറ്റയാണ്, എന്നാൽ OAuth-നോ സൃഷ്ടിക്കപ്പെടുന്ന ബ്രൗസർ ലിങ്കുകൾക്കോ വ്യക്തമായ പൊതു URL ആവശ്യമായിരിക്കുമ്പോൾ അത് സജ്ജീകരിക്കുന്നതിന് ഇവ പകരമല്ല. ക്ലയന്റുകൾക്ക് OmniRoute-ൽ നേരിട്ട് എത്തിച്ചേരാൻ കഴിയുന്നില്ലെങ്കിൽ മാത്രവും, നിങ്ങളുടെ പ്രോക്സി ഇൻകമിംഗ് ഫോർവേഡഡ് ഹെഡറുകൾ നീക്കംചെയ്ത്/പുനർനിർമ്മിക്കുന്നുവെങ്കിൽ മാത്രവും `OMNIROUTE_TRUST_PROXY` പ്രവർത്തനക്ഷമമാക്കുക. ### 3.3 പ്രവർത്തനക്ഷമമാക്കി പരിശോധിക്കുക ```bash # ഡിഫോൾട്ട് കോൺഫിഗറേഷൻ നീക്കംചെയ്യുക rm -f /etc/nginx/sites-enabled/default # OmniRoute പ്രവർത്തനക്ഷമമാക്കുക ln -sf /etc/nginx/sites-available/omniroute /etc/nginx/sites-enabled/omniroute # പരിശോധിച്ച് റീലോഡ് ചെയ്യുക nginx -t && systemctl reload nginx ``` --- ## 4. Cloudflare DNS ക്രമീകരിക്കുക ### 4.1 DNS റെക്കോർഡ് ചേർക്കുക Cloudflare ഡാഷ്ബോർഡിൽ → DNS: | തരം | പേര് | ഉള്ളടക്കം | പ്രോക്സി | | --- | ------ | ---------------------- | ------------------- | | A | `llms` | `203.0.113.10` (VM IP) | ✅ പ്രോക്സി ചെയ്തത് | ### 4.2 SSL ക്രമീകരിക്കുക **SSL/TLS → Overview** എന്നതിന് കീഴിൽ: - മോഡ്: **Full (Strict)** **SSL/TLS → Edge Certificates** എന്നതിന് കീഴിൽ: - എപ്പോഴും HTTPS ഉപയോഗിക്കുക: ✅ ഓൺ - ഏറ്റവും കുറഞ്ഞ TLS പതിപ്പ്: TLS 1.2 - സ്വയമേവയുള്ള HTTPS റീറൈറ്റുകൾ: ✅ ഓൺ ### 4.3 പരിശോധന ```bash curl -sI https://llms.seudominio.com/health # HTTP/2 200 തിരികെ നൽകണം ``` --- ## 5. പ്രവർത്തനങ്ങളും പരിപാലനവും ### പുതിയ പതിപ്പിലേക്ക് അപ്ഗ്രേഡ് ചെയ്യുക ```bash docker pull diegosouzapw/omniroute:latest docker stop omniroute && docker rm omniroute docker run -d --name omniroute --restart unless-stopped \ --env-file /opt/omniroute/.env \ -p 20128:20128 \ -v omniroute-data:/app/data \ diegosouzapw/omniroute:latest ``` ### ലോഗുകൾ കാണുക ```bash docker logs -f omniroute # തത്സമയ സ്ട്രീം docker logs omniroute --tail 50 # അവസാന 50 വരികൾ ``` ### ഡാറ്റാബേസ് സ്വമേധയാ ബാക്കപ്പ് ചെയ്യുക ```bash # വോള്യത്തിൽനിന്ന് ഹോസ്റ്റിലേക്ക് ഡാറ്റ പകർത്തുക docker cp omniroute:/app/data ./backup-$(date +%F) # അല്ലെങ്കിൽ മുഴുവൻ വോള്യവും കംപ്രസ് ചെയ്യുക docker run --rm -v omniroute-data:/data -v $(pwd):/backup \ alpine tar czf /backup/omniroute-data-$(date +%F).tar.gz /data ``` ### ബാക്കപ്പിൽനിന്ന് പുനഃസ്ഥാപിക്കുക ```bash docker stop omniroute docker run --rm -v omniroute-data:/data -v $(pwd):/backup \ alpine sh -c "rm -rf /data/* && tar xzf /backup/omniroute-data-YYYY-MM-DD.tar.gz -C /" docker start omniroute ``` --- ## 6. വിപുലമായ സുരക്ഷ ### nginx-നെ Cloudflare IP-കളിലേക്ക് പരിമിതപ്പെടുത്തുക ```bash cat > /etc/nginx/cloudflare-ips.conf << 'CF' # Cloudflare IPv4 ശ്രേണികൾ — ഇടയ്ക്കിടെ പുതുക്കുക # https://www.cloudflare.com/ips-v4/ set_real_ip_from 173.245.48.0/20; set_real_ip_from 103.21.244.0/22; set_real_ip_from 103.22.200.0/22; set_real_ip_from 103.31.4.0/22; set_real_ip_from 141.101.64.0/18; set_real_ip_from 108.162.192.0/18; set_real_ip_from 190.93.240.0/20; set_real_ip_from 188.114.96.0/20; set_real_ip_from 197.234.240.0/22; set_real_ip_from 198.41.128.0/17; set_real_ip_from 162.158.0.0/15; set_real_ip_from 104.16.0.0/13; set_real_ip_from 104.24.0.0/14; set_real_ip_from 172.64.0.0/13; set_real_ip_from 131.0.72.0/22; real_ip_header CF-Connecting-IP; CF ``` `nginx.conf`-ലെ `http {}` ബ്ലോക്കിനുള്ളിൽ ഇനിപ്പറയുന്നത് ചേർക്കുക: ```nginx include /etc/nginx/cloudflare-ips.conf; ``` ### fail2ban ഇൻസ്റ്റാൾ ചെയ്യുക ```bash apt install -y fail2ban systemctl enable fail2ban systemctl start fail2ban # നില പരിശോധിക്കുക fail2ban-client status sshd ``` ### Docker പോർട്ടിലേക്കുള്ള നേരിട്ടുള്ള ആക്സസ് തടയുക ```bash # പോർട്ട് 20128-ലേക്കുള്ള നേരിട്ടുള്ള ബാഹ്യ ആക്സസ് തടയുക iptables -I DOCKER-USER -p tcp --dport 20128 -j DROP iptables -I DOCKER-USER -i lo -p tcp --dport 20128 -j ACCEPT # നിയമങ്ങൾ സ്ഥിരമായി നിലനിർത്തുക apt install -y iptables-persistent netfilter-persistent save ``` --- ## 7. Cloudflare Workers-ലേക്ക് വിന്യസിക്കുക (ഐച്ഛികം) VM നേരിട്ട് പുറത്തേക്ക് തുറന്നുകാട്ടാതെ Cloudflare Workers വഴിയുള്ള വിദൂര ആക്സസിനായി: ```bash # ലോക്കൽ റിപ്പോസിറ്ററിയിൽ cd omnirouteCloud npm install npx wrangler login npx wrangler deploy ``` റിപ്പോസിറ്ററിയിലെ Cloudflare Tunnel ഘട്ടംഘട്ടമായുള്ള മാർഗ്ഗനിർദ്ദേശത്തിനായി [TUNNELS_GUIDE.md](./TUNNELS_GUIDE.md) കൂടി കാണുക. സ്വതന്ത്രമായ `omnirouteCloud/` worker മറ്റൊരു അനുബന്ധ റിപ്പോസിറ്ററിയിലാണ്. --- ## പോർട്ട് സംഗ്രഹം | പോർട്ട് | സേവനം | ആക്സസ് | | ------- | ----------- | --------------------------------- | | 22 | SSH | പൊതു ആക്സസ് (fail2ban സഹിതം) | | 80 | nginx HTTP | HTTPS-ലേക്ക് റീഡയറക്ട് ചെയ്യുന്നു | | 443 | nginx HTTPS | Cloudflare Proxy വഴി | | 20128 | OmniRoute | Localhost-ൽ മാത്രം (nginx വഴി) | ## കുറഞ്ഞ മെമ്മറി / ചെറിയ VPS ഒപ്റ്റിമൈസേഷൻ ചെറിയ VPS ഇൻസ്റ്റൻസുകളിൽ (1 GB RAM അല്ലെങ്കിൽ അതിൽ കുറവ്) ഡിപ്ലോയ് ചെയ്യുമ്പോൾ: - **പശ്ചാത്തല സേവനങ്ങൾ പ്രവർത്തനരഹിതമാക്കുക** — ഷെഡ്യൂളർ, MCP സെർവർ, ആവർത്തിച്ചുള്ള മെയിന്റനൻസ് ടാസ്ക്കുകൾ എന്നിവ ഒഴിവാക്കാൻ `OMNIROUTE_DISABLE_BACKGROUND_SERVICES=1` സജ്ജമാക്കുക. `docs/reference/ENVIRONMENT.md` കാണുക. - **SQLite WAL മോഡ് ഉപയോഗിക്കുക** — ഇത് ഡിഫോൾട്ടായി പ്രവർത്തനക്ഷമമാണ്, ഒരേസമയം നടക്കുന്ന റീഡുകളുടെ സമയത്തെ പരമാവധി മെമ്മറി ഉപയോഗം കുറയ്ക്കുന്നു. - **V8 ഹീപ്പിന് പരിധി നിശ്ചയിക്കുക** — റൺടൈം VM-നേക്കാൾ വലിയ പരിധി കണക്കാക്കാതിരിക്കാൻ `OMNIROUTE_MEMORY_MB` (ഉദാ. `512`) സജ്ജമാക്കുക. `docs/reference/ENVIRONMENT.md` കാണുക. - **ഹെവിവെയ്റ്റ് അഡ്മിഷൻ ഹീപ്പ് പരിധിക്കനുസരിച്ച് സ്വയമേവ സ്കെയിൽ ചെയ്യുന്നു** -- മുകളിൽ `OMNIROUTE_MEMORY_MB` സജ്ജമാക്കിയാൽ, ഇൻജെസ്റ്റ് ബൈറ്റ് ബജറ്റ് (`OMNIROUTE_CHAT_MAX_INFLIGHT_BYTES`) അതേ പരിധിയിൽനിന്ന് സ്വയം നിർണയിക്കപ്പെടുന്നു. അതിനാൽ, മെമ്മറി പരിമിതമായ VM-ന് അധിക ട്യൂണിങ് ഇല്ലാതെതന്നെ ഒരേസമയം കൈകാര്യം ചെയ്യാവുന്ന അഭ്യർത്ഥനകൾക്കായി ചെറിയൊരു ബജറ്റ് ലഭിക്കുന്നു; അധിക അഭ്യർത്ഥനകൾ മെമ്മറിക്കായി മത്സരിക്കുന്നതിനുപകരം `Retry-After` സഹിതം വീണ്ടും ശ്രമിക്കാവുന്ന `503` പ്രതികരണം ലഭിക്കും. ഇതിനു പുറമേ അഭ്യർത്ഥനകളുടെ എണ്ണത്തിന് കർശനമായ പരമാവധി പരിധി ആവശ്യമുണ്ടെങ്കിൽ മാത്രം പഴയ `OMNIROUTE_CHAT_MAX_HEAVY_IN_FLIGHT` പരിധി സജ്ജമാക്കുക. - **VPS-ൽ `next build` ഒഴിവാക്കുക** — ലോക്കലായി ബിൽഡ് ചെയ്ത് സ്റ്റാൻഡ്എലോൺ ഔട്ട്പുട്ട് (`.next/standalone/`) ഡിപ്ലോയ് ചെയ്യുക. - **`top` / `free -m` ഉപയോഗിച്ച് നിരീക്ഷിക്കുക** — 1 GB VM-ൽ നിഷ്ക്രിയാവസ്ഥയിൽ OmniRoute സാധാരണയായി 200-400 MB RSS ഉപയോഗിക്കുന്നു.