# अध्याय ०३: लहान भाषा मॉडेल्स (SLMs) तैनात करणे

हा सविस्तर अध्याय लहान भाषा मॉडेल्स (SLMs) तैनातीचा संपूर्ण जीवनचक्र शोधतो, ज्यामध्ये सैद्धांतिक पाया, व्यावहारिक अंमलबजावणी धोरणे आणि उत्पादन-तयार कंटेनरयुक्त उपायांचा समावेश आहे. हा अध्याय तीन प्रगत विभागांमध्ये संरचित आहे, जे वाचकांना मूलभूत संकल्पनांपासून प्रगत तैनाती परिस्थितीपर्यंत घेऊन जातात.

## अध्यायाची रचना आणि शिकण्याचा प्रवास

### **[विभाग १: SLM प्रगत शिक्षण - पाया आणि ऑप्टिमायझेशन](./01.SLMAdvancedLearning.md)**
प्रारंभिक विभाग लहान भाषा मॉडेल्स समजून घेण्यासाठी सैद्धांतिक पाया तयार करतो आणि एज AI तैनातीमध्ये त्यांचे धोरणात्मक महत्त्व स्पष्ट करतो. या विभागात समाविष्ट आहे:

- **पॅरामीटर वर्गीकरण फ्रेमवर्क**: मायक्रो SLMs (100M-1.4B पॅरामीटर्स) ते मीडियम SLMs (14B-30B पॅरामीटर्स) पर्यंत SLM श्रेणींचा सविस्तर अभ्यास, Phi-4-mini-3.8B, Qwen3 मालिका आणि Google Gemma3 सारख्या मॉडेल्सवर विशिष्ट लक्ष केंद्रित करून, प्रत्येक मॉडेल स्तरासाठी हार्डवेअर आवश्यकता आणि मेमरी फूटप्रिंट विश्लेषणासह
- **प्रगत ऑप्टिमायझेशन तंत्रे**: Llama.cpp, Microsoft Olive, आणि Apple MLX फ्रेमवर्क वापरून क्वांटायझेशन पद्धतींचे सविस्तर कव्हरेज, BitNET 1-बिट क्वांटायझेशनसह अत्याधुनिक तंत्रज्ञान, क्वांटायझेशन पाइपलाइन्स आणि बेंचमार्किंग परिणाम दाखवणारे व्यावहारिक कोड उदाहरणांसह
- **मॉडेल अधिग्रहण धोरणे**: Hugging Face इकोसिस्टम आणि Azure AI Foundry Model Catalog चा सखोल अभ्यास, एंटरप्राइझ-ग्रेड SLM तैनातीसाठी, प्रोग्रामॅटिक मॉडेल डाउनलोडिंग, व्हॅलिडेशन आणि फॉर्मॅट रूपांतरणासाठी कोड नमुन्यांसह
- **डेव्हलपर APIs**: Python, C++, आणि C# मधील कोड उदाहरणे, ज्यामध्ये मॉडेल लोड करणे, इनफरन्स करणे आणि PyTorch, TensorFlow, आणि ONNX Runtime सारख्या लोकप्रिय फ्रेमवर्कसह एकत्रीकरण कसे करावे हे दाखवले आहे

हा मूलभूत विभाग ऑपरेशनल कार्यक्षमता, तैनातीची लवचिकता आणि खर्च-प्रभावीपणाचा समतोल साधण्यावर भर देतो, ज्यामुळे SLMs एज संगणन परिस्थितीसाठी आदर्श बनतात, आणि विकसक त्यांच्या प्रकल्पांमध्ये थेट अंमलात आणू शकतील असे व्यावहारिक कोड उदाहरणे प्रदान करतो.

### **[विभाग २: स्थानिक वातावरण तैनाती - गोपनीयता-प्रथम उपाय](./02.DeployingSLMinLocalEnv.md)**
दुसरा विभाग सिद्धांतातून व्यावहारिक अंमलबजावणीकडे संक्रमण करतो, डेटा सार्वभौमत्व आणि ऑपरेशनल स्वातंत्र्याला प्राधान्य देणाऱ्या स्थानिक तैनाती धोरणांवर लक्ष केंद्रित करतो. मुख्य क्षेत्रांमध्ये समाविष्ट आहे:

- **Ollama युनिव्हर्सल प्लॅटफॉर्म**: क्रॉस-प्लॅटफॉर्म तैनातीचे सविस्तर अन्वेषण, विकसक-अनुकूल कार्यप्रवाह, मॉडेल जीवनचक्र व्यवस्थापन, आणि Modelfiles द्वारे सानुकूलन, पूर्ण REST API एकत्रीकरण उदाहरणे आणि CLI ऑटोमेशन स्क्रिप्ट्ससह
- **Microsoft Foundry Local**: ONNX-आधारित ऑप्टिमायझेशन, Windows ML एकत्रीकरण, आणि व्यापक सुरक्षा वैशिष्ट्यांसह एंटरप्राइझ-ग्रेड तैनाती उपाय, मूळ अनुप्रयोग एकत्रीकरणासाठी C# आणि Python कोड उदाहरणांसह
- **तुलनात्मक विश्लेषण**: तांत्रिक आर्किटेक्चर, कार्यक्षमता वैशिष्ट्ये, आणि उपयोग प्रकरण ऑप्टिमायझेशन मार्गदर्शक तत्त्वे कव्हर करणारे सविस्तर फ्रेमवर्क तुलना, विविध हार्डवेअरवर इनफरन्स गती आणि मेमरी वापराचे मूल्यांकन करण्यासाठी बेंचमार्क कोडसह
- **API एकत्रीकरण**: स्थानिक SLM तैनाती वापरून वेब सेवा, चॅट अनुप्रयोग, आणि डेटा प्रक्रिया पाइपलाइन्स कसे तयार करावे याचे नमुना अनुप्रयोग, Node.js, Python Flask/FastAPI, आणि ASP.NET Core मधील कोड उदाहरणांसह
- **चाचणी फ्रेमवर्क**: मॉडेल गुणवत्ता आश्वासनासाठी स्वयंचलित चाचणी पद्धती, SLM अंमलबजावणीसाठी युनिट आणि इंटिग्रेशन चाचणी उदाहरणांसह

हा विभाग गोपनीयता-संरक्षण AI उपाय अंमलात आणण्याची इच्छा असलेल्या संस्थांसाठी व्यावहारिक मार्गदर्शन प्रदान करतो, त्यांच्या तैनातीच्या वातावरणावर पूर्ण नियंत्रण ठेवत, आणि विकसक त्यांच्या विशिष्ट आवश्यकता पूर्ण करण्यासाठी अनुकूल करू शकतील असे तयार-टू-यूज कोड नमुने प्रदान करतो.

### **[विभाग ३: कंटेनरयुक्त क्लाउड तैनाती - उत्पादन-स्तरीय उपाय](./03.DeployingSLMinCloud.md)**
अंतिम विभाग प्रगत कंटेनरयुक्त तैनाती धोरणांमध्ये समाप्त होतो, ज्यामध्ये Microsoft च्या Phi-4-mini-instruct ला प्राथमिक केस स्टडी म्हणून वैशिष्ट्यीकृत केले आहे. या विभागात समाविष्ट आहे:

- **vLLM तैनाती**: OpenAI-सुसंगत APIs, प्रगत GPU प्रवेग, आणि उत्पादन-ग्रेड कॉन्फिगरेशनसह उच्च-कार्यक्षमता इनफरन्स ऑप्टिमायझेशन, पूर्ण Dockerfiles, Kubernetes manifests, आणि कार्यक्षमता ट्यूनिंग पॅरामीटर्ससह
- **Ollama कंटेनर ऑर्केस्ट्रेशन**: Docker Compose सह सुलभ तैनाती कार्यप्रवाह, मॉडेल ऑप्टिमायझेशन प्रकार, आणि वेब UI एकत्रीकरण, स्वयंचलित तैनाती आणि चाचणीसाठी CI/CD पाइपलाइन उदाहरणांसह
- **ONNX Runtime अंमलबजावणी**: सर्वसमावेशक मॉडेल रूपांतरण, क्वांटायझेशन धोरणे, आणि क्रॉस-प्लॅटफॉर्म सुसंगतता, मॉडेल ऑप्टिमायझेशन आणि तैनातीसाठी सविस्तर कोड नमुन्यांसह
- **मॉनिटरिंग आणि निरीक्षण**: Prometheus/Grafana डॅशबोर्ड्ससह SLM कार्यक्षमता निरीक्षणासाठी सानुकूल मेट्रिक्स अंमलबजावणी, अलर्टिंग कॉन्फिगरेशन्स आणि लॉग एकत्रीकरणासह
- **लोड बॅलन्सिंग आणि स्केलिंग**: CPU/GPU वापर आणि विनंती नमुन्यांवर आधारित ऑटोस्केलिंग कॉन्फिगरेशन्ससह आडव्या आणि उभ्या स्केलिंग धोरणांचे व्यावहारिक उदाहरणे
- **सुरक्षा मजबुतीकरण**: API कीज आणि मॉडेल प्रवेश क्रेडेन्शियल्ससाठी प्रिव्हिलेज रिडक्शन, नेटवर्क पॉलिसीज, आणि सीक्रेट्स व्यवस्थापनासह कंटेनर सुरक्षा सर्वोत्तम पद्धती

प्रत्येक तैनाती दृष्टिकोन पूर्ण कॉन्फिगरेशन उदाहरणे, चाचणी प्रक्रिया, उत्पादन तयारी चेकलिस्ट्स, आणि इन्फ्रास्ट्रक्चर-आस-कोड टेम्पलेट्ससह सादर केला जातो, जे विकसक त्यांच्या तैनाती कार्यप्रवाहांमध्ये थेट लागू करू शकतात.

## मुख्य शिकण्याचे परिणाम

हा अध्याय पूर्ण करून, वाचक खालील गोष्टींमध्ये प्रवीण होतील:

1. **धोरणात्मक मॉडेल निवड**: संसाधन मर्यादा आणि कार्यक्षमता आवश्यकता लक्षात घेऊन योग्य SLM निवडणे
2. **ऑप्टिमायझेशन कौशल्य**: वेगवेगळ्या फ्रेमवर्कमध्ये प्रगत क्वांटायझेशन तंत्रे अंमलात आणणे, कार्यक्षमता-कार्यक्षमता संतुलन साधणे
3. **तैनातीची लवचिकता**: संस्थात्मक गरजांनुसार स्थानिक गोपनीयता-केंद्रित उपाय आणि स्केलेबल कंटेनरयुक्त तैनाती यामध्ये निवड करणे
4. **उत्पादन तयारी**: एंटरप्राइझ-ग्रेड SLM तैनातीसाठी मॉनिटरिंग, सुरक्षा, आणि स्केलिंग प्रणाली कॉन्फिगर करणे

## व्यावहारिक लक्ष आणि वास्तविक-जगातील अनुप्रयोग

अध्याय संपूर्णपणे मजबूत व्यावहारिक अभिमुखता राखतो, ज्यामध्ये समाविष्ट आहे:

- **हँड्स-ऑन उदाहरणे**: पूर्ण कॉन्फिगरेशन फाइल्स, API चाचणी प्रक्रिया, आणि तैनाती स्क्रिप्ट्स
- **कार्यक्षमता बेंचमार्किंग**: इनफरन्स गती, मेमरी वापर, आणि संसाधन आवश्यकता यांची सविस्तर तुलना
- **सुरक्षा विचार**: एंटरप्राइझ-ग्रेड सुरक्षा पद्धती, अनुपालन फ्रेमवर्क, आणि डेटा संरक्षण धोरणे
- **सर्वोत्तम पद्धती**: मॉनिटरिंग, स्केलिंग, आणि देखभालसाठी उत्पादन-प्रमाणित मार्गदर्शक तत्त्वे

## भविष्य-केंद्रित दृष्टिकोन

अध्याय पुढील तंत्रज्ञान विकासांमध्ये उदयोन्मुख ट्रेंड्ससह पुढे पाहण्याच्या अंतर्दृष्टीसह समाप्त होतो:

- सुधारित कार्यक्षमता गुणोत्तरांसह प्रगत मॉडेल आर्किटेक्चर
- विशेष AI प्रवेगकांसह सखोल हार्डवेअर एकत्रीकरण
- मानकीकरण आणि परस्परसंवादाकडे इकोसिस्टम उत्क्रांती
- गोपनीयता आणि अनुपालन आवश्यकता चालवलेल्या एंटरप्राइझ स्वीकार नमुने

हा सविस्तर दृष्टिकोन सुनिश्चित करतो की वाचक सध्याच्या SLM तैनाती आव्हानांवर आणि भविष्यातील तंत्रज्ञान विकासांवर नेव्हिगेट करण्यासाठी चांगले सुसज्ज आहेत, त्यांच्या विशिष्ट संस्थात्मक आवश्यकता आणि मर्यादा यांच्याशी जुळणारे सूचित निर्णय घेत आहेत.

हा अध्याय तात्काळ अंमलबजावणीसाठी व्यावहारिक मार्गदर्शक आणि दीर्घकालीन AI तैनाती नियोजनासाठी धोरणात्मक संसाधन म्हणून काम करतो, यशस्वी SLM तैनाती परिभाषित करणाऱ्या क्षमता, कार्यक्षमता, आणि ऑपरेशनल उत्कृष्टतेच्या महत्त्वपूर्ण संतुलनावर भर देतो.

---

**अस्वीकरण**:  
हा दस्तऐवज AI भाषांतर सेवा [Co-op Translator](https://github.com/Azure/co-op-translator) वापरून भाषांतरित करण्यात आला आहे. आम्ही अचूकतेसाठी प्रयत्नशील असलो तरी कृपया लक्षात ठेवा की स्वयंचलित भाषांतरे त्रुटी किंवा अचूकतेच्या अभावाने युक्त असू शकतात. मूळ भाषेतील दस्तऐवज हा अधिकृत स्रोत मानला जावा. महत्त्वाच्या माहितीसाठी व्यावसायिक मानवी भाषांतराची शिफारस केली जाते. या भाषांतराचा वापर करून उद्भवलेल्या कोणत्याही गैरसमज किंवा चुकीच्या अर्थासाठी आम्ही जबाबदार राहणार नाही.