# मॉड्यूल 08: Microsoft Foundry Local सह प्रत्यक्ष अनुभव - संपूर्ण डेव्हलपर टूलकिट

## आढावा

[Microsoft Foundry Local](https://learn.microsoft.com/azure/ai-foundry/foundry-local/) ही एज AI विकासाची पुढील पिढी आहे, जी डेव्हलपरना स्थानिक स्तरावर AI अ‍ॅप्लिकेशन्स तयार, तैनात आणि स्केल करण्यासाठी शक्तिशाली साधने प्रदान करते, Azure AI Foundry सह अखंड एकत्रीकरण राखून. या मॉड्यूलमध्ये Foundry Local च्या स्थापनेपासून ते प्रगत एजंट विकासापर्यंत सर्वसमावेशक कव्हरेज आहे.

**मुख्य तंत्रज्ञान:**
- Microsoft Foundry Local CLI आणि SDK
- Azure AI Foundry एकत्रीकरण
- ऑन-डिव्हाइस मॉडेल इनफरन्स
- स्थानिक मॉडेल कॅशिंग आणि ऑप्टिमायझेशन
- एजंट-आधारित आर्किटेक्चर

## शिकण्याची उद्दिष्टे

या मॉड्यूल पूर्ण करून, तुम्ही:

- **Foundry Local मध्ये प्राविण्य मिळवा**: Windows 11 विकासासाठी स्थापना, कॉन्फिगरेशन आणि ऑप्टिमायझेशन करा
- **विविध मॉडेल्स तैनात करा**: CLI कमांडसह phi, qwen, deepseek आणि GPT मॉडेल्स स्थानिक स्तरावर चालवा
- **उत्पादन सोल्यूशन्स तयार करा**: प्रगत प्रॉम्प्ट इंजिनिअरिंग आणि डेटा एकत्रीकरणासह AI अ‍ॅप्लिकेशन्स तयार करा
- **ओपन-सोर्स इकोसिस्टमचा लाभ घ्या**: Hugging Face मॉडेल्स आणि समुदाय योगदान एकत्रित करा
- **AI एजंट्स विकसित करा**: ग्राउंडिंग आणि ऑर्केस्ट्रेशन क्षमतांसह बुद्धिमान एजंट्स तयार करा
- **एंटरप्राइझ पॅटर्न्स अंमलात आणा**: उत्पादन तैनातीसाठी मॉड्यूलर, स्केलेबल AI सोल्यूशन्स तयार करा

## सत्र संरचना

### [1: Foundry Local सह सुरुवात करा](./01.FoundryLocalSetup.md)
**फोकस**: स्थापना, CLI सेटअप, मॉडेल तैनाती, आणि हार्डवेअर ऑप्टिमायझेशन

**मुख्य विषय**: संपूर्ण स्थापना • CLI कमांड्स • मॉडेल कॅशिंग • हार्डवेअर प्रवेग • मल्टी-मॉडेल तैनाती

**उदाहरण**: [REST Chat Quickstart](./samples/01/README.md) • [OpenAI SDK Integration](./samples/02/README.md) • [Model Discovery & Benchmarking](./samples/03/README.md)

**कालावधी**: 2-3 तास | **स्तर**: सुरुवातीचा

---

### [2: Azure AI Foundry सह AI सोल्यूशन्स तयार करा](./02.AzureAIFoundryIntegration.md)
**फोकस**: प्रगत प्रॉम्प्ट इंजिनिअरिंग, डेटा एकत्रीकरण, आणि क्लाउड कनेक्टिव्हिटी

**मुख्य विषय**: प्रॉम्प्ट इंजिनिअरिंग • डेटा एकत्रीकरण • Azure वर्कफ्लो • कार्यक्षमता ऑप्टिमायझेशन • मॉनिटरिंग

**उदाहरण**: [Chainlit RAG Application](./samples/04/README.md)

**कालावधी**: 2-3 तास | **स्तर**: मध्यम

---

### [3: ओपन-सोर्स मॉडेल्स Foundry Local](./03.OpenSourceModels.md)
**फोकस**: Hugging Face एकत्रीकरण, BYOM रणनीती, आणि समुदाय मॉडेल्स

**मुख्य विषय**: HuggingFace एकत्रीकरण • Bring-your-own-model • Model Mondays अंतर्दृष्टी • समुदाय योगदान • मॉडेल निवड

**उदाहरण**: [Multi-Agent Orchestration](./samples/05/README.md)

**कालावधी**: 2-3 तास | **स्तर**: मध्यम

---

### [4: अत्याधुनिक मॉडेल्स एक्सप्लोर करा](./04.CuttingEdgeModels.md)
**फोकस**: LLMs vs SLMs, EdgeAI अंमलबजावणी, आणि प्रगत डेमो

**मुख्य विषय**: मॉडेल तुलना • Edge vs क्लाउड इनफरन्स • Phi + ONNX Runtime • Chainlit RAG अ‍ॅप • WebGPU ऑप्टिमायझेशन

**उदाहरण**: [Models-as-Tools Router](./samples/06/README.md)

**कालावधी**: 3-4 तास | **स्तर**: प्रगत

---

### [5: AI-सक्षम एजंट्स जलद तयार करा](./05.AIPoweredAgents.md)
**फोकस**: एजंट आर्किटेक्चर, सिस्टम प्रॉम्प्ट्स, ग्राउंडिंग, आणि ऑर्केस्ट्रेशन

**मुख्य विषय**: एजंट डिझाइन पॅटर्न्स • सिस्टम प्रॉम्प्ट इंजिनिअरिंग • ग्राउंडिंग तंत्रे • मल्टी-एजंट सिस्टम्स • उत्पादन तैनाती

**उदाहरण**: [Multi-Agent Orchestration](./samples/05/README.md) • [Advanced Multi-Agent System](./samples/09/README.md)

**कालावधी**: 3-4 तास | **स्तर**: प्रगत

---

### [6: Foundry Local - मॉडेल्स as Tools](./06.ModelsAsTools.md)
**फोकस**: मॉड्यूलर AI सोल्यूशन्स, एंटरप्राइझ स्केलिंग, आणि उत्पादन पॅटर्न्स

**मुख्य विषय**: मॉडेल्स as tools • ऑन-डिव्हाइस तैनाती • SDK/API एकत्रीकरण • एंटरप्राइझ आर्किटेक्चर • स्केलिंग रणनीती

**उदाहरण**: [Models-as-Tools Router](./samples/06/README.md) • [Foundry Tools Framework](./samples/10/README.md)

**कालावधी**: 3-4 तास | **स्तर**: तज्ज्ञ

---

### [7: थेट API एकत्रीकरण पॅटर्न्स](./samples/07/README.md)
**फोकस**: SDK अवलंबित्वांशिवाय शुद्ध REST API एकत्रीकरणासाठी जास्तीत जास्त नियंत्रण

**मुख्य विषय**: HTTP क्लायंट अंमलबजावणी • सानुकूल प्रमाणीकरण • मॉडेल आरोग्य मॉनिटरिंग • स्ट्रीमिंग प्रतिसाद • उत्पादन त्रुटी हाताळणी

**उदाहरण**: [Direct API Client](./samples/07/README.md)

**कालावधी**: 2-3 तास | **स्तर**: मध्यम

---

### [8: Windows 11 नेटिव्ह चॅट अ‍ॅप्लिकेशन](./samples/08/README.md)
**फोकस**: Foundry Local एकत्रीकरणासह आधुनिक नेटिव्ह चॅट अ‍ॅप्लिकेशन्स तयार करणे

**मुख्य विषय**: Electron विकास • Fluent Design System • नेटिव्ह Windows एकत्रीकरण • रिअल-टाइम स्ट्रीमिंग • चॅट इंटरफेस डिझाइन

**उदाहरण**: [Windows 11 Chat Application](./samples/08/README.md)

**कालावधी**: 3-4 तास | **स्तर**: प्रगत

---

### [9: प्रगत मल्टी-एजंट ऑर्केस्ट्रेशन](./samples/09/README.md)
**फोकस**: परिष्कृत एजंट समन्वय, विशेष कार्य प्रतिनिधी, आणि सहयोगी AI वर्कफ्लो

**मुख्य विषय**: बुद्धिमान एजंट समन्वय • फंक्शन कॉलिंग पॅटर्न्स • क्रॉस-एजंट कम्युनिकेशन • वर्कफ्लो ऑर्केस्ट्रेशन • गुणवत्ता आश्वासन यंत्रणा

**उदाहरण**: [Advanced Multi-Agent System](./samples/09/README.md)

**कालावधी**: 4-5 तास | **स्तर**: तज्ज्ञ

---

### [10: Foundry Local as Tools Framework](./samples/10/README.md)
**फोकस**: Foundry Local ला विद्यमान अ‍ॅप्लिकेशन्स आणि फ्रेमवर्कमध्ये एकत्रित करण्यासाठी टूल-प्रथम आर्किटेक्चर

**मुख्य विषय**: LangChain एकत्रीकरण • Semantic Kernel फंक्शन्स • REST API फ्रेमवर्क्स • CLI टूल्स • Jupyter एकत्रीकरण • उत्पादन तैनाती पॅटर्न्स

**उदाहरण**: [Foundry Tools Framework](./samples/10/README.md)

**कालावधी**: 4-5 तास | **स्तर**: तज्ज्ञ

## पूर्वतयारी

### सिस्टम आवश्यकता
- **ऑपरेटिंग सिस्टम**: Windows 11 (22H2 किंवा नंतरचे)
- **मेमरी**: 16GB RAM (मोठ्या मॉडेल्ससाठी 32GB शिफारस केलेले)
- **स्टोरेज**: मॉडेल कॅशिंगसाठी 50GB मोकळी जागा
- **हार्डवेअर**: NPU-सक्षम डिव्हाइस शिफारस केलेले (Copilot+ PC), GPU पर्यायी
- **नेटवर्क**: प्रारंभिक मॉडेल डाउनलोडसाठी उच्च-गती इंटरनेट

### विकास वातावरण
- Visual Studio Code AI Toolkit विस्तारासह
- Python 3.10+ आणि pip
- Git आवृत्ती नियंत्रणासाठी
- PowerShell किंवा Command Prompt
- Azure CLI (क्लाउड एकत्रीकरणासाठी पर्यायी)

### ज्ञान पूर्वतयारी
- AI/ML संकल्पनांची मूलभूत समज
- कमांड लाइन परिचितता
- Python प्रोग्रामिंग मूलभूत
- REST API संकल्पना
- प्रॉम्प्टिंग आणि मॉडेल इनफरन्सचे मूलभूत ज्ञान

## मॉड्यूल टाइमलाइन

**एकूण अंदाजे वेळ**: 30-38 तास

| सत्र | फोकस क्षेत्र | उदाहरणे | वेळ | गुंतागुंतीचा स्तर |
|---------|------------|---------|------|------------|
|  1 | सेटअप आणि मूलभूत गोष्टी | 01, 02, 03 | 2-3 तास | सुरुवातीचा |
|  2 | AI सोल्यूशन्स | 04 | 2-3 तास | मध्यम |
|  3 | ओपन सोर्स | 05 | 2-3 तास | मध्यम |
|  4 | प्रगत मॉडेल्स | 06 | 3-4 तास | प्रगत |
|  5 | AI एजंट्स | 05, 09 | 3-4 तास | प्रगत |
|  6 | एंटरप्राइझ टूल्स | 06, 10 | 3-4 तास | तज्ज्ञ |
|  7 | थेट API एकत्रीकरण | 07 | 2-3 तास | मध्यम |
|  8 | Windows 11 चॅट अ‍ॅप | 08 | 3-4 तास | प्रगत |
|  9 | प्रगत मल्टी-एजंट | 09 | 4-5 तास | तज्ज्ञ |
| 10 | टूल्स फ्रेमवर्क | 10 | 4-5 तास | तज्ज्ञ |

## मुख्य संसाधने

**अधिकृत दस्तऐवज:**
- [Microsoft Foundry Local GitHub](https://github.com/microsoft/Foundry-Local) - स्त्रोत कोड आणि अधिकृत उदाहरणे
- [Azure AI Foundry दस्तऐवज](https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local/) - संपूर्ण सेटअप आणि वापर मार्गदर्शक
- [Model Mondays Series](https://aka.ms/model-mondays) - साप्ताहिक मॉडेल हायलाइट्स आणि ट्यूटोरियल्स

**समुदाय आणि समर्थन:**
- [Foundry Local चर्चासत्रे](https://github.com/microsoft/Foundry-Local/discussions) - समुदाय Q&A आणि वैशिष्ट्य विनंत्या
- [Microsoft AI डेव्हलपर समुदाय](https://techcommunity.microsoft.com/category/artificialintelligence) - ताज्या बातम्या आणि सर्वोत्तम पद्धती

## शिकण्याचे परिणाम

हे मॉड्यूल पूर्ण केल्यानंतर, तुम्ही सुसज्ज असाल:

### तांत्रिक प्राविण्य
- **तैनात आणि व्यवस्थापित करा**: विकास आणि उत्पादन वातावरणांमध्ये Foundry Local स्थापना
- **मॉडेल्स एकत्रित करा**: Microsoft, Hugging Face, आणि समुदाय स्रोतांमधील विविध मॉडेल्ससह अखंडपणे कार्य करा
- **अ‍ॅप्लिकेशन्स तयार करा**: प्रगत वैशिष्ट्ये आणि ऑप्टिमायझेशन्ससह उत्पादन-तयार AI अ‍ॅप्लिकेशन्स तयार करा
- **एजंट्स विकसित करा**: ग्राउंडिंग, विचार, आणि टूल्स एकत्रीकरणासह परिष्कृत AI एजंट्स अंमलात आणा

### धोरणात्मक समज
- **आर्किटेक्चर निर्णय**: स्थानिक vs क्लाउड तैनाती दरम्यान माहितीपूर्ण निवडी करा
- **कार्यक्षमता ऑप्टिमायझेशन**: विविध हार्डवेअर कॉन्फिगरेशन्समध्ये इनफरन्स कार्यक्षमता ऑप्टिमाइझ करा
- **एंटरप्राइझ स्केलिंग**: स्थानिक प्रोटोटाइप्सपासून एंटरप्राइझ तैनातीपर्यंत स्केल होणारी अ‍ॅप्लिकेशन्स डिझाइन करा
- **गोपनीयता आणि सुरक्षा**: स्थानिक इनफरन्ससह गोपनीयता-संरक्षण करणारे AI सोल्यूशन्स अंमलात आणा

### नवकल्पना क्षमता
- **जलद प्रोटोटायपिंग**: सर्व 10 नमुना पॅटर्न्समध्ये AI अ‍ॅप्लिकेशन संकल्पना जलद तयार करा आणि चाचणी करा
- **समुदाय एकत्रीकरण**: ओपन-सोर्स मॉडेल्सचा लाभ घ्या आणि इकोसिस्टममध्ये योगदान द्या
- **प्रगत पॅटर्न्स**: RAG, एजंट्स, आणि टूल्स एकत्रीकरणासह अत्याधुनिक AI पॅटर्न्स अंमलात आणा
- **फ्रेमवर्क प्राविण्य**: LangChain, Semantic Kernel, Chainlit, आणि Electron सह तज्ज्ञ-स्तरीय एकत्रीकरण
- **उत्पादन तैनाती**: स्थानिक प्रोटोटाइप्सपासून एंटरप्राइझ सिस्टम्सपर्यंत स्केलेबल AI सोल्यूशन्स तैनात करा
- **भविष्यातील विकासासाठी तयार**: उदयोन्मुख AI तंत्रज्ञान आणि पॅटर्न्ससाठी तयार अ‍ॅप्लिकेशन्स तयार करा

## सुरुवात करा

1. **वातावरण सेटअप**: Windows 11 शिफारस केलेल्या हार्डवेअरसह सुनिश्चित करा (पूर्वतयारी पहा)
2. **Foundry Local स्थापित करा**: संपूर्ण स्थापना आणि कॉन्फिगरेशनसाठी सत्र 1 अनुसरा
3. **नमुना 01 चालवा**: सेटअप सत्यापित करण्यासाठी मूलभूत REST API एकत्रीकरणासह प्रारंभ करा
4. **नमुने पूर्ण करा**: सर्वसमावेशक प्राविण्यासाठी नमुने 01-10 पूर्ण करा

## यशाचे मेट्रिक्स

सर्व 10 सर्वसमावेशक नमुन्यांद्वारे तुमची प्रगती ट्रॅक करा:

### फाउंडेशन स्तर (नमुने 01-03)
- [ ] यशस्वीरित्या Foundry Local स्थापित आणि कॉन्फिगर करा
- [ ] REST API एकत्रीकरण पूर्ण करा (नमुना 01)
- [ ] OpenAI SDK सुसंगतता अंमलात आणा (नमुना 02)
- [ ] मॉडेल शोध आणि बेंचमार्किंग करा (नमुना 03)

### अ‍ॅप्लिकेशन स्तर (नमुने 04-06)
- [ ] किमान 4 वेगवेगळ्या मॉडेल कुटुंबे तैनात करा आणि चालवा
- [ ] कार्यशील RAG चॅट अ‍ॅप्लिकेशन तयार करा (नमुना 04)
- [ ] मल्टी-एजंट ऑर्केस्ट्रेशन सिस्टम तयार करा (नमुना 05)
- [ ] बुद्धिमान मॉडेल राउटिंग अंमलात आणा (नमुना 06)

### प्रगत एकत्रीकरण स्तर (नमुने 07-10)
- [ ] उत्पादन-तयार API क्लायंट तयार करा (नमुना 07)
- [ ] Windows 11 नेटिव्ह चॅट अ‍ॅप्लिकेशन विकसित करा (नमुना 08)
- [ ] प्रगत मल्टी-एजंट सिस्टम अंमलात आणा (नमुना 09)
- [ ] सर्वसमावेशक टूल्स फ्रेमवर्क तयार करा (नमुना 10)

### प्राविण्य निर्देशक
- [ ] सर्व 10 नमुने त्रुटीशिवाय यशस्वीरित्या चालवा
- [ ] विशिष्ट उपयोग प्रकरणांसाठी किमान 3 नमुने सानुकूलित करा
- [ ] उत्पादनासारख्या वातावरणात 2+ नमुने तैनात करा
- [ ] नमुना कोडमध्ये सुधारणा किंवा विस्तार योगदान द्या
- [ ] वैयक्तिक/व्यावसायिक प्रकल्पांमध्ये Foundry Local पॅटर्न्स एकत्रित करा

## जलद प्रारंभ मार्गदर्शक - सर्व 10 नमुने

### वातावरण सेटअप (सर्व नमुन्यांसाठी आवश्यक)

```powershell
# 1. Clone and navigate to Module08
cd Module08

# 2. Create Python virtual environment
py -m venv .venv
.\.venv\Scripts\activate

# 3. Install base dependencies
pip install -r requirements.txt

# 4. Install Foundry Local (if not already installed)
winget install Microsoft.FoundryLocal

# 5. Verify Foundry Local installation
foundry --version
foundry model list
```

### मुख्य फाउंडेशन नमुने (01-06)

**
हा मॉड्यूल एज एआय विकासाच्या अत्याधुनिक तंत्रज्ञानाचे प्रतिनिधित्व करतो, ज्यामध्ये मायक्रोसॉफ्टचे एंटरप्राइझ-ग्रेड टूल्स आणि ओपन-सोर्स इकोसिस्टमची लवचिकता व नाविन्य यांचे संयोजन आहे. फाउंड्री लोकलचे सर्व 10 व्यापक नमुने आत्मसात करून, तुम्ही एआय अनुप्रयोग विकासाच्या आघाडीवर असाल.

**पूर्ण शिक्षण मार्ग:**
- **मूलभूत** (नमुने 01-03): API एकत्रीकरण आणि मॉडेल व्यवस्थापन
- **अनुप्रयोग** (नमुने 04-06): RAG, एजंट्स आणि बुद्धिमान रूटिंग
- **प्रगत** (नमुने 07-10): उत्पादन फ्रेमवर्क आणि एंटरप्राइझ एकत्रीकरण

Azure OpenAI एकत्रीकरणासाठी (सत्र 2), आवश्यक पर्यावरणीय व्हेरिएबल्स आणि API व्हर्जन सेटिंग्जसाठी वैयक्तिक नमुन्यांच्या README फाइल्स पहा.

---

**अस्वीकरण**:  
हा दस्तऐवज AI भाषांतर सेवा [Co-op Translator](https://github.com/Azure/co-op-translator) वापरून भाषांतरित करण्यात आला आहे. आम्ही अचूकतेसाठी प्रयत्नशील असलो तरी, कृपया लक्षात ठेवा की स्वयंचलित भाषांतरांमध्ये त्रुटी किंवा अचूकतेचा अभाव असू शकतो. मूळ भाषेतील दस्तऐवज हा अधिकृत स्रोत मानला जावा. महत्त्वाच्या माहितीसाठी, व्यावसायिक मानवी भाषांतराची शिफारस केली जाते. या भाषांतराचा वापर करून उद्भवलेल्या कोणत्याही गैरसमज किंवा चुकीच्या अर्थासाठी आम्ही जबाबदार राहणार नाही.