# ماڈیول 08: Microsoft Foundry Local کے ساتھ عملی تجربہ - مکمل ڈویلپر ٹول کٹ ## جائزہ [Microsoft Foundry Local](https://learn.microsoft.com/azure/ai-foundry/foundry-local/) ایج AI ڈیولپمنٹ کی اگلی نسل کی نمائندگی کرتا ہے، جو ڈویلپرز کو طاقتور ٹولز فراہم کرتا ہے تاکہ وہ AI ایپلیکیشنز کو مقامی طور پر بنائیں، تعینات کریں، اور اسکیل کریں، جبکہ Azure AI Foundry کے ساتھ ہموار انضمام برقرار رکھیں۔ یہ ماڈیول Foundry Local کی مکمل کوریج فراہم کرتا ہے، انسٹالیشن سے لے کر ایڈوانسڈ ایجنٹ ڈیولپمنٹ تک۔ **اہم ٹیکنالوجیز:** - Microsoft Foundry Local CLI اور SDK - Azure AI Foundry انضمام - ڈیوائس پر ماڈل انفرنس - مقامی ماڈل کیشنگ اور آپٹیمائزیشن - ایجنٹ پر مبنی آرکیٹیکچرز ## سیکھنے کے مقاصد اس ماڈیول کو مکمل کرنے کے بعد، آپ: - **Foundry Local میں مہارت حاصل کریں**: Windows 11 ڈیولپمنٹ کے لیے انسٹال، کنفیگر، اور آپٹیمائز کریں - **مختلف ماڈلز کو تعینات کریں**: phi، qwen، deepseek، اور GPT ماڈلز کو CLI کمانڈز کے ذریعے مقامی طور پر چلائیں - **پروڈکشن سلوشنز بنائیں**: ایڈوانسڈ پرامپٹ انجینئرنگ اور ڈیٹا انضمام کے ساتھ AI ایپلیکیشنز بنائیں - **اوپن سورس ایکو سسٹم کا فائدہ اٹھائیں**: Hugging Face ماڈلز اور کمیونٹی تعاون کو شامل کریں - **AI ایجنٹس تیار کریں**: گراؤنڈنگ اور آرکیسٹریشن صلاحیتوں کے ساتھ ذہین ایجنٹس بنائیں - **انٹرپرائز پیٹرنز نافذ کریں**: پروڈکشن ڈیپلائمنٹ کے لیے ماڈیولر، اسکیل ایبل AI سلوشنز بنائیں ## سیشن کا ڈھانچہ ### [1: Foundry Local کے ساتھ شروعات کریں](./01.FoundryLocalSetup.md) **فوکس**: انسٹالیشن، CLI سیٹ اپ، ماڈل ڈیپلائمنٹ، اور ہارڈویئر آپٹیمائزیشن **اہم موضوعات**: مکمل انسٹالیشن • CLI کمانڈز • ماڈل کیشنگ • ہارڈویئر ایکسیلیریشن • ملٹی ماڈل ڈیپلائمنٹ **نمونہ**: [REST چیٹ کوئیک اسٹارٹ](./samples/01/README.md) • [OpenAI SDK انضمام](./samples/02/README.md) • [ماڈل دریافت اور بینچ مارکنگ](./samples/03/README.md) **دورانیہ**: 2-3 گھنٹے | **سطح**: ابتدائی --- ### [2: Azure AI Foundry کے ساتھ AI سلوشنز بنائیں](./02.AzureAIFoundryIntegration.md) **فوکس**: ایڈوانسڈ پرامپٹ انجینئرنگ، ڈیٹا انضمام، اور کلاؤڈ کنیکٹیویٹی **اہم موضوعات**: پرامپٹ انجینئرنگ • ڈیٹا انضمام • Azure ورک فلو • کارکردگی کی آپٹیمائزیشن • مانیٹرنگ **نمونہ**: [Chainlit RAG ایپلیکیشن](./samples/04/README.md) **دورانیہ**: 2-3 گھنٹے | **سطح**: درمیانی --- ### [3: اوپن سورس ماڈلز Foundry Local](./03.OpenSourceModels.md) **فوکس**: Hugging Face انضمام، BYOM حکمت عملی، اور کمیونٹی ماڈلز **اہم موضوعات**: HuggingFace انضمام • اپنا ماڈل لائیں • Model Mondays بصیرتیں • کمیونٹی تعاون • ماڈل انتخاب **نمونہ**: [ملٹی ایجنٹ آرکیسٹریشن](./samples/05/README.md) **دورانیہ**: 2-3 گھنٹے | **سطح**: درمیانی --- ### [4: جدید ماڈلز کو دریافت کریں](./04.CuttingEdgeModels.md) **فوکس**: LLMs بمقابلہ SLMs، EdgeAI نفاذ، اور ایڈوانسڈ ڈیموز **اہم موضوعات**: ماڈل موازنہ • ایج بمقابلہ کلاؤڈ انفرنس • Phi + ONNX Runtime • Chainlit RAG ایپ • WebGPU آپٹیمائزیشن **نمونہ**: [Models-as-Tools Router](./samples/06/README.md) **دورانیہ**: 3-4 گھنٹے | **سطح**: ایڈوانسڈ --- ### [5: AI سے چلنے والے ایجنٹس جلدی بنائیں](./05.AIPoweredAgents.md) **فوکس**: ایجنٹ آرکیٹیکچرز، سسٹم پرامپٹس، گراؤنڈنگ، اور آرکیسٹریشن **اہم موضوعات**: ایجنٹ ڈیزائن پیٹرنز • سسٹم پرامپٹ انجینئرنگ • گراؤنڈنگ تکنیکیں • ملٹی ایجنٹ سسٹمز • پروڈکشن ڈیپلائمنٹ **نمونہ**: [ملٹی ایجنٹ آرکیسٹریشن](./samples/05/README.md) • [ایڈوانسڈ ملٹی ایجنٹ سسٹم](./samples/09/README.md) **دورانیہ**: 3-4 گھنٹے | **سطح**: ایڈوانسڈ --- ### [6: Foundry Local - ماڈلز بطور ٹولز](./06.ModelsAsTools.md) **فوکس**: ماڈیولر AI سلوشنز، انٹرپرائز اسکیلنگ، اور پروڈکشن پیٹرنز **اہم موضوعات**: ماڈلز بطور ٹولز • ڈیوائس پر ڈیپلائمنٹ • SDK/API انضمام • انٹرپرائز آرکیٹیکچرز • اسکیلنگ حکمت عملی **نمونہ**: [Models-as-Tools Router](./samples/06/README.md) • [Foundry Tools Framework](./samples/10/README.md) **دورانیہ**: 3-4 گھنٹے | **سطح**: ماہر --- ### [7: براہ راست API انضمام پیٹرنز](./samples/07/README.md) **فوکس**: SDK انحصار کے بغیر خالص REST API انضمام زیادہ سے زیادہ کنٹرول کے لیے **اہم موضوعات**: HTTP کلائنٹ نفاذ • کسٹم تصدیق • ماڈل صحت کی نگرانی • اسٹریمنگ جوابات • پروڈکشن ایرر ہینڈلنگ **نمونہ**: [براہ راست API کلائنٹ](./samples/07/README.md) **دورانیہ**: 2-3 گھنٹے | **سطح**: درمیانی --- ### [8: Windows 11 نیٹیو چیٹ ایپلیکیشن](./samples/08/README.md) **فوکس**: Foundry Local انضمام کے ساتھ جدید نیٹیو چیٹ ایپلیکیشنز بنانا **اہم موضوعات**: Electron ڈیولپمنٹ • Fluent Design System • نیٹیو Windows انضمام • ریئل ٹائم اسٹریمنگ • چیٹ انٹرفیس ڈیزائن **نمونہ**: [Windows 11 چیٹ ایپلیکیشن](./samples/08/README.md) **دورانیہ**: 3-4 گھنٹے | **سطح**: ایڈوانسڈ --- ### [9: ایڈوانسڈ ملٹی ایجنٹ آرکیسٹریشن](./samples/09/README.md) **فوکس**: پیچیدہ ایجنٹ کوآرڈینیشن، خصوصی ٹاسک ڈیلیگیشن، اور تعاون پر مبنی AI ورک فلو **اہم موضوعات**: ذہین ایجنٹ کوآرڈینیشن • فنکشن کالنگ پیٹرنز • کراس ایجنٹ کمیونیکیشن • ورک فلو آرکیسٹریشن • کوالٹی ایشورنس میکانزم **نمونہ**: [ایڈوانسڈ ملٹی ایجنٹ سسٹم](./samples/09/README.md) **دورانیہ**: 4-5 گھنٹے | **سطح**: ماہر --- ### [10: Foundry Local بطور ٹولز فریم ورک](./samples/10/README.md) **فوکس**: ٹول فرسٹ آرکیٹیکچر Foundry Local کو موجودہ ایپلیکیشنز اور فریم ورکس میں شامل کرنے کے لیے **اہم موضوعات**: LangChain انضمام • Semantic Kernel فنکشنز • REST API فریم ورکس • CLI ٹولز • Jupyter انضمام • پروڈکشن ڈیپلائمنٹ پیٹرنز **نمونہ**: [Foundry Tools Framework](./samples/10/README.md) **دورانیہ**: 4-5 گھنٹے | **سطح**: ماہر ## ضروریات ### سسٹم کی ضروریات - **آپریٹنگ سسٹم**: Windows 11 (22H2 یا بعد کا ورژن) - **میموری**: 16GB RAM (بڑے ماڈلز کے لیے 32GB تجویز کردہ) - **اسٹوریج**: ماڈل کیشنگ کے لیے 50GB خالی جگہ - **ہارڈویئر**: NPU-فعال ڈیوائس تجویز کردہ (Copilot+ PC)، GPU اختیاری - **نیٹ ورک**: ابتدائی ماڈل ڈاؤنلوڈز کے لیے ہائی اسپیڈ انٹرنیٹ ### ڈیولپمنٹ ماحول - Visual Studio Code AI Toolkit ایکسٹینشن کے ساتھ - Python 3.10+ اور pip - Git ورژن کنٹرول کے لیے - PowerShell یا کمانڈ پرامپٹ - Azure CLI (کلاؤڈ انضمام کے لیے اختیاری) ### علم کی ضروریات - AI/ML تصورات کی بنیادی سمجھ - کمانڈ لائن سے واقفیت - Python پروگرامنگ کی بنیادی باتیں - REST API تصورات - پرامپٹنگ اور ماڈل انفرنس کا بنیادی علم ## ماڈیول کا ٹائم لائن **کل تخمینی وقت**: 30-38 گھنٹے | سیشن | فوکس ایریا | نمونے | وقت | پیچیدگی | |---------|------------|---------|------|------------| | 1 | سیٹ اپ اور بنیادی باتیں | 01, 02, 03 | 2-3 گھنٹے | ابتدائی | | 2 | AI سلوشنز | 04 | 2-3 گھنٹے | درمیانی | | 3 | اوپن سورس | 05 | 2-3 گھنٹے | درمیانی | | 4 | جدید ماڈلز | 06 | 3-4 گھنٹے | ایڈوانسڈ | | 5 | AI ایجنٹس | 05, 09 | 3-4 گھنٹے | ایڈوانسڈ | | 6 | انٹرپرائز ٹولز | 06, 10 | 3-4 گھنٹے | ماہر | | 7 | براہ راست API انضمام | 07 | 2-3 گھنٹے | درمیانی | | 8 | Windows 11 چیٹ ایپ | 08 | 3-4 گھنٹے | ایڈوانسڈ | | 9 | ایڈوانسڈ ملٹی ایجنٹ | 09 | 4-5 گھنٹے | ماہر | | 10 | ٹولز فریم ورک | 10 | 4-5 گھنٹے | ماہر | ## اہم وسائل **سرکاری دستاویزات:** - [Microsoft Foundry Local GitHub](https://github.com/microsoft/Foundry-Local) - سورس کوڈ اور سرکاری نمونے - [Azure AI Foundry دستاویزات](https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local/) - مکمل سیٹ اپ اور استعمال گائیڈ - [Model Mondays سیریز](https://aka.ms/model-mondays) - ہفتہ وار ماڈل کی جھلکیاں اور ٹیوٹوریلز **کمیونٹی اور سپورٹ:** - [Foundry Local مباحثے](https://github.com/microsoft/Foundry-Local/discussions) - کمیونٹی Q&A اور فیچر درخواستیں - [Microsoft AI ڈیولپر کمیونٹی](https://techcommunity.microsoft.com/category/artificialintelligence) - تازہ ترین خبریں اور بہترین طریقے ## سیکھنے کے نتائج یہ ماڈیول مکمل کرنے کے بعد، آپ درج ذیل صلاحیتوں سے لیس ہوں گے: ### تکنیکی مہارت - **تعینات اور انتظام کریں**: Foundry Local انسٹالیشنز کو ڈیولپمنٹ اور پروڈکشن ماحول میں - **ماڈلز کو شامل کریں**: Microsoft، Hugging Face، اور کمیونٹی ذرائع سے مختلف ماڈل فیملیز کے ساتھ ہموار کام کریں - **ایپلیکیشنز بنائیں**: پروڈکشن کے لیے تیار AI ایپلیکیشنز ایڈوانسڈ فیچرز اور آپٹیمائزیشنز کے ساتھ بنائیں - **ایجنٹس تیار کریں**: گراؤنڈنگ، ریزننگ، اور ٹول انضمام کے ساتھ پیچیدہ AI ایجنٹس نافذ کریں ### اسٹریٹجک سمجھ - **آرکیٹیکچر کے فیصلے**: مقامی بمقابلہ کلاؤڈ ڈیپلائمنٹ کے درمیان باخبر انتخاب کریں - **کارکردگی کی آپٹیمائزیشن**: مختلف ہارڈویئر کنفیگریشنز میں انفرنس کی کارکردگی کو بہتر بنائیں - **انٹرپرائز اسکیلنگ**: ایپلیکیشنز کو مقامی پروٹوٹائپس سے انٹرپرائز ڈیپلائمنٹ تک ڈیزائن کریں - **پرائیویسی اور سیکیورٹی**: مقامی انفرنس کے ساتھ پرائیویسی کو محفوظ رکھنے والے AI سلوشنز نافذ کریں ### جدت کی صلاحیتیں - **تیز پروٹوٹائپنگ**: تمام 10 نمونہ پیٹرنز کے ذریعے AI ایپلیکیشن تصورات کو جلدی بنائیں اور آزمائیں - **کمیونٹی انضمام**: اوپن سورس ماڈلز کا فائدہ اٹھائیں اور ایکو سسٹم میں تعاون کریں - **ایڈوانسڈ پیٹرنز**: جدید AI پیٹرنز جیسے RAG، ایجنٹس، اور ٹول انضمام کو نافذ کریں - **فریم ورک مہارت**: LangChain، Semantic Kernel، Chainlit، اور Electron کے ساتھ ماہر سطح کا انضمام - **پروڈکشن ڈیپلائمنٹ**: مقامی پروٹوٹائپس سے انٹرپرائز سسٹمز تک اسکیل ایبل AI سلوشنز تعینات کریں - **مستقبل کے لیے تیار ڈیولپمنٹ**: ابھرتی ہوئی AI ٹیکنالوجیز اور پیٹرنز کے لیے تیار ایپلیکیشنز بنائیں ## شروعات کریں 1. **ماحول کی ترتیب**: Windows 11 کے ساتھ تجویز کردہ ہارڈویئر کو یقینی بنائیں (ضروریات دیکھیں) 2. **Foundry Local انسٹال کریں**: مکمل انسٹالیشن اور کنفیگریشن کے لیے سیشن 1 پر عمل کریں 3. **نمونہ 01 چلائیں**: سیٹ اپ کی تصدیق کے لیے بنیادی REST API انضمام سے شروع کریں 4. **نمونوں کے ذریعے پیش رفت کریں**: جامع مہارت کے لیے نمونے 01-10 مکمل کریں ## کامیابی کے میٹرکس تمام 10 جامع نمونوں کے ذریعے اپنی پیش رفت کو ٹریک کریں: ### بنیادی سطح (نمونے 01-03) - [ ] کامیابی سے Foundry Local انسٹال اور کنفیگر کریں - [ ] REST API انضمام مکمل کریں (نمونہ 01) - [ ] OpenAI SDK مطابقت کو نافذ کریں (نمونہ 02) - [ ] ماڈل دریافت اور بینچ مارکنگ انجام دیں (نمونہ 03) ### ایپلیکیشن سطح (نمونے 04-06) - [ ] کم از کم 4 مختلف ماڈل فیملیز کو تعینات کریں اور چلائیں - [ ] ایک فعال RAG چیٹ ایپلیکیشن بنائیں (نمونہ 04) - [ ] ملٹی ایجنٹ آرکیسٹریشن سسٹم بنائیں (نمونہ 05) - [ ] ذہین ماڈل روٹنگ کو نافذ کریں (نمونہ 06) ### ایڈوانسڈ انضمام سطح (نمونے 07-10) - [ ] پروڈکشن کے لیے تیار API کلائنٹ بنائیں (نمونہ 07) - [ ] Windows 11 نیٹیو چیٹ ایپلیکیشن تیار کریں (نمونہ 08) - [ ] ایڈوانسڈ ملٹی ایجنٹ سسٹم نافذ کریں (نمونہ 09) - [ ] جامع ٹولز فریم ورک بنائیں (نمونہ 10) ### مہارت کے اشارے - [ ] تمام 10 نمونوں کو بغیر کسی غلطی کے کامیابی سے چلائیں - [ ] مخصوص استعمال کے کیسز کے لیے کم از کم 3 نمونوں کو حسب ضرورت بنائیں - [ ] پروڈکشن جیسے ماحول میں 2+ نمونوں کو تعینات کریں - [ ] نمونہ کوڈ میں بہتری یا توسیعات میں تعاون کریں - [ ] Foundry Local پیٹرنز کو ذاتی/پیشہ ورانہ منصوبوں میں شامل کریں ## کوئیک اسٹارٹ گائیڈ - تمام 10 نمونے ### ماحول کی ترتیب (تمام نمونوں کے لیے ضروری) ```powershell # 1. Clone and navigate to Module08 cd Module08 # 2. Create Python virtual environment py -m venv .venv .\.venv\Scripts\activate # 3. Install base dependencies pip install -r requirements.txt # 4. Install Foundry Local (if not already installed) winget install Microsoft.FoundryLocal # 5. Verify Foundry Local installation foundry --version foundry model list ``` ### بنیادی بنیاد نمونے (01-06) **نمونہ 01: REST چیٹ کوئیک اسٹ یہ ماڈیول ایج AI کی ترقی میں جدید ترین پیش رفت کی نمائندگی کرتا ہے، جو مائیکروسافٹ کے انٹرپرائز گریڈ ٹولز کو اوپن سورس ایکو سسٹم کی لچک اور جدت کے ساتھ یکجا کرتا ہے۔ Foundry Local کے تمام 10 جامع نمونوں کو مکمل طور پر سیکھ کر، آپ AI ایپلیکیشن کی ترقی کے سب سے آگے ہوں گے۔ **مکمل سیکھنے کا راستہ:** - **بنیاد** (نمونے 01-03): API انضمام اور ماڈل مینجمنٹ - **ایپلیکیشنز** (نمونے 04-06): RAG، ایجنٹس، اور ذہین روٹنگ - **اعلی درجے کا** (نمونے 07-10): پروڈکشن فریم ورک اور انٹرپرائز انضمام Azure OpenAI انضمام (سیشن 2) کے لیے، مطلوبہ ماحول کے متغیرات اور API ورژن کی ترتیبات کے لیے انفرادی نمونے کے README فائلز دیکھیں۔ --- **ڈسکلیمر**: یہ دستاویز AI ترجمہ سروس [Co-op Translator](https://github.com/Azure/co-op-translator) کا استعمال کرتے ہوئے ترجمہ کی گئی ہے۔ ہم درستگی کے لیے کوشش کرتے ہیں، لیکن براہ کرم آگاہ رہیں کہ خودکار ترجمے میں غلطیاں یا غیر درستیاں ہو سکتی ہیں۔ اصل دستاویز کو اس کی اصل زبان میں مستند ذریعہ سمجھا جانا چاہیے۔ اہم معلومات کے لیے، پیشہ ور انسانی ترجمہ کی سفارش کی جاتی ہے۔ ہم اس ترجمے کے استعمال سے پیدا ہونے والی کسی بھی غلط فہمی یا غلط تشریح کے ذمہ دار نہیں ہیں۔