# മോഡ്യൂൾ 08: Microsoft Foundry Local-നൊപ്പം പ്രായോഗികം - സമ്പൂർണ്ണ ഡെവലപ്പർ ടൂൾകിറ്റ് ## അവലോകനം [Microsoft Foundry Local](https://learn.microsoft.com/azure/ai-foundry/foundry-local/) എഡ്ജ് AI വികസനത്തിന്റെ അടുത്ത തലമുറയെ പ്രതിനിധീകരിക്കുന്നു, ഡെവലപ്പർമാർക്ക് ശക്തമായ ഉപകരണങ്ങൾ നൽകുന്നു, AI ആപ്ലിക്കേഷനുകൾ പ്രാദേശികമായി നിർമ്മിക്കാൻ, വിന്യസിക്കാൻ, സ്കെയിൽ ചെയ്യാൻ, Azure AI Foundry-യുമായി സുതാര്യമായ സംയോജനം നിലനിർത്തിക്കൊണ്ട്. ഈ മോഡ്യൂൾ ഇൻസ്റ്റലേഷനിൽ നിന്ന് ആധുനിക ഏജന്റ് വികസനത്തിലേക്ക് Foundry Local-നെ സമഗ്രമായി ഉൾക്കൊള്ളിക്കുന്നു. **പ്രധാന സാങ്കേതികവിദ്യകൾ:** - Microsoft Foundry Local CLIയും SDKയും - Azure AI Foundry സംയോജനം - ഉപകരണത്തിൽ മോഡൽ ഇൻഫറൻസ് - പ്രാദേശിക മോഡൽ കാഷിംഗ്, ഓപ്റ്റിമൈസേഷൻ - ഏജന്റ് അടിസ്ഥാന ആർക്കിടെക്ചറുകൾ ## പഠന ലക്ഷ്യങ്ങൾ ഈ മോഡ്യൂൾ പൂർത്തിയാക്കിയാൽ, നിങ്ങൾക്ക് സാധിക്കും: - **Foundry Local-ൽ പ്രാവീണ്യം നേടുക**: Windows 11 വികസനത്തിനായി ഇൻസ്റ്റാൾ ചെയ്യുക, കോൺഫിഗർ ചെയ്യുക, ഓപ്റ്റിമൈസ് ചെയ്യുക - **വിവിധ മോഡലുകൾ വിന്യസിക്കുക**: phi, qwen, deepseek, GPT മോഡലുകൾ പ്രാദേശികമായി CLI കമാൻഡുകൾ ഉപയോഗിച്ച് പ്രവർത്തിപ്പിക്കുക - **പ്രൊഡക്ഷൻ പരിഹാരങ്ങൾ നിർമ്മിക്കുക**: ആധുനിക പ്രോംപ്റ്റ് എഞ്ചിനീയറിംഗ്, ഡാറ്റ സംയോജനം ഉപയോഗിച്ച് AI ആപ്ലിക്കേഷനുകൾ സൃഷ്ടിക്കുക - **ഓപ്പൺ-സോഴ്‌സ് ഇക്കോസിസ്റ്റം പ്രയോജനപ്പെടുത്തുക**: Hugging Face മോഡലുകളും കമ്മ്യൂണിറ്റി സംഭാവനകളും സംയോജിപ്പിക്കുക - **AI ഏജന്റുകൾ വികസിപ്പിക്കുക**: ഗ്രൗണ്ടിംഗ്, ഓർക്കസ്ട്രേഷൻ ശേഷിയുള്ള ബുദ്ധിമുട്ടുള്ള ഏജന്റുകൾ നിർമ്മിക്കുക - **എന്റർപ്രൈസ് പാറ്റേണുകൾ നടപ്പിലാക്കുക**: പ്രൊഡക്ഷൻ വിന്യാസത്തിനായി മോടുലാർ, സ്കെയിലബിൾ AI പരിഹാരങ്ങൾ സൃഷ്ടിക്കുക ## സെഷൻ ഘടന ### [1: Foundry Local-നൊപ്പം ആരംഭിക്കൽ](./01.FoundryLocalSetup.md) **ഫോക്കസ്**: ഇൻസ്റ്റലേഷൻ, CLI സെറ്റപ്പ്, മോഡൽ വിന്യാസം, ഹാർഡ്‌വെയർ ഓപ്റ്റിമൈസേഷൻ **പ്രധാന വിഷയങ്ങൾ**: പൂർണ്ണ ഇൻസ്റ്റലേഷൻ • CLI കമാൻഡുകൾ • മോഡൽ കാഷിംഗ് • ഹാർഡ്‌വെയർ ആക്സിലറേഷൻ • മൾട്ടി-മോഡൽ വിന്യാസം **സാമ്പിൾ**: [REST ചാറ്റ് ക്വിക്‌സ്റ്റാർട്ട്](./samples/01/README.md) • [OpenAI SDK സംയോജനം](./samples/02/README.md) • [മോഡൽ കണ്ടെത്തൽ & ബെഞ്ച്മാർക്കിംഗ്](./samples/03/README.md) **കാലാവധി**: 2-3 മണിക്കൂർ | **നിലവ്**: തുടക്കക്കാർ --- ### [2: Azure AI Foundry-യുമായി AI പരിഹാരങ്ങൾ നിർമ്മിക്കുക](./02.AzureAIFoundryIntegration.md) **ഫോക്കസ്**: ആധുനിക പ്രോംപ്റ്റ് എഞ്ചിനീയറിംഗ്, ഡാറ്റ സംയോജനം, ക്ലൗഡ് കണക്ടിവിറ്റി **പ്രധാന വിഷയങ്ങൾ**: പ്രോംപ്റ്റ് എഞ്ചിനീയറിംഗ് • ഡാറ്റ സംയോജനം • Azure വർക്ക്‌ഫ്ലോകൾ • പ്രകടന ഓപ്റ്റിമൈസേഷൻ • നിരീക്ഷണം **സാമ്പിൾ**: [Chainlit RAG ആപ്ലിക്കേഷൻ](./samples/04/README.md) **കാലാവധി**: 2-3 മണിക്കൂർ | **നിലവ്**: ഇടത്തരം --- ### [3: ഓപ്പൺ-സോഴ്‌സ് മോഡലുകൾ Foundry Local-ൽ](./03.OpenSourceModels.md) **ഫോക്കസ്**: Hugging Face സംയോജനം, BYOM തന്ത്രങ്ങൾ, കമ്മ്യൂണിറ്റി മോഡലുകൾ **പ്രധാന വിഷയങ്ങൾ**: HuggingFace സംയോജനം • Bring-your-own-model • മോഡൽ മണ്ടേസ്洞察ങ്ങൾ • കമ്മ്യൂണിറ്റി സംഭാവനകൾ • മോഡൽ തിരഞ്ഞെടുപ്പ് **സാമ്പിൾ**: [മൾട്ടി-ഏജന്റ് ഓർക്കസ്ട്രേഷൻ](./samples/05/README.md) **കാലാവധി**: 2-3 മണിക്കൂർ | **നിലവ്**: ഇടത്തരം --- ### [4: ആധുനിക മോഡലുകൾ അന്വേഷിക്കുക](./04.CuttingEdgeModels.md) **ഫോക്കസ്**: LLMs vs SLMs, EdgeAI നടപ്പാക്കൽ, ആധുനിക ഡെമോകൾ **പ്രധാന വിഷയങ്ങൾ**: മോഡൽ താരതമ്യം • എഡ്ജ് vs ക്ലൗഡ് ഇൻഫറൻസ് • Phi + ONNX റൺടൈം • Chainlit RAG ആപ്പ് • WebGPU ഓപ്റ്റിമൈസേഷൻ **സാമ്പിൾ**: [മോഡലുകൾ-ആസ്-ടൂൾസ് റൂട്ടർ](./samples/06/README.md) **കാലാവധി**: 3-4 മണിക്കൂർ | **നിലവ്**: ആധുനിക --- ### [5: AI-പവർഡ് ഏജന്റുകൾ വേഗത്തിൽ നിർമ്മിക്കുക](./05.AIPoweredAgents.md) **ഫോക്കസ്**: ഏജന്റ് ആർക്കിടെക്ചറുകൾ, സിസ്റ്റം പ്രോംപ്റ്റുകൾ, ഗ്രൗണ്ടിംഗ്, ഓർക്കസ്ട്രേഷൻ **പ്രധാന വിഷയങ്ങൾ**: ഏജന്റ് ഡിസൈൻ പാറ്റേണുകൾ • സിസ്റ്റം പ്രോംപ്റ്റ് എഞ്ചിനീയറിംഗ് • ഗ്രൗണ്ടിംഗ് സാങ്കേതികവിദ്യകൾ • മൾട്ടി-ഏജന്റ് സിസ്റ്റങ്ങൾ • പ്രൊഡക്ഷൻ വിന്യാസം **സാമ്പിൾ**: [മൾട്ടി-ഏജന്റ് ഓർക്കസ്ട്രേഷൻ](./samples/05/README.md) • [ആധുനിക മൾട്ടി-ഏജന്റ് സിസ്റ്റം](./samples/09/README.md) **കാലാവധി**: 3-4 മണിക്കൂർ | **നിലവ്**: ആധുനിക --- ### [6: Foundry Local - മോഡലുകൾ ടൂളുകളായി](./06.ModelsAsTools.md) **ഫോക്കസ്**: മോടുലാർ AI പരിഹാരങ്ങൾ, എന്റർപ്രൈസ് സ്കെയിലിംഗ്, പ്രൊഡക്ഷൻ പാറ്റേണുകൾ **പ്രധാന വിഷയങ്ങൾ**: മോഡലുകൾ ടൂളുകളായി • ഉപകരണത്തിൽ വിന്യാസം • SDK/API സംയോജനം • എന്റർപ്രൈസ് ആർക്കിടെക്ചറുകൾ • സ്കെയിലിംഗ് തന്ത്രങ്ങൾ **സാമ്പിൾ**: [മോഡലുകൾ-ആസ്-ടൂൾസ് റൂട്ടർ](./samples/06/README.md) • [Foundry ടൂൾസ് ഫ്രെയിംവർക്ക്](./samples/10/README.md) **കാലാവധി**: 3-4 മണിക്കൂർ | **നിലവ്**: വിദഗ്ധൻ --- ### [7: നേരിട്ട് API സംയോജനം പാറ്റേണുകൾ](./samples/07/README.md) **ഫോക്കസ്**: SDK ആശ്രിതത്വമില്ലാതെ പൂർണ്ണ REST API സംയോജനം, പരമാവധി നിയന്ത്രണം **പ്രധാന വിഷയങ്ങൾ**: HTTP ക്ലയന്റ് നടപ്പാക്കൽ • കസ്റ്റം ഓതന്റിക്കേഷൻ • മോഡൽ ആരോഗ്യ നിരീക്ഷണം • സ്ട്രീമിംഗ് പ്രതികരണങ്ങൾ • പ്രൊഡക്ഷൻ പിശക് കൈകാര്യം **സാമ്പിൾ**: [നേരിട്ട് API ക്ലയന്റ്](./samples/07/README.md) **കാലാവധി**: 2-3 മണിക്കൂർ | **നിലവ്**: ഇടത്തരം --- ### [8: Windows 11 നേറ്റീവ് ചാറ്റ് ആപ്ലിക്കേഷൻ](./samples/08/README.md) **ഫോക്കസ്**: Foundry Local സംയോജനത്തോടെ ആധുനിക നേറ്റീവ് ചാറ്റ് ആപ്ലിക്കേഷനുകൾ നിർമ്മിക്കൽ **പ്രധാന വിഷയങ്ങൾ**: ഇലക്ട്രോൺ വികസനം • Fluent Design System • നേറ്റീവ് Windows സംയോജനം • റിയൽ-ടൈം സ്ട്രീമിംഗ് • ചാറ്റ് ഇന്റർഫേസ് ഡിസൈൻ **സാമ്പിൾ**: [Windows 11 ചാറ്റ് ആപ്ലിക്കേഷൻ](./samples/08/README.md) **കാലാവധി**: 3-4 മണിക്കൂർ | **നിലവ്**: ആധുനിക --- ### [9: ആധുനിക മൾട്ടി-ഏജന്റ് ഓർക്കസ്ട്രേഷൻ](./samples/09/README.md) **ഫോക്കസ്**: സങ്കീർണ്ണ ഏജന്റ് കോർഡിനേഷൻ, പ്രത്യേക ടാസ്‌ക് ഡെലിഗേഷൻ, സഹകരണ AI വർക്ക്‌ഫ്ലോകൾ **പ്രധാന വിഷയങ്ങൾ**: ബുദ്ധിമുട്ടുള്ള ഏജന്റ് കോർഡിനേഷൻ • ഫംഗ്ഷൻ കോൾ പാറ്റേണുകൾ • ക്രോസ്-ഏജന്റ് കമ്മ്യൂണിക്കേഷൻ • വർക്ക്‌ഫ്ലോ ഓർക്കസ്ട്രേഷൻ • ഗുണനിലവാര ഉറപ്പ് സംവിധാനങ്ങൾ **സാമ്പിൾ**: [ആധുനിക മൾട്ടി-ഏജന്റ് സിസ്റ്റം](./samples/09/README.md) **കാലാവധി**: 4-5 മണിക്കൂർ | **നിലവ്**: വിദഗ്ധൻ --- ### [10: Foundry Local ടൂൾസ് ഫ്രെയിംവർക്ക്](./samples/10/README.md) **ഫോക്കസ്**: നിലവിലുള്ള ആപ്ലിക്കേഷനുകളിലും ഫ്രെയിംവർക്കുകളിലും Foundry Local സംയോജിപ്പിക്കാൻ ടൂൾ-ഫസ്റ്റ് ആർക്കിടെക്ചർ **പ്രധാന വിഷയങ്ങൾ**: LangChain സംയോജനം • Semantic Kernel ഫംഗ്ഷനുകൾ • REST API ഫ്രെയിംവർക്കുകൾ • CLI ടൂളുകൾ • Jupyter സംയോജനം • പ്രൊഡക്ഷൻ വിന്യാസ പാറ്റേണുകൾ **സാമ്പിൾ**: [Foundry ടൂൾസ് ഫ്രെയിംവർക്ക്](./samples/10/README.md) **കാലാവധി**: 4-5 മണിക്കൂർ | **നിലവ്**: വിദഗ്ധൻ ## മുൻകൂട്ടി ആവശ്യങ്ങൾ ### സിസ്റ്റം ആവശ്യകതകൾ - **ഓപ്പറേറ്റിംഗ് സിസ്റ്റം**: Windows 11 (22H2 അല്ലെങ്കിൽ പിന്നീട്) - **മെമ്മറി**: 16GB RAM (വലിയ മോഡലുകൾക്കായി 32GB ശുപാർശ) - **സ്റ്റോറേജ്**: മോഡൽ കാഷിംഗിനായി 50GB ഫ്രീ സ്പേസ് - **ഹാർഡ്‌വെയർ**: NPU-സജ്ജമായ ഉപകരണം ശുപാർശ (Copilot+ PC), GPU ഓപ്ഷണൽ - **നെറ്റ്‌വർക്ക്**: പ്രാഥമിക മോഡൽ ഡൗൺലോഡുകൾക്കായി ഹൈ-സ്പീഡ് ഇന്റർനെറ്റ് ### വികസന പരിസ്ഥിതി - AI ടൂൾകിറ്റ് എക്സ്റ്റൻഷനോടുകൂടിയ Visual Studio Code - Python 3.10+ കൂടാതെ pip - വേർഷൻ കൺട്രോളിനായി Git - PowerShell അല്ലെങ്കിൽ കമാൻഡ് പ്രോംപ്റ്റ് - Azure CLI (ക്ലൗഡ് സംയോജനത്തിനായി ഓപ്ഷണൽ) ### അറിവ് മുൻകൂട്ടി - AI/ML ആശയങ്ങളുടെ അടിസ്ഥാന മനസ്സിലാക്കൽ - കമാൻഡ് ലൈൻ പരിചയം - Python പ്രോഗ്രാമിംഗ് അടിസ്ഥാനങ്ങൾ - REST API ആശയങ്ങൾ - പ്രോംപ്റ്റിംഗ്, മോഡൽ ഇൻഫറൻസ് അടിസ്ഥാന അറിവ് ## മോഡ്യൂൾ സമയരേഖ **മൊത്തം കണക്കാക്കിയ സമയം**: 30-38 മണിക്കൂർ | സെഷൻ | ഫോക്കസ് ഏരിയ | സാമ്പിൾസ് | സമയം | സങ്കീർണ്ണത | |---------|------------|---------|------|------------| | 1 | സെറ്റപ്പ് & അടിസ്ഥാനങ്ങൾ | 01, 02, 03 | 2-3 മണിക്കൂർ | തുടക്കക്കാർ | | 2 | AI പരിഹാരങ്ങൾ | 04 | 2-3 മണിക്കൂർ | ഇടത്തരം | | 3 | ഓപ്പൺ സോഴ്‌സ് | 05 | 2-3 മണിക്കൂർ | ഇടത്തരം | | 4 | ആധുനിക മോഡലുകൾ | 06 | 3-4 മണിക്കൂർ | ആധുനിക | | 5 | AI ഏജന്റുകൾ | 05, 09 | 3-4 മണിക്കൂർ | ആധുനിക | | 6 | എന്റർപ്രൈസ് ടൂളുകൾ | 06, 10 | 3-4 മണിക്കൂർ | വിദഗ്ധൻ | | 7 | നേരിട്ട് API സംയോജനം | 07 | 2-3 മണിക്കൂർ | ഇടത്തരം | | 8 | Windows 11 ചാറ്റ് ആപ്പ് | 08 | 3-4 മണിക്കൂർ | ആധുനിക | | 9 | ആധുനിക മൾട്ടി-ഏജന്റ് | 09 | 4-5 മണിക്കൂർ | വിദഗ്ധൻ | | 10 | ടൂൾസ് ഫ്രെയിംവർക്ക് | 10 | 4-5 മണിക്കൂർ | വിദഗ്ധൻ | ## പ്രധാന വിഭവങ്ങൾ **അധികൃത ഡോക്യുമെന്റേഷൻ:** - [Microsoft Foundry Local GitHub](https://github.com/microsoft/Foundry-Local) - സോഴ്‌സ് കോഡ്, ഔദ്യോഗിക സാമ്പിൾസ് - [Azure AI Foundry ഡോക്യുമെന്റേഷൻ](https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local/) - പൂർണ്ണ സെറ്റപ്പ്, ഉപയോഗ മാർഗ്ഗനിർദ്ദേശം - [Model Mondays സീരീസ്](https://aka.ms/model-mondays) - ആഴ്ചവാര മോഡൽ ഹൈലൈറ്റുകളും ട്യൂട്ടോറിയലുകളും **കമ്മ്യൂണിറ്റി & പിന്തുണ:** - [Foundry Local ചർച്ചകൾ](https://github.com/microsoft/Foundry-Local/discussions) - കമ്മ്യൂണിറ്റി Q&A, ഫീച്ചർ അഭ്യർത്ഥനകൾ - [Microsoft AI ഡെവലപ്പർ കമ്മ്യൂണിറ്റി](https://techcommunity.microsoft.com/category/artificialintelligence) - പുതിയ വാർത്തകളും മികച്ച പ്രാക്ടീസുകളും ## പഠന ഫലങ്ങൾ ഈ മോഡ്യൂൾ പൂർത്തിയാക്കിയാൽ, നിങ്ങൾക്ക് സാധിക്കും: ### സാങ്കേതിക പ്രാവീണ്യം - **വിന്യസിക്കുകയും നിയന്ത്രിക്കുകയും ചെയ്യുക**: വികസനവും പ്രൊഡക്ഷൻ പരിസ്ഥിതികളിലും Foundry Local ഇൻസ്റ്റലേഷനുകൾ - **മോഡലുകൾ സംയോജിപ്പിക്കുക**: Microsoft, Hugging Face, കമ്മ്യൂണിറ്റി ഉറവിടങ്ങളിൽ നിന്നുള്ള വ്യത്യസ്ത മോഡൽ കുടുംബങ്ങളുമായി സുതാര്യമായി പ്രവർത്തിക്കുക - **ആപ്ലിക്കേഷനുകൾ നിർമ്മിക്കുക**: ആധുനിക ഫീച്ചറുകളും ഓപ്റ്റിമൈസേഷനുകളും ഉള്ള പ്രൊഡക്ഷൻ റെഡി AI ആപ്ലിക്കേഷനുകൾ സൃഷ്ടിക്കുക - **ഏജന്റുകൾ വികസിപ്പിക്കുക**: ഗ്രൗണ്ടിംഗ്, റീസണിംഗ്, ടൂൾ സംയോജനം ഉള്ള സങ്കീർണ്ണ AI ഏജന്റുകൾ നടപ്പിലാക്കുക ### തന്ത്രപരമായ മനസ്സിലാക്കൽ - **ആർക്കിടെക്ചർ തീരുമാനങ്ങൾ**: പ്രാദേശികവും ക്ലൗഡും വിന്യാസത്തിനിടയിലെ ബോധപൂർവ്വമായ തിരഞ്ഞെടുപ്പുകൾ - **പ്രകടന ഓപ്റ്റിമൈസേഷൻ**: വ്യത്യസ്ത ഹാർഡ്‌വെയർ കോൺഫിഗറേഷനുകളിൽ ഇൻഫറൻസ് പ്രകടനം മെച്ചപ്പെടുത്തുക - **എന്റർപ്രൈസ് സ്കെയിലിംഗ്**: പ്രാദേശിക പ്രോട്ടോടൈപ്പുകളിൽ നിന്ന് എന്റർപ്രൈസ് വിന്യാസങ്ങളിലേക്ക് സ്കെയിൽ ചെയ്യാവുന്ന ആപ്ലിക്കേഷനുകൾ രൂപകൽപ്പന ചെയ്യുക - **സ്വകാര്യതയും സുരക്ഷയും**: പ്രാദേശിക ഇൻഫറൻസ് ഉപയോഗിച്ച് സ്വകാര്യത സംരക്ഷിക്കുന്ന AI പരിഹാരങ്ങൾ നടപ്പിലാക്കുക ### നവീകരണ ശേഷികൾ - **വേഗത്തിലുള്ള പ്രോട്ടോടൈപ്പിംഗ്**: എല്ലാ 10 സാമ്പിൾ പാറ്റേണുകളിലും AI ആപ്ലിക്കേഷൻ ആശയങ്ങൾ വേഗത്തിൽ നിർമ്മിച്ച് പരീക്ഷിക്കുക - **കമ്മ്യൂണിറ്റി സംയോജനം**: ഓപ്പൺ-സോഴ്‌സ് മോഡലുകൾ പ്രയോജനപ്പെടുത്തി ഇക്കോസിസ്റ്റത്തിലേക്ക് സംഭാവന നൽകുക - **ആധുനിക പാറ്റേണുകൾ**: RAG, ഏജന്റുകൾ, ടൂൾ സംയോജനം ഉൾപ്പെടെയുള്ള ആധുനിക AI പാറ്റേണുകൾ നടപ്പിലാക്കുക - **ഫ്രെയിംവർക്ക് പ്രാവീണ്യം**: LangChain, Semantic Kernel, Chainlit, Electron എന്നിവയുമായി വിദഗ്ധതയോടെ സംയോജനം - **പ്രൊഡക്ഷൻ വിന്യാസം**: പ്രാദേശിക പ്രോട്ടോടൈപ്പുകളിൽ നിന്ന് എന്റർപ്രൈസ് സിസ്റ്റങ്ങളിലേക്ക് സ്കെയിലബിൾ AI പരിഹാരങ്ങൾ വിന്യസിക്കുക - **ഭാവി-സജ്ജമായ വികസനം**: ഉയർന്ന AI സാങ്കേതികവിദ്യകളും പാറ്റേണുകളും ഉപയോഗിച്ച് ആപ്ലിക്കേഷനുകൾ നിർമ്മിക്കുക ## ആരംഭിക്കൽ 1. **പരിസ്ഥിതി സെറ്റപ്പ്**: ശുപാർശ ചെയ്ത ഹാർഡ്‌വെയർ ഉള്ള Windows 11 ഉറപ്പാക്കുക (മുൻകൂട്ടി ആവശ്യങ്ങൾ കാണുക) 2. **Foundry Local ഇൻസ്റ്റാൾ ചെയ്യുക**: പൂർണ്ണ ഇൻസ്റ്റലേഷനും കോൺഫിഗറേഷനും സെഷൻ 1 അനുസരിച്ച് ചെയ്യുക 3. **സാമ്പിൾ 01 പ്രവർത്തിപ്പിക്കുക**: അടിസ്ഥാന REST API സംയോജനം പരിശോധിക്കാൻ ആരംഭിക്കുക 4. **സാമ്പിൾസ് 01-10 പൂർത്തിയാക്കുക**: സമഗ്ര പ്രാവീണ്യത്തിനായി ## വിജയ മാനദണ്ഡങ്ങൾ എല്ലാ 10 സമഗ്ര സാമ്പിൾസും വഴി നിങ്ങളുടെ പുരോഗതി ട്രാക്ക് ചെയ്യുക: ### അടിസ്ഥാന നില (സാമ്പിൾസ് 01-03) - [ ] Foundry Local വിജയകരമായി ഇൻസ്റ്റാൾ ചെയ്ത് കോൺഫിഗർ ചെയ്യുക - [ ] REST API സംയോജനം പൂർത്തിയാക്കുക (സാമ്പിൾ 01) - [ ] OpenAI SDK അനുയോജ്യത നടപ്പിലാക്കുക (സാമ്പിൾ 02) - [ ] മോഡൽ കണ്ടെത്തലും ബെഞ്ച്മാർക്കിംഗും നടത്തുക (സാമ്പിൾ 03) ### ആപ്ലിക്കേഷൻ നില (സാമ്പിൾസ് 04-06) - [ ] കുറഞ്ഞത് 4 വ്യത്യസ്ത മോഡൽ കുടുംബങ്ങൾ വിന്യസിച്ച് പ്രവർത്തിപ്പിക്കുക - [ ] പ്രവർത്തനക്ഷമമായ RAG ചാറ്റ് ആപ്ലിക്കേഷൻ നിർമ്മിക്കുക (സാമ്പിൾ 04) - [ ] മൾട്ടി-ഏജന്റ് ഓർക്കസ്ട്രേഷൻ സിസ്റ്റം സൃഷ്ടിക്കുക (സാമ്പിൾ 05) - [ ] ബുദ്ധിമുട്ടുള്ള മോഡൽ റൂട്ടിംഗ് നടപ്പിലാക്കുക (സാമ്പിൾ 06) ### ആധുനിക സംയോജനം നില (സാമ്പിൾസ് 07-10) - [ ] പ്രൊഡക്ഷൻ റെഡി API ക്ലയന്റ് നിർമ്മിക്കുക (സാമ്പിൾ 07) - [ ] Windows 11 നേറ്റീവ് ചാറ്റ് ആപ്ലിക്കേഷൻ വികസിപ്പിക്കുക (സാമ്പിൾ 08) - [ ] ആധുനിക മൾട്ടി-ഏജന്റ് സിസ്റ്റം നടപ്പിലാക്കുക (സാമ്പിൾ 09) - [ ] സമഗ്ര ടൂൾസ് ഫ്രെയിംവർക്ക് സൃഷ്ടിക്കുക (സാമ്പിൾ 10) ### പ്രാവീണ്യ സൂചകങ്ങൾ - [ ] എല്ലാ 10 സാമ്പിൾസും പിശകുകൾ കൂടാതെ വിജയകരമായി പ്രവർത്തിപ്പിക്കുക - [ ] കുറഞ്ഞത് 3 സാമ്പിൾസ് പ്രത്യേക ഉപയോഗ കേസുകൾക്കായി ഇഷ്ടാനുസൃതമാക്കുക - [ ] 2+ സാമ്പിൾസ് പ്രൊഡക്ഷൻ പോലുള്ള പരിസ്ഥിതികളിൽ വിന്യസിക്കുക - [ ] സാമ്പിൾ കോഡിൽ മെച്ചപ്പെടുത്തലുകൾ അല്ലെങ്കിൽ വിപുലീകരണങ്ങൾ സംഭാവന നൽകുക - [ ] Foundry Local പാറ്റേണുകൾ വ്യക്തിഗത/പ്രൊഫഷണൽ പ്രോജക്ടുകളിൽ സംയോജിപ്പിക്കുക ## ക്വിക്ക് സ്റ്റാർട്ട് ഗൈഡ് - എല്ലാ 10 സാമ്പിൾസും ### പരിസ്ഥിതി സെറ്റപ്പ് (എല്ലാ സാമ്പിൾസിനും ആവശ്യമാണ്) ```powershell # 1. ക്ലോൺ ചെയ്ത് Module08 ലേക്ക് നാവിഗേറ്റ് ചെയ്യുക cd Module08 # 2. Python വെർച്വൽ എൻവയോൺമെന്റ് സൃഷ്ടിക്കുക py -m venv .venv .\.venv\Scripts\activate # 3. അടിസ്ഥാന ആശ്രിതങ്ങൾ ഇൻസ്റ്റാൾ ചെയ്യുക pip install -r requirements.txt # 4. Foundry Local ഇൻസ്റ്റാൾ ചെയ്യുക (ഇതിനകം ഇൻസ്റ്റാൾ ചെയ്തിട്ടില്ലെങ്കിൽ) winget install Microsoft.FoundryLocal # 5. Foundry Local ഇൻസ്റ്റലേഷൻ സ്ഥിരീകരിക്കുക foundry --version foundry model list ``` ### കോർ ഫൗണ്ടേഷൻ സാമ്പിൾസ് (01-06) **സാമ്പിൾ 01: REST ചാറ്റ് ക്വിക്‌സ്റ്റാർട്ട്** ```powershell # ഫൗണ്ട്രി ലോക്കൽ സർവീസ് ആരംഭിക്കുക foundry model run phi-4-mini # REST ചാറ്റ് ഡെമോ പ്രവർത്തിപ്പിക്കുക python samples/01/chat_quickstart.py ``` **സാമ്പിൾ 02: OpenAI SDK സംയോജനം** ```powershell # മോഡൽ പ്രവർത്തിക്കുന്നുണ്ടെന്ന് ഉറപ്പാക്കുക foundry status # SDK ഡെമോ പ്രവർത്തിപ്പിക്കുക python samples/02/sdk_quickstart.py ``` **സാമ്പിൾ 03: മോഡൽ കണ്ടെത്തൽ & ബെഞ്ച്മാർക്കിംഗ്** ```powershell # സമഗ്ര മോഡൽ പരിശോധന നടത്തുക samples/03/list_and_bench.cmd # അല്ലെങ്കിൽ വ്യക്തിഗത ഘടകങ്ങൾ പ്രവർത്തിപ്പിക്കുക foundry model list --available foundry model download qwen2.5-0.5b foundry model benchmark phi-4-mini ``` **സാമ്പിൾ 04: Chainlit RAG ആപ്ലിക്കേഷൻ** ```powershell # Chainlit ആശ്രിതങ്ങൾ ഇൻസ്റ്റാൾ ചെയ്യുക pip install chainlit langchain chromadb # RAG ചാറ്റ് അപ്ലിക്കേഷൻ ആരംഭിക്കുക chainlit run samples/04/app.py -w # http://localhost:8000 ൽ ബ്രൗസർ തുറക്കുന്നു ``` **സാമ്പിൾ 05: മൾട്ടി-ഏജന്റ് ഓർക്കസ്ട്രേഷൻ** ```powershell # ഏജന്റ് കോഓർഡിനേറ്റർ ഡെമോ പ്രവർത്തിപ്പിക്കുക python -m samples.05.agents.coordinator # പ്രത്യേക ഏജന്റ് ഉദാഹരണങ്ങൾ പ്രവർത്തിപ്പിക്കുക python samples/05/examples/specialists_demo.py ``` **സാമ്പിൾ 06: മോഡലുകൾ-ആസ്-ടൂൾസ് റൂട്ടർ** ```powershell # പരിസ്ഥിതി ക്രമീകരിക്കുക set BASE_URL=http://localhost:8000 set GENERAL_MODEL=phi-4-mini set CODE_MODEL=qwen2.5-7b # ബുദ്ധിമുട്ടുള്ള റൂട്ടർ പ്രവർത്തിപ്പിക്കുക python samples/06/router.py "Analyze this Python code for performance issues" ``` ### ആധുനിക സംയോജനം സാമ്പിൾസ് (07-10) **സാമ്പിൾ 07: നേരിട്ട് API ക്ലയന്റ്** ```powershell # സാമ്പിൾ ഡയറക്ടറിയിലേക്ക് നാവിഗേറ്റ് ചെയ്യുക cd samples/07 # അധിക ആശ്രിതങ്ങൾ ഇൻസ്റ്റാൾ ചെയ്യുക pip install -r requirements.txt # അടിസ്ഥാന API ഉദാഹരണങ്ങൾ പ്രവർത്തിപ്പിക്കുക python examples/basic_usage.py # സ്ട്രീമിംഗ് പ്രതികരണങ്ങൾ പരീക്ഷിക്കുക python examples/streaming.py # പ്രൊഡക്ഷൻ പാറ്റേണുകൾ പരിശോധിക്കുക python examples/production.py ``` **സാമ്പിൾ 08: Windows 11 ചാറ്റ് ആപ്ലിക്കേഷൻ** ```powershell # സാമ്പിൾ ഡയറക്ടറിയിലേക്ക് നാവിഗേറ്റ് ചെയ്യുക cd samples/08 # Node.js ആശ്രിതങ്ങൾ ഇൻസ്റ്റാൾ ചെയ്യുക npm install # ഇലക്ട്രോൺ ആപ്ലിക്കേഷൻ ആരംഭിക്കുക npm start # അല്ലെങ്കിൽ പ്രൊഡക്ഷനായി നിർമ്മിക്കുക npm run build ``` **സാമ്പിൾ 09: ആധുനിക മൾട്ടി-ഏജന്റ് സിസ്റ്റം** ```powershell # സാമ്പിൾ ഡയറക്ടറിയിലേക്ക് നാവിഗേറ്റ് ചെയ്യുക cd samples/09 # ഏജന്റ് സിസ്റ്റം ആശ്രിതങ്ങൾ ഇൻസ്റ്റാൾ ചെയ്യുക pip install -r requirements.txt # അടിസ്ഥാന കോഓർഡിനേഷൻ ഉദാഹരണം പ്രവർത്തിപ്പിക്കുക python examples/basic_coordination.py # സങ്കീർണ്ണമായ വർക്ക്‌ഫ്ലോ ശ്രമിക്കുക python examples/complex_workflow.py # ഇന്ററാക്ടീവ് ഏജന്റ് ഡെമോ python examples/interactive_demo.py ``` **സാമ്പിൾ 10: Foundry ടൂൾസ് ഫ്രെയിംവർക്ക്** ```powershell # സാമ്പിൾ ഡയറക്ടറിയിലേക്ക് നാവിഗേറ്റ് ചെയ്യുക cd samples/10 # ഫ്രെയിംവർക്ക് ആശ്രിതങ്ങൾ ഇൻസ്റ്റാൾ ചെയ്യുക pip install -r requirements.txt # അടിസ്ഥാന ടൂളുകളുടെ ഡെമോ പ്രവർത്തിപ്പിക്കുക python examples/basic_tools.py # REST API സർവർ ആരംഭിക്കുക python examples/rest_api_server.py # API http://localhost:8080 ൽ ലഭ്യമാണ് # CLI അപ്ലിക്കേഷൻ പരീക്ഷിക്കുക python examples/cli_application.py --help # Jupyter നോട്ട്‌ബുക്ക് ആരംഭിക്കുക jupyter notebook examples/jupyter_notebook.ipynb # LangChain ഇന്റഗ്രേഷൻ പരീക്ഷിക്കുക python examples/langchain_demo.py ``` ### സാധാരണ പ്രശ്നങ്ങൾ പരിഹരിക്കൽ **Foundry Local കണക്ഷൻ പിശകുകൾ** ```powershell # സേവനത്തിന്റെ നില പരിശോധിക്കുക foundry status # ആവശ്യമെങ്കിൽ പുനരാരംഭിക്കുക foundry restart # എന്റ്പോയിന്റിന്റെ പ്രവേശനയോഗ്യത സ്ഥിരീകരിക്കുക curl http://localhost:5273/v1/models ``` **മോഡൽ ലോഡിംഗ് പ്രശ്നങ്ങൾ** ```powershell # ലഭ്യമായ മോഡലുകൾ പരിശോധിക്കുക foundry model list --cached # കാണാതിരിക്കുന്ന മോഡലുകൾ ഡൗൺലോഡ് ചെയ്യുക foundry model download phi-4-mini foundry model download qwen2.5-0.5b # ആവശ്യമെങ്കിൽ പുനഃലോഡ് ചെയ്യാൻ നിർബന്ധിക്കുക foundry model unload --all foundry model run phi-4-mini ``` **ഡിപ്പെൻഡൻസി പ്രശ്നങ്ങൾ** ```powershell # പിപ്പ് അപ്ഗ്രേഡ് ചെയ്ത് വീണ്ടും ഇൻസ്റ്റാൾ ചെയ്യുക python -m pip install --upgrade pip pip install -r requirements.txt --force-reinstall # Node.js സാമ്പിളുകൾക്കായി npm cache clean --force npm install ``` ## സംഗ്രഹം ഈ മോഡ്യൂൾ എഡ്ജ് എഐ വികസനത്തിലെ ഏറ്റവും പുതിയ തലമുറയെ പ്രതിനിധീകരിക്കുന്നു, മൈക്രോസോഫ്റ്റിന്റെ എന്റർപ്രൈസ്-ഗ്രേഡ് ടൂളുകളെ ഓപ്പൺ-സോഴ്‌സ് ഇക്കോസിസ്റ്റത്തിന്റെ ലവചത്വവും നവീകരണവും ചേർത്ത്. ഫൗണ്ടറി ലോക്കൽ 10 സമഗ്ര സാമ്പിളുകൾ മുഴുവൻ കൈകാര്യം ചെയ്ത്, നിങ്ങൾ എഐ ആപ്ലിക്കേഷൻ വികസനത്തിന്റെ മുൻനിരയിൽ നിൽക്കും. **പൂർണ്ണ പഠന പാത:** - **അടിസ്ഥാനം** (സാമ്പിളുകൾ 01-03): API ഇന്റഗ്രേഷൻ, മോഡൽ മാനേജ്മെന്റ് - **ആപ്ലിക്കേഷനുകൾ** (സാമ്പിളുകൾ 04-06): RAG, ഏജന്റുകൾ, ബുദ്ധിമുട്ടുള്ള റൂട്ടിംഗ് - **ഉന്നത** (സാമ്പിളുകൾ 07-10): പ്രൊഡക്ഷൻ ഫ്രെയിംവർക്കുകൾ, എന്റർപ്രൈസ് ഇന്റഗ്രേഷൻ Azure OpenAI ഇന്റഗ്രേഷനായി (സെഷൻ 2), ആവശ്യമായ പരിസ്ഥിതി വേരിയബിളുകളും API പതിപ്പും അറിയാൻ വ്യക്തിഗത സാമ്പിൾ README ഫയലുകൾ കാണുക. --- **അസൂയാ**: ഈ രേഖ AI വിവർത്തന സേവനം [Co-op Translator](https://github.com/Azure/co-op-translator) ഉപയോഗിച്ച് വിവർത്തനം ചെയ്തതാണ്. നാം കൃത്യതയ്ക്ക് ശ്രമിച്ചിട്ടുണ്ടെങ്കിലും, സ്വയം പ്രവർത്തിക്കുന്ന വിവർത്തനങ്ങളിൽ പിശകുകൾ അല്ലെങ്കിൽ തെറ്റുകൾ ഉണ്ടാകാമെന്ന് ദയവായി ശ്രദ്ധിക്കുക. അതിന്റെ മാതൃഭാഷയിലുള്ള യഥാർത്ഥ രേഖ അധികാരപരമായ ഉറവിടമായി കണക്കാക്കപ്പെടണം. നിർണായക വിവരങ്ങൾക്ക്, പ്രൊഫഷണൽ മനുഷ്യ വിവർത്തനം ശുപാർശ ചെയ്യപ്പെടുന്നു. ഈ വിവർത്തനത്തിന്റെ ഉപയോഗത്തിൽ നിന്നുണ്ടാകുന്ന ഏതെങ്കിലും തെറ്റിദ്ധാരണകൾക്കോ തെറ്റായ വ്യാഖ്യാനങ്ങൾക്കോ ഞങ്ങൾ ഉത്തരവാദികളല്ല.