# మాడ్యూల్ 08: Microsoft Foundry Local తో ప్రాక్టికల్ - పూర్తి డెవలపర్ టూల్‌కిట్ ## అవలోకనం [Microsoft Foundry Local](https://learn.microsoft.com/azure/ai-foundry/foundry-local/) ఎడ్జ్ AI అభివృద్ధి యొక్క తదుపరి తరం, డెవలపర్లకు శక్తివంతమైన టూల్స్ అందిస్తూ, స్థానికంగా AI అప్లికేషన్లను నిర్మించడానికి, అమలు చేయడానికి మరియు స్కేల్ చేయడానికి సహాయపడుతుంది, అదే సమయంలో Azure AI Foundry తో సజావుగా సమన్వయం చేస్తుంది. ఈ మాడ్యూల్ Foundry Local యొక్క ఇన్‌స్టాలేషన్ నుండి అధునాతన ఏజెంట్ అభివృద్ధి వరకు సమగ్ర కవరేజ్ అందిస్తుంది. **ప్రధాన సాంకేతికతలు:** - Microsoft Foundry Local CLI మరియు SDK - Azure AI Foundry సమన్వయం - పరికరంపై మోడల్ ఇన్ఫరెన్స్ - స్థానిక మోడల్ క్యాచింగ్ మరియు ఆప్టిమైజేషన్ - ఏజెంట్ ఆధారిత ఆర్కిటెక్చర్లు ## నేర్చుకునే లక్ష్యాలు ఈ మాడ్యూల్ పూర్తి చేసిన తర్వాత, మీరు: - **Foundry Local లో నైపుణ్యం పొందండి**: Windows 11 అభివృద్ధికి ఇన్‌స్టాల్, కాన్ఫిగర్ మరియు ఆప్టిమైజ్ చేయండి - **వివిధ మోడల్స్ అమలు చేయండి**: phi, qwen, deepseek, మరియు GPT మోడల్స్‌ను CLI కమాండ్లతో స్థానికంగా నడపండి - **ఉత్పత్తి పరిష్కారాలు నిర్మించండి**: అధునాతన ప్రాంప్ట్ ఇంజనీరింగ్ మరియు డేటా సమన్వయంతో AI అప్లికేషన్లు సృష్టించండి - **ఓపెన్-సోర్స్ ఎకోసిస్టమ్ ఉపయోగించండి**: Hugging Face మోడల్స్ మరియు కమ్యూనిటీ కాంట్రిబ్యూషన్స్‌ను సమన్వయించండి - **AI ఏజెంట్లను అభివృద్ధి చేయండి**: గ్రౌండింగ్ మరియు ఆర్కెస్ట్రేషన్ సామర్థ్యాలతో తెలివైన ఏజెంట్లను నిర్మించండి - **ఎంటర్ప్రైజ్ ప్యాటర్న్స్ అమలు చేయండి**: ఉత్పత్తి అమలుకు మాడ్యులర్, స్కేలబుల్ AI పరిష్కారాలను సృష్టించండి ## సెషన్ నిర్మాణం ### [1: Foundry Local తో ప్రారంభం](./01.FoundryLocalSetup.md) **ఫోకస్**: ఇన్‌స్టాలేషన్, CLI సెటప్, మోడల్ అమలు, మరియు హార్డ్‌వేర్ ఆప్టిమైజేషన్ **ప్రధాన అంశాలు**: పూర్తి ఇన్‌స్టాలేషన్ • CLI కమాండ్లు • మోడల్ క్యాచింగ్ • హార్డ్‌వేర్ వేగవంతం • బహుముఖ మోడల్ అమలు **నమూనా**: [REST చాట్ క్విక్‌స్టార్ట్](./samples/01/README.md) • [OpenAI SDK సమన్వయం](./samples/02/README.md) • [మోడల్ డిస్కవరీ & బెంచ్‌మార్కింగ్](./samples/03/README.md) **కాలవ్యవధి**: 2-3 గంటలు | **స్థాయి**: ప్రారంభ స్థాయి --- ### [2: Azure AI Foundry తో AI పరిష్కారాలు నిర్మించండి](./02.AzureAIFoundryIntegration.md) **ఫోకస్**: అధునాతన ప్రాంప్ట్ ఇంజనీరింగ్, డేటా సమన్వయం, మరియు క్లౌడ్ కనెక్టివిటీ **ప్రధాన అంశాలు**: ప్రాంప్ట్ ఇంజనీరింగ్ • డేటా సమన్వయం • Azure వర్క్‌ఫ్లోలు • పనితీరు ఆప్టిమైజేషన్ • మానిటరింగ్ **నమూనా**: [Chainlit RAG అప్లికేషన్](./samples/04/README.md) **కాలవ్యవధి**: 2-3 గంటలు | **స్థాయి**: మధ్యస్థాయి --- ### [3: Foundry Local లో ఓపెన్-సోర్స్ మోడల్స్](./03.OpenSourceModels.md) **ఫోకస్**: Hugging Face సమన్వయం, BYOM వ్యూహాలు, మరియు కమ్యూనిటీ మోడల్స్ **ప్రధాన అంశాలు**: HuggingFace సమన్వయం • మీ స్వంత మోడల్ తీసుకురావడం • మోడల్ మండేల వివరాలు • కమ్యూనిటీ కాంట్రిబ్యూషన్స్ • మోడల్ ఎంపిక **నమూనా**: [బహుఏజెంట్ ఆర్కెస్ట్రేషన్](./samples/05/README.md) **కాలవ్యవధి**: 2-3 గంటలు | **స్థాయి**: మధ్యస్థాయి --- ### [4: ఆధునిక మోడల్స్ అన్వేషణ](./04.CuttingEdgeModels.md) **ఫోకస్**: LLMs vs SLMs, EdgeAI అమలు, మరియు అధునాతన డెమోలు **ప్రధాన అంశాలు**: మోడల్ తులన • ఎడ్జ్ vs క్లౌడ్ ఇన్ఫరెన్స్ • Phi + ONNX రన్‌టైమ్ • Chainlit RAG యాప్ • WebGPU ఆప్టిమైజేషన్ **నమూనా**: [మోడల్స్-అస్-టూల్స్ రౌటర్](./samples/06/README.md) **కాలవ్యవధి**: 3-4 గంటలు | **స్థాయి**: అధునాతన --- ### [5: వేగంగా AI-పవర్డ్ ఏజెంట్లను నిర్మించండి](./05.AIPoweredAgents.md) **ఫోకస్**: ఏజెంట్ ఆర్కిటెక్చర్లు, సిస్టమ్ ప్రాంప్ట్స్, గ్రౌండింగ్, మరియు ఆర్కెస్ట్రేషన్ **ప్రధాన అంశాలు**: ఏజెంట్ డిజైన్ ప్యాటర్న్స్ • సిస్టమ్ ప్రాంప్ట్ ఇంజనీరింగ్ • గ్రౌండింగ్ సాంకేతికతలు • బహుఏజెంట్ సిస్టమ్స్ • ఉత్పత్తి అమలు **నమూనా**: [బహుఏజెంట్ ఆర్కెస్ట్రేషన్](./samples/05/README.md) • [అధునాతన బహుఏజెంట్ సిస్టమ్](./samples/09/README.md) **కాలవ్యవధి**: 3-4 గంటలు | **స్థాయి**: అధునాతన --- ### [6: Foundry Local - మోడల్స్ అస్ టూల్స్](./06.ModelsAsTools.md) **ఫోకస్**: మాడ్యులర్ AI పరిష్కారాలు, ఎంటర్ప్రైజ్ స్కేలింగ్, మరియు ఉత్పత్తి ప్యాటర్న్స్ **ప్రధాన అంశాలు**: మోడల్స్ అస్ టూల్స్ • పరికరంపై అమలు • SDK/API సమన్వయం • ఎంటర్ప్రైజ్ ఆర్కిటెక్చర్లు • స్కేలింగ్ వ్యూహాలు **నమూనా**: [మోడల్స్-అస్-టూల్స్ రౌటర్](./samples/06/README.md) • [Foundry టూల్స్ ఫ్రేమ్‌వర్క్](./samples/10/README.md) **కాలవ్యవధి**: 3-4 గంటలు | **స్థాయి**: నిపుణుడు --- ### [7: డైరెక్ట్ API సమన్వయ ప్యాటర్న్స్](./samples/07/README.md) **ఫోకస్**: SDK ఆధారితత లేకుండా పూర్తి REST API సమన్వయం, గరిష్ట నియంత్రణ కోసం **ప్రధాన అంశాలు**: HTTP క్లయింట్ అమలు • కస్టమ్ ఆథెంటికేషన్ • మోడల్ ఆరోగ్య మానిటరింగ్ • స్ట్రీమింగ్ ప్రతిస్పందనలు • ఉత్పత్తి లోపాల నిర్వహణ **నమూనా**: [డైరెక్ట్ API క్లయింట్](./samples/07/README.md) **కాలవ్యవధి**: 2-3 గంటలు | **స్థాయి**: మధ్యస్థాయి --- ### [8: Windows 11 స్థానిక చాట్ అప్లికేషన్](./samples/08/README.md) **ఫోకస్**: Foundry Local సమన్వయంతో ఆధునిక స్థానిక చాట్ అప్లికేషన్లు నిర్మించడం **ప్రధాన అంశాలు**: ఎలక్ట్రాన్ అభివృద్ధి • Fluent డిజైన్ సిస్టమ్ • స్థానిక Windows సమన్వయం • రియల్-టైమ్ స్ట్రీమింగ్ • చాట్ ఇంటర్‌ఫేస్ డిజైన్ **నమూనా**: [Windows 11 చాట్ అప్లికేషన్](./samples/08/README.md) **కాలవ్యవధి**: 3-4 గంటలు | **స్థాయి**: అధునాతన --- ### [9: అధునాతన బహుఏజెంట్ ఆర్కెస్ట్రేషన్](./samples/09/README.md) **ఫోకస్**: సున్నితమైన ఏజెంట్ సమన్వయం, ప్రత్యేక పనుల నియామకం, మరియు సహకార AI వర్క్‌ఫ్లోలు **ప్రధాన అంశాలు**: తెలివైన ఏజెంట్ సమన్వయం • ఫంక్షన్ కాలింగ్ ప్యాటర్న్స్ • క్రాస్-ఏజెంట్ కమ్యూనికేషన్ • వర్క్‌ఫ్లో ఆర్కెస్ట్రేషన్ • నాణ్యత హామీ యంత్రాంగాలు **నమూనా**: [అధునాతన బహుఏజెంట్ సిస్టమ్](./samples/09/README.md) **కాలవ్యవధి**: 4-5 గంటలు | **స్థాయి**: నిపుణుడు --- ### [10: Foundry Local టూల్స్ ఫ్రేమ్‌వర్క్](./samples/10/README.md) **ఫోకస్**: Foundry Local ను ఉన్న అప్లికేషన్లు మరియు ఫ్రేమ్‌వర్క్‌లలో సమన్వయించడానికి టూల్-ఫస్ట్ ఆర్కిటెక్చర్ **ప్రధాన అంశాలు**: LangChain సమన్వయం • Semantic Kernel ఫంక్షన్లు • REST API ఫ్రేమ్‌వర్క్‌లు • CLI టూల్స్ • Jupyter సమన్వయం • ఉత్పత్తి అమలుపై ప్యాటర్న్స్ **నమూనా**: [Foundry టూల్స్ ఫ్రేమ్‌వర్క్](./samples/10/README.md) **కాలవ్యవధి**: 4-5 గంటలు | **స్థాయి**: నిపుణుడు ## ముందస్తు అవసరాలు ### సిస్టమ్ అవసరాలు - **ఆపరేటింగ్ సిస్టమ్**: Windows 11 (22H2 లేదా తరువాత) - **మెమరీ**: 16GB RAM (పెద్ద మోడల్స్ కోసం 32GB సిఫార్సు) - **స్టోరేజ్**: మోడల్ క్యాచింగ్ కోసం 50GB ఖాళీ స్థలం - **హార్డ్‌వేర్**: NPU-సమర్థ పరికరం సిఫార్సు (Copilot+ PC), GPU ఐచ్ఛికం - **నెట్‌వర్క్**: ప్రారంభ మోడల్ డౌన్లోడ్ల కోసం హై-స్పీడ్ ఇంటర్నెట్ ### అభివృద్ధి వాతావరణం - Visual Studio Code తో AI Toolkit ఎక్స్‌టెన్షన్ - Python 3.10+ మరియు pip - వెర్షన్ కంట్రోల్ కోసం Git - PowerShell లేదా కమాండ్ ప్రాంప్ట్ - Azure CLI (క్లౌడ్ సమన్వయానికి ఐచ్ఛికం) ### జ్ఞాన అవసరాలు - AI/ML కాన్సెప్ట్‌ల ప్రాథమిక అవగాహన - కమాండ్ లైన్ పరిచయం - Python ప్రోగ్రామింగ్ ప్రాథమికాలు - REST API కాన్సెప్ట్‌లు - ప్రాంప్టింగ్ మరియు మోడల్ ఇన్ఫరెన్స్ ప్రాథమిక జ్ఞానం ## మాడ్యూల్ టైమ్‌లైన్ **మొత్తం అంచనా సమయం**: 30-38 గంటలు | సెషన్ | ఫోకస్ ఏరియా | నమూనాలు | సమయం | క్లిష్టత | |---------|------------|---------|------|------------| | 1 | సెటప్ & ప్రాథమికాలు | 01, 02, 03 | 2-3 గంటలు | ప్రారంభ స్థాయి | | 2 | AI పరిష్కారాలు | 04 | 2-3 గంటలు | మధ్యస్థాయి | | 3 | ఓపెన్ సోర్స్ | 05 | 2-3 గంటలు | మధ్యస్థాయి | | 4 | అధునాతన మోడల్స్ | 06 | 3-4 గంటలు | అధునాతన | | 5 | AI ఏజెంట్లు | 05, 09 | 3-4 గంటలు | అధునాతన | | 6 | ఎంటర్ప్రైజ్ టూల్స్ | 06, 10 | 3-4 గంటలు | నిపుణుడు | | 7 | డైరెక్ట్ API సమన్వయం | 07 | 2-3 గంటలు | మధ్యస్థాయి | | 8 | Windows 11 చాట్ యాప్ | 08 | 3-4 గంటలు | అధునాతన | | 9 | అధునాతన బహుఏజెంట్ | 09 | 4-5 గంటలు | నిపుణుడు | | 10 | టూల్స్ ఫ్రేమ్‌వర్క్ | 10 | 4-5 గంటలు | నిపుణుడు | ## ముఖ్య వనరులు **అధికారిక డాక్యుమెంటేషన్:** - [Microsoft Foundry Local GitHub](https://github.com/microsoft/Foundry-Local) - సోర్స్ కోడ్ మరియు అధికారిక నమూనాలు - [Azure AI Foundry డాక్యుమెంటేషన్](https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local/) - పూర్తి సెటప్ మరియు ఉపయోగం గైడ్ - [Model Mondays సిరీస్](https://aka.ms/model-mondays) - వారానికి మోడల్ హైలైట్స్ మరియు ట్యుటోరియల్స్ **కమ్యూనిటీ & సపోర్ట్:** - [Foundry Local చర్చలు](https://github.com/microsoft/Foundry-Local/discussions) - కమ్యూనిటీ ప్రశ్నలు మరియు ఫీచర్ అభ్యర్థనలు - [Microsoft AI డెవలపర్ కమ్యూనిటీ](https://techcommunity.microsoft.com/category/artificialintelligence) - తాజా వార్తలు మరియు ఉత్తమ ఆచారాలు ## నేర్చుకున్న ఫలితాలు ఈ మాడ్యూల్ పూర్తి చేసిన తర్వాత, మీరు సన్నద్ధం అవుతారు: ### సాంకేతిక నైపుణ్యం - **Foundry Local ఇన్‌స్టాలేషన్లు** అభివృద్ధి మరియు ఉత్పత్తి వాతావరణాల్లో నిర్వహించండి - **మోడల్స్ సమన్వయం**: Microsoft, Hugging Face, మరియు కమ్యూనిటీ మూలాల నుండి వివిధ మోడల్ కుటుంబాలతో సజావుగా పని చేయండి - **అప్లికేషన్లు నిర్మించండి**: అధునాతన ఫీచర్లు మరియు ఆప్టిమైజేషన్లతో ఉత్పత్తి-సిద్ధ AI అప్లికేషన్లు సృష్టించండి - **ఏజెంట్లను అభివృద్ధి చేయండి**: గ్రౌండింగ్, తర్కం, మరియు టూల్ సమన్వయంతో సున్నితమైన AI ఏజెంట్లను అమలు చేయండి ### వ్యూహాత్మక అవగాహన - **ఆర్కిటెక్చర్ నిర్ణయాలు**: స్థానిక vs క్లౌడ్ అమలుల మధ్య తెలివైన ఎంపికలు చేయండి - **పనితీరు ఆప్టిమైజేషన్**: వివిధ హార్డ్‌వేర్ కాన్ఫిగరేషన్లలో ఇన్ఫరెన్స్ పనితీరును మెరుగుపరచండి - **ఎంటర్ప్రైజ్ స్కేలింగ్**: స్థానిక ప్రోటోటైప్స్ నుండి ఎంటర్ప్రైజ్ అమలుల వరకు అప్లికేషన్లను డిజైన్ చేయండి - **గోప్యత మరియు భద్రత**: స్థానిక ఇన్ఫరెన్స్‌తో గోప్యతా పరిరక్షణ AI పరిష్కారాలను అమలు చేయండి ### ఆవిష్కరణ సామర్థ్యాలు - **వేగవంతమైన ప్రోటోటైపింగ్**: అన్ని 10 నమూనా ప్యాటర్న్లలో AI అప్లికేషన్ కాన్సెప్ట్‌లను త్వరగా నిర్మించి పరీక్షించండి - **కమ్యూనిటీ సమన్వయం**: ఓపెన్-సోర్స్ మోడల్స్‌ను ఉపయోగించి ఎకోసిస్టమ్‌కు కాంట్రిబ్యూట్ చేయండి - **అధునాతన ప్యాటర్న్స్**: RAG, ఏజెంట్లు, మరియు టూల్ సమన్వయంతో ఆధునిక AI ప్యాటర్న్లను అమలు చేయండి - **ఫ్రేమ్‌వర్క్ నైపుణ్యం**: LangChain, Semantic Kernel, Chainlit, మరియు Electron తో నిపుణుల స్థాయి సమన్వయం - **ఉత్పత్తి అమలు**: స్థానిక ప్రోటోటైప్స్ నుండి ఎంటర్ప్రైజ్ సిస్టమ్స్ వరకు స్కేలబుల్ AI పరిష్కారాలను అమలు చేయండి - **భవిష్యత్తు సిద్ధమైన అభివృద్ధి**: ఎదుగుతున్న AI సాంకేతికతలు మరియు ప్యాటర్న్లకు సిద్ధంగా అప్లికేషన్లు నిర్మించండి ## ప్రారంభం 1. **వాతావరణం సెటప్**: Windows 11 మరియు సిఫార్సు చేసిన హార్డ్‌వేర్‌ను నిర్ధారించుకోండి (ముందస్తు అవసరాలు చూడండి) 2. **Foundry Local ఇన్‌స్టాల్ చేయండి**: పూర్తి ఇన్‌స్టాలేషన్ మరియు కాన్ఫిగరేషన్ కోసం సెషన్ 1 అనుసరించండి 3. **నమూనా 01 నడపండి**: ప్రాథమిక REST API సమన్వయంతో సెటప్‌ను ధృవీకరించండి 4. **నమూనాలు 01-10 పూర్తి చేయండి**: సమగ్ర నైపుణ్యం కోసం ## విజయ సూచికలు మీ పురోగతిని అన్ని 10 సమగ్ర నమూనాల ద్వారా ట్రాక్ చేయండి: ### ఫౌండేషన్ స్థాయి (నమూనాలు 01-03) - [ ] Foundry Local విజయవంతంగా ఇన్‌స్టాల్ చేసి కాన్ఫిగర్ చేయండి - [ ] REST API సమన్వయం పూర్తి చేయండి (నమూనా 01) - [ ] OpenAI SDK అనుకూలత అమలు చేయండి (నమూనా 02) - [ ] మోడల్ డిస్కవరీ మరియు బెంచ్‌మార్కింగ్ చేయండి (నమూనా 03) ### అప్లికేషన్ స్థాయి (నమూనాలు 04-06) - [ ] కనీసం 4 వేర్వేరు మోడల్ కుటుంబాలను అమలు చేసి నడపండి - [ ] ఫంక్షనల్ RAG చాట్ అప్లికేషన్ సృష్టించండి (నమూనా 04) - [ ] బహుఏజెంట్ ఆర్కెస్ట్రేషన్ సిస్టమ్ నిర్మించండి (నమూనా 05) - [ ] తెలివైన మోడల్ రౌటింగ్ అమలు చేయండి (నమూనా 06) ### అధునాతన సమన్వయ స్థాయి (నమూనాలు 07-10) - [ ] ఉత్పత్తి-సిద్ధ API క్లయింట్ నిర్మించండి (నమూనా 07) - [ ] Windows 11 స్థానిక చాట్ అప్లికేషన్ అభివృద్ధి చేయండి (నమూనా 08) - [ ] అధునాతన బహుఏజెంట్ సిస్టమ్ అమలు చేయండి (నమూనా 09) - [ ] సమగ్ర టూల్స్ ఫ్రేమ్‌వర్క్ సృష్టించండి (నమూనా 10) ### నైపుణ్య సూచికలు - [ ] అన్ని 10 నమూనాలను తప్పుల్లేకుండా విజయవంతంగా నడపండి - [ ] కనీసం 3 నమూనాలను ప్రత్యేక ఉపయోగాల కోసం అనుకూలీకరించండి - [ ] 2+ నమూనాలను ఉత్పత్తి-లాగా వాతావరణాల్లో అమలు చేయండి - [ ] నమూనా కోడ్‌కు మెరుగుదలలు లేదా విస్తరణలు అందించండి - [ ] Foundry Local ప్యాటర్న్లను వ్యక్తిగత/వృత్తిపరమైన ప్రాజెక్టుల్లో సమన్వయించండి ## క్విక్ స్టార్ట్ గైడ్ - అన్ని 10 నమూనాలు ### వాతావరణం సెటప్ (అన్ని నమూనాలకు అవసరం) ```powershell # 1. మాడ్యూల్08 ను క్లోన్ చేసి దాని లోకి వెళ్లండి cd Module08 # 2. Python వర్చువల్ ఎన్విరాన్‌మెంట్ సృష్టించండి py -m venv .venv .\.venv\Scripts\activate # 3. ప్రాథమిక ఆధారాలు ఇన్‌స్టాల్ చేయండి pip install -r requirements.txt # 4. Foundry Local ను ఇన్‌స్టాల్ చేయండి (ఇప్పటికే ఇన్‌స్టాల్ చేయకపోతే) winget install Microsoft.FoundryLocal # 5. Foundry Local ఇన్‌స్టాలేషన్‌ను ధృవీకరించండి foundry --version foundry model list ``` ### కోర్ ఫౌండేషన్ నమూనాలు (01-06) **నమూనా 01: REST చాట్ క్విక్‌స్టార్ట్** ```powershell # ఫౌండ్రీ లోకల్ సర్వీస్ ప్రారంభించండి foundry model run phi-4-mini # REST చాట్ డెమో నడపండి python samples/01/chat_quickstart.py ``` **నమూనా 02: OpenAI SDK సమన్వయం** ```powershell # మోడల్ నడుస్తున్నదని నిర్ధారించండి foundry status # SDK డెమోను నడపండి python samples/02/sdk_quickstart.py ``` **నమూనా 03: మోడల్ డిస్కవరీ & బెంచ్‌మార్కింగ్** ```powershell # సమగ్ర మోడల్ పరీక్ష నిర్వహించండి samples/03/list_and_bench.cmd # లేదా వ్యక్తిగత భాగాలను నిర్వహించండి foundry model list --available foundry model download qwen2.5-0.5b foundry model benchmark phi-4-mini ``` **నమూనా 04: Chainlit RAG అప్లికేషన్** ```powershell # చైన్‌లిట్ ఆధారాలను ఇన్‌స్టాల్ చేయండి pip install chainlit langchain chromadb # RAG చాట్ అప్లికేషన్ ప్రారంభించండి chainlit run samples/04/app.py -w # http://localhost:8000 వద్ద బ్రౌజర్‌ను తెరవండి ``` **నమూనా 05: బహుఏజెంట్ ఆర్కెస్ట్రేషన్** ```powershell # ఏజెంట్ కోఆర్డినేటర్ డెమో నడపండి python -m samples.05.agents.coordinator # నిర్దిష్ట ఏజెంట్ ఉదాహరణలను నడపండి python samples/05/examples/specialists_demo.py ``` **నమూనా 06: మోడల్స్-అస్-టూల్స్ రౌటర్** ```powershell # పరిసరాన్ని కాన్ఫిగర్ చేయండి set BASE_URL=http://localhost:8000 set GENERAL_MODEL=phi-4-mini set CODE_MODEL=qwen2.5-7b # తెలివైన రౌటర్‌ను నడపండి python samples/06/router.py "Analyze this Python code for performance issues" ``` ### అధునాతన సమన్వయ నమూనాలు (07-10) **నమూనా 07: డైరెక్ట్ API క్లయింట్** ```powershell # నమూనా డైరెక్టరీకి నావిగేట్ చేయండి cd samples/07 # అదనపు ఆధారాలను ఇన్‌స్టాల్ చేయండి pip install -r requirements.txt # ప్రాథమిక API ఉదాహరణలను నడపండి python examples/basic_usage.py # స్ట్రీమింగ్ ప్రతిస్పందనలను ప్రయత్నించండి python examples/streaming.py # ఉత్పత్తి నమూనాలను పరీక్షించండి python examples/production.py ``` **నమూనా 08: Windows 11 చాట్ అప్లికేషన్** ```powershell # నమూనా డైరెక్టరీకి నావిగేట్ చేయండి cd samples/08 # Node.js ఆధారాలను ఇన్‌స్టాల్ చేయండి npm install # ఎలక్ట్రాన్ అప్లికేషన్ ప్రారంభించండి npm start # లేదా ఉత్పత్తి కోసం నిర్మించండి npm run build ``` **నమూనా 09: అధునాతన బహుఏజెంట్ సిస్టమ్** ```powershell # నమూనా డైరెక్టరీకి నావిగేట్ చేయండి cd samples/09 # ఏజెంట్ సిస్టమ్ ఆధారాలను ఇన్‌స్టాల్ చేయండి pip install -r requirements.txt # ప్రాథమిక సమన్వయ ఉదాహరణను నడపండి python examples/basic_coordination.py # సంక్లిష్ట వర్క్‌ఫ్లోను ప్రయత్నించండి python examples/complex_workflow.py # ఇంటరాక్టివ్ ఏజెంట్ డెమో python examples/interactive_demo.py ``` **నమూనా 10: Foundry టూల్స్ ఫ్రేమ్‌వర్క్** ```powershell # నమూనా డైరెక్టరీకి నావిగేట్ చేయండి cd samples/10 # ఫ్రేమ్‌వర్క్ ఆధారాలను ఇన్‌స్టాల్ చేయండి pip install -r requirements.txt # ప్రాథమిక టూల్స్ డెమోను నడపండి python examples/basic_tools.py # REST API సర్వర్‌ను ప్రారంభించండి python examples/rest_api_server.py # API http://localhost:8080 వద్ద అందుబాటులో ఉంది # CLI అప్లికేషన్‌ను ప్రయత్నించండి python examples/cli_application.py --help # జూపిటర్ నోట్‌బుక్‌ను ప్రారంభించండి jupyter notebook examples/jupyter_notebook.ipynb # LangChain ఇంటిగ్రేషన్‌ను పరీక్షించండి python examples/langchain_demo.py ``` ### సాధారణ సమస్యల పరిష్కారం **Foundry Local కనెక్షన్ లోపాలు** ```powershell # సేవ స్థితిని తనిఖీ చేయండి foundry status # అవసరమైతే మళ్లీ ప్రారంభించండి foundry restart # ఎండ్‌పాయింట్ ప్రాప్యతను ధృవీకరించండి curl http://localhost:5273/v1/models ``` **మోడల్ లోడింగ్ సమస్యలు** ```powershell # అందుబాటులో ఉన్న మోడల్స్‌ను తనిఖీ చేయండి foundry model list --cached # లేని మోడల్స్‌ను డౌన్లోడ్ చేయండి foundry model download phi-4-mini foundry model download qwen2.5-0.5b # అవసరమైతే బలవంతంగా రీలోడ్ చేయండి foundry model unload --all foundry model run phi-4-mini ``` **డిపెండెన్సీ సమస్యలు** ```powershell # pip ను అప్‌గ్రేడ్ చేసి మళ్లీ ఇన్‌స్టాల్ చేయండి python -m pip install --upgrade pip pip install -r requirements.txt --force-reinstall # Node.js నమూనాల కోసం npm cache clean --force npm install ``` ## సారాంశం ఈ మాడ్యూల్ ఎడ్జ్ AI అభివృద్ధి యొక్క అగ్రశ్రేణిని ప్రాతినిధ్యం చేస్తుంది, మైక్రోసాఫ్ట్ యొక్క ఎంటర్ప్రైజ్-గ్రేడ్ టూల్స్‌ను ఓపెన్-సోర్స్ ఎకోసిస్టమ్ యొక్క సౌలభ్యం మరియు ఆవిష్కరణతో కలిపి. ఫౌండ్రీ లోకల్‌ను 10 సమగ్ర నమూనాల ద్వారా నైపుణ్యం సాధించడం ద్వారా, మీరు AI అప్లికేషన్ అభివృద్ధి యొక్క ముందస్తు స్థానంలో ఉంటారు. **పూర్తి అభ్యాస మార్గం:** - **ఫౌండేషన్** (నమూనాలు 01-03): API ఇంటిగ్రేషన్ మరియు మోడల్ నిర్వహణ - **అప్లికేషన్స్** (నమూనాలు 04-06): RAG, ఏజెంట్లు, మరియు తెలివైన రూటింగ్ - **అడ్వాన్స్డ్** (నమూనాలు 07-10): ప్రొడక్షన్ ఫ్రేమ్‌వర్క్‌లు మరియు ఎంటర్ప్రైజ్ ఇంటిగ్రేషన్ ఆజ్యూర్ ఓపెన్AI ఇంటిగ్రేషన్ (సెషన్ 2) కోసం, అవసరమైన ఎన్విరాన్‌మెంట్ వేరియబుల్స్ మరియు API వెర్షన్ సెట్టింగ్స్ కోసం వ్యక్తిగత నమూనా README ఫైళ్లను చూడండి. --- **అస్పష్టత**: ఈ పత్రాన్ని AI అనువాద సేవ [Co-op Translator](https://github.com/Azure/co-op-translator) ఉపయోగించి అనువదించబడింది. మేము ఖచ్చితత్వానికి ప్రయత్నించినప్పటికీ, ఆటోమేటెడ్ అనువాదాల్లో పొరపాట్లు లేదా తప్పిదాలు ఉండవచ్చు. మూల పత్రం దాని స్వదేశీ భాషలో అధికారిక మూలంగా పరిగణించాలి. ముఖ్యమైన సమాచారానికి, ప్రొఫెషనల్ మానవ అనువాదం సిఫార్సు చేయబడుతుంది. ఈ అనువాదం వాడకంలో ఏర్పడిన ఏవైనా అపార్థాలు లేదా తప్పుదారితీసే అర్థాలు కోసం మేము బాధ్యత వహించము.