# Module 08: Microsoft Foundry Local - முழுமையான டெவலப்பர் கருவிகள் தொகுப்பு ## கண்ணோட்டம் [Microsoft Foundry Local](https://learn.microsoft.com/azure/ai-foundry/foundry-local/) என்பது எட்ஜ் AI மேம்பாட்டின் அடுத்த தலைமுறையை பிரதிநிதித்துவப்படுத்துகிறது. இது டெவலப்பர்களுக்கு Azure AI Foundry உடன் இணைந்திருக்கும் AI பயன்பாடுகளை உள்ளூர் அளவில் உருவாக்க, பரப்ப, மற்றும் அளவீடு செய்ய சக்திவாய்ந்த கருவிகளை வழங்குகிறது. இந்த மொடியூல் Foundry Local-ஐ நிறுவுதல் முதல் மேம்பட்ட ஏஜென்ட் மேம்பாடு வரை விரிவான கவரேஜ் வழங்குகிறது. **முக்கிய தொழில்நுட்பங்கள்:** - Microsoft Foundry Local CLI மற்றும் SDK - Azure AI Foundry ஒருங்கிணைப்பு - சாதனத்தில் மாடல் தீர்மானம் - உள்ளூர் மாடல் கேஷிங் மற்றும் மேம்பாடு - ஏஜென்ட் அடிப்படையிலான கட்டமைப்புகள் ## கற்றல் நோக்கங்கள் இந்த மொடியூலை முடிக்கும்போது, நீங்கள்: - **Foundry Local-ஐ கையாளுங்கள்**: Windows 11 மேம்பாட்டுக்கான நிறுவல், கட்டமைப்பு மற்றும் மேம்பாடு - **பல்வேறு மாடல்களை பரப்புங்கள்**: phi, qwen, deepseek, மற்றும் GPT மாடல்களை CLI கட்டளைகளுடன் உள்ளூர் அளவில் இயக்குங்கள் - **தயாரிப்பு தீர்வுகளை உருவாக்குங்கள்**: மேம்பட்ட ப்ராம்ப்ட் என்ஜினியரிங் மற்றும் தரவுகளின் ஒருங்கிணைப்புடன் AI பயன்பாடுகளை உருவாக்குங்கள் - **திறந்த மூல økosystem-ஐ பயன்படுத்துங்கள்**: Hugging Face மாடல்கள் மற்றும் சமூக பங்களிப்புகளை ஒருங்கிணைக்கவும் - **AI ஏஜென்ட்களை மேம்படுத்துங்கள்**: நிலைமையாக்கம் மற்றும் ஒருங்கிணைப்பு திறன்களுடன் புத்திசாலி ஏஜென்ட்களை உருவாக்குங்கள் - **நிறுவன முறைமைகளை செயல்படுத்துங்கள்**: தயாரிப்பு பரப்பிற்கான தொகுதி, அளவீட்டு AI தீர்வுகளை உருவாக்குங்கள் ## அமர்வு அமைப்பு ### [1: Foundry Local-ஐ தொடங்குதல்](./01.FoundryLocalSetup.md) **கவனம்**: நிறுவல், CLI அமைப்பு, மாடல் பரப்பு, மற்றும் ஹார்ட்வேரின் மேம்பாடு **முக்கிய தலைப்புகள்**: முழுமையான நிறுவல் • CLI கட்டளைகள் • மாடல் கேஷிங் • ஹார்ட்வேரின் வேகப்படுத்தல் • பல மாடல் பரப்பு **மாதிரி**: [REST Chat Quickstart](./samples/01/README.md) • [OpenAI SDK Integration](./samples/02/README.md) • [Model Discovery & Benchmarking](./samples/03/README.md) **கால அளவு**: 2-3 மணி நேரம் | **நிலை**: தொடக்க நிலை --- ### [2: Azure AI Foundry உடன் AI தீர்வுகளை உருவாக்குதல்](./02.AzureAIFoundryIntegration.md) **கவனம்**: மேம்பட்ட ப்ராம்ப்ட் என்ஜினியரிங், தரவுகளின் ஒருங்கிணைப்பு, மற்றும் கிளவுட் இணைப்பு **முக்கிய தலைப்புகள்**: ப்ராம்ப்ட் என்ஜினியரிங் • தரவுகளின் ஒருங்கிணைப்பு • Azure வேலைப்பாடுகள் • செயல்திறன் மேம்பாடு • கண்காணிப்பு **மாதிரி**: [Chainlit RAG Application](./samples/04/README.md) **கால அளவு**: 2-3 மணி நேரம் | **நிலை**: நடுத்தர நிலை --- ### [3: திறந்த மூல மாடல்கள் Foundry Local](./03.OpenSourceModels.md) **கவனம்**: Hugging Face ஒருங்கிணைப்பு, BYOM உத்திகள், மற்றும் சமூக மாடல்கள் **முக்கிய தலைப்புகள்**: HuggingFace ஒருங்கிணைப்பு • Bring-your-own-model • Model Mondays தகவல்கள் • சமூக பங்களிப்புகள் • மாடல் தேர்வு **மாதிரி**: [Multi-Agent Orchestration](./samples/05/README.md) **கால அளவு**: 2-3 மணி நேரம் | **நிலை**: நடுத்தர நிலை --- ### [4: முன்னணி மாடல்களை ஆராயுங்கள்](./04.CuttingEdgeModels.md) **கவனம்**: LLMs vs SLMs, EdgeAI செயல்பாடு, மற்றும் மேம்பட்ட டெமோக்கள் **முக்கிய தலைப்புகள்**: மாடல் ஒப்பீடு • எட்ஜ் vs கிளவுட் தீர்மானம் • Phi + ONNX Runtime • Chainlit RAG பயன்பாடு • WebGPU மேம்பாடு **மாதிரி**: [Models-as-Tools Router](./samples/06/README.md) **கால அளவு**: 3-4 மணி நேரம் | **நிலை**: மேம்பட்டது --- ### [5: AI-இயங்கும் ஏஜென்ட்களை விரைவாக உருவாக்குங்கள்](./05.AIPoweredAgents.md) **கவனம்**: ஏஜென்ட் கட்டமைப்புகள், சிஸ்டம் ப்ராம்ப்ட்கள், நிலைமையாக்கம், மற்றும் ஒருங்கிணைப்பு **முக்கிய தலைப்புகள்**: ஏஜென்ட் வடிவமைப்பு முறைமைகள் • சிஸ்டம் ப்ராம்ப்ட் என்ஜினியரிங் • நிலைமையாக்கம் • பல ஏஜென்ட் அமைப்புகள் • தயாரிப்பு பரப்பு **மாதிரி**: [Multi-Agent Orchestration](./samples/05/README.md) • [Advanced Multi-Agent System](./samples/09/README.md) **கால அளவு**: 3-4 மணி நேரம் | **நிலை**: மேம்பட்டது --- ### [6: Foundry Local - கருவிகள் என மாடல்கள்](./06.ModelsAsTools.md) **கவனம்**: தொகுதி AI தீர்வுகள், நிறுவன அளவீடு, மற்றும் தயாரிப்பு முறைமைகள் **முக்கிய தலைப்புகள்**: மாடல்கள் கருவிகளாக • சாதனத்தில் பரப்பு • SDK/API ஒருங்கிணைப்பு • நிறுவன கட்டமைப்புகள் • அளவீட்டு உத்திகள் **மாதிரி**: [Models-as-Tools Router](./samples/06/README.md) • [Foundry Tools Framework](./samples/10/README.md) **கால அளவு**: 3-4 மணி நேரம் | **நிலை**: நிபுணர் --- ### [7: நேரடி API ஒருங்கிணைப்பு முறைமைகள்](./samples/07/README.md) **கவனம்**: SDK சார்பற்ற REST API ஒருங்கிணைப்பு அதிகபட்ச கட்டுப்பாட்டிற்காக **முக்கிய தலைப்புகள்**: HTTP கிளையண்ட் செயல்பாடு • தனிப்பயன் அங்கீகாரம் • மாடல் ஆரோக்கிய கண்காணிப்பு • ஸ்ட்ரீமிங் பதில்கள் • தயாரிப்பு பிழை கையாளுதல் **மாதிரி**: [Direct API Client](./samples/07/README.md) **கால அளவு**: 2-3 மணி நேரம் | **நிலை**: நடுத்தர நிலை --- ### [8: Windows 11 நேட்டிவ் சாட் பயன்பாடு](./samples/08/README.md) **கவனம்**: Foundry Local ஒருங்கிணைப்புடன் நவீன நேட்டிவ் சாட் பயன்பாடுகளை உருவாக்குதல் **முக்கிய தலைப்புகள்**: Electron மேம்பாடு • Fluent Design System • நேட்டிவ் Windows ஒருங்கிணைப்பு • நேரடி ஸ்ட்ரீமிங் • சாட் இடைமுக வடிவமைப்பு **மாதிரி**: [Windows 11 Chat Application](./samples/08/README.md) **கால அளவு**: 3-4 மணி நேரம் | **நிலை**: மேம்பட்டது --- ### [9: மேம்பட்ட பல ஏஜென்ட் ஒருங்கிணைப்பு](./samples/09/README.md) **கவனம்**: நுண்ணறிவு ஏஜென்ட் ஒருங்கிணைப்பு, சிறப்பு பணியளிப்பு, மற்றும் கூட்டுறவு AI வேலைப்பாடுகள் **முக்கிய தலைப்புகள்**: புத்திசாலி ஏஜென்ட் ஒருங்கிணைப்பு • செயல்பாட்டு அழைப்பு முறைமைகள் • ஏஜென்ட் இடையிலான தொடர்பு • வேலைப்பாடு ஒருங்கிணைப்பு • தர உறுதிப்படுத்தல் முறைமைகள் **மாதிரி**: [Advanced Multi-Agent System](./samples/09/README.md) **கால அளவு**: 4-5 மணி நேரம் | **நிலை**: நிபுணர் --- ### [10: Foundry Local கருவிகள் கட்டமைப்பாக](./samples/10/README.md) **கவனம்**: Foundry Local-ஐ உள்ளடக்கிய பயன்பாடுகள் மற்றும் கட்டமைப்புகளில் ஒருங்கிணைக்க கருவி-முதல் கட்டமைப்பு **முக்கிய தலைப்புகள்**: LangChain ஒருங்கிணைப்பு • Semantic Kernel செயல்பாடுகள் • REST API கட்டமைப்புகள் • CLI கருவிகள் • Jupyter ஒருங்கிணைப்பு • தயாரிப்பு பரப்பு முறைமைகள் **மாதிரி**: [Foundry Tools Framework](./samples/10/README.md) **கால அளவு**: 4-5 மணி நேரம் | **நிலை**: நிபுணர் ## முன் தேவைகள் ### அமைப்பு தேவைகள் - **இயங்குதளம்**: Windows 11 (22H2 அல்லது அதற்கு மேல்) - **மெமரி**: 16GB RAM (பெரிய மாடல்களுக்கு 32GB பரிந்துரைக்கப்படுகிறது) - **சேமிப்பு**: மாடல் கேஷிங்கிற்கான 50GB இலவச இடம் - **ஹார்ட்வேரு**: NPU-இயங்கும் சாதனம் பரிந்துரைக்கப்படுகிறது (Copilot+ PC), GPU விருப்பமானது - **நெட்வொர்க்**: ஆரம்ப மாடல் பதிவிறக்கங்களுக்கு உயர் வேக இணையம் ### மேம்பாட்டு சூழல் - Visual Studio Code AI Toolkit நீட்டிப்புடன் - Python 3.10+ மற்றும் pip - Git பதிப்பு கட்டுப்பாட்டிற்காக - PowerShell அல்லது Command Prompt - Azure CLI (கிளவுட் ஒருங்கிணைப்பிற்கான விருப்பமானது) ### அறிவு தேவைகள் - AI/ML கருத்துக்களின் அடிப்படை புரிதல் - கட்டளைகள் வரி பரிச்சயம் - Python நிரலாக்க அடிப்படைகள் - REST API கருத்துக்கள் - ப்ராம்ப்டிங் மற்றும் மாடல் தீர்மானத்தின் அடிப்படை அறிவு ## மொடியூல் கால அட்டவணை **மொத்த மதிப்பீட்ட நேரம்**: 30-38 மணி நேரம் | அமர்வு | கவனம் | மாதிரிகள் | நேரம் | சிக்கலானது | |---------|------------|---------|------|------------| | 1 | அமைப்பு & அடிப்படைகள் | 01, 02, 03 | 2-3 மணி | தொடக்க நிலை | | 2 | AI தீர்வுகள் | 04 | 2-3 மணி | நடுத்தர நிலை | | 3 | திறந்த மூல | 05 | 2-3 மணி | நடுத்தர நிலை | | 4 | மேம்பட்ட மாடல்கள் | 06 | 3-4 மணி | மேம்பட்டது | | 5 | AI ஏஜென்ட்கள் | 05, 09 | 3-4 மணி | மேம்பட்டது | | 6 | நிறுவன கருவிகள் | 06, 10 | 3-4 மணி | நிபுணர் | | 7 | நேரடி API ஒருங்கிணைப்பு | 07 | 2-3 மணி | நடுத்தர நிலை | | 8 | Windows 11 சாட் பயன்பாடு | 08 | 3-4 மணி | மேம்பட்டது | | 9 | மேம்பட்ட பல ஏஜென்ட் | 09 | 4-5 மணி | நிபுணர் | | 10 | கருவிகள் கட்டமைப்பு | 10 | 4-5 மணி | நிபுணர் | ## முக்கிய வளங்கள் **அதிகாரப்பூர்வ ஆவணங்கள்:** - [Microsoft Foundry Local GitHub](https://github.com/microsoft/Foundry-Local) - மூல குறியீடு மற்றும் அதிகாரப்பூர்வ மாதிரிகள் - [Azure AI Foundry Documentation](https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local/) - முழுமையான அமைப்பு மற்றும் பயன்பாட்டு வழிகாட்டி - [Model Mondays Series](https://aka.ms/model-mondays) - வாராந்திர மாடல் சிறப்பம்சங்கள் மற்றும் பயிற்சிகள் **சமூக & ஆதரவு:** - [Foundry Local Discussions](https://github.com/microsoft/Foundry-Local/discussions) - சமூக கேள்வி & பதில்கள் மற்றும் அம்ச கோரிக்கைகள் - [Microsoft AI Developer Community](https://techcommunity.microsoft.com/category/artificialintelligence) - சமீபத்திய செய்திகள் மற்றும் சிறந்த நடைமுறைகள் ## கற்றல் முடிவுகள் இந்த மொடியூலை முடிக்கும்போது, நீங்கள்: ### தொழில்நுட்ப திறமை - **நிறுவல் மற்றும் மேலாண்மை**: Foundry Local-ஐ மேம்பாட்டு மற்றும் தயாரிப்பு சூழல்களில் நிறுவவும் - **மாடல்களை ஒருங்கிணைப்பு**: Microsoft, Hugging Face, மற்றும் சமூக மூலங்களிலிருந்து பல்வேறு மாடல்களுடன் ஒருங்கிணைந்து செயல்படுங்கள் - **பயன்பாடுகளை உருவாக்குங்கள்**: மேம்பட்ட அம்சங்கள் மற்றும் மேம்பாடுகளுடன் தயாரிப்பு-தயார் AI பயன்பாடுகளை உருவாக்குங்கள் - **ஏஜென்ட்களை மேம்படுத்துங்கள்**: நிலைமையாக்கம், காரணம், மற்றும் கருவி ஒருங்கிணைப்புடன் நுண்ணறிவு AI ஏஜென்ட்களை செயல்படுத்துங்கள் ### மூலோபாய புரிதல் - **கட்டமைப்பு முடிவுகள்**: உள்ளூர் vs கிளவுட் பரப்பிற்கான தகவல்தரமான தேர்வுகளை செய்யுங்கள் - **செயல்திறன் மேம்பாடு**: பல்வேறு ஹார்ட்வேரு அமைப்புகளில் தீர்மான செயல்திறனை மேம்படுத்துங்கள் - **நிறுவன அளவீடு**: உள்ளூர் மாதிரிகளிலிருந்து நிறுவன பரப்புகளுக்கு அளவீட்டு பயன்பாடுகளை வடிவமைக்கவும் - **தனியுரிமை மற்றும் பாதுகாப்பு**: உள்ளூர் தீர்மானத்துடன் தனியுரிமை-பாதுகாப்பு AI தீர்வுகளை செயல்படுத்துங்கள் ### புதுமை திறன்கள் - **விரைவான மாதிரி உருவாக்கம்**: அனைத்து 10 மாதிரி முறைமைகளிலும் AI பயன்பாட்டு கருத்துகளை விரைவாக உருவாக்கவும் மற்றும் சோதிக்கவும் - **சமூக ஒருங்கிணைப்பு**: திறந்த மூல மாடல்களை பயன்படுத்தவும் மற்றும் økosystem-க்கு பங்களிக்கவும் - **மேம்பட்ட முறைமைகள்**: RAG, ஏஜென்ட்கள், மற்றும் கருவி ஒருங்கிணைப்பு உட்பட முன்னணி AI முறைமைகளை செயல்படுத்துங்கள் - **கட்டமைப்பு திறமை**: LangChain, Semantic Kernel, Chainlit, மற்றும் Electron உடன் நிபுணர்-நிலை ஒருங்கிணைப்பு - **தயாரிப்பு பரப்பு**: உள்ளூர் மாதிரிகளிலிருந்து நிறுவன அமைப்புகளுக்கு அளவீட்டு AI தீர்வுகளை பரப்புங்கள் - **எதிர்கால-தயார் மேம்பாடு**: உருவாக்கும் பயன்பாடுகள் புதிய AI தொழில்நுட்பங்கள் மற்றும் முறைமைகளுக்கு தயாராக இருக்க வேண்டும் ## தொடங்குதல் 1. **சூழல் அமைப்பு**: Windows 11 பரிந்துரைக்கப்பட்ட ஹார்ட்வேருடன் உறுதிப்படுத்தவும் (முன் தேவைகளைப் பார்க்கவும்) 2. **Foundry Local-ஐ நிறுவுங்கள்**: முழுமையான நிறுவல் மற்றும் கட்டமைப்பிற்கான அமர்வு 1-ஐ பின்பற்றவும் 3. **மாதிரி 01-ஐ இயக்குங்கள்**: அமைப்பைச் சரிபார்க்க அடிப்படை REST API ஒருங்கிணைப்புடன் தொடங்குங்கள் 4. **மாதிரிகள் மூலம் முன்னேறுங்கள்**: விரிவான திறமையைப் பெற 01-10 மாதிரிகளை முடிக்கவும் ## வெற்றியின் அளவீடுகள் அனைத்து 10 விரிவான மாதிரிகளின் மூலம் உங்கள் முன்னேற்றத்தை கண்காணிக்கவும்: ### அடிப்படை நிலை (மாதிரிகள் 01-03) - [ ] Foundry Local-ஐ வெற்றிகரமாக நிறுவவும் மற்றும் கட்டமைக்கவும் - [ ] REST API ஒருங்கிணைப்பை முடிக்கவும் (மாதிரி 01) - [ ] OpenAI SDK இணக்கத்தை செயல்படுத்தவும் (மாதிரி 02) - [ ] மாடல் கண்டுபிடிப்பு மற்றும் பெஞ்ச்மார்க்கிங் செய்யவும் (மாதிரி 03) ### பயன்பாட்டு நிலை (மாதிரிகள் 04-06) - [ ] குறைந்தது 4 மாடல் குடும்பங்களை பரப்பவும் மற்றும் இயக்கவும் - [ ] செயல்படும் RAG சாட் பயன்பாட்டை உருவாக்கவும் (மாதிரி 04) - [ ] பல ஏஜென்ட் ஒருங்கிணைப்பு அமைப்பை உருவாக்கவும் (மாதிரி 05) - [ ] புத்திசாலி மாடல் வழிமாற்றத்தை செயல்படுத்தவும் (மாதிரி 06) ### மேம்பட்ட ஒருங்கிணைப்பு நிலை (மாதிரிகள் 07-10) - [ ] தயாரிப்பு-தயார் API கிளையண்டை உருவாக்கவும் (மாதிரி 07) - [ ] Windows 11 நேட்டிவ் சாட் பயன்பாட்டை மேம்படுத்தவும் (மாதிரி 08) - [ ] மேம்பட்ட பல ஏஜென்ட் அமைப்பை செயல்படுத்தவும் (மாதிரி 09) - [ ] விரிவான கருவிகள் கட்டமைப்பை உருவாக்கவும் (மாதிரி 10) ### திறமை குறிகாட்டிகள் - [ ] பிழைகள் இல்லாமல் அனைத்து 10 மாதிரிகளையும் வெற்றிகரமாக இயக்குங்கள் - [ ] குறிப்பிட்ட பயன்பாடுகளுக்காக குறைந்தது 3 மாதிரிகளை தனிப்பயனாக்குங்கள் - இந்த மொடியூல் எட்ஜ் AI மேம்பாட்டின் முன்னணி நிலையை பிரதிநிதித்துவப்படுத்துகிறது, Microsoft இன் நிறுவன தரமான கருவிகளை திறந்த மூல சூழலின் சுதந்திரத்துடன் மற்றும் புதுமையுடன் இணைக்கிறது. Foundry Local ஐ முழுமையாக கற்றுக்கொள்வதன் மூலம், அனைத்து 10 விரிவான மாதிரிகளையும் கையாளுவதன் மூலம், AI பயன்பாட்டு மேம்பாட்டின் முன்னணியில் நீங்கள் இருப்பீர்கள். **முழுமையான கற்றல் பாதை:** - **அடித்தளம்** (மாதிரிகள் 01-03): API ஒருங்கிணைப்பு மற்றும் மாடல் மேலாண்மை - **பயன்பாடுகள்** (மாதிரிகள் 04-06): RAG, முகவர்கள், மற்றும் புத்திசாலி வழிமாற்றம் - **மேம்பட்டது** (மாதிரிகள் 07-10): உற்பத்தி கட்டமைப்புகள் மற்றும் நிறுவன ஒருங்கிணைப்பு Azure OpenAI ஒருங்கிணைப்புக்கான (அமர்வு 2), தேவையான சூழல் மாறிகள் மற்றும் API பதிப்பு அமைப்புகளுக்கான தனிப்பட்ட மாதிரி README கோப்புகளை பார்க்கவும். --- **குறிப்பு**: இந்த ஆவணம் [Co-op Translator](https://github.com/Azure/co-op-translator) என்ற AI மொழிபெயர்ப்பு சேவையைப் பயன்படுத்தி மொழிபெயர்க்கப்பட்டுள்ளது. நாங்கள் துல்லியத்திற்காக முயற்சிக்கின்றோம், ஆனால் தானியங்கி மொழிபெயர்ப்புகளில் பிழைகள் அல்லது தவறான தகவல்கள் இருக்கக்கூடும் என்பதை கவனத்தில் கொள்ளவும். அதன் தாய்மொழியில் உள்ள மூல ஆவணம் அதிகாரப்பூர்வ ஆதாரமாக கருதப்பட வேண்டும். முக்கியமான தகவல்களுக்கு, தொழில்முறை மனித மொழிபெயர்ப்பு பரிந்துரைக்கப்படுகிறது. இந்த மொழிபெயர்ப்பைப் பயன்படுத்துவதால் ஏற்படும் எந்த தவறான புரிதல்கள் அல்லது தவறான விளக்கங்களுக்கு நாங்கள் பொறுப்பல்ல.