# Module 08: Microsoft Foundry Local - সম্পূর্ণ ডেভেলপার টুলকিট ## সংক্ষিপ্ত বিবরণ [Microsoft Foundry Local](https://learn.microsoft.com/azure/ai-foundry/foundry-local/) হলো এজ AI ডেভেলপমেন্টের পরবর্তী প্রজন্ম, যা ডেভেলপারদের শক্তিশালী টুল সরবরাহ করে AI অ্যাপ্লিকেশন স্থানীয়ভাবে তৈরি, ডিপ্লয় এবং স্কেল করার জন্য, এবং একই সাথে Azure AI Foundry-এর সাথে নির্বিঘ্ন সংযোগ বজায় রাখে। এই মডিউলটি Foundry Local-এর ইনস্টলেশন থেকে শুরু করে উন্নত এজেন্ট ডেভেলপমেন্ট পর্যন্ত বিস্তৃত কভারেজ প্রদান করে। **মূল প্রযুক্তি:** - Microsoft Foundry Local CLI এবং SDK - Azure AI Foundry ইন্টিগ্রেশন - ডিভাইসে মডেল ইনফারেন্স - স্থানীয় মডেল ক্যাশিং এবং অপ্টিমাইজেশন - এজেন্ট-ভিত্তিক আর্কিটেকচার ## শেখার লক্ষ্যসমূহ এই মডিউল সম্পন্ন করার মাধ্যমে আপনি: - **Foundry Local-এ দক্ষতা অর্জন করবেন**: Windows 11 ডেভেলপমেন্টের জন্য ইনস্টল, কনফিগার এবং অপ্টিমাইজ করবেন - **বিভিন্ন মডেল ডিপ্লয় করবেন**: CLI কমান্ড ব্যবহার করে phi, qwen, deepseek এবং GPT মডেল স্থানীয়ভাবে চালাবেন - **প্রোডাকশন সলিউশন তৈরি করবেন**: উন্নত প্রম্পট ইঞ্জিনিয়ারিং এবং ডেটা ইন্টিগ্রেশনের মাধ্যমে AI অ্যাপ্লিকেশন তৈরি করবেন - **ওপেন-সোর্স ইকোসিস্টেম ব্যবহার করবেন**: Hugging Face মডেল এবং কমিউনিটি কন্ট্রিবিউশন ইন্টিগ্রেট করবেন - **AI এজেন্ট তৈরি করবেন**: গ্রাউন্ডিং এবং অর্কেস্ট্রেশন ক্ষমতা সহ বুদ্ধিমান এজেন্ট তৈরি করবেন - **এন্টারপ্রাইজ প্যাটার্ন বাস্তবায়ন করবেন**: প্রোডাকশন ডিপ্লয়মেন্টের জন্য মডুলার, স্কেলযোগ্য AI সলিউশন তৈরি করবেন ## সেশন কাঠামো ### [1: Foundry Local-এ শুরু করা](./01.FoundryLocalSetup.md) **ফোকাস**: ইনস্টলেশন, CLI সেটআপ, মডেল ডিপ্লয়মেন্ট এবং হার্ডওয়্যার অপ্টিমাইজেশন **মূল বিষয়**: সম্পূর্ণ ইনস্টলেশন • CLI কমান্ড • মডেল ক্যাশিং • হার্ডওয়্যার অ্যাক্সিলারেশন • মাল্টি-মডেল ডিপ্লয়মেন্ট **নমুনা**: [REST Chat Quickstart](./samples/01/README.md) • [OpenAI SDK Integration](./samples/02/README.md) • [Model Discovery & Benchmarking](./samples/03/README.md) **সময়কাল**: ২-৩ ঘণ্টা | **স্তর**: প্রাথমিক --- ### [2: Azure AI Foundry দিয়ে AI সলিউশন তৈরি করা](./02.AzureAIFoundryIntegration.md) **ফোকাস**: উন্নত প্রম্পট ইঞ্জিনিয়ারিং, ডেটা ইন্টিগ্রেশন এবং ক্লাউড সংযোগ **মূল বিষয়**: প্রম্পট ইঞ্জিনিয়ারিং • ডেটা ইন্টিগ্রেশন • Azure ওয়ার্কফ্লো • পারফরম্যান্স অপ্টিমাইজেশন • মনিটরিং **নমুনা**: [Chainlit RAG Application](./samples/04/README.md) **সময়কাল**: ২-৩ ঘণ্টা | **স্তর**: মধ্যম --- ### [3: ওপেন-সোর্স মডেল Foundry Local](./03.OpenSourceModels.md) **ফোকাস**: Hugging Face ইন্টিগ্রেশন, BYOM কৌশল এবং কমিউনিটি মডেল **মূল বিষয়**: HuggingFace ইন্টিগ্রেশন • Bring-your-own-model • Model Mondays অন্তর্দৃষ্টি • কমিউনিটি কন্ট্রিবিউশন • মডেল নির্বাচন **নমুনা**: [Multi-Agent Orchestration](./samples/05/README.md) **সময়কাল**: ২-৩ ঘণ্টা | **স্তর**: মধ্যম --- ### [4: আধুনিক মডেল অন্বেষণ](./04.CuttingEdgeModels.md) **ফোকাস**: LLMs বনাম SLMs, EdgeAI বাস্তবায়ন এবং উন্নত ডেমো **মূল বিষয়**: মডেল তুলনা • এজ বনাম ক্লাউড ইনফারেন্স • Phi + ONNX Runtime • Chainlit RAG অ্যাপ • WebGPU অপ্টিমাইজেশন **নমুনা**: [Models-as-Tools Router](./samples/06/README.md) **সময়কাল**: ৩-৪ ঘণ্টা | **স্তর**: উন্নত --- ### [5: দ্রুত AI-চালিত এজেন্ট তৈরি করা](./05.AIPoweredAgents.md) **ফোকাস**: এজেন্ট আর্কিটেকচার, সিস্টেম প্রম্পট, গ্রাউন্ডিং এবং অর্কেস্ট্রেশন **মূল বিষয়**: এজেন্ট ডিজাইন প্যাটার্ন • সিস্টেম প্রম্পট ইঞ্জিনিয়ারিং • গ্রাউন্ডিং কৌশল • মাল্টি-এজেন্ট সিস্টেম • প্রোডাকশন ডিপ্লয়মেন্ট **নমুনা**: [Multi-Agent Orchestration](./samples/05/README.md) • [Advanced Multi-Agent System](./samples/09/README.md) **সময়কাল**: ৩-৪ ঘণ্টা | **স্তর**: উন্নত --- ### [6: Foundry Local - টুল হিসেবে মডেল](./06.ModelsAsTools.md) **ফোকাস**: মডুলার AI সলিউশন, এন্টারপ্রাইজ স্কেলিং এবং প্রোডাকশন প্যাটার্ন **মূল বিষয়**: টুল হিসেবে মডেল • ডিভাইসে ডিপ্লয়মেন্ট • SDK/API ইন্টিগ্রেশন • এন্টারপ্রাইজ আর্কিটেকচার • স্কেলিং কৌশল **নমুনা**: [Models-as-Tools Router](./samples/06/README.md) • [Foundry Tools Framework](./samples/10/README.md) **সময়কাল**: ৩-৪ ঘণ্টা | **স্তর**: বিশেষজ্ঞ --- ### [7: সরাসরি API ইন্টিগ্রেশন প্যাটার্ন](./samples/07/README.md) **ফোকাস**: SDK নির্ভরতা ছাড়াই REST API ইন্টিগ্রেশন **মূল বিষয়**: HTTP ক্লায়েন্ট বাস্তবায়ন • কাস্টম অথেন্টিকেশন • মডেল স্বাস্থ্য মনিটরিং • স্ট্রিমিং রেসপন্স • প্রোডাকশন ত্রুটি পরিচালনা **নমুনা**: [Direct API Client](./samples/07/README.md) **সময়কাল**: ২-৩ ঘণ্টা | **স্তর**: মধ্যম --- ### [8: Windows 11 নেটিভ চ্যাট অ্যাপ্লিকেশন](./samples/08/README.md) **ফোকাস**: Foundry Local ইন্টিগ্রেশন সহ আধুনিক নেটিভ চ্যাট অ্যাপ্লিকেশন তৈরি করা **মূল বিষয়**: Electron ডেভেলপমেন্ট • Fluent Design System • নেটিভ Windows ইন্টিগ্রেশন • রিয়েল-টাইম স্ট্রিমিং • চ্যাট ইন্টারফেস ডিজাইন **নমুনা**: [Windows 11 Chat Application](./samples/08/README.md) **সময়কাল**: ৩-৪ ঘণ্টা | **স্তর**: উন্নত --- ### [9: উন্নত মাল্টি-এজেন্ট অর্কেস্ট্রেশন](./samples/09/README.md) **ফোকাস**: জটিল এজেন্ট সমন্বয়, বিশেষায়িত কাজের প্রতিনিধিত্ব এবং সহযোগী AI ওয়ার্কফ্লো **মূল বিষয়**: বুদ্ধিমান এজেন্ট সমন্বয় • ফাংশন কলিং প্যাটার্ন • ক্রস-এজেন্ট যোগাযোগ • ওয়ার্কফ্লো অর্কেস্ট্রেশন • গুণমান নিশ্চিতকরণ প্রক্রিয়া **নমুনা**: [Advanced Multi-Agent System](./samples/09/README.md) **সময়কাল**: ৪-৫ ঘণ্টা | **স্তর**: বিশেষজ্ঞ --- ### [10: Foundry Local টুলস ফ্রেমওয়ার্ক হিসেবে](./samples/10/README.md) **ফোকাস**: Foundry Local-কে বিদ্যমান অ্যাপ্লিকেশন এবং ফ্রেমওয়ার্কে ইন্টিগ্রেট করার জন্য টুল-প্রথম আর্কিটেকচার **মূল বিষয়**: LangChain ইন্টিগ্রেশন • Semantic Kernel ফাংশন • REST API ফ্রেমওয়ার্ক • CLI টুলস • Jupyter ইন্টিগ্রেশন • প্রোডাকশন ডিপ্লয়মেন্ট প্যাটার্ন **নমুনা**: [Foundry Tools Framework](./samples/10/README.md) **সময়কাল**: ৪-৫ ঘণ্টা | **স্তর**: বিশেষজ্ঞ ## প্রয়োজনীয়তা ### সিস্টেমের প্রয়োজনীয়তা - **অপারেটিং সিস্টেম**: Windows 11 (22H2 বা পরবর্তী) - **মেমরি**: 16GB RAM (বড় মডেলের জন্য 32GB সুপারিশকৃত) - **স্টোরেজ**: মডেল ক্যাশিংয়ের জন্য 50GB ফ্রি স্পেস - **হার্ডওয়্যার**: NPU-সক্ষম ডিভাইস সুপারিশকৃত (Copilot+ PC), GPU ঐচ্ছিক - **নেটওয়ার্ক**: প্রাথমিক মডেল ডাউনলোডের জন্য উচ্চ-গতির ইন্টারনেট ### ডেভেলপমেন্ট পরিবেশ - Visual Studio Code AI Toolkit এক্সটেনশন সহ - Python 3.10+ এবং pip - Git ভার্সন কন্ট্রোলের জন্য - PowerShell বা Command Prompt - Azure CLI (ক্লাউড ইন্টিগ্রেশনের জন্য ঐচ্ছিক) ### জ্ঞানের প্রয়োজনীয়তা - AI/ML ধারণার মৌলিক জ্ঞান - কমান্ড লাইন পরিচিতি - Python প্রোগ্রামিংয়ের মৌলিক জ্ঞান - REST API ধারণা - প্রম্পটিং এবং মডেল ইনফারেন্সের মৌলিক জ্ঞান ## মডিউল টাইমলাইন **মোট আনুমানিক সময়**: ৩০-৩৮ ঘণ্টা | সেশন | ফোকাস এলাকা | নমুনা | সময় | জটিলতা | |---------|------------|---------|------|------------| | 1 | সেটআপ এবং বেসিক | 01, 02, 03 | ২-৩ ঘণ্টা | প্রাথমিক | | 2 | AI সলিউশন | 04 | ২-৩ ঘণ্টা | মধ্যম | | 3 | ওপেন সোর্স | 05 | ২-৩ ঘণ্টা | মধ্যম | | 4 | উন্নত মডেল | 06 | ৩-৪ ঘণ্টা | উন্নত | | 5 | AI এজেন্ট | 05, 09 | ৩-৪ ঘণ্টা | উন্নত | | 6 | এন্টারপ্রাইজ টুলস | 06, 10 | ৩-৪ ঘণ্টা | বিশেষজ্ঞ | | 7 | সরাসরি API ইন্টিগ্রেশন | 07 | ২-৩ ঘণ্টা | মধ্যম | | 8 | Windows 11 চ্যাট অ্যাপ | 08 | ৩-৪ ঘণ্টা | উন্নত | | 9 | উন্নত মাল্টি-এজেন্ট | 09 | ৪-৫ ঘণ্টা | বিশেষজ্ঞ | | 10 | টুলস ফ্রেমওয়ার্ক | 10 | ৪-৫ ঘণ্টা | বিশেষজ্ঞ | ## মূল সম্পদ **অফিশিয়াল ডকুমেন্টেশন:** - [Microsoft Foundry Local GitHub](https://github.com/microsoft/Foundry-Local) - সোর্স কোড এবং অফিসিয়াল নমুনা - [Azure AI Foundry Documentation](https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local/) - সম্পূর্ণ সেটআপ এবং ব্যবহার গাইড - [Model Mondays Series](https://aka.ms/model-mondays) - সাপ্তাহিক মডেল হাইলাইট এবং টিউটোরিয়াল **কমিউনিটি এবং সাপোর্ট:** - [Foundry Local Discussions](https://github.com/microsoft/Foundry-Local/discussions) - কমিউনিটি Q&A এবং ফিচার অনুরোধ - [Microsoft AI Developer Community](https://techcommunity.microsoft.com/category/artificialintelligence) - সর্বশেষ খবর এবং সেরা অনুশীলন ## শেখার ফলাফল এই মডিউল সম্পন্ন করার পরে আপনি সক্ষম হবেন: ### প্রযুক্তিগত দক্ষতা - **ডিপ্লয় এবং পরিচালনা**: ডেভেলপমেন্ট এবং প্রোডাকশন পরিবেশে Foundry Local ইনস্টলেশন - **মডেল ইন্টিগ্রেশন**: Microsoft, Hugging Face এবং কমিউনিটি সোর্স থেকে বিভিন্ন মডেল পরিবার নিয়ে কাজ - **অ্যাপ্লিকেশন তৈরি**: উন্নত বৈশিষ্ট্য এবং অপ্টিমাইজেশন সহ প্রোডাকশন-রেডি AI অ্যাপ্লিকেশন তৈরি - **এজেন্ট ডেভেলপমেন্ট**: গ্রাউন্ডিং, রিজনিং এবং টুল ইন্টিগ্রেশন সহ উন্নত AI এজেন্ট বাস্তবায়ন ### কৌশলগত বোঝাপড়া - **আর্কিটেকচার সিদ্ধান্ত**: স্থানীয় বনাম ক্লাউড ডিপ্লয়মেন্টের মধ্যে তথ্যপূর্ণ পছন্দ করা - **পারফরম্যান্স অপ্টিমাইজেশন**: বিভিন্ন হার্ডওয়্যার কনফিগারেশনে ইনফারেন্স পারফরম্যান্স অপ্টিমাইজ করা - **এন্টারপ্রাইজ স্কেলিং**: স্থানীয় প্রোটোটাইপ থেকে এন্টারপ্রাইজ ডিপ্লয়মেন্টে স্কেল করার জন্য অ্যাপ্লিকেশন ডিজাইন - **গোপনীয়তা এবং নিরাপত্তা**: স্থানীয় ইনফারেন্স সহ গোপনীয়তা-সংরক্ষণকারী AI সলিউশন বাস্তবায়ন ### উদ্ভাবনী ক্ষমতা - **দ্রুত প্রোটোটাইপিং**: সমস্ত ১০টি নমুনা প্যাটার্ন জুড়ে AI অ্যাপ্লিকেশন ধারণা দ্রুত তৈরি এবং পরীক্ষা করা - **কমিউনিটি ইন্টিগ্রেশন**: ওপেন-সোর্স মডেল ব্যবহার এবং ইকোসিস্টেমে অবদান রাখা - **উন্নত প্যাটার্ন**: RAG, এজেন্ট এবং টুল ইন্টিগ্রেশন সহ আধুনিক AI প্যাটার্ন বাস্তবায়ন - **ফ্রেমওয়ার্ক দক্ষতা**: LangChain, Semantic Kernel, Chainlit এবং Electron-এর সাথে বিশেষজ্ঞ-স্তরের ইন্টিগ্রেশন - **প্রোডাকশন ডিপ্লয়মেন্ট**: স্থানীয় প্রোটোটাইপ থেকে এন্টারপ্রাইজ সিস্টেমে স্কেলযোগ্য AI সলিউশন ডিপ্লয় - **ভবিষ্যৎ-প্রস্তুত ডেভেলপমেন্ট**: উদীয়মান AI প্রযুক্তি এবং প্যাটার্নের জন্য প্রস্তুত অ্যাপ্লিকেশন তৈরি ## শুরু করার ধাপ 1. **পরিবেশ সেটআপ**: Windows 11 এবং সুপারিশকৃত হার্ডওয়্যার নিশ্চিত করুন (প্রয়োজনীয়তা দেখুন) 2. **Foundry Local ইনস্টল করুন**: সম্পূর্ণ ইনস্টলেশন এবং কনফিগারেশনের জন্য সেশন ১ অনুসরণ করুন 3. **নমুনা ০১ চালান**: সেটআপ যাচাই করার জন্য মৌলিক REST API ইন্টিগ্রেশন দিয়ে শুরু করুন 4. **নমুনাগুলি সম্পন্ন করুন**: ০১-১০ নমুনা সম্পন্ন করে ব্যাপক দক্ষতা অর্জন করুন ## সফলতার মেট্রিক সব ১০টি ব্যাপক নমুনা সম্পন্ন করার মাধ্যমে আপনার অগ্রগতি ট্র্যাক করুন: ### ফাউন্ডেশন স্তর (নমুনা ০১-০৩) - [ ] সফলভাবে Foundry Local ইনস্টল এবং কনফিগার করুন - [ ] REST API ইন্টিগ্রেশন সম্পন্ন করুন (নমুনা ০১) - [ ] OpenAI SDK সামঞ্জস্যতা বাস্তবায়ন করুন (নমুনা ০২) - [ ] মডেল ডিসকভারি এবং বেঞ্চমার্কিং সম্পন্ন করুন (নমুনা ০৩) ### অ্যাপ্লিকেশন স্তর (নমুনা ০৪-০৬) - [ ] অন্তত ৪টি বিভিন্ন মডেল পরিবার ডিপ্লয় এবং চালান - [ ] একটি কার্যকরী RAG চ্যাট অ্যাপ্লিকেশন তৈরি করুন (নমুনা ০৪) - [ ] মাল্টি-এজেন্ট অর্কেস্ট্রেশন সিস্টেম তৈরি করুন (নমুনা ০৫) - [ ] বুদ্ধিমান মডেল রাউটিং বাস্তবায়ন করুন (নমুনা ০৬) ### উন্নত ইন্টিগ্রেশন স্তর (নমুনা ০৭-১০) - [ ] প্রোডাকশন-রেডি API ক্লায়েন্ট তৈরি করুন (নমুনা ০৭) - [ ] Windows 11 নেটিভ চ্যাট অ্যাপ্লিকেশন তৈরি করুন (নমুনা ০৮) - [ ] উন্নত মাল্টি-এজেন্ট সিস্টেম বাস্তবায়ন করুন (নমুনা ০৯) - [ ] ব্যাপক টুলস ফ্রেমওয়ার্ক তৈরি করুন (নমুনা ১০) ### দক্ষতার সূচক - [ ] সফলভাবে সব ১০টি নমুনা ত্রুটি ছাড়াই চালান - [ ] নির্দিষ্ট ব্যবহারের ক্ষেত্রে অন্তত ৩টি নমুনা কাস্টমাইজ করুন - [ ] প্রোডাকশন-সদৃশ পরিবেশে ২+ নমুনা এই মডিউলটি এজ এআই উন্নয়নের সর্বাধুনিক দিক উপস্থাপন করে, যেখানে মাইক্রোসফটের এন্টারপ্রাইজ-গ্রেড টুলগুলোর সাথে ওপেন-সোর্স ইকোসিস্টেমের নমনীয়তা এবং উদ্ভাবন একত্রিত হয়েছে। Foundry Local-এর ১০টি বিস্তৃত নমুনা সম্পূর্ণভাবে আয়ত্ত করার মাধ্যমে, আপনি এআই অ্যাপ্লিকেশন উন্নয়নের শীর্ষস্থানে অবস্থান করবেন। **সম্পূর্ণ শেখার পথ:** - **প্রাথমিক স্তর** (নমুনা ০১-০৩): API ইন্টিগ্রেশন এবং মডেল ব্যবস্থাপনা - **অ্যাপ্লিকেশন** (নমুনা ০৪-০৬): RAG, এজেন্ট এবং বুদ্ধিমান রাউটিং - **উন্নত স্তর** (নমুনা ০৭-১০): প্রোডাকশন ফ্রেমওয়ার্ক এবং এন্টারপ্রাইজ ইন্টিগ্রেশন Azure OpenAI ইন্টিগ্রেশনের জন্য (সেশন ২), প্রয়োজনীয় পরিবেশ ভেরিয়েবল এবং API সংস্করণ সেটিংসের বিস্তারিত তথ্যের জন্য প্রতিটি নমুনার README ফাইল দেখুন। --- **অস্বীকৃতি**: এই নথিটি AI অনুবাদ পরিষেবা [Co-op Translator](https://github.com/Azure/co-op-translator) ব্যবহার করে অনুবাদ করা হয়েছে। আমরা যথাসাধ্য সঠিকতার জন্য চেষ্টা করি, তবে অনুগ্রহ করে মনে রাখবেন যে স্বয়ংক্রিয় অনুবাদে ত্রুটি বা অসঙ্গতি থাকতে পারে। মূল ভাষায় থাকা নথিটিকে প্রামাণিক উৎস হিসেবে বিবেচনা করা উচিত। গুরুত্বপূর্ণ তথ্যের জন্য, পেশাদার মানব অনুবাদ সুপারিশ করা হয়। এই অনুবাদ ব্যবহারের ফলে কোনো ভুল বোঝাবুঝি বা ভুল ব্যাখ্যা হলে আমরা দায়বদ্ধ থাকব না।