# Module 08: การใช้งาน Microsoft Foundry Local - เครื่องมือสำหรับนักพัฒนาครบวงจร ## ภาพรวม [Microsoft Foundry Local](https://learn.microsoft.com/azure/ai-foundry/foundry-local/) เป็นเทคโนโลยีรุ่นใหม่สำหรับการพัฒนา AI บน Edge ที่ช่วยให้นักพัฒนาสามารถสร้าง, ปรับใช้ และขยายแอปพลิเคชัน AI ในพื้นที่ได้อย่างมีประสิทธิภาพ พร้อมการเชื่อมต่อที่ราบรื่นกับ Azure AI Foundry โมดูลนี้ครอบคลุมทุกด้านของ Foundry Local ตั้งแต่การติดตั้งไปจนถึงการพัฒนาเอเจนต์ขั้นสูง **เทคโนโลยีสำคัญ:** - Microsoft Foundry Local CLI และ SDK - การเชื่อมต่อกับ Azure AI Foundry - การประมวลผลโมเดลบนอุปกรณ์ - การแคชและปรับแต่งโมเดลในพื้นที่ - สถาปัตยกรรมแบบเอเจนต์ ## วัตถุประสงค์การเรียนรู้ เมื่อจบโมดูลนี้ คุณจะสามารถ: - **เชี่ยวชาญ Foundry Local**: ติดตั้ง, ตั้งค่า และปรับแต่งสำหรับการพัฒนาบน Windows 11 - **ปรับใช้โมเดลหลากหลาย**: รันโมเดล phi, qwen, deepseek และ GPT ในพื้นที่ด้วยคำสั่ง CLI - **สร้างโซลูชันระดับการผลิต**: สร้างแอปพลิเคชัน AI ด้วยการออกแบบ prompt ขั้นสูงและการรวมข้อมูล - **ใช้ประโยชน์จากระบบโอเพ่นซอร์ส**: รวมโมเดลจาก Hugging Face และชุมชน - **พัฒนา AI Agents**: สร้างเอเจนต์อัจฉริยะที่มีความสามารถในการ grounding และ orchestration - **นำรูปแบบองค์กรไปใช้**: สร้างโซลูชัน AI ที่มีความยืดหยุ่นและสามารถปรับขนาดได้สำหรับการใช้งานในระดับการผลิต ## โครงสร้างเซสชัน ### [1: เริ่มต้นใช้งาน Foundry Local](./01.FoundryLocalSetup.md) **เนื้อหา**: การติดตั้ง, การตั้งค่า CLI, การปรับใช้โมเดล และการปรับแต่งฮาร์ดแวร์ **หัวข้อสำคัญ**: การติดตั้งครบถ้วน • คำสั่ง CLI • การแคชโมเดล • การเร่งความเร็วฮาร์ดแวร์ • การปรับใช้หลายโมเดล **ตัวอย่าง**: [REST Chat Quickstart](./samples/01/README.md) • [OpenAI SDK Integration](./samples/02/README.md) • [Model Discovery & Benchmarking](./samples/03/README.md) **ระยะเวลา**: 2-3 ชั่วโมง | **ระดับ**: ผู้เริ่มต้น --- ### [2: สร้างโซลูชัน AI ด้วย Azure AI Foundry](./02.AzureAIFoundryIntegration.md) **เนื้อหา**: การออกแบบ prompt ขั้นสูง, การรวมข้อมูล และการเชื่อมต่อกับคลาวด์ **หัวข้อสำคัญ**: การออกแบบ prompt • การรวมข้อมูล • เวิร์กโฟลว์ Azure • การปรับแต่งประสิทธิภาพ • การตรวจสอบ **ตัวอย่าง**: [Chainlit RAG Application](./samples/04/README.md) **ระยะเวลา**: 2-3 ชั่วโมง | **ระดับ**: ระดับกลาง --- ### [3: โมเดลโอเพ่นซอร์สใน Foundry Local](./03.OpenSourceModels.md) **เนื้อหา**: การรวม Hugging Face, กลยุทธ์ BYOM และโมเดลจากชุมชน **หัวข้อสำคัญ**: การรวม Hugging Face • Bring-your-own-model • Insights จาก Model Mondays • การมีส่วนร่วมของชุมชน • การเลือกโมเดล **ตัวอย่าง**: [Multi-Agent Orchestration](./samples/05/README.md) **ระยะเวลา**: 2-3 ชั่วโมง | **ระดับ**: ระดับกลาง --- ### [4: สำรวจโมเดลล้ำสมัย](./04.CuttingEdgeModels.md) **เนื้อหา**: LLMs vs SLMs, การใช้งาน EdgeAI และเดโมขั้นสูง **หัวข้อสำคัญ**: การเปรียบเทียบโมเดล • การประมวลผลบน Edge vs คลาวด์ • Phi + ONNX Runtime • Chainlit RAG app • การปรับแต่ง WebGPU **ตัวอย่าง**: [Models-as-Tools Router](./samples/06/README.md) **ระยะเวลา**: 3-4 ชั่วโมง | **ระดับ**: ขั้นสูง --- ### [5: สร้าง AI-Powered Agents อย่างรวดเร็ว](./05.AIPoweredAgents.md) **เนื้อหา**: สถาปัตยกรรมเอเจนต์, system prompts, grounding และ orchestration **หัวข้อสำคัญ**: รูปแบบการออกแบบเอเจนต์ • การออกแบบ system prompt • เทคนิค grounding • ระบบหลายเอเจนต์ • การปรับใช้ในระดับการผลิต **ตัวอย่าง**: [Multi-Agent Orchestration](./samples/05/README.md) • [Advanced Multi-Agent System](./samples/09/README.md) **ระยะเวลา**: 3-4 ชั่วโมง | **ระดับ**: ขั้นสูง --- ### [6: Foundry Local - โมเดลในฐานะเครื่องมือ](./06.ModelsAsTools.md) **เนื้อหา**: โซลูชัน AI แบบโมดูล, การปรับขนาดองค์กร และรูปแบบการผลิต **หัวข้อสำคัญ**: โมเดลในฐานะเครื่องมือ • การปรับใช้บนอุปกรณ์ • การรวม SDK/API • สถาปัตยกรรมองค์กร • กลยุทธ์การปรับขนาด **ตัวอย่าง**: [Models-as-Tools Router](./samples/06/README.md) • [Foundry Tools Framework](./samples/10/README.md) **ระยะเวลา**: 3-4 ชั่วโมง | **ระดับ**: ผู้เชี่ยวชาญ --- ### [7: รูปแบบการรวม API โดยตรง](./samples/07/README.md) **เนื้อหา**: การรวม REST API โดยไม่ต้องพึ่ง SDK เพื่อการควบคุมสูงสุด **หัวข้อสำคัญ**: การใช้งาน HTTP client • การตรวจสอบสิทธิ์แบบกำหนดเอง • การตรวจสอบสุขภาพโมเดล • การตอบสนองแบบสตรีม • การจัดการข้อผิดพลาดในระดับการผลิต **ตัวอย่าง**: [Direct API Client](./samples/07/README.md) **ระยะเวลา**: 2-3 ชั่วโมง | **ระดับ**: ระดับกลาง --- ### [8: แอปพลิเคชันแชทแบบ Native บน Windows 11](./samples/08/README.md) **เนื้อหา**: การสร้างแอปพลิเคชันแชทแบบ Native สมัยใหม่ด้วยการรวม Foundry Local **หัวข้อสำคัญ**: การพัฒนา Electron • Fluent Design System • การรวม Native Windows • การสตรีมแบบเรียลไทม์ • การออกแบบอินเทอร์เฟซแชท **ตัวอย่าง**: [Windows 11 Chat Application](./samples/08/README.md) **ระยะเวลา**: 3-4 ชั่วโมง | **ระดับ**: ขั้นสูง --- ### [9: การจัดการหลายเอเจนต์ขั้นสูง](./samples/09/README.md) **เนื้อหา**: การประสานงานเอเจนต์ที่ซับซ้อน, การมอบหมายงานเฉพาะ และเวิร์กโฟลว์ AI แบบร่วมมือ **หัวข้อสำคัญ**: การประสานงานเอเจนต์อัจฉริยะ • รูปแบบการเรียกฟังก์ชัน • การสื่อสารระหว่างเอเจนต์ • การจัดการเวิร์กโฟลว์ • กลไกการประกันคุณภาพ **ตัวอย่าง**: [Advanced Multi-Agent System](./samples/09/README.md) **ระยะเวลา**: 4-5 ชั่วโมง | **ระดับ**: ผู้เชี่ยวชาญ --- ### [10: Foundry Local ในฐานะ Framework เครื่องมือ](./samples/10/README.md) **เนื้อหา**: สถาปัตยกรรมที่เน้นเครื่องมือสำหรับการรวม Foundry Local เข้ากับแอปพลิเคชันและเฟรมเวิร์กที่มีอยู่ **หัวข้อสำคัญ**: การรวม LangChain • ฟังก์ชัน Semantic Kernel • เฟรมเวิร์ก REST API • เครื่องมือ CLI • การรวม Jupyter • รูปแบบการปรับใช้ในระดับการผลิต **ตัวอย่าง**: [Foundry Tools Framework](./samples/10/README.md) **ระยะเวลา**: 4-5 ชั่วโมง | **ระดับ**: ผู้เชี่ยวชาญ ## ข้อกำหนดเบื้องต้น ### ความต้องการของระบบ - **ระบบปฏิบัติการ**: Windows 11 (22H2 หรือใหม่กว่า) - **หน่วยความจำ**: RAM 16GB (แนะนำ 32GB สำหรับโมเดลขนาดใหญ่) - **พื้นที่จัดเก็บ**: พื้นที่ว่าง 50GB สำหรับการแคชโมเดล - **ฮาร์ดแวร์**: อุปกรณ์ที่รองรับ NPU (Copilot+ PC), GPU เป็นตัวเลือก - **เครือข่าย**: อินเทอร์เน็ตความเร็วสูงสำหรับการดาวน์โหลดโมเดลครั้งแรก ### สภาพแวดล้อมการพัฒนา - Visual Studio Code พร้อมส่วนขยาย AI Toolkit - Python 3.10+ และ pip - Git สำหรับการควบคุมเวอร์ชัน - PowerShell หรือ Command Prompt - Azure CLI (ตัวเลือกสำหรับการรวมคลาวด์) ### ความรู้เบื้องต้น - ความเข้าใจพื้นฐานเกี่ยวกับแนวคิด AI/ML - ความคุ้นเคยกับคำสั่ง Command Line - พื้นฐานการเขียนโปรแกรม Python - แนวคิด REST API - ความรู้พื้นฐานเกี่ยวกับการออกแบบ prompt และการประมวลผลโมเดล ## ไทม์ไลน์ของโมดูล **เวลาที่คาดการณ์ทั้งหมด**: 30-38 ชั่วโมง | เซสชัน | เนื้อหา | ตัวอย่าง | เวลา | ความซับซ้อน | |--------|---------|----------|------|--------------| | 1 | การตั้งค่าและพื้นฐาน | 01, 02, 03 | 2-3 ชั่วโมง | ผู้เริ่มต้น | | 2 | โซลูชัน AI | 04 | 2-3 ชั่วโมง | ระดับกลาง | | 3 | โอเพ่นซอร์ส | 05 | 2-3 ชั่วโมง | ระดับกลาง | | 4 | โมเดลขั้นสูง | 06 | 3-4 ชั่วโมง | ขั้นสูง | | 5 | AI Agents | 05, 09 | 3-4 ชั่วโมง | ขั้นสูง | | 6 | เครื่องมือองค์กร | 06, 10 | 3-4 ชั่วโมง | ผู้เชี่ยวชาญ | | 7 | การรวม API โดยตรง | 07 | 2-3 ชั่วโมง | ระดับกลาง | | 8 | แอปแชท Windows 11 | 08 | 3-4 ชั่วโมง | ขั้นสูง | | 9 | การจัดการหลายเอเจนต์ | 09 | 4-5 ชั่วโมง | ผู้เชี่ยวชาญ | | 10 | Framework เครื่องมือ | 10 | 4-5 ชั่วโมง | ผู้เชี่ยวชาญ | ## แหล่งข้อมูลสำคัญ **เอกสารอย่างเป็นทางการ:** - [Microsoft Foundry Local GitHub](https://github.com/microsoft/Foundry-Local) - โค้ดต้นฉบับและตัวอย่างอย่างเป็นทางการ - [Azure AI Foundry Documentation](https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local/) - คู่มือการตั้งค่าและการใช้งานครบถ้วน - [Model Mondays Series](https://aka.ms/model-mondays) - ไฮไลต์โมเดลและบทเรียนรายสัปดาห์ **ชุมชนและการสนับสนุน:** - [Foundry Local Discussions](https://github.com/microsoft/Foundry-Local/discussions) - Q&A และคำขอฟีเจอร์จากชุมชน - [Microsoft AI Developer Community](https://techcommunity.microsoft.com/category/artificialintelligence) - ข่าวสารล่าสุดและแนวปฏิบัติที่ดีที่สุด ## ผลลัพธ์การเรียนรู้ เมื่อจบโมดูลนี้ คุณจะมีความสามารถใน: ### ความเชี่ยวชาญทางเทคนิค - **การปรับใช้และจัดการ**: การติดตั้ง Foundry Local ในสภาพแวดล้อมการพัฒนาและการผลิต - **การรวมโมเดล**: การทำงานร่วมกับโมเดลหลากหลายจาก Microsoft, Hugging Face และแหล่งชุมชน - **การสร้างแอปพลิเคชัน**: การสร้างแอปพลิเคชัน AI พร้อมฟีเจอร์ขั้นสูงและการปรับแต่ง - **การพัฒนาเอเจนต์**: การสร้างเอเจนต์ AI ที่ซับซ้อนพร้อมความสามารถในการ grounding, reasoning และการรวมเครื่องมือ ### ความเข้าใจเชิงกลยุทธ์ - **การตัดสินใจด้านสถาปัตยกรรม**: การเลือกใช้งานระหว่างการปรับใช้ในพื้นที่และบนคลาวด์ - **การปรับแต่งประสิทธิภาพ**: การเพิ่มประสิทธิภาพการประมวลผลโมเดลในฮาร์ดแวร์ที่แตกต่างกัน - **การปรับขนาดองค์กร**: การออกแบบแอปพลิเคชันที่สามารถปรับขนาดได้จากต้นแบบในพื้นที่ไปจนถึงการใช้งานในองค์กร - **ความเป็นส่วนตัวและความปลอดภัย**: การสร้างโซลูชัน AI ที่รักษาความเป็นส่วนตัวด้วยการประมวลผลในพื้นที่ ### ความสามารถในการสร้างสรรค์ - **การสร้างต้นแบบอย่างรวดเร็ว**: การสร้างและทดสอบแนวคิดแอปพลิเคชัน AI อย่างรวดเร็วผ่านรูปแบบตัวอย่างทั้ง 10 แบบ - **การรวมชุมชน**: การใช้โมเดลโอเพ่นซอร์สและการมีส่วนร่วมในระบบนิเวศ - **รูปแบบขั้นสูง**: การนำรูปแบบ AI ล้ำสมัยไปใช้ เช่น RAG, เอเจนต์ และการรวมเครื่องมือ - **ความเชี่ยวชาญใน Framework**: การรวม LangChain, Semantic Kernel, Chainlit และ Electron อย่างเชี่ยวชาญ - **การปรับใช้ในระดับการผลิต**: การปรับใช้โซลูชัน AI ที่สามารถปรับขนาดได้จากต้นแบบในพื้นที่ไปจนถึงระบบองค์กร - **การพัฒนาที่พร้อมสำหรับอนาคต**: การสร้างแอปพลิเคชันที่พร้อมสำหรับเทคโนโลยีและรูปแบบ AI ที่เกิดขึ้นใหม่ ## เริ่มต้นใช้งาน 1. **การตั้งค่าสภาพแวดล้อม**: ตรวจสอบให้แน่ใจว่า Windows 11 พร้อมฮาร์ดแวร์ที่แนะนำ (ดูข้อกำหนดเบื้องต้น) 2. **ติดตั้ง Foundry Local**: ทำตามเซสชันที่ 1 สำหรับการติดตั้งและการตั้งค่าครบถ้วน 3. **รันตัวอย่าง 01**: เริ่มต้นด้วยการรวม REST API พื้นฐานเพื่อยืนยันการตั้งค่า 4. **ดำเนินการผ่านตัวอย่าง**: ทำตัวอย่าง 01-10 ให้ครบถ้วนเพื่อความเชี่ยวชาญ ## ตัวชี้วัดความสำเร็จ ติดตามความก้าวหน้าของคุณผ่านตัวอย่างทั้ง 10 แบบ: ### ระดับพื้นฐาน (ตัวอย่าง 01-03) - [ ] ติดตั้งและตั้งค่า Foundry Local สำเร็จ - [ ] ทำการรวม REST API (ตัวอย่าง 01) สำเร็จ - [ ] ใช้งาน OpenAI SDK (ตัวอย่าง 02) สำเร็จ - [ ] ดำเนินการค้นหาและวัดประสิทธิภาพโมเดล (ตัวอย่าง 03) สำเร็จ ### ระดับแอปพลิเคชัน (ตัวอย่าง 04-06) - [ ] ปรับใช้และรันโมเดลอย่างน้อย 4 ตระกูล - [ ] สร้างแอปพลิเคชัน RAG chat ที่ใช้งานได้ (ตัวอย่าง 04) - [ ] สร้างระบบการจัดการหลายเอเจนต์ (ตัวอย่าง 05) - [ ] ใช้งานระบบการจัดการโมเดลอัจฉริยะ (ตัวอย่าง 06) ### ระดับการรวมขั้นสูง (ตัวอย่าง 07-10) - [ ] สร้าง API client ที่พร้อมใช้งานในระดับการผลิต (ตัวอย่าง 07) - [ ] พัฒนาแอปพลิเคชันแชทแบบ Native บน Windows 11 (ตัวอย่าง 08) - [ ] ใช้งานระบบหลายเอเจนต์ขั้นสูง (ตัวอย่าง 09) - [ ] สร้าง Framework เครื่องมือที่ครอบคลุม (ตัวอย่าง 10) ### ตัวชี้วัดความเชี่ยวชาญ - [ ] รันตัวอย่างทั้ง 10 แบบสำเร็จโดยไม่มีข้อผิดพลาด - [ ] ปรับแต่งตัวอย่างอย่างน้อย 3 แบบสำหรับกรณีการใช้งานเฉพาะ - [ ] ปรับใช้ตัวอย่าง 2+ แบบในสภาพแวดล้อมที่คล้ายการผลิต - [ ] มีส่วนร่วมในการปรับปรุงหรือขยายโค้ดตัวอย่าง - [ ] รวมรูปแบบ Foundry Local เข้ากับโครงการส่วนตัว/มืออาชีพ ## คู่มือเริ่มต้นอย่างรวดเร็ว - ตัวอย่างทั้ง 10 แบบ ### การตั้งค่าสภาพแวดล้อม (จำเป็นสำหรับทุกตัวอย่าง) ```powershell # 1. Clone and navigate to Module08 cd Module08 # 2. Create Python virtual environment py -m venv .venv .\.venv\Scripts\activate # 3. Install base dependencies pip install -r requirements.txt # 4. Install Foundry Local (if not already installed) winget install Microsoft.FoundryLocal # 5. Verify Foundry Local installation foundry --version foundry model list ``` ### ตัวอย่างพื้นฐาน (01-06) **ตัวอย่าง 01: REST Chat Quickstart** ```powershell # Start Foundry Local service foundry model run phi-4-mini # Run REST chat demo python samples/01/chat_quickstart.py ``` **ตัวอย่าง 02: OpenAI SDK Integration** ```powershell # Ensure model is running foundry status # Run SDK demo python samples/02/sdk_quickstart.py ``` **ตัวอย่าง 03 โมดูลนี้เป็นตัวแทนของความก้าวหน้าล่าสุดในด้านการพัฒนา AI บน Edge โดยผสมผสานเครื่องมือระดับองค์กรของ Microsoft เข้ากับความยืดหยุ่นและนวัตกรรมของระบบโอเพ่นซอร์ส เมื่อคุณเชี่ยวชาญ Foundry Local ผ่านตัวอย่างทั้ง 10 ตัวอย่างที่ครอบคลุม คุณจะอยู่ในตำแหน่งแนวหน้าของการพัฒนาแอปพลิเคชัน AI **เส้นทางการเรียนรู้ครบถ้วน:** - **พื้นฐาน** (ตัวอย่าง 01-03): การผสาน API และการจัดการโมเดล - **แอปพลิเคชัน** (ตัวอย่าง 04-06): RAG, เอเจนต์ และการจัดการเส้นทางอัจฉริยะ - **ขั้นสูง** (ตัวอย่าง 07-10): กรอบการทำงานสำหรับการผลิตและการผสานรวมระดับองค์กร สำหรับการผสานรวม Azure OpenAI (เซสชัน 2) โปรดดูไฟล์ README ของตัวอย่างแต่ละตัวอย่างสำหรับตัวแปรสภาพแวดล้อมที่จำเป็นและการตั้งค่ารุ่น API --- **ข้อจำกัดความรับผิดชอบ**: เอกสารนี้ได้รับการแปลโดยใช้บริการแปลภาษา AI [Co-op Translator](https://github.com/Azure/co-op-translator) แม้ว่าเราจะพยายามให้การแปลมีความถูกต้องมากที่สุด แต่โปรดทราบว่าการแปลอัตโนมัติอาจมีข้อผิดพลาดหรือความไม่ถูกต้อง เอกสารต้นฉบับในภาษาดั้งเดิมควรถือเป็นแหล่งข้อมูลที่เชื่อถือได้ สำหรับข้อมูลที่สำคัญ ขอแนะนำให้ใช้บริการแปลภาษามนุษย์ที่มีความเชี่ยวชาญ เราไม่รับผิดชอบต่อความเข้าใจผิดหรือการตีความผิดที่เกิดจากการใช้การแปลนี้