# Session 6 Sample: Mga Modelo bilang Kasangkapan Ang sample na ito ay nagpatupad ng isang minimal na router + tool registry na pumipili ng modelo batay sa prompt ng user at tumatawag sa OpenAI-compatible endpoint ng Foundry Local. ## Mga File - `router.py`: simpleng registry at heuristic routing; endpoint discovery + health check. ## Pagpapatakbo (cmd.exe) ```cmd cd Module08 .\.venv\Scripts\activate REM Start whatever models you plan to route to foundry model run phi-4-mini foundry model run qwen2.5-7b foundry model run deepseek-r1-7b python samples\06\router.py "Explain how local-first AI improves privacy in two sentences." ``` ## Mga Tala - Gumagamit ang router ng simpleng keyword heuristics upang pumili sa pagitan ng `general`, `reasoning`, at `code` tools at ipinapakita ang `/v1/models` sa simula. - I-configure gamit ang mga environment variables: ```cmd set BASE_URL=http://localhost:8000 set API_KEY= REM Override models per tool set GENERAL_MODEL=phi-4-mini set REASONING_MODEL=deepseek-r1-7b set CODE_MODEL=qwen2.5-7b REM Or provide a full JSON registry set TOOL_REGISTRY={"general":{"model":"phi-4-mini"},"reasoning":{"model":"deepseek-r1-7b"},"code":{"model":"qwen2.5-7b"}} ``` ## Mga Sanggunian - Foundry Local (Learn): https://learn.microsoft.com/azure/ai-foundry/foundry-local/ - Integrasyon sa inference SDKs: https://learn.microsoft.com/azure/ai-foundry/foundry-local/how-to/how-to-integrate-with-inference-sdks --- **Paunawa**: Ang dokumentong ito ay isinalin gamit ang AI translation service na [Co-op Translator](https://github.com/Azure/co-op-translator). Bagama't sinisikap naming maging tumpak, mangyaring tandaan na ang mga awtomatikong pagsasalin ay maaaring maglaman ng mga pagkakamali o hindi pagkakatugma. Ang orihinal na dokumento sa kanyang katutubong wika ang dapat ituring na opisyal na sanggunian. Para sa mahalagang impormasyon, inirerekomenda ang propesyonal na pagsasalin ng tao. Hindi kami mananagot sa anumang hindi pagkakaunawaan o maling interpretasyon na dulot ng paggamit ng pagsasaling ito.