# Przykład sesji 6: Modele jako narzędzia Ten przykład implementuje minimalny router + rejestr narzędzi, który wybiera model na podstawie podpowiedzi użytkownika i wywołuje zgodny z OpenAI punkt końcowy Foundry Local. ## Pliki - `router.py`: prosty rejestr i heurystyczne trasowanie; odkrywanie punktów końcowych + sprawdzanie stanu. ## Uruchom (cmd.exe) ```cmd cd Module08 .\.venv\Scripts\activate REM Start whatever models you plan to route to foundry model run phi-4-mini foundry model run qwen2.5-7b foundry model run deepseek-r1-7b python samples\06\router.py "Explain how local-first AI improves privacy in two sentences." ``` ## Uwagi - Router używa prostych heurystyk opartych na słowach kluczowych, aby wybrać między narzędziami `general`, `reasoning` i `code`, i drukuje `/v1/models` przy uruchomieniu. - Konfiguracja za pomocą zmiennych środowiskowych: ```cmd set BASE_URL=http://localhost:8000 set API_KEY= REM Override models per tool set GENERAL_MODEL=phi-4-mini set REASONING_MODEL=deepseek-r1-7b set CODE_MODEL=qwen2.5-7b REM Or provide a full JSON registry set TOOL_REGISTRY={"general":{"model":"phi-4-mini"},"reasoning":{"model":"deepseek-r1-7b"},"code":{"model":"qwen2.5-7b"}} ``` ## Odnośniki - Foundry Local (Learn): https://learn.microsoft.com/azure/ai-foundry/foundry-local/ - Integracja z SDK inferencji: https://learn.microsoft.com/azure/ai-foundry/foundry-local/how-to/how-to-integrate-with-inference-sdks --- **Zastrzeżenie**: Ten dokument został przetłumaczony za pomocą usługi tłumaczenia AI [Co-op Translator](https://github.com/Azure/co-op-translator). Chociaż dokładamy wszelkich starań, aby tłumaczenie było precyzyjne, prosimy pamiętać, że automatyczne tłumaczenia mogą zawierać błędy lub nieścisłości. Oryginalny dokument w jego języku źródłowym powinien być uznawany za autorytatywne źródło. W przypadku informacji krytycznych zaleca się skorzystanie z profesjonalnego tłumaczenia przez człowieka. Nie ponosimy odpowiedzialności za jakiekolwiek nieporozumienia lub błędne interpretacje wynikające z użycia tego tłumaczenia.