# Δείγμα Συνεδρίας 6: Τα Μοντέλα ως Εργαλεία Αυτό το δείγμα υλοποιεί έναν ελάχιστο δρομολογητή + μητρώο εργαλείων που επιλέγει ένα μοντέλο βάσει της προτροπής του χρήστη και καλεί το OpenAI-compatible endpoint του Foundry Local. ## Αρχεία - `router.py`: απλό μητρώο και δρομολόγηση με βάση ευρετική μέθοδο· ανακάλυψη endpoint + έλεγχος υγείας. ## Εκτέλεση (cmd.exe) ```cmd cd Module08 .\.venv\Scripts\activate REM Start whatever models you plan to route to foundry model run phi-4-mini foundry model run qwen2.5-7b foundry model run deepseek-r1-7b python samples\06\router.py "Explain how local-first AI improves privacy in two sentences." ``` ## Σημειώσεις - Ο δρομολογητής χρησιμοποιεί απλές ευρετικές λέξεις-κλειδιά για να επιλέξει μεταξύ των εργαλείων `general`, `reasoning` και `code` και εκτυπώνει `/v1/models` κατά την εκκίνηση. - Ρύθμιση μέσω μεταβλητών περιβάλλοντος: ```cmd set BASE_URL=http://localhost:8000 set API_KEY= REM Override models per tool set GENERAL_MODEL=phi-4-mini set REASONING_MODEL=deepseek-r1-7b set CODE_MODEL=qwen2.5-7b REM Or provide a full JSON registry set TOOL_REGISTRY={"general":{"model":"phi-4-mini"},"reasoning":{"model":"deepseek-r1-7b"},"code":{"model":"qwen2.5-7b"}} ``` ## Αναφορές - Foundry Local (Μάθετε): https://learn.microsoft.com/azure/ai-foundry/foundry-local/ - Ενσωμάτωση με SDKs πρόβλεψης: https://learn.microsoft.com/azure/ai-foundry/foundry-local/how-to/how-to-integrate-with-inference-sdks --- **Αποποίηση ευθύνης**: Αυτό το έγγραφο έχει μεταφραστεί χρησιμοποιώντας την υπηρεσία αυτόματης μετάφρασης [Co-op Translator](https://github.com/Azure/co-op-translator). Παρόλο που καταβάλλουμε προσπάθειες για ακρίβεια, παρακαλούμε να έχετε υπόψη ότι οι αυτοματοποιημένες μεταφράσεις ενδέχεται να περιέχουν λάθη ή ανακρίβειες. Το πρωτότυπο έγγραφο στη μητρική του γλώσσα θα πρέπει να θεωρείται η αυθεντική πηγή. Για κρίσιμες πληροφορίες, συνιστάται επαγγελματική ανθρώπινη μετάφραση. Δεν φέρουμε ευθύνη για τυχόν παρεξηγήσεις ή εσφαλμένες ερμηνείες που προκύπτουν από τη χρήση αυτής της μετάφρασης.