# Ενότητα 08: Πρακτική Εξάσκηση με το Microsoft Foundry Local - Ολοκληρωμένο Εργαλείο Ανάπτυξης ## Επισκόπηση [Microsoft Foundry Local](https://learn.microsoft.com/azure/ai-foundry/foundry-local/) αντιπροσωπεύει τη νέα γενιά ανάπτυξης AI στο edge, παρέχοντας στους προγραμματιστές ισχυρά εργαλεία για τη δημιουργία, την ανάπτυξη και την κλιμάκωση εφαρμογών AI τοπικά, ενώ διατηρεί απρόσκοπτη ενσωμάτωση με το Azure AI Foundry. Αυτή η ενότητα καλύπτει πλήρως το Foundry Local, από την εγκατάσταση έως την ανάπτυξη προηγμένων πρακτόρων. **Βασικές Τεχνολογίες:** - Microsoft Foundry Local CLI και SDK - Ενσωμάτωση με Azure AI Foundry - Τοπική πρόβλεψη μοντέλων - Τοπική προσωρινή αποθήκευση και βελτιστοποίηση μοντέλων - Αρχιτεκτονικές βασισμένες σε πράκτορες ## Στόχοι Μάθησης Με την ολοκλήρωση αυτής της ενότητας, θα μπορείτε: - **Να κατακτήσετε το Foundry Local**: Εγκατάσταση, ρύθμιση και βελτιστοποίηση για ανάπτυξη σε Windows 11 - **Να αναπτύξετε διάφορα μοντέλα**: Εκτέλεση μοντέλων phi, qwen, deepseek και GPT τοπικά με εντολές CLI - **Να δημιουργήσετε λύσεις παραγωγής**: Δημιουργία εφαρμογών AI με προηγμένη μηχανική προτροπών και ενσωμάτωση δεδομένων - **Να αξιοποιήσετε το οικοσύστημα ανοιχτού κώδικα**: Ενσωμάτωση μοντέλων Hugging Face και συνεισφορών της κοινότητας - **Να αναπτύξετε πράκτορες AI**: Δημιουργία έξυπνων πρακτόρων με δυνατότητες θεμελίωσης και ορχήστρωσης - **Να εφαρμόσετε εταιρικά πρότυπα**: Δημιουργία αρθρωτών, κλιμακούμενων λύσεων AI για ανάπτυξη παραγωγής ## Δομή Συνεδριών ### [1: Ξεκινώντας με το Foundry Local](./01.FoundryLocalSetup.md) **Εστίαση**: Εγκατάσταση, ρύθμιση CLI, ανάπτυξη μοντέλων και βελτιστοποίηση υλικού **Βασικά Θέματα**: Πλήρης εγκατάσταση • Εντολές CLI • Προσωρινή αποθήκευση μοντέλων • Επιτάχυνση υλικού • Ανάπτυξη πολλαπλών μοντέλων **Δείγμα**: [Γρήγορη εκκίνηση REST Chat](./samples/01/README.md) • [Ενσωμάτωση OpenAI SDK](./samples/02/README.md) • [Ανακάλυψη και αξιολόγηση μοντέλων](./samples/03/README.md) **Διάρκεια**: 2-3 ώρες | **Επίπεδο**: Αρχάριος --- ### [2: Δημιουργία Λύσεων AI με το Azure AI Foundry](./02.AzureAIFoundryIntegration.md) **Εστίαση**: Προηγμένη μηχανική προτροπών, ενσωμάτωση δεδομένων και συνδεσιμότητα cloud **Βασικά Θέματα**: Μηχανική προτροπών • Ενσωμάτωση δεδομένων • Ροές εργασίας Azure • Βελτιστοποίηση απόδοσης • Παρακολούθηση **Δείγμα**: [Εφαρμογή Chainlit RAG](./samples/04/README.md) **Διάρκεια**: 2-3 ώρες | **Επίπεδο**: Μεσαίο --- ### [3: Μοντέλα Ανοιχτού Κώδικα στο Foundry Local](./03.OpenSourceModels.md) **Εστίαση**: Ενσωμάτωση Hugging Face, στρατηγικές BYOM και μοντέλα κοινότητας **Βασικά Θέματα**: Ενσωμάτωση HuggingFace • Φέρε το δικό σου μοντέλο • Insights από το Model Mondays • Συνεισφορές κοινότητας • Επιλογή μοντέλων **Δείγμα**: [Ορχήστρωση πολλαπλών πρακτόρων](./samples/05/README.md) **Διάρκεια**: 2-3 ώρες | **Επίπεδο**: Μεσαίο --- ### [4: Εξερεύνηση Προηγμένων Μοντέλων](./04.CuttingEdgeModels.md) **Εστίαση**: LLMs vs SLMs, υλοποίηση EdgeAI και προηγμένα demos **Βασικά Θέματα**: Σύγκριση μοντέλων • Πρόβλεψη στο edge vs cloud • Phi + ONNX Runtime • Εφαρμογή Chainlit RAG • Βελτιστοποίηση WebGPU **Δείγμα**: [Router Μοντέλων ως Εργαλεία](./samples/06/README.md) **Διάρκεια**: 3-4 ώρες | **Επίπεδο**: Προχωρημένο --- ### [5: Δημιουργία Πρακτόρων AI Γρήγορα](./05.AIPoweredAgents.md) **Εστίαση**: Αρχιτεκτονικές πρακτόρων, προτροπές συστήματος, θεμελίωση και ορχήστρωση **Βασικά Θέματα**: Σχεδιαστικά πρότυπα πρακτόρων • Μηχανική προτροπών συστήματος • Τεχνικές θεμελίωσης • Συστήματα πολλαπλών πρακτόρων • Ανάπτυξη παραγωγής **Δείγμα**: [Ορχήστρωση πολλαπλών πρακτόρων](./samples/05/README.md) • [Προηγμένο Σύστημα Πολλαπλών Πρακτόρων](./samples/09/README.md) **Διάρκεια**: 3-4 ώρες | **Επίπεδο**: Προχωρημένο --- ### [6: Foundry Local - Μοντέλα ως Εργαλεία](./06.ModelsAsTools.md) **Εστίαση**: Αρθρωτές λύσεις AI, κλιμάκωση σε επίπεδο επιχείρησης και πρότυπα παραγωγής **Βασικά Θέματα**: Μοντέλα ως εργαλεία • Τοπική ανάπτυξη • Ενσωμάτωση SDK/API • Αρχιτεκτονικές επιχειρήσεων • Στρατηγικές κλιμάκωσης **Δείγμα**: [Router Μοντέλων ως Εργαλεία](./samples/06/README.md) • [Πλαίσιο Εργαλείων Foundry](./samples/10/README.md) **Διάρκεια**: 3-4 ώρες | **Επίπεδο**: Ειδικός --- ### [7: Πρότυπα Άμεσης Ενσωμάτωσης API](./samples/07/README.md) **Εστίαση**: Καθαρή ενσωμάτωση REST API χωρίς εξαρτήσεις SDK για μέγιστο έλεγχο **Βασικά Θέματα**: Υλοποίηση πελάτη HTTP • Προσαρμοσμένη αυθεντικοποίηση • Παρακολούθηση υγείας μοντέλων • Ροές απαντήσεων • Χειρισμός σφαλμάτων παραγωγής **Δείγμα**: [Άμεσος Πελάτης API](./samples/07/README.md) **Διάρκεια**: 2-3 ώρες | **Επίπεδο**: Μεσαίο --- ### [8: Εφαρμογή Συνομιλίας Native για Windows 11](./samples/08/README.md) **Εστίαση**: Δημιουργία σύγχρονων native εφαρμογών συνομιλίας με ενσωμάτωση Foundry Local **Βασικά Θέματα**: Ανάπτυξη με Electron • Σύστημα Fluent Design • Ενσωμάτωση Windows • Ροές σε πραγματικό χρόνο • Σχεδιασμός διεπαφής συνομιλίας **Δείγμα**: [Εφαρμογή Συνομιλίας για Windows 11](./samples/08/README.md) **Διάρκεια**: 3-4 ώρες | **Επίπεδο**: Προχωρημένο --- ### [9: Προηγμένη Ορχήστρωση Πολλαπλών Πρακτόρων](./samples/09/README.md) **Εστίαση**: Συντονισμός πρακτόρων, εξειδικευμένη ανάθεση εργασιών και συνεργατικές ροές AI **Βασικά Θέματα**: Συντονισμός έξυπνων πρακτόρων • Πρότυπα κλήσης λειτουργιών • Επικοινωνία μεταξύ πρακτόρων • Ορχήστρωση ροών εργασίας • Μηχανισμοί διασφάλισης ποιότητας **Δείγμα**: [Προηγμένο Σύστημα Πολλαπλών Πρακτόρων](./samples/09/README.md) **Διάρκεια**: 4-5 ώρες | **Επίπεδο**: Ειδικός --- ### [10: Foundry Local ως Πλαίσιο Εργαλείων](./samples/10/README.md) **Εστίαση**: Αρχιτεκτονική με επίκεντρο τα εργαλεία για ενσωμάτωση του Foundry Local σε υπάρχουσες εφαρμογές και πλαίσια **Βασικά Θέματα**: Ενσωμάτωση LangChain • Λειτουργίες Semantic Kernel • Πλαίσια REST API • Εργαλεία CLI • Ενσωμάτωση Jupyter • Πρότυπα ανάπτυξης παραγωγής **Δείγμα**: [Πλαίσιο Εργαλείων Foundry](./samples/10/README.md) **Διάρκεια**: 4-5 ώρες | **Επίπεδο**: Ειδικός ## Προαπαιτούμενα ### Απαιτήσεις Συστήματος - **Λειτουργικό Σύστημα**: Windows 11 (22H2 ή νεότερο) - **Μνήμη**: 16GB RAM (32GB συνιστάται για μεγαλύτερα μοντέλα) - **Αποθήκευση**: 50GB ελεύθερος χώρος για προσωρινή αποθήκευση μοντέλων - **Υλικό**: Συνιστάται συσκευή με NPU (Copilot+ PC), GPU προαιρετική - **Δίκτυο**: Γρήγορη σύνδεση στο διαδίκτυο για αρχικές λήψεις μοντέλων ### Περιβάλλον Ανάπτυξης - Visual Studio Code με επέκταση AI Toolkit - Python 3.10+ και pip - Git για έλεγχο εκδόσεων - PowerShell ή Command Prompt - Azure CLI (προαιρετικό για ενσωμάτωση cloud) ### Γνώσεις Προαπαιτούμενες - Βασική κατανόηση εννοιών AI/ML - Εξοικείωση με γραμμή εντολών - Βασικές γνώσεις προγραμματισμού Python - Έννοιες REST API - Βασικές γνώσεις προτροπών και πρόβλεψης μοντέλων ## Χρονοδιάγραμμα Ενότητας **Συνολικός Εκτιμώμενος Χρόνος**: 30-38 ώρες | Συνεδρία | Περιοχή Εστίασης | Δείγματα | Χρόνος | Πολυπλοκότητα | |---------|------------------|---------|-------|--------------| | 1 | Εγκατάσταση & Βασικά | 01, 02, 03 | 2-3 ώρες | Αρχάριος | | 2 | Λύσεις AI | 04 | 2-3 ώρες | Μεσαίο | | 3 | Ανοιχτός Κώδικας | 05 | 2-3 ώρες | Μεσαίο | | 4 | Προηγμένα Μοντέλα | 06 | 3-4 ώρες | Προχωρημένο | | 5 | Πράκτορες AI | 05, 09 | 3-4 ώρες | Προχωρημένο | | 6 | Εργαλεία Επιχειρήσεων | 06, 10 | 3-4 ώρες | Ειδικός | | 7 | Άμεση Ενσωμάτωση API | 07 | 2-3 ώρες | Μεσαίο | | 8 | Εφαρμογή Συνομιλίας Windows 11 | 08 | 3-4 ώρες | Προχωρημένο | | 9 | Προηγμένη Ορχήστρωση Πολλαπλών Πρακτόρων | 09 | 4-5 ώρες | Ειδικός | | 10 | Πλαίσιο Εργαλείων | 10 | 4-5 ώρες | Ειδικός | ## Βασικοί Πόροι **Επίσημη Τεκμηρίωση:** - [Microsoft Foundry Local GitHub](https://github.com/microsoft/Foundry-Local) - Πηγαίος κώδικας και επίσημα δείγματα - [Τεκμηρίωση Azure AI Foundry](https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-local/) - Οδηγός εγκατάστασης και χρήσης - [Σειρά Model Mondays](https://aka.ms/model-mondays) - Εβδομαδιαία highlights και tutorials μοντέλων **Κοινότητα & Υποστήριξη:** - [Συζητήσεις Foundry Local](https://github.com/microsoft/Foundry-Local/discussions) - Ερωτήσεις και αιτήματα χαρακτηριστικών της κοινότητας - [Κοινότητα Προγραμματιστών Microsoft AI](https://techcommunity.microsoft.com/category/artificialintelligence) - Τελευταία νέα και βέλτιστες πρακτικές ## Αποτελέσματα Μάθησης Με την ολοκλήρωση αυτής της ενότητας, θα είστε εξοπλισμένοι να: ### Τεχνική Κατοχή - **Ανάπτυξη και Διαχείριση**: Εγκαταστάσεις Foundry Local σε περιβάλλοντα ανάπτυξης και παραγωγής - **Ενσωμάτωση Μοντέλων**: Εργασία με διαφορετικές οικογένειες μοντέλων από Microsoft, Hugging Face και πηγές κοινότητας - **Δημιουργία Εφαρμογών**: Δημιουργία εφαρμογών AI έτοιμων για παραγωγή με προηγμένα χαρακτηριστικά και βελτιστοποιήσεις - **Ανάπτυξη Πρακτόρων**: Υλοποίηση προηγμένων πρακτόρων AI με θεμελίωση, λογική και ενσωμάτωση εργαλείων ### Στρατηγική Κατανόηση - **Αποφάσεις Αρχιτεκτονικής**: Λήψη ενημερωμένων επιλογών μεταξύ τοπικής και cloud ανάπτυξης - **Βελτιστοποίηση Απόδοσης**: Βελτιστοποίηση απόδοσης πρόβλεψης σε διαφορετικές διαμορφώσεις υλικού - **Κλιμάκωση Επιχειρήσεων**: Σχεδιασμός εφαρμογών που κλιμακώνονται από τοπικά πρωτότυπα σε εταιρικές αναπτύξεις - **Απόρρητο και Ασφάλεια**: Υλοποίηση λύσεων AI που διατηρούν την ιδιωτικότητα με τοπική πρόβλεψη ### Ικανότητες Καινοτομίας - **Γρήγορη Πρωτοτυποποίηση**: Δημιουργία και δοκιμή ιδεών εφαρμογών AI γρήγορα σε όλα τα 10 πρότυπα δειγμάτων - **Ενσωμάτωση Κοινότητας**: Αξιοποίηση μοντέλων ανοιχτού κώδικα και συνεισφορά στο οικοσύστημα - **Προηγμένα Πρότυπα**: Υλοποίηση προηγμένων προτύπων AI, όπως RAG, πράκτορες και ενσωμάτωση εργαλείων - **Κατοχή Πλαισίων**: Ενσωμάτωση σε επίπεδο ειδικού με LangChain, Semantic Kernel, Chainlit και Electron - **Ανάπτυξη Παραγωγής**: Ανάπτυξη κλιμακούμενων λύσεων AI από τοπικά πρωτότυπα σε εταιρικά συστήματα - **Ανάπτυξη για το Μέλλον**: Δημιουργία εφαρμογών έτοιμων για αναδυόμενες τεχνολογίες και πρότυπα AI ## Ξεκινώντας 1. **Ρύθμιση Περιβάλλοντος**: Βεβαιωθείτε ότι έχετε Windows 11 με το συνιστώμενο υλικό (βλ. Προαπαιτούμενα) 2. **Εγκατάσταση Foundry Local**: Ακολουθήστε τη Συνεδρία 1 για πλήρη εγκατάσταση και ρύθμιση 3. **Εκτέλεση Δείγματος 01**: Ξεκινήστε με βασική ενσωμάτωση REST API για επαλήθευση της ρύθμισης 4. **Πρόοδος Μέσω Δειγμάτων**: Ολοκληρώστε τα δείγματα 01-10 για πλήρη κατοχή ## Μετρήσεις Επιτυχίας Παρακολουθήστε την πρόοδό σας μέσω όλων των 10 ολοκληρωμένων δειγμάτων: ### Επίπεδο Βάσης (Δείγματα 01-03) - [ ] Εγκατάσταση και ρύθμιση του Foundry Local με επιτυχία - [ ] Ολοκλήρωση ενσωμάτωσης REST API (Δ Αυτό το module αντιπροσωπεύει την αιχμή της ανάπτυξης AI στο edge, συνδυάζοντας τα εργαλεία επιχειρηματικής κλάσης της Microsoft με την ευελιξία και την καινοτομία του οικοσυστήματος ανοιχτού κώδικα. Με την πλήρη κατανόηση του Foundry Local μέσω των 10 ολοκληρωμένων παραδειγμάτων, θα βρεθείτε στην πρώτη γραμμή της ανάπτυξης εφαρμογών AI. **Ολοκληρωμένη Διαδρομή Μάθησης:** - **Βάση** (Παραδείγματα 01-03): Ενσωμάτωση API και διαχείριση μοντέλων - **Εφαρμογές** (Παραδείγματα 04-06): RAG, agents και έξυπνη δρομολόγηση - **Προχωρημένο Επίπεδο** (Παραδείγματα 07-10): Πλαίσια παραγωγής και επιχειρηματική ενσωμάτωση Για την ενσωμάτωση του Azure OpenAI (Συνεδρία 2), δείτε τα αρχεία README των επιμέρους παραδειγμάτων για τις απαιτούμενες μεταβλητές περιβάλλοντος και τις ρυθμίσεις έκδοσης API. --- **Αποποίηση ευθύνης**: Αυτό το έγγραφο έχει μεταφραστεί χρησιμοποιώντας την υπηρεσία μετάφρασης AI [Co-op Translator](https://github.com/Azure/co-op-translator). Παρόλο που καταβάλλουμε προσπάθειες για ακρίβεια, παρακαλούμε να έχετε υπόψη ότι οι αυτοματοποιημένες μεταφράσεις ενδέχεται να περιέχουν λάθη ή ανακρίβειες. Το πρωτότυπο έγγραφο στη μητρική του γλώσσα θα πρέπει να θεωρείται η αυθεντική πηγή. Για κρίσιμες πληροφορίες, συνιστάται επαγγελματική ανθρώπινη μετάφραση. Δεν φέρουμε ευθύνη για τυχόν παρεξηγήσεις ή εσφαλμένες ερμηνείες που προκύπτουν από τη χρήση αυτής της μετάφρασης.