# Ръководство за разработка на Windows Edge AI ## Въведение Добре дошли в Windows Edge AI Development - вашето цялостно ръководство за създаване на интелигентни приложения, които използват силата на AI на устройството чрез платформата Windows AI Foundry на Microsoft. Това ръководство е специално създадено за разработчици на Windows, които искат да интегрират най-новите възможности на Edge AI в своите приложения, като същевременно използват пълния потенциал на хардуерното ускорение на Windows. ### Предимствата на Windows AI Windows AI Foundry представлява унифицирана, надеждна и сигурна платформа, която поддържа целия жизнен цикъл на разработка на AI - от избора и настройката на модела до оптимизацията и внедряването върху CPU, GPU, NPU и хибридни облачни архитектури. Тази платформа демократизира разработката на AI, като предоставя: - **Хардуерна абстракция**: Лесно внедряване върху AMD, Intel, NVIDIA и Qualcomm хардуер - **Интелигентност на устройството**: AI, който работи изцяло на локалния хардуер, запазвайки поверителността - **Оптимизирана производителност**: Модели, предварително оптимизирани за хардуерните конфигурации на Windows - **Готовност за предприятия**: Функции за сигурност и съответствие на производствено ниво ### Windows ML Windows Machine Learning (ML) позволява на разработчиците на C#, C++ и Python да изпълняват ONNX AI модели локално на Windows компютри чрез ONNX Runtime, с автоматично управление на изпълнителните доставчици за различен хардуер (CPU, GPU, NPU). [ONNX Runtime](https://onnxruntime.ai/docs/) може да се използва с модели от PyTorch, Tensorflow/Keras, TFLite, scikit-learn и други рамки. ![WindowsML Диаграма, илюстрираща ONNX модел, преминаващ през Windows ML, за да достигне до NPU, GPU и CPU.](https://learn.microsoft.com/en-us/windows/ai/images/winml-diagram.png) Windows ML предоставя споделено копие на ONNX Runtime за цялата Windows система, както и възможност за динамично изтегляне на изпълнителни доставчици (EPs). ### Защо Windows за Edge AI? **Универсална поддръжка на хардуер** Windows ML осигурява автоматична хардуерна оптимизация в цялата екосистема на Windows, гарантирайки, че вашите AI приложения работят оптимално, независимо от архитектурата на хардуера. **Интегриран AI Runtime** Вграденият Windows ML inference engine елиминира сложните изисквания за настройка, позволявайки на разработчиците да се фокусират върху логиката на приложението, а не върху инфраструктурните проблеми. **Оптимизация за Copilot+ PC** API-та, създадени специално за следващото поколение Windows устройства с посветени Neural Processing Units (NPUs), осигуряващи изключителна производителност на ват. **Екосистема за разработчици** Богати инструменти, включително интеграция с Visual Studio, обширна документация и примерни приложения, които ускоряват цикъла на разработка. ## Учебни цели След като завършите това ръководство за разработка на Windows Edge AI, ще овладеете основните умения за създаване на готови за производство AI приложения на платформата Windows. ### Основни технически компетенции **Майсторство на Windows AI Foundry** - Разбиране на архитектурата и компонентите на платформата Windows AI Foundry - Навигация през целия жизнен цикъл на разработка на AI в екосистемата на Windows - Прилагане на най-добрите практики за сигурност за AI приложения на устройството - Оптимизация на приложения за различни хардуерни конфигурации на Windows **Експертиза в интеграцията на API** - Овладяване на Windows AI API-та за текст, визия и мултимодални приложения - Интеграция на Phi Silica езиков модел за генериране на текст и разсъждения - Внедряване на възможности за компютърно зрение чрез вградени API-та за обработка на изображения - Персонализиране на предварително обучени модели с помощта на техники като LoRA (Low-Rank Adaptation) **Локална имплементация на Foundry** - Преглед, оценка и внедряване на отворени езикови модели чрез Foundry Local CLI - Разбиране на оптимизацията и квантизацията на модели за локално внедряване - Реализиране на офлайн AI възможности, които функционират без интернет връзка - Управление на жизнения цикъл и актуализации на модели в производствени среди **Внедряване на Windows ML** - Интеграция на персонализирани ONNX модели в Windows приложения чрез Windows ML - Използване на автоматично хардуерно ускорение върху CPU, GPU и NPU архитектури - Реализиране на реално време inference с оптимално използване на ресурсите - Дизайн на мащабируеми AI приложения за различни категории устройства с Windows ### Умения за разработка на приложения **Кросплатформена разработка за Windows** - Създаване на AI-задвижвани приложения с помощта на .NET MAUI за универсално внедряване на Windows - Интеграция на AI възможности в Win32, UWP и прогресивни уеб приложения - Реализиране на адаптивни UI дизайни, които се приспособяват към състоянията на AI обработка - Управление на асинхронни AI операции с подходящи модели за потребителски опит **Оптимизация на производителността** - Профилиране и оптимизация на AI inference производителността върху различни хардуерни конфигурации - Реализиране на ефективно управление на паметта за големи езикови модели - Дизайн на приложения, които се адаптират към наличните хардуерни възможности - Прилагане на стратегии за кеширане за често използвани AI операции **Готовност за производство** - Реализиране на цялостно управление на грешки и резервни механизми - Дизайн на телеметрия и мониторинг за производителността на AI приложенията - Прилагане на най-добрите практики за сигурност за локално съхранение и изпълнение на AI модели - Планиране на стратегии за внедряване за корпоративни и потребителски приложения ### Бизнес и стратегическо разбиране **Архитектура на AI приложения** - Дизайн на хибридни архитектури, които оптимизират между локална и облачна AI обработка - Оценка на компромисите между размер на модела, точност и скорост на inference - Планиране на архитектури за потоци от данни, които запазват поверителността, като същевременно осигуряват интелигентност - Реализиране на икономически ефективни AI решения, които се мащабират според потребителските изисквания **Позициониране на пазара** - Разбиране на конкурентните предимства на AI приложенията, създадени за Windows - Идентифициране на случаи на употреба, при които AI на устройството осигурява превъзходно потребителско изживяване - Разработване на стратегии за навлизане на пазара за AI-задвижвани Windows приложения - Позициониране на приложенията за използване на предимствата на екосистемата на Windows ## Примерни приложения за Windows App SDK AI Windows App SDK предоставя обширни примери, демонстриращи интеграцията на AI в различни рамки и сценарии за внедряване. Тези примери са основни референции за разбиране на моделите за разработка на Windows AI. ### Примери за Windows AI Foundry | Пример | Рамка | Фокусна област | Основни характеристики | |--------|-----------|------------|-------------| | [cs-winui](https://github.com/microsoft/WindowsAppSDK-Samples/tree/main/Samples/WindowsAIFoundry/cs-winui) | C# WinUI 3 | Интеграция на Windows AI API-та | Пълно WinUI приложение, демонстриращо Windows AI API-та, оптимизация за ARM64, пакетирано внедряване | **Ключови технологии:** - Windows AI API-та - WinUI 3 рамка - Оптимизация за ARM64 платформа - Съвместимост с Copilot+ PC - Пакетирано внедряване на приложения **Предварителни изисквания:** - Windows 11 с препоръчителен Copilot+ PC - Visual Studio 2022 - Конфигурация за ARM64 билд - Windows App SDK 1.8.1+ ### Примери за Windows ML #### Примери на C++ | Пример | Тип | Фокусна област | Основни характеристики | |--------|------|------------|-------------| | [CppConsoleDesktop](https://github.com/microsoft/WindowsAppSDK-Samples/tree/main/Samples/WindowsML/cpp) | Конзолно приложение | Основи на Windows ML | Откриване на EP, опции за команден ред, компилация на модели | | [CppConsoleDesktop.FrameworkDependent](https://github.com/microsoft/WindowsAppSDK-Samples/tree/main/Samples/WindowsML/cpp) | Конзолно приложение | Внедряване на рамка | Споделено изпълнение, по-малък отпечатък на внедряване | | [CppConsoleDesktop.SelfContained](https://github.com/microsoft/WindowsAppSDK-Samples/tree/main/Samples/WindowsML/cpp) | Конзолно приложение | Самостоятелно внедряване | Самостоятелно внедряване, без зависимости от runtime | | [CppConsoleDll](https://github.com/microsoft/WindowsAppSDK-Samples/tree/main/Samples/WindowsML/cpp) | DLL | Използване на библиотека | WindowsML в споделена библиотека, управление на паметта | | [CppResnetBuildDemo](https://github.com/microsoft/WindowsAppSDK-Samples/tree/main/Samples/WindowsML/cpp) | Демонстрация | Урок за ResNet | Конвертиране на модели, компилация на EP, урок Build 2025 | #### Примери на C# **Конзолни приложения** | Пример | Тип | Фокусна област | Основни характеристики | |--------|------|------------|-------------| | [CSharpConsoleDesktop](https://github.com/microsoft/WindowsAppSDK-Samples/tree/main/Samples/WindowsML/cs) | Конзолно приложение | Основна интеграция на C# | Използване на споделени помощници, интерфейс за команден ред | | [ResnetBuildDemoCS](https://github.com/microsoft/WindowsAppSDK-Samples/tree/main/Samples/WindowsML/cs) | Демонстрация | Урок за ResNet | Конвертиране на модели, компилация на EP, урок Build 2025 | **GUI приложения** | Пример | Рамка | Фокусна област | Основни характеристики | |--------|-----------|------------|-------------| | [cs-wpf](https://github.com/microsoft/WindowsAppSDK-Samples/tree/main/Samples/WindowsML/cs-wpf) | WPF | Desktop GUI | Класификация на изображения с интерфейс на WPF | | [cs-winforms](https://github.com/microsoft/WindowsAppSDK-Samples/tree/main/Samples/WindowsML/cs-winforms) | Windows Forms | Традиционен GUI | Класификация на изображения с Windows Forms | | [cs-winui](https://github.com/microsoft/WindowsAppSDK-Samples/tree/main/Samples/WindowsML/cs-winui) | WinUI 3 | Модерен GUI | Класификация на изображения с интерфейс на WinUI 3 | #### Примери на Python | Пример | Език | Фокусна област | Основни характеристики | |--------|----------|------------|-------------| | [SqueezeNetPython](https://github.com/microsoft/WindowsAppSDK-Samples/tree/main/Samples/WindowsML/python) | Python | Класификация на изображения | WinML Python bindings, обработка на изображения на партиди | ### Предварителни изисквания за примерите **Системни изисквания:** - Windows 11 PC с версия 24H2 (build 26100) или по-нова - Visual Studio 2022 с C++ и .NET работни натоварвания - Windows App SDK 1.8.1 или по-нова - Python 3.10-3.13 за Python примери на x64 и ARM64 устройства **Специфично за Windows AI Foundry:** - Препоръчителен Copilot+ PC за оптимална производителност - Конфигурация за ARM64 билд за Windows AI примери - Изисква се идентичност на пакета (неподдържани вече непакетирани приложения) ### Общ работен процес за примерите Повечето примери за Windows ML следват този стандартен модел: 1. **Инициализиране на средата** - Създаване на ONNX Runtime среда 2. **Регистриране на изпълнителни доставчици** - Откриване и регистриране на наличните хардуерни ускорители (CPU, GPU, NPU) 3. **Зареждане на модела** - Зареждане на ONNX модел, с възможност за компилация за целевия хардуер 4. **Предварителна обработка на входа** - Конвертиране на изображения/данни във формат за вход на модела 5. **Изпълнение на inference** - Изпълнение на модела и получаване на прогнози 6. **Обработка на резултатите** - Прилагане на softmax и показване на най-добрите прогнози ### Използвани файлове с модели | Модел | Цел | Включен | Бележки | |-------|---------|----------|-------| | SqueezeNet | Лека класификация на изображения | ✅ Включен | Предварително обучен, готов за използване | | ResNet-50 | Класификация на изображения с висока точност | ❌ Изисква конвертиране | Използвайте [AI Toolkit](https://code.visualstudio.com/docs/intelligentapps/modelconversion) за конвертиране | ### Поддръжка на хардуер Всички примери автоматично откриват и използват наличния хардуер: - **CPU** - Универсална поддръжка за всички устройства с Windows - **GPU** - Автоматично откриване и оптимизация за наличния графичен хардуер - **NPU** - Използване на Neural Processing Units на поддържани устройства (Copilot+ PC) ## Компоненти на платформата Windows AI Foundry ### 1. Windows AI API-та Windows AI API-та предоставят готови за използване AI възможности, задвижвани от локални модели, оптимизирани за ефективност и производителност на устройства Copilot+ PC с минимална настройка. #### Основни категории API-та **Phi Silica езиков модел** - Малък, но мощен езиков модел за генериране на текст и разсъждения - Оптимизиран за inference в реално време с минимална консумация на енергия - Поддръжка за персонализирано фино настройване с LoRA техники - Интеграция с Windows семантично търсене и извличане на знания **API-та за компютърно зрение** - **Разпознаване на текст (OCR)**: Извличане на текст от изображения с висока точност - **Супер резолюция на изображения**: Увеличаване на резолюцията на изображения с локални AI модели - **Сегментация на изображения**: Идентифициране и изолиране на специфични обекти в изображения - **Описание на изображения**: Генериране на подробни текстови описания за визуално съдържание - **Изтриване на обекти**: Премахване на нежелани обекти от изображения с AI-задвижвано възстановяване **Мултимодални възможности** - **Интеграция на визия и текст**: Комбиниране на разбиране на текст и изображения - **Семантично търсене**: Позволяване на естествени езикови заявки за мултимедийно съдържание - **Извличане на знания**: Създаване на интелигентни търсещи изживявания с локални данни ### 2. Foundry Local Foundry Local предоставя на разработчиците бърз достъп до готови за използване отворени езикови модели на Windows Silicon, предлагайки възможност за преглед, тестване, взаимодействие и внедряване на модели в локални приложения. #### Примерни приложения за Foundry Local [Репозиторият Foundry Local](https://github.com/microsoft/Foundry-Local/tree/main/samples) предоставя обширни примери на различни програмни езици и | [rust/hello-foundry-local](https://github.com/microsoft/Foundry-Local/tree/main/samples/rust/hello-foundry-local) | Rust | Интеграция на системи | Използване на SDK на ниско ниво, асинхронни операции, HTTP клиент reqwest | #### Категории на примерите според случая на употреба **RAG (Retrieval-Augmented Generation)** - **dotNET/rag**: Пълна имплементация на RAG с използване на Semantic Kernel, Qdrant векторна база данни и JINA embeddings - **Архитектура**: Въвеждане на документи → Разделяне на текст → Векторни embeddings → Търсене по сходство → Отговори, съобразени с контекста - **Технологии**: Microsoft.SemanticKernel, Qdrant.Client, BERT ONNX embeddings, стрийминг на чат отговори **Десктоп приложения** - **electron/foundry-chat**: Готово за производство чат приложение с превключване между локален и облачен модел - **Функции**: Избор на модел, стрийминг на отговори, обработка на грешки, кросплатформено разгръщане - **Архитектура**: Основен процес на Electron, IPC комуникация, сигурни preload скриптове **Примери за интеграция на SDK** - **JavaScript (Node.js)**: Основно взаимодействие с модел и стрийминг на отговори - **Python**: Използване на OpenAI-съвместим API с асинхронен стрийминг - **Rust**: Интеграция на ниско ниво с reqwest и tokio за асинхронни операции #### Предварителни изисквания за примери с Foundry Local **Системни изисквания:** - Windows 11 с инсталиран Foundry Local - Node.js v16+ за примери с JavaScript/Electron - .NET 8.0+ за примери с C# - Python 3.10+ за примери с Python - Rust 1.70+ за примери с Rust **Инсталация:** ```powershell # Install Foundry Local winget install Microsoft.FoundryLocal # Verify installation foundry --version foundry model list ``` #### Настройка за конкретни примери **Пример с dotNET RAG:** ```powershell # Install required packages via NuGet # Microsoft.SemanticKernel.Connectors.Onnx # Microsoft.SemanticKernel.Connectors.Qdrant # Qdrant.Client # Start Qdrant vector database docker run -p 6333:6333 qdrant/qdrant # Run Jupyter notebook jupyter notebook rag_foundrylocal_demo.ipynb ``` **Пример с Electron Chat:** ```powershell # Set environment variables for cloud fallback $env:YOUR_API_KEY="your-cloud-api-key" $env:YOUR_ENDPOINT="your-cloud-endpoint" $env:YOUR_MODEL_NAME="your-cloud-model" # Install dependencies and run npm install npm start ``` **Примери с JavaScript/Python/Rust:** ```powershell # Download model (example with phi-3.5-mini) foundry model run phi-3.5-mini # Run respective sample node src/app.js # JavaScript python src/app.py # Python cargo run # Rust ``` #### Основни функции **Каталог на модели** - Обширна колекция от предварително оптимизирани модели с отворен код - Модели, оптимизирани за CPU, GPU и NPU за незабавно разгръщане - Поддръжка на популярни семейства модели, включително Llama, Mistral, Phi и специализирани модели за конкретни области **Интеграция с CLI** - Интерфейс за команден ред за управление и разгръщане на модели - Автоматизирани работни потоци за оптимизация и квантизация - Интеграция с популярни среди за разработка и CI/CD пайплайни **Локално разгръщане** - Пълна офлайн работа без зависимости от облака - Поддръжка на персонализирани формати и конфигурации на модели - Ефективно обслужване на модели с автоматична оптимизация на хардуера ### 3. Windows ML Windows ML служи като основна AI платформа и интегрирана среда за инференция в Windows, позволявайки на разработчиците да разгръщат персонализирани модели ефективно в широкия хардуерен екосистем на Windows. #### Ползи от архитектурата **Универсална поддръжка на хардуер** - Автоматична оптимизация за AMD, Intel, NVIDIA и Qualcomm чипове - Поддръжка на изпълнение на CPU, GPU и NPU с прозрачно превключване - Абстракция на хардуера, която елиминира необходимостта от специфична за платформата оптимизация **Гъвкавост на моделите** - Поддръжка на ONNX формат с автоматична конверсия от популярни рамки - Разгръщане на персонализирани модели с производителност на ниво производство - Интеграция със съществуващи архитектури на приложения за Windows **Интеграция за предприятия** - Съвместимост с рамките за сигурност и съответствие на Windows - Поддръжка на инструменти за разгръщане и управление в предприятия - Интеграция с управление и мониторинг на устройства в Windows ## Работен процес за разработка ### Фаза 1: Настройка на средата и конфигурация на инструментите **Подготовка на средата за разработка** 1. Инсталирайте Visual Studio 2022 с C++ и .NET работни натоварвания 2. Инсталирайте Windows App SDK 1.8.1 или по-нова версия 3. Конфигурирайте CLI инструментите на Windows AI Foundry 4. Настройте разширението AI Toolkit за Visual Studio Code 5. Осигурете инструменти за профилиране и мониторинг на производителността 6. Уверете се, че конфигурацията за ARM64 билд е настроена за оптимизация на Copilot+ PC **Настройка на хранилището с примери** 1. Клонирайте [хранилището с примери за Windows App SDK](https://github.com/microsoft/WindowsAppSDK-Samples) 2. Навигирайте до `Samples/WindowsAIFoundry/cs-winui` за примери с Windows AI API 3. Навигирайте до `Samples/WindowsML` за обширни примери с Windows ML 4. Прегледайте [изискванията за билд](https://learn.microsoft.com/windows/apps/windows-app-sdk/system-requirements) за целевите платформи **Изследване на AI Dev Gallery** - Изследвайте примерни приложения и референтни имплементации - Тествайте Windows AI API с интерактивни демонстрации - Прегледайте изходния код за добри практики и шаблони - Идентифицирайте подходящи примери за вашия конкретен случай на употреба ### Фаза 2: Избор и интеграция на модел **Анализ на изискванията** - Дефинирайте функционалните изисквания за AI възможности - Установете ограничения за производителност и цели за оптимизация - Оценете изискванията за поверителност и сигурност - Планирайте архитектурата за разгръщане и стратегии за мащабиране **Оценка на модела** - Използвайте Foundry Local за тестване на модели с отворен код за вашия случай на употреба - Провеждайте бенчмаркинг на Windows AI API спрямо изискванията за персонализирани модели - Оценете компромисите между размер на модела, точност и скорост на инференция - Прототипирайте подходи за интеграция с избраните модели ### Фаза 3: Разработка на приложение **Основна интеграция** - Имплементирайте интеграция с Windows AI API с подходяща обработка на грешки - Проектирайте потребителски интерфейси, които съответстват на AI работните потоци - Имплементирайте стратегии за кеширане и оптимизация за инференция на модели - Добавете телеметрия и мониторинг за производителността на AI операциите **Тестване и валидиране** - Тествайте приложенията на различни хардуерни конфигурации на Windows - Валидирайте метриките за производителност при различни условия на натоварване - Имплементирайте автоматизирано тестване за надеждност на AI функционалността - Провеждайте тестване на потребителския опит с AI подобрения ### Фаза 4: Оптимизация и разгръщане **Оптимизация на производителността** - Профилирайте производителността на приложението на целевите хардуерни конфигурации - Оптимизирайте използването на паметта и стратегиите за зареждане на модели - Имплементирайте адаптивно поведение според наличните хардуерни възможности - Фина настройка на потребителския опит за различни сценарии на производителност **Разгръщане в производство** - Опаковайте приложенията с подходящи зависимости за AI модели - Имплементирайте механизми за актуализация на модели и логиката на приложението - Конфигурирайте мониторинг и анализ за производствени среди - Планирайте стратегии за разгръщане за предприятия и потребители ## Примери за практическа имплементация ### Пример 1: Приложение за интелигентна обработка на документи Създайте Windows приложение, което обработва документи с множество AI възможности: **Използвани технологии:** - Phi Silica за обобщение на документи и отговаряне на въпроси - OCR API за извличане на текст от сканирани документи - Image Description API за анализ на графики и диаграми - Персонализирани ONNX модели за класификация на документи **Подход за имплементация:** - Проектирайте модулна архитектура с плъгини за AI компоненти - Имплементирайте асинхронна обработка за големи партиди документи - Добавете индикатори за напредък и поддръжка за анулиране на дълготрайни операции - Включете офлайн възможности за обработка на чувствителни документи ### Пример 2: Система за управление на инвентар в търговията на дребно Създайте AI-задвижвана система за инвентаризация за приложения в търговията на дребно: **Използвани технологии:** - Image Segmentation за идентификация на продукти - Персонализирани модели за визия за класификация на марки и категории - Разгръщане на специализирани езикови модели за търговия на дребно чрез Foundry Local - Интеграция със съществуващи POS и системи за инвентаризация **Подход за имплементация:** - Създайте интеграция с камери за сканиране на продукти в реално време - Имплементирайте разпознаване на баркодове и визуални продукти - Добавете естествени езикови заявки за инвентаризация с локални езикови модели - Проектирайте мащабируема архитектура за разгръщане в множество магазини ### Пример 3: Асистент за документация в здравеопазването Разработете инструмент за документация в здравеопазването, който запазва поверителността: **Използвани технологии:** - Phi Silica за генериране на медицински бележки и подкрепа за клинични решения - OCR за дигитализация на ръкописни медицински записи - Персонализирани медицински езикови модели, разгръщани чрез Windows ML - Локално съхранение на вектори за извличане на медицински знания **Подход за имплементация:** - Осигурете пълна офлайн работа за защита на поверителността на пациентите - Имплементирайте валидиране и предложения за медицинска терминология - Добавете логове за одит за съответствие с регулаторните изисквания - Проектирайте интеграция със съществуващи системи за електронни здравни записи ## Стратегии за оптимизация на производителността ### Разработка, съобразена с хардуера **Оптимизация за NPU** - Проектирайте приложения, които използват възможностите на NPU на Copilot+ PC - Имплементирайте плавно превключване към GPU/CPU на устройства без NPU - Оптимизирайте формати на модели за специфично ускорение на NPU - Мониторирайте използването на NPU и термичните характеристики **Управление на паметта** - Имплементирайте ефективни стратегии за зареждане и кеширане на модели - Използвайте паметно картографиране за големи модели за намаляване на времето за стартиране - Проектирайте приложения, съобразени с паметта, за устройства с ограничени ресурси - Имплементирайте квантизация на модели за оптимизация на паметта **Ефективност на батерията** - Оптимизирайте AI операциите за минимално потребление на енергия - Имплементирайте адаптивна обработка според състоянието на батерията - Проектирайте ефективна обработка във фонов режим за непрекъснати AI операции - Използвайте инструменти за профилиране на енергията за оптимизация на потреблението ### Съображения за мащабируемост **Многопоточност** - Проектирайте безопасни за потоци AI операции за конкурентна обработка - Имплементирайте ефективно разпределение на работата между наличните ядра - Използвайте async/await шаблони за неблокиращи AI операции - Планирайте оптимизация на пулове от потоци за различни хардуерни конфигурации **Стратегии за кеширане** - Имплементирайте интелигентно кеширане за често използвани AI операции - Проектирайте стратегии за анулиране на кеша при актуализации на модели - Използвайте устойчиво кеширане за скъпи операции по предварителна обработка - Имплементирайте разпределено кеширане за сценарии с множество потребители ## Най-добри практики за сигурност и поверителност ### Защита на данните **Локална обработка** - Осигурете, че чувствителните данни никога не напускат локалното устройство - Имплементирайте сигурно съхранение за AI модели и временни данни - Използвайте функции за сигурност на Windows за изолиране на приложенията - Прилагайте криптиране за съхранени модели и междинни резултати от обработката **Сигурност на моделите** - Валидирайте целостта на модела преди зареждане и изпълнение - Имплементирайте сигурни механизми за актуализация на модели - Използвайте подписани модели за предотвратяване на манипулации - Прилагайте контроли за достъп до файлове с модели и конфигурации ### Съображения за съответствие **Регулаторно съответствие** - Проектирайте приложения, които отговарят на GDPR, HIPAA и други регулаторни изисквания - Имплементирайте логове за одит на процесите на вземане на решения от AI - Осигурете функции за прозрачност на резултатите, генерирани от AI - Позволете на потребителите контрол върху обработката на данни от AI **Сигурност за предприятия** - Интегрирайте със сигурност на предприятията в Windows - Поддръжка на управлявано разгръщане чрез инструменти за управление на предприятия - Имплементирайте контроли за достъп на базата на роли за AI функции - Осигурете административни контроли за функционалността на AI ## Отстраняване на проблеми и дебъгване ### Често срещани предизвикателства при разработка **Проблеми с конфигурацията на билд** - Уверете се, че конфигурацията на платформата ARM64 е настроена за примери с Windows AI API - Проверете съвместимостта на версията на Windows App SDK (изисква се 1.8.1+) - Уверете се, че идентичността на пакета е правилно конфигурирана (необходима за Windows AI API) - Валидирайте, че инструментите за билд поддържат целевата версия на рамката **Проблеми със зареждането на модели** - Валидирайте съвместимостта на ONNX модела с Windows ML - Проверете целостта на файла с модела и изискванията за формат - Уверете се, че хардуерните изисквания са изпълнени за конкретни модели - Дебъгвайте проблеми с разпределението на паметта при зареждане на модели - Осигурете регистрация на изпълнителния доставчик за хардуерно ускорение **Съображения за режим на разгръщане** - **Самостоятелен режим**: Напълно поддържан с по-голям размер на разгръщане - **Режим, зависим от рамката**: По-малък отпечатък, но изисква споделена среда за изпълнение - **Непакетирани приложения**: Вече не се поддържат за Windows AI API - Използвайте `dotnet run -p:Platform=ARM64 -p:SelfContained - [Преглед на Windows ML](https://learn.microsoft.com/windows/ai/new-windows-ml/overview/) - [Системни изисквания за Windows App SDK](https://docs.microsoft.com/windows/apps/windows-app-sdk/system-requirements) - [Настройка на среда за разработка за Windows App SDK](https://docs.microsoft.com/windows/apps/windows-app-sdk/set-up-your-development-environment) - ### Примерни хранилища и код - [Примери за Windows App SDK - Windows AI Foundry](https://github.com/microsoft/WindowsAppSDK-Samples/tree/main/Samples/WindowsAIFoundry) - [Примери за Windows App SDK - Windows ML](https://github.com/microsoft/WindowsAppSDK-Samples/tree/main/Samples/WindowsML) - [Примери за извеждане с ONNX Runtime](https://github.com/microsoft/onnxruntime-inference-examples) - [Хранилище с примери за Windows App SDK](https://github.com/microsoft/WindowsAppSDK-Samples) ### Инструменти за разработка - [AI Toolkit за Visual Studio Code](https://learn.microsoft.com/windows/ai/toolkit/) - [AI Dev Gallery](https://learn.microsoft.com/windows/ai/ai-dev-gallery/) - [Примери за Windows AI](https://learn.microsoft.com/windows/ai/samples/) - [Инструменти за конвертиране на модели](https://code.visualstudio.com/docs/intelligentapps/modelconversion) ### Техническа поддръжка - [Документация за Windows ML](https://learn.microsoft.com/windows/ai/new-windows-ml/overview) - [Документация за ONNX Runtime](https://onnxruntime.ai/docs/) - [Документация за Windows App SDK](https://docs.microsoft.com/windows/apps/windows-app-sdk/) - [Докладване на проблеми - Примери за Windows App SDK](https://github.com/microsoft/WindowsAppSDK-Samples/issues) ### Общност и поддръжка - [Общност на разработчиците за Windows](https://developer.microsoft.com/en-us/windows/) - [Блог на Windows AI Foundry](https://blogs.windows.com/windowsdeveloper/) - [Обучение за AI в Microsoft Learn](https://learn.microsoft.com/training/browse/?products=windows&subjects=artificial-intelligence) --- *Това ръководство е създадено, за да се развива заедно с бързо напредващата екосистема на Windows AI. Редовните актуализации гарантират съответствие с най-новите възможности на платформата и най-добрите практики за разработка.* [08. Практическа работа с Microsoft Foundry Local - Пълен комплект инструменти за разработчици](../Module08/README.md) --- **Отказ от отговорност**: Този документ е преведен с помощта на AI услуга за превод [Co-op Translator](https://github.com/Azure/co-op-translator). Въпреки че се стремим към точност, моля, имайте предвид, че автоматизираните преводи може да съдържат грешки или неточности. Оригиналният документ на неговия роден език трябва да се счита за авторитетен източник. За критична информация се препоръчва професионален човешки превод. Ние не носим отговорност за недоразумения или погрешни интерпретации, произтичащи от използването на този превод.