# Глава 02: Основе малих језичких модела

Ова свеобухватна уводна глава пружа суштински увид у мале језичке моделе (SLM), обухватајући теоријске принципе, стратегије практичне имплементације и решења за примену у производним окружењима. Глава успоставља критичну базу знања за разумевање савремених ефикасних AI архитектура и њихову стратешку примену у различитим рачунарским окружењима.

## Архитектура главе и прогресивни оквир учења

### **[Одељак 1: Основе породице Microsoft Phi модела](./01.PhiFamily.md)**
Уводни одељак представља револуционарну Phi породицу модела компаније Microsoft, показујући како компактни, ефикасни модели постижу изузетне резултате уз значајно смањене рачунарске захтеве. Овај основни одељак обухвата:

- **Еволуција филозофије дизајна**: Свеобухватно истраживање развоја Phi породице од Phi-1 до Phi-4, са нагласком на револуционарну методологију тренинга "квалитета уџбеника" и скалирање током инференције
- **Архитектура са фокусом на ефикасност**: Детаљна анализа оптимизације параметара, могућности мултимодалне интеграције и оптимизација специфичних за хардвер на CPU, GPU и уређајима на ивици мреже
- **Специјализоване могућности**: Дубинско покривање варијанти специфичних за домен, укључујући Phi-4-mini-reasoning за математичке задатке, Phi-4-multimodal за обраду визије и језика, и Phi-3-Silica за уграђену примену у Windows 11

Овај одељак успоставља основни принцип да ефикасност модела и његове могућности могу коегзистирати кроз иновативне методологије тренинга и оптимизацију архитектуре.

### **[Одељак 2: Основе породице Qwen модела](./02.QwenFamily.md)**
Други одељак прелази на свеобухватни приступ отвореног кода компаније Alibaba, показујући како транспарентни, доступни модели могу постићи конкурентне резултате уз задржавање флексибилности примене. Кључне области фокуса укључују:

- **Изврсност отвореног кода**: Свеобухватно истраживање еволуције Qwen модела од Qwen 1.0 до Qwen3, са нагласком на тренинг великог обима (36 трилиона токена) и мултијезичне могућности на 119 језика
- **Архитектура напредног резоновања**: Детаљно покривање иновативних могућности "режима размишљања" Qwen3, имплементација мешавине експерата и специјализованих варијанти за кодирање (Qwen-Coder) и математику (Qwen-Math)
- **Опције скалабилне примене**: Дубинска анализа опсега параметара од 0.5B до 235B, омогућавајући сценарије примене од мобилних уређаја до корпоративних кластера

Овај одељак наглашава демократизацију AI технологије кроз приступачност отвореног кода уз задржавање конкурентних карактеристика перформанси.

### **[Одељак 3: Основе породице Gemma модела](./03.GemmaFamily.md)**
Трећи одељак истражује свеобухватни приступ компаније Google ка отвореном коду мултимодалног AI-а, показујући како развој заснован на истраживању може донети приступачне, али моћне AI могућности. Овај одељак обухвата:

- **Иновација заснована на истраживању**: Свеобухватно покривање архитектура Gemma 3 и Gemma 3n, са нагласком на технологију уграђених слојева (PLE) и стратегије оптимизације за мобилне уређаје
- **Мултимодална изврсност**: Детаљно истраживање интеграције визије и језика, могућности обраде звука и функција позивања које омогућавају свеобухватна AI искуства
- **Архитектура са фокусом на мобилне уређаје**: Дубинска анализа револуционарних достигнућа ефикасности Gemma 3n, која пружа перформансе од 2B-4B параметара уз меморијске захтеве од само 2-3GB

Овај одељак показује како се врхунска истраживања могу претворити у практична, приступачна AI решења која омогућавају нове категорије апликација.

### **[Одељак 4: Основе породице BitNET модела](./04.BitNETFamily.md)**
Четврти одељак представља револуционарни приступ компаније Microsoft ка 1-битној квантизацији, која представља границу ултра-ефикасне AI примене. Овај напредни одељак обухвата:

- **Револуционарна квантизација**: Свеобухватно истраживање 1.58-битне квантизације користећи тернарне тежине {-1, 0, +1}, постизање убрзања од 1.37x до 6.17x уз смањење енергије од 55-82%
- **Оптимизован оквир за инференцију**: Детаљно покривање имплементације bitnet.cpp са [https://github.com/microsoft/BitNet](https://github.com/microsoft/BitNet), специјализованих кернела и оптимизација за различите платформе које пружају без преседана добитке у ефикасности
- **Лидерство у одрживом AI-у**: Дубинска анализа еколошких предности, могућности демократизоване примене и нових сценарија апликација омогућених екстремном ефикасношћу

Овај одељак показује како револуционарне технике квантизације могу драматично побољшати ефикасност AI-а уз задржавање конкурентних перформанси.

### **[Одељак 5: Основе Microsoft Mu модела](./05.mumodel.md)**
Пети одељак истражује револуционарни Mu модел компаније Microsoft, дизајниран посебно за примену на уређајима у Windows окружењу. Овај специјализовани одељак обухвата:

- **Архитектура са фокусом на уређаје**: Свеобухватно истраживање специјализованог модела на уређају уграђеног у Windows 11 уређаје
- **Интеграција система**: Детаљна анализа дубоке интеграције са Windows 11, показујући како AI може побољшати функционалност система кроз нативну имплементацију
- **Дизајн који чува приватност**: Дубинско покривање офлајн рада, локалне обраде и архитектуре која ставља приватност на прво место, чувајући корисничке податке на уређају

Овај одељак показује како специјализовани модели могу побољшати функционалност оперативног система Windows 11 уз задржавање приватности и перформанси.

### **[Одељак 6: Основе Phi-Silica модела](./06.phisilica.md)**
Завршни одељак испитује Microsoft-ов Phi-Silica, ултра-ефикасан језички модел уграђен у Windows 11 за Copilot+ рачунаре са NPU хардвером. Овај напредни одељак обухвата:

- **Изузетни показатељи ефикасности**: Свеобухватна анализа изузетних перформанси Phi-Silica модела, који пружа 650 токена у секунди уз потрошњу од само 1.5 вата
- **Оптимизација за NPU**: Детаљно истраживање специјализоване архитектуре дизајниране за Neural Processing Units у Windows 11 Copilot+ рачунарима
- **Интеграција за програмере**: Дубинско покривање интеграције са Windows App SDK-ом, техникама инжењеринга упита и најбољим праксама за имплементацију Phi-Silica модела у Windows 11 апликацијама

Овај одељак успоставља врхунску технологију хардверски оптимизованих језичких модела на уређају, показујући како специјализоване архитектуре модела у комбинацији са посвећеним неуронским хардвером могу пружити изузетне AI перформансе на Windows 11 уређајима за потрошаче.

## Свеобухватни исходи учења

По завршетку ове уводне главе, читаоци ће стећи мајсторство у:

1. **Разумевању архитектуре**: Дубоко разумевање различитих филозофија дизајна SLM-а и њихових импликација за сценарије примене
2. **Баланс перформанси и ефикасности**: Стратешке способности доношења одлука за избор одговарајућих архитектура модела на основу рачунарских ограничења и захтева за перформансама
3. **Флексибилност примене**: Разумевање компромиса између власничке оптимизације (Phi), приступачности отвореног кода (Qwen), иновација заснованих на истраживању (Gemma) и револуционарне ефикасности (BitNET)
4. **Перспектива спремна за будућност**: Увид у нове трендове у ефикасним AI архитектурама и њихове импликације за стратегије примене следеће генерације

## Фокус на практичну имплементацију

Глава задржава снажну практичну оријентацију кроз:

- **Комплетне примере кода**: Примери имплементације спремни за производњу за сваку породицу модела, укључујући процедуре за фино подешавање, стратегије оптимизације и конфигурације примене
- **Свеобухватно бенчмаркирање**: Детаљна поређења перформанси различитих архитектура модела, укључујући показатеље ефикасности, процене могућности и оптимизацију случајева употребе
- **Сигурност за предузећа**: Имплементације сигурности спремне за производњу, стратегије мониторинга и најбоље праксе за поуздану примену
- **Интеграција оквира**: Практичне смернице за интеграцију са популарним оквирима као што су Hugging Face Transformers, vLLM, ONNX Runtime и специјализовани алати за оптимизацију

## Стратешка технолошка мапа пута

Глава се завршава анализом усмереном ка будућности:

- **Еволуција архитектуре**: Нови трендови у дизајну и оптимизацији ефикасних модела
- **Интеграција хардвера**: Напредак у специјализованим AI акцелераторима и њихов утицај на стратегије примене
- **Развој екосистема**: Напори ка стандардизацији и побољшању интероперабилности различитих породица модела
- **Усвајање у предузећима**: Стратешка разматрања за планирање примене AI-а у организацијама

## Сценарији примене у стварном свету

Сваки одељак пружа свеобухватно покривање практичних апликација:

- **Мобилно и edge рачунарство**: Оптимизоване стратегије примене за окружења са ограниченим ресурсима
- **Апликације за предузећа**: Скалибилна решења за пословну интелигенцију, аутоматизацију и корисничку подршку
- **Образовна технологија**: Приступачан AI за персонализовано учење и генерисање садржаја
- **Глобална примена**: Мултијезичне и интеркултурне AI апликације

## Стандарди техничке изврсности

Глава наглашава имплементацију спремну за производњу кроз:

- **Мајсторство оптимизације**: Напредне технике квантизације, оптимизације инференције и управљања ресурсима
- **Мониторинг перформанси**: Свеобухватно прикупљање показатеља, системи упозорења и аналитика перформанси
- **Имплементација сигурности**: Мере сигурности на нивоу предузећа, заштита приватности и оквири за усклађеност
- **Планирање скалабилности**: Хоризонталне и вертикалне стратегије скалирања за растуће рачунарске захтеве

Ова уводна глава служи као суштински предуслов за напредне стратегије примене SLM-а, успостављајући и теоријско разумевање и практичне способности неопходне за успешну имплементацију. Свеобухватно покривање осигурава да су читаоци добро опремљени за доношење информисаних одлука о архитектури и имплементацију робусних, ефикасних AI решења која испуњавају њихове специфичне организационе захтеве, уз припрему за будући технолошки развој.

Глава премошћује јаз између најсавременијих AI истраживања и реалности примене, наглашавајући да савремене SLM архитектуре могу пружити изузетне перформансе уз задржавање оперативне ефикасности, исплативости и одрживости животне средине.

---

**Одрицање од одговорности**:  
Овај документ је преведен коришћењем услуге за превођење помоћу вештачке интелигенције [Co-op Translator](https://github.com/Azure/co-op-translator). Иако се трудимо да обезбедимо тачност, молимо вас да имате у виду да аутоматизовани преводи могу садржати грешке или нетачности. Оригинални документ на његовом изворном језику треба сматрати ауторитативним извором. За критичне информације препоручује се професионални превод од стране људи. Не преузимамо одговорност за било каква погрешна тумачења или неспоразуме који могу настати услед коришћења овог превода.