# باب 02: چھوٹے لینگویج ماڈلز کی بنیادیں

یہ جامع بنیادی باب چھوٹے لینگویج ماڈلز (SLMs) کا ایک ضروری جائزہ فراہم کرتا ہے، جس میں نظریاتی اصول، عملی نفاذ کی حکمت عملی، اور پروڈکشن کے لیے تیار تعیناتی حل شامل ہیں۔ یہ باب جدید مؤثر AI آرکیٹیکچرز کو سمجھنے اور مختلف کمپیوٹیشنل ماحول میں ان کی اسٹریٹجک تعیناتی کے لیے اہم معلومات فراہم کرتا ہے۔

## باب کی ساخت اور ترقیاتی سیکھنے کا فریم ورک

### **[سیکشن 1: مائیکروسافٹ فی ماڈل فیملی کی بنیادیں](./01.PhiFamily.md)**
ابتدائی سیکشن مائیکروسافٹ کے انقلابی فی ماڈل فیملی کا تعارف کراتا ہے، یہ دکھاتے ہوئے کہ کس طرح چھوٹے اور مؤثر ماڈلز شاندار کارکردگی حاصل کرتے ہیں جبکہ کمپیوٹیشنل ضروریات کو نمایاں طور پر کم رکھتے ہیں۔ اس بنیادی سیکشن میں شامل ہیں:

- **ڈیزائن فلسفے کی ترقی**: مائیکروسافٹ کے فی فیملی کی ترقی کا جامع جائزہ، فی-1 سے فی-4 تک، "ٹیکسٹ بک کوالٹی" تربیتی طریقہ کار اور انفیرنس ٹائم اسکیلنگ پر زور دیتے ہوئے
- **مؤثر آرکیٹیکچر**: پیرامیٹر کی مؤثریت کی اصلاح، ملٹی موڈل انضمام کی صلاحیتیں، اور CPU، GPU، اور ایج ڈیوائسز کے لیے ہارڈویئر مخصوص اصلاحات کا تفصیلی تجزیہ
- **خصوصی صلاحیتیں**: ڈومین مخصوص ویریئنٹس کا گہرائی سے جائزہ، جیسے کہ فی-4-منی-ریزننگ ریاضیاتی کاموں کے لیے، فی-4-ملٹی موڈل وژن-لینگویج پروسیسنگ کے لیے، اور فی-3-سیلیکا ونڈوز 11 میں بلٹ ان تعیناتی کے لیے

یہ سیکشن اس بنیادی اصول کو قائم کرتا ہے کہ ماڈل کی مؤثریت اور صلاحیت جدید تربیتی طریقوں اور آرکیٹیکچرل اصلاحات کے ذریعے ایک ساتھ موجود ہو سکتی ہیں۔

### **[سیکشن 2: کیوین فیملی کی بنیادیں](./02.QwenFamily.md)**
دوسرا سیکشن علی بابا کے جامع اوپن سورس نقطہ نظر کی طرف منتقل ہوتا ہے، یہ ظاہر کرتے ہوئے کہ کس طرح شفاف، قابل رسائی ماڈلز مسابقتی کارکردگی حاصل کر سکتے ہیں جبکہ تعیناتی کی لچک کو برقرار رکھتے ہیں۔ اہم توجہ کے شعبے شامل ہیں:

- **اوپن سورس کی عمدگی**: کیوین کی ترقی کا جامع جائزہ، کیوین 1.0 سے کیوین 3 تک، 36 ٹریلین ٹوکنز کی بڑے پیمانے پر تربیت اور 119 زبانوں میں ملٹی لسانی صلاحیتوں پر زور دیتے ہوئے
- **جدید استدلال آرکیٹیکچر**: کیوین 3 کے انقلابی "سوچنے کے موڈ" کی صلاحیتوں، ماہرین کے امتزاج کے نفاذ، اور کوڈنگ (کیوین-کوڈر) اور ریاضی (کیوین-میتھ) کے لیے خصوصی ویریئنٹس کا تفصیلی جائزہ
- **قابل پیمائش تعیناتی کے اختیارات**: پیرامیٹر کی حدود کا گہرائی سے تجزیہ، 0.5B سے 235B پیرامیٹرز تک، موبائل ڈیوائسز سے لے کر انٹرپرائز کلسٹرز تک تعیناتی کے منظرنامے کو فعال بنانا

یہ سیکشن AI ٹیکنالوجی کی جمہوریت کو اوپن سورس رسائی کے ذریعے اجاگر کرتا ہے جبکہ مسابقتی کارکردگی کی خصوصیات کو برقرار رکھتا ہے۔

### **[سیکشن 3: جیما فیملی کی بنیادیں](./03.GemmaFamily.md)**
تیسرا سیکشن گوگل کے جامع اوپن سورس ملٹی موڈل AI کے نقطہ نظر کو دریافت کرتا ہے، یہ ظاہر کرتے ہوئے کہ کس طرح تحقیق پر مبنی ترقی قابل رسائی لیکن طاقتور AI صلاحیتیں فراہم کر سکتی ہے۔ اس سیکشن میں شامل ہیں:

- **تحقیق پر مبنی جدت**: جیما 3 اور جیما 3n آرکیٹیکچرز کا جامع جائزہ، پر-لیئر ایمبیڈنگز (PLE) ٹیکنالوجی اور موبائل فرسٹ اصلاحی حکمت عملیوں کی خصوصیات کے ساتھ
- **ملٹی موڈل عمدگی**: وژن-لینگویج انضمام، آڈیو پروسیسنگ کی صلاحیتیں، اور فنکشن کالنگ فیچرز کا تفصیلی جائزہ جو جامع AI تجربات کو فعال بناتے ہیں
- **موبائل فرسٹ آرکیٹیکچر**: جیما 3n کی انقلابی مؤثریت کی کامیابیوں کا گہرائی سے تجزیہ، 2B-4B پیرامیٹرز کی مؤثر کارکردگی فراہم کرتے ہوئے، میموری کے نقوش کو 2-3GB تک کم کرتے ہوئے

یہ سیکشن ظاہر کرتا ہے کہ کس طرح جدید تحقیق کو عملی، قابل رسائی AI حل میں تبدیل کیا جا سکتا ہے جو ایپلیکیشنز کے نئے زمرے کو فعال بناتے ہیں۔

### **[سیکشن 4: بٹ نیٹ فیملی کی بنیادیں](./04.BitNETFamily.md)**
چوتھا سیکشن مائیکروسافٹ کے انقلابی 1-بٹ کوانٹائزیشن کے نقطہ نظر کو پیش کرتا ہے، جو انتہائی مؤثر AI تعیناتی کی سرحد کی نمائندگی کرتا ہے۔ اس جدید سیکشن میں شامل ہیں:

- **انقلابی کوانٹائزیشن**: 1.58-بٹ کوانٹائزیشن کا جامع جائزہ، ٹرنری ویٹس {-1, 0, +1} کا استعمال کرتے ہوئے، 1.37x سے 6.17x رفتار میں اضافہ اور 55-82% توانائی کی کمی حاصل کرتے ہوئے
- **مؤثر انفیرنس فریم ورک**: [https://github.com/microsoft/BitNet](https://github.com/microsoft/BitNet) سے بٹ نیٹ.cpp نفاذ، خصوصی کرنلز، اور کراس پلیٹ فارم اصلاحات کا تفصیلی جائزہ، بے مثال مؤثریت کے فوائد فراہم کرتے ہوئے
- **پائیدار AI قیادت**: ماحولیاتی فوائد، جمہوری تعیناتی کی صلاحیتیں، اور انتہائی مؤثریت کے ذریعے فعال کردہ نئے ایپلیکیشن منظرنامے کا گہرائی سے تجزیہ

یہ سیکشن ظاہر کرتا ہے کہ کس طرح انقلابی کوانٹائزیشن تکنیک AI کی مؤثریت کو ڈرامائی طور پر بہتر بنا سکتی ہیں جبکہ مسابقتی کارکردگی کو برقرار رکھتی ہیں۔

### **[سیکشن 5: مائیکروسافٹ مو ماڈل کی بنیادیں](./05.mumodel.md)**
پانچواں سیکشن مائیکروسافٹ کے انقلابی مو ماڈل کو دریافت کرتا ہے، جو خاص طور پر ونڈوز میں آن ڈیوائس تعیناتی کے لیے ڈیزائن کیا گیا ہے۔ اس خصوصی سیکشن میں شامل ہیں:

- **ڈیوائس فرسٹ آرکیٹیکچر**: مائیکروسافٹ کے خصوصی آن ڈیوائس ماڈل کا جامع جائزہ، جو ونڈوز 11 ڈیوائسز میں بلٹ ان ہے
- **سسٹم انضمام**: ونڈوز 11 کے ساتھ گہری انضمام کا تفصیلی تجزیہ، یہ ظاہر کرتے ہوئے کہ کس طرح AI مقامی نفاذ کے ذریعے سسٹم کی فعالیت کو بہتر بنا سکتا ہے
- **پرائیویسی کو محفوظ رکھنے والا ڈیزائن**: آف لائن آپریشن، مقامی پروسیسنگ، اور پرائیویسی فرسٹ آرکیٹیکچر کا گہرائی سے جائزہ، جو صارف کے ڈیٹا کو آن ڈیوائس رکھتا ہے

یہ سیکشن ظاہر کرتا ہے کہ کس طرح خصوصی ماڈلز ونڈوز 11 آپریٹنگ سسٹم کی فعالیت کو بہتر بنا سکتے ہیں جبکہ پرائیویسی اور کارکردگی کو برقرار رکھتے ہیں۔

### **[سیکشن 6: فی-سیلیکا کی بنیادیں](./06.phisilica.md)**
اختتامی سیکشن مائیکروسافٹ کے فی-سیلیکا کا جائزہ لیتا ہے، ایک انتہائی مؤثر لینگویج ماڈل جو ونڈوز 11 میں کوپائلٹ+ PCs کے لیے NPU ہارڈویئر کے ساتھ بلٹ ان ہے۔ اس جدید سیکشن میں شامل ہیں:

- **غیر معمولی مؤثریت کے میٹرکس**: فی-سیلیکا کی شاندار کارکردگی کی صلاحیتوں کا جامع تجزیہ، صرف 1.5 واٹ پاور کے استعمال کے ساتھ 650 ٹوکنز فی سیکنڈ فراہم کرتے ہوئے
- **NPU اصلاحات**: نیورل پروسیسنگ یونٹس کے لیے خصوصی آرکیٹیکچر کا تفصیلی جائزہ، جو ونڈوز 11 کوپائلٹ+ PCs میں ڈیزائن کیا گیا ہے
- **ڈویلپر انضمام**: ونڈوز ایپ SDK انضمام، پرامپٹ انجینئرنگ تکنیک، اور ونڈوز 11 ایپلیکیشنز میں فی-سیلیکا کو نافذ کرنے کے بہترین طریقے کا گہرائی سے جائزہ

یہ سیکشن ہارڈویئر کے لیے بہتر کردہ آن ڈیوائس لینگویج ماڈلز کی جدید ترین سطح کو قائم کرتا ہے، یہ ظاہر کرتے ہوئے کہ کس طرح خصوصی ماڈل آرکیٹیکچرز اور وقف شدہ نیورل ہارڈویئر کے امتزاج سے ونڈوز 11 صارفین کے آلات پر شاندار AI کارکردگی فراہم کی جا سکتی ہے۔

## جامع سیکھنے کے نتائج

اس بنیادی باب کو مکمل کرنے کے بعد قارئین درج ذیل میں مہارت حاصل کریں گے:

1. **آرکیٹیکچرل سمجھ**: مختلف SLM ڈیزائن فلسفوں کی گہری تفہیم اور ان کے تعیناتی منظرناموں کے لیے مضمرات
2. **کارکردگی-مؤثریت کا توازن**: کمپیوٹیشنل حدود اور کارکردگی کی ضروریات کی بنیاد پر مناسب ماڈل آرکیٹیکچرز کا انتخاب کرنے کی اسٹریٹجک فیصلہ سازی کی صلاحیتیں
3. **تعیناتی کی لچک**: ملکیتی اصلاحات (فی)، اوپن سورس رسائی (کیوین)، تحقیق پر مبنی جدت (جیما)، اور انقلابی مؤثریت (بٹ نیٹ) کے درمیان سمجھوتے
4. **مستقبل کے لیے تیار نقطہ نظر**: مؤثر AI آرکیٹیکچر میں ابھرتے ہوئے رجحانات اور اگلی نسل کی تعیناتی کی حکمت عملیوں کے لیے ان کے مضمرات

## عملی نفاذ پر توجہ

باب پورے وقت عملی سمت برقرار رکھتا ہے، جس میں شامل ہیں:

- **مکمل کوڈ مثالیں**: ہر ماڈل فیملی کے لیے پروڈکشن کے لیے تیار نفاذ کی مثالیں، جن میں فائن ٹیوننگ کے طریقے، اصلاحی حکمت عملی، اور تعیناتی کی تشکیل شامل ہیں
- **جامع بینچ مارکنگ**: مختلف ماڈل آرکیٹیکچرز کے درمیان تفصیلی کارکردگی کے موازنات، جن میں مؤثریت کے میٹرکس، صلاحیتوں کے جائزے، اور استعمال کے کیس کی اصلاح شامل ہیں
- **انٹرپرائز سیکیورٹی**: پروڈکشن گریڈ سیکیورٹی نفاذ، مانیٹرنگ کی حکمت عملی، اور قابل اعتماد تعیناتی کے بہترین طریقے
- **فریم ورک انضمام**: مقبول فریم ورکس کے ساتھ انضمام کے لیے عملی رہنمائی، جیسے کہ Hugging Face Transformers، vLLM، ONNX Runtime، اور خصوصی اصلاحی ٹولز

## اسٹریٹجک ٹیکنالوجی روڈ میپ

باب اختتامی تجزیے کے ساتھ ختم ہوتا ہے:

- **آرکیٹیکچرل ارتقاء**: مؤثر ماڈل ڈیزائن اور اصلاح میں ابھرتے ہوئے رجحانات
- **ہارڈویئر انضمام**: خصوصی AI ایکسیلیریٹرز میں پیش رفت اور ان کے تعیناتی کی حکمت عملیوں پر اثرات
- **ایکو سسٹم کی ترقی**: مختلف ماڈل فیملیز کے درمیان معیاری سازی کی کوششیں اور انٹرآپریبلٹی میں بہتری
- **انٹرپرائز اپنانا**: تنظیمی AI تعیناتی کی منصوبہ بندی کے لیے اسٹریٹجک غور و فکر

## حقیقی دنیا کے ایپلیکیشن منظرنامے

ہر سیکشن عملی ایپلیکیشنز کا جامع جائزہ فراہم کرتا ہے:

- **موبائل اور ایج کمپیوٹنگ**: وسائل کی محدود ماحول کے لیے بہتر تعیناتی کی حکمت عملی
- **انٹرپرائز ایپلیکیشنز**: کاروباری ذہانت، آٹومیشن، اور کسٹمر سروس کے لیے قابل پیمائش حل
- **تعلیمی ٹیکنالوجی**: ذاتی سیکھنے اور مواد کی تخلیق کے لیے قابل رسائی AI
- **عالمی تعیناتی**: ملٹی لسانی اور کراس کلچرل AI ایپلیکیشنز

## تکنیکی عمدگی کے معیارات

باب پروڈکشن کے لیے تیار نفاذ پر زور دیتا ہے:

- **اصلاحی مہارت**: جدید کوانٹائزیشن تکنیک، انفیرنس کی اصلاح، اور وسائل کا انتظام
- **کارکردگی کی نگرانی**: جامع میٹرکس جمع کرنا، الرٹ سسٹمز، اور کارکردگی کے تجزیے
- **سیکیورٹی نفاذ**: انٹرپرائز گریڈ سیکیورٹی اقدامات، پرائیویسی کا تحفظ، اور تعمیل کے فریم ورک
- **قابل پیمائش منصوبہ بندی**: بڑھتی ہوئی کمپیوٹیشنل ضروریات کے لیے افقی اور عمودی پیمائش کی حکمت عملی

یہ بنیادی باب جدید SLM تعیناتی کی حکمت عملیوں کے لیے ضروری پیشگی شرط کے طور پر کام کرتا ہے، نظریاتی تفہیم اور عملی صلاحیتوں کو قائم کرتے ہوئے جو کامیاب نفاذ کے لیے ضروری ہیں۔ جامع کوریج اس بات کو یقینی بناتی ہے کہ قارئین معلوماتی آرکیٹیکچرل فیصلے کرنے اور مضبوط، مؤثر AI حل نافذ کرنے کے لیے اچھی طرح سے تیار ہیں جو ان کی مخصوص تنظیمی ضروریات کو پورا کرتے ہیں جبکہ مستقبل کی تکنیکی ترقیات کے لیے تیاری کرتے ہیں۔

باب جدید AI تحقیق اور عملی تعیناتی کی حقیقتوں کے درمیان خلا کو ختم کرتا ہے، یہ زور دیتے ہوئے کہ جدید SLM آرکیٹیکچرز شاندار کارکردگی فراہم کر سکتے ہیں جبکہ آپریشنل مؤثریت، لاگت کی مؤثریت، اور ماحولیاتی پائیداری کو برقرار رکھتے ہیں۔

---

**ڈسکلیمر**:  
یہ دستاویز AI ترجمہ سروس [Co-op Translator](https://github.com/Azure/co-op-translator) کا استعمال کرتے ہوئے ترجمہ کی گئی ہے۔ ہم درستگی کے لیے کوشش کرتے ہیں، لیکن براہ کرم آگاہ رہیں کہ خودکار ترجمے میں غلطیاں یا غیر درستیاں ہو سکتی ہیں۔ اصل دستاویز کو اس کی اصل زبان میں مستند ذریعہ سمجھا جانا چاہیے۔ اہم معلومات کے لیے، پیشہ ور انسانی ترجمہ کی سفارش کی جاتی ہے۔ ہم اس ترجمے کے استعمال سے پیدا ہونے والی کسی بھی غلط فہمی یا غلط تشریح کے ذمہ دار نہیں ہیں۔