# अध्याय ०२: सानो भाषा मोडेलको आधारभूत संरचना

यो व्यापक आधारभूत अध्यायले सानो भाषा मोडेल (SLMs) को सैद्धान्तिक सिद्धान्त, व्यावहारिक कार्यान्वयन रणनीति, र उत्पादन-तय तैनाती समाधानहरूको आवश्यक अन्वेषण प्रदान गर्दछ। अध्यायले आधुनिक प्रभावकारी AI संरचनाहरू र विभिन्न कम्प्युटेशनल वातावरणहरूमा तिनीहरूको रणनीतिक तैनाती बुझ्नका लागि महत्वपूर्ण ज्ञान आधार स्थापना गर्दछ।

## अध्यायको संरचना र प्रगतिशील सिकाइ ढाँचा

### **[सेक्शन १: माइक्रोसफ्ट फाई मोडेल परिवारको आधारभूत जानकारी](./01.PhiFamily.md)**
प्रारम्भिक खण्डले माइक्रोसफ्टको क्रान्तिकारी फाई मोडेल परिवारलाई परिचय गराउँछ, जसले कसरी सानो, प्रभावकारी मोडेलहरूले उल्लेखनीय प्रदर्शन हासिल गर्छन् भने उल्लेखनीय रूपमा कम कम्प्युटेशनल आवश्यकताहरू कायम राख्छन्। यो आधारभूत खण्डले समेट्छ:

- **डिजाइन दर्शनको विकास**: फाई-१ देखि फाई-४ सम्मको माइक्रोसफ्टको फाई परिवारको विकासको व्यापक अन्वेषण, "पाठ्यपुस्तक गुणस्तर" प्रशिक्षण विधि र इन्फरेन्स-टाइम स्केलिङमा जोड
- **प्रभावकारिता-प्रथम संरचना**: प्यारामिटर प्रभावकारिता अनुकूलन, बहु-मोडल एकीकरण क्षमता, र CPU, GPU, र एज उपकरणहरूमा हार्डवेयर-विशिष्ट अनुकूलनहरूको विस्तृत विश्लेषण
- **विशेषीकृत क्षमता**: गणितीय कार्यहरूको लागि फाई-४-मिनी-रिजनिङ, भिजन-भाषा प्रशोधनको लागि फाई-४-मल्टिमोडल, र विन्डोज ११ मा निर्मित तैनातीको लागि फाई-३-सिलिका जस्ता डोमेन-विशिष्ट भेरियन्टहरूको गहन कभरेज

यो खण्डले मोडेलको प्रभावकारिता र क्षमता नवीन प्रशिक्षण विधि र संरचनात्मक अनुकूलनको माध्यमबाट सह-अस्तित्व गर्न सक्ने आधारभूत सिद्धान्त स्थापना गर्दछ।

### **[सेक्शन २: क्वेन परिवारको आधारभूत जानकारी](./02.QwenFamily.md)**
दोस्रो खण्डले अलीबाबाको व्यापक खुला-स्रोत दृष्टिकोणमा ध्यान केन्द्रित गर्दछ, जसले कसरी पारदर्शी, पहुँचयोग्य मोडेलहरूले प्रतिस्पर्धात्मक प्रदर्शन हासिल गर्न सक्छन् भने तैनातीको लचिलोपन कायम राख्छन्। मुख्य ध्यान केन्द्रित क्षेत्रहरू समावेश छन्:

- **खुला स्रोत उत्कृष्टता**: क्वेन १.० देखि क्वेन ३ सम्मको विकासको व्यापक अन्वेषण, ३६ ट्रिलियन टोकनको विशाल-स्तरको प्रशिक्षण र ११९ भाषाहरूमा बहुभाषी क्षमता
- **उन्नत तर्क संरचना**: क्वेन ३ को नवीन "सोच्ने मोड" क्षमता, मिश्रण-ऑफ-एक्सपर्ट्स कार्यान्वयन, र कोडिङ (क्वेन-कोडर) र गणित (क्वेन-म्याथ) का लागि विशेष भेरियन्टहरूको विस्तृत कभरेज
- **तैनातीको स्केलेबल विकल्पहरू**: ०.५B देखि २३५B प्यारामिटरको दायरा, मोबाइल उपकरणहरूदेखि उद्यम क्लस्टरहरूमा तैनाती परिदृश्य सक्षम गर्दै

यो खण्डले खुला-स्रोत पहुँचयोग्यता मार्फत AI प्रविधिको लोकतान्त्रिकरणलाई जोड दिँदै प्रतिस्पर्धात्मक प्रदर्शन विशेषताहरू कायम राख्छ।

### **[सेक्शन ३: जेम्मा परिवारको आधारभूत जानकारी](./03.GemmaFamily.md)**
तेस्रो खण्डले गुगलको व्यापक खुला-स्रोत बहु-मोडल AI दृष्टिकोण अन्वेषण गर्दछ, जसले कसरी अनुसन्धान-चालित विकासले पहुँचयोग्य तर शक्तिशाली AI क्षमता प्रदान गर्न सक्छ। यो खण्ड समेट्छ:

- **अनुसन्धान-चालित नवीनता**: जेम्मा ३ र जेम्मा ३n संरचनाहरूको व्यापक कभरेज, ब्रेकथ्रु पेर-लेयर एम्बेडिङ्स (PLE) प्रविधि र मोबाइल-प्रथम अनुकूलन रणनीतिहरू
- **बहु-मोडल उत्कृष्टता**: भिजन-भाषा एकीकरण, अडियो प्रशोधन क्षमता, र कार्य कलिंग सुविधाहरूको विस्तृत अन्वेषण जसले व्यापक AI अनुभवहरू सक्षम बनाउँछ
- **मोबाइल-प्रथम संरचना**: जेम्मा ३n को क्रान्तिकारी प्रभावकारिता उपलब्धिहरूको गहन विश्लेषण, २B-४B प्यारामिटर प्रदर्शन २-३GB जत्तिको कम मेमोरी फुटप्रिन्टमा प्रदान गर्दै

यो खण्डले कसरी अत्याधुनिक अनुसन्धानलाई व्यावहारिक, पहुँचयोग्य AI समाधानमा अनुवाद गर्न सकिन्छ भन्ने देखाउँछ।

### **[सेक्शन ४: बिटनेट परिवारको आधारभूत जानकारी](./04.BitNETFamily.md)**
चौथो खण्डले माइक्रोसफ्टको क्रान्तिकारी १-बिट क्वान्टाइजेशन दृष्टिकोण प्रस्तुत गर्दछ, जसले अल्ट्रा-प्रभावकारी AI तैनातीको सीमालाई प्रतिनिधित्व गर्दछ। यो उन्नत खण्ड समेट्छ:

- **क्रान्तिकारी क्वान्टाइजेशन**: १.५८-बिट क्वान्टाइजेशनको व्यापक अन्वेषण, टर्नरी वेट्स {-१, ०, +१} प्रयोग गर्दै, १.३७x देखि ६.१७x स्पीडअप र ५५-८२% ऊर्जा कटौती हासिल गर्दै
- **अनुकूलित इन्फरेन्स फ्रेमवर्क**: [https://github.com/microsoft/BitNet](https://github.com/microsoft/BitNet) बाट बिटनेट.cpp कार्यान्वयन, विशेष कर्नेलहरू, र क्रस-प्लेटफर्म अनुकूलनहरूको विस्तृत कभरेज
- **दिगो AI नेतृत्व**: वातावरणीय लाभहरूको गहन विश्लेषण, लोकतान्त्रिक तैनाती क्षमता, र अत्यधिक प्रभावकारिताले सक्षम नयाँ अनुप्रयोग परिदृश्यहरू

यो खण्डले कसरी क्रान्तिकारी क्वान्टाइजेशन प्रविधिहरूले AI प्रभावकारितामा नाटकीय सुधार गर्न सक्छन् भने प्रतिस्पर्धात्मक प्रदर्शन कायम राख्छन् भन्ने देखाउँछ।

### **[सेक्शन ५: माइक्रोसफ्ट मु मोडेलको आधारभूत जानकारी](./05.mumodel.md)**
पाँचौं खण्डले माइक्रोसफ्टको क्रान्तिकारी मु मोडेल अन्वेषण गर्दछ, जुन विशेष रूपमा विन्डोजमा उपकरण-आधारित तैनातीका लागि डिजाइन गरिएको छ। यो विशेष खण्ड समेट्छ:

- **डिभाइस-प्रथम संरचना**: विन्डोज ११ उपकरणहरूमा निर्मित माइक्रोसफ्टको विशेष उपकरण-आधारित मोडेलको व्यापक अन्वेषण
- **प्रणाली एकीकरण**: गहन विन्डोज ११ एकीकरणको विस्तृत विश्लेषण, जसले कसरी AI ले प्रणाली कार्यक्षमता सुधार गर्न सक्छ भन्ने देखाउँछ
- **गोपनीयता-संरक्षण डिजाइन**: अफलाइन अपरेशन, स्थानीय प्रशोधन, र गोपनीयता-प्रथम संरचना जसले प्रयोगकर्ताको डाटा उपकरणमै राख्छ

यो खण्डले कसरी विशेष मोडेलहरूले विन्डोज ११ अपरेटिङ प्रणालीको कार्यक्षमता सुधार गर्न सक्छन् भने गोपनीयता र प्रदर्शन कायम राख्छन् भन्ने देखाउँछ।

### **[सेक्शन ६: फाई-सिलिका आधारभूत जानकारी](./06.phisilica.md)**
अन्तिम खण्डले माइक्रोसफ्टको फाई-सिलिका अन्वेषण गर्दछ, विन्डोज ११ मा निर्मित अल्ट्रा-प्रभावकारी भाषा मोडेल, Copilot+ PCs मा NPU हार्डवेयरको साथ। यो उन्नत खण्ड समेट्छ:

- **असाधारण प्रभावकारिता मेट्रिक्स**: फाई-सिलिका को उल्लेखनीय प्रदर्शन क्षमता को व्यापक विश्लेषण, केवल १.५ वाट पावर खपतमा ६५० टोकन प्रति सेकेन्ड प्रदान गर्दै
- **NPU अनुकूलन**: विन्डोज ११ Copilot+ PCs मा न्युरल प्रोसेसिंग युनिटहरूको लागि डिजाइन गरिएको विशेष संरचनाको विस्तृत अन्वेषण
- **डेभलपर एकीकरण**: विन्डोज एप SDK एकीकरण, प्रम्प्ट इन्जिनियरिङ प्रविधिहरू, र विन्डोज ११ अनुप्रयोगहरूमा फाई-सिलिका कार्यान्वयनका लागि उत्तम अभ्यासहरूको गहन कभरेज

यो खण्डले हार्डवेयर-अनुकूलित उपकरण-आधारित भाषा मोडेलको अत्याधुनिक अवस्था स्थापना गर्दछ, जसले कसरी विशेष मोडेल संरचनाहरू र समर्पित न्युरल हार्डवेयरले विन्डोज ११ उपभोक्ता उपकरणहरूमा असाधारण AI प्रदर्शन प्रदान गर्न सक्छ भन्ने देखाउँछ।

## व्यापक सिकाइ परिणामहरू

यो आधारभूत अध्याय पूरा गरेपछि पाठकहरूले निम्नमा दक्षता हासिल गर्नेछन्:

1. **संरचनात्मक समझ**: विभिन्न SLM डिजाइन दर्शनहरूको गहिरो बुझाइ र तैनाती परिदृश्यहरूको लागि तिनीहरूको प्रभाव
2. **प्रदर्शन-प्रभावकारिता सन्तुलन**: कम्प्युटेशनल सीमाहरू र प्रदर्शन आवश्यकताहरूको आधारमा उपयुक्त मोडेल संरचना चयन गर्ने रणनीतिक निर्णय क्षमता
3. **तैनाती लचिलोपन**: मालिकाना अनुकूलन (फाई), खुला-स्रोत पहुँचयोग्यता (क्वेन), अनुसन्धान-चालित नवीनता (जेम्मा), र क्रान्तिकारी प्रभावकारिता (बिटनेट) बीचको व्यापार-अफहरूको समझ
4. **भविष्य-तय दृष्टिकोण**: प्रभावकारी AI संरचनामा उदीयमान प्रवृत्तिहरू र तिनीहरूको अगामी तैनाती रणनीतिहरूमा प्रभावको बारेमा जानकारी

## व्यावहारिक कार्यान्वयनमा ध्यान

अध्यायले व्यावहारिक अभिमुखता कायम राख्छ, जसमा समावेश छन्:

- **पूर्ण कोड उदाहरणहरू**: प्रत्येक मोडेल परिवारको लागि उत्पादन-तय कार्यान्वयन उदाहरणहरू, फाइन-ट्युनिङ प्रक्रिया, अनुकूलन रणनीतिहरू, र तैनाती कन्फिगरेसनहरू
- **व्यापक बेंचमार्किङ**: विभिन्न मोडेल संरचनाहरूको प्रदर्शन तुलना, प्रभावकारिता मेट्रिक्स, क्षमता मूल्यांकन, र उपयोग केस अनुकूलन
- **उद्यम सुरक्षा**: उत्पादन-ग्रेड सुरक्षा कार्यान्वयन, निगरानी रणनीतिहरू, र विश्वसनीय तैनातीका लागि उत्तम अभ्यासहरू
- **फ्रेमवर्क एकीकरण**: लोकप्रिय फ्रेमवर्कहरू जस्तै Hugging Face Transformers, vLLM, ONNX Runtime, र विशेष अनुकूलन उपकरणहरूसँग एकीकरणका लागि व्यावहारिक मार्गदर्शन

## रणनीतिक प्रविधि रोडम्याप

अध्यायले निम्नको साथ अगाडि हेर्ने विश्लेषण समाप्त गर्दछ:

- **संरचनात्मक विकास**: प्रभावकारी मोडेल डिजाइन र अनुकूलनमा उदीयमान प्रवृत्तिहरू
- **हार्डवेयर एकीकरण**: विशेष AI एक्सेलेरेटरहरूमा प्रगति र तिनीहरूको तैनाती रणनीतिहरूमा प्रभाव
- **इकोसिस्टम विकास**: विभिन्न मोडेल परिवारहरूमा मानकीकरण प्रयासहरू र अन्तरसञ्चालन सुधार
- **उद्यम अपनाउने**: संगठनात्मक AI तैनाती योजना बनाउने रणनीतिक विचारहरू

## वास्तविक-विश्व अनुप्रयोग परिदृश्यहरू

प्रत्येक खण्डले व्यावहारिक अनुप्रयोगहरूको व्यापक कभरेज प्रदान गर्दछ:

- **मोबाइल र एज कम्प्युटिङ**: स्रोत-सीमित वातावरणहरूको लागि अनुकूलित तैनाती रणनीतिहरू
- **उद्यम अनुप्रयोगहरू**: व्यापार बुद्धिमत्ता, स्वचालन, र ग्राहक सेवाको लागि स्केलेबल समाधानहरू
- **शैक्षिक प्रविधि**: व्यक्तिगत शिक्षण र सामग्री निर्माणका लागि पहुँचयोग्य AI
- **वैश्विक तैनाती**: बहुभाषी र क्रस-सांस्कृतिक AI अनुप्रयोगहरू

## प्राविधिक उत्कृष्टता मापदण्ड

अध्यायले उत्पादन-तय कार्यान्वयनलाई जोड दिन्छ:

- **अनुकूलन दक्षता**: उन्नत क्वान्टाइजेशन प्रविधिहरू, इन्फरेन्स अनुकूलन, र स्रोत व्यवस्थापन
- **प्रदर्शन निगरानी**: व्यापक मेट्रिक्स सङ्कलन, अलर्टिङ प्रणालीहरू, र प्रदर्शन विश्लेषण
- **सुरक्षा कार्यान्वयन**: उद्यम-ग्रेड सुरक्षा उपायहरू, गोपनीयता संरक्षण, र अनुपालन फ्रेमवर्कहरू
- **स्केलेबिलिटी योजना**: बढ्दो कम्प्युटेशनल मागहरूको लागि क्षैतिज र ठाडो स्केलिङ रणनीतिहरू

यो आधारभूत अध्यायले उन्नत SLM तैनाती रणनीतिहरूका लागि आवश्यक सैद्धान्तिक समझ र व्यावहारिक क्षमता स्थापना गर्दछ। व्यापक कभरेजले सुनिश्चित गर्दछ कि पाठकहरू सूचित संरचनात्मक निर्णय लिन र आफ्नो विशिष्ट संगठनात्मक आवश्यकताहरू पूरा गर्ने प्रभावकारी AI समाधानहरू कार्यान्वयन गर्न सक्षम छन् भने भविष्यका प्रविधि विकासहरूको लागि तयार छन्।

अध्यायले अत्याधुनिक AI अनुसन्धान र व्यावहारिक तैनाती वास्तविकताहरू बीचको खाडललाई पुल गर्दछ, आधुनिक SLM संरचनाहरूले अपरेशनल प्रभावकारिता, लागत-प्रभावकारिता, र वातावरणीय स्थिरता कायम राख्दै असाधारण प्रदर्शन प्रदान गर्न सक्छन् भन्ने जोड दिँदै।

---

**अस्वीकरण**:  
यो दस्तावेज़ AI अनुवाद सेवा [Co-op Translator](https://github.com/Azure/co-op-translator) प्रयोग गरेर अनुवाद गरिएको छ। हामी शुद्धताको लागि प्रयास गर्छौं, तर कृपया ध्यान दिनुहोस् कि स्वचालित अनुवादमा त्रुटिहरू वा अशुद्धताहरू हुन सक्छ। यसको मूल भाषा मा रहेको मूल दस्तावेज़लाई आधिकारिक स्रोत मानिनुपर्छ। महत्वपूर्ण जानकारीको लागि, व्यावसायिक मानव अनुवाद सिफारिस गरिन्छ। यस अनुवादको प्रयोगबाट उत्पन्न हुने कुनै पनि गलतफहमी वा गलत व्याख्याको लागि हामी जिम्मेवार हुने छैनौं।