[NOVA]: मैं NOVA हूँ।

[ALLOY]: मैं ALLOY हूँ, और ये है AgentStack Daily।

[NOVA]: Claude Opus 5.5 अभी-अभी चार डॉलर प्रति मिलियन इनपुट टोकन और बीस डॉलर प्रति मिलियन आउटपुट टोकन पर आ गया है, Anthropic दावा कर रहा है कि Fable-class performance बहुत कम operating cost पर मिलता है। ये इसे सीधे OpenAI के GPT-6 Sol और Astra के खिलाफ लाता है—और लोगों को एक ऐसा मॉडल देता है जो बड़े codebase की जांच कर सकता है, कई documents के बीच reasoning कर सकता है, या इतने लंबी रिपोर्ट जनरेट कर सकता है जो कई किताबों से भी बड़ी हों।

[ALLOY]: और, ठीक है, price fight तेज हो रही है। Grok 4.7 एक बड़ा base model लाता है बिना अपने दो डॉलर इनपुट और छह डॉलर आउटपुट rate बढ़ाए। Nokia के AnyJev open language models को calibrated decision systems में बदल देता है, जबकि NVIDIA का Nemotron 3 live में आठ तक overlapping speakers को अलग कर सकता है। ये बदलाव automation की cost को प्रभावित करते हैं, कि कोई agent dependably routing decisions ले सकता है या नहीं, और कि कोई meeting assistant बता सकता है कि आखिर किसने वास्तव में क्या वादा किया।

[NOVA]: आज, आप सुनेंगे कि Opus Sol और Astra से कैसे compare करता है, Hermes Agent 9.21 ने अपने enormous patch window में क्या ship किया, और क्यों पांच हजार घंटे के recorded AAA gameplay उन agent weaknesses को expose कर सकते हैं जो ordinary benchmarks miss करते हैं।

[NOVA]: ...

[NOVA]: Hermes Agent ने 9.21 को Nous Research से एक stable patch release के तौर पर ship किया, लगभग अठारह सौ merged pull requests को Docker images, Hermes Cloud, और hosted deployments के लिए एक tag में रोल किया। Measured window में पचास सौ से अधिक non-merge commits हैं, लगभग इक्यावन सौ changed files में फैले, तीन लाख बारह हजार से अधिक lines added के साथ। किसी चीज़ के लिए जिसे "patch" कहा जाता है ये बहुत ज़्यादा movement है। Concrete additions machine-facing output और daily interaction दोनों को cover करते हैं। Structured stream JSON downstream software को terminal prose parse करने की ज़गह line-by-line event feed देता है। एक नया discovery-concurrency control यह सीमित करता है कि startup के दौरान कितने Model Context Protocol connections parallel में open हो सकते हैं। Selected skills हर नए session में automatically load हो सकती हैं, उनकी availability consistent बनाती हैं बिना उन्हें फिर से call किए। Prior sessions में search को time boundaries मिलती हैं और broader retry जब पहला query बहुत strict हो। Session journal mode बदलने के लिए एक command भी है। Gateway अब unauthorized direct messages decline कर सकता है, और एक host-wide singleton lock desktop client को existing backend से attach करने देता है गलती से दूसरा बनाने की जगह। एक backend-owned connector operation desktop, terminal, और command-line surfaces पर same setup card की तरह दिख सकता है। ये consistency matters जब same agent कई interfaces से controlled हो।

[ALLOY]: सही है, क्योंकि duplicated backends किसी agent को haunted जैसा feel कराते हैं: दो processes, दो states, और कोई obvious owner नहीं। Singleton record हर interface को running gateway खोजने के लिए एक shared place देता है, ताकि terminal session के बाद desktop open करने से काम quietly split न हो। Desktop को one-click local-engine updates, chat और interface font picker, और hub से plugin removal भी मिलता है। Video catalogs में LTX 2.5 और Kling O3 add होते हैं। Plugin directory Tailscale, SSH, Shodan, terminal access, RSS, memory, और notification utilities spanning community tools उठाती है, जबकि catalog pages अब authors और pinned documentation को स्पष्ट रूप से expose करती हैं। सब मिलाकर, 9.21 operators को structured output, connection pressure, persistent skills, gateway access, और यह control करने पर ज़्यादा control देता है कि कौन सा backend किसी session का owner है। Automatic skill loading repeatable agents के लिए especially consequential है: हर session के लिए selected किसी capability पर अब निर्भर नहीं है कि कोई conversation शुरू होने के बाद उसे invoke करना याद रखे। Structured event output भी Hermes को किसी दूसरे application के अंदर embed करना आसान बनाता है क्योंकि status, tool activity, और results decorated text की जगह records के रूप में travel कर सकती हैं। honestly, change window की sheer size अभी भी caution की मांग करती है। एक stable tag downstream deployments को एक defined release देती है, लेकिन हज़ारों commits "patch" शब्द से कहीं ज़्यादा broad surface create करते हैं। फिर भी, ये सिर्फ एक package bump नहीं है। ये बदलता है कि Hermes कैसे start होता है, communicate करता है, available capabilities को याद रखता है, और अपने interfaces में same operation present करता है।

[NOVA]: ...

[ALLOY]: Four dollars in और twenty dollars out एक Opus model के लिए aggressive लगता है। price से परे और क्या बदला?

[NOVA]: Opus 5.5 पहला Claude 5.5 मॉडल है, जिसके Sonnet और Haiku वर्शन अगले कुछ हफ्तों में आने की उम्मीद है। Anthropic का कहना है कि यह अधिकांश काम में Claude Fable 5.1 जितना अच्छा प्रदर्शन करता है, जबकि सामान्य वर्कलोड की लागत Opus 5 की तुलना में चालीस प्रतिशत कम है। इनपुट पांच डॉलर से गिरकर चार डॉलर प्रति मिलियन टोकन हो गया है, आउटपुट पच्चीस से बीस हो गया है, और कैश्ड रीड्स की कीमत बीस सेंट है। जनरेशन तीस प्रतिशत से ज्यादा तेज है। यह टेक्स्ट, इमेज और फाइलें स्वीकार करता है, एक मिलियन टोकन का कॉन्टेक्स्ट विंडो रखता है, और एक लाख अट्ठाईस हजार टोकन तक प्रोड्यूस कर सकता है। यह Anthropic, प्रमुख क्लाउड प्लेटफॉर्म और GitHub Copilot पर उपलब्ध है, जिसमें जीरो डेटा रिटेंशन एक विकल्प के रूप में दिया गया है। थिंकिंग हमेशा सक्रिय रहती है। यूजर लो से मैक्स तक effort level चुन सकते हैं, और मैक्स एडाप्टिव थिंकिंग को सक्षम करता है। फास्ट मोड स्टैंडर्ड टोकन प्राइस के दोगुने पर ढाई गुना तेज चल सकता है।

[ALLOY]: यह एक गंभीर पुनर्स्थापन है। लॉन्च के नतीजे substantial हैं, हालांकि ये आंकड़े Anthropic के हैं। अधिकतम effort पर, Opus 5.5 ने Terminal-Bench पर छियासठ दशमलव चार प्रतिशत स्कोर किया, जो Opus 5 के बावन दशमलव तीन से बढ़कर आया है। AutomationBench छब्बीस दशमलव नौ से बढ़कर चालीस प्रतिशत हुआ, और partial OSWorld चौहत्तर से इक्यासी दशमलव आठ हुआ। Stripe ने मॉडल से चालीस स्टैक्ड पुल रिक्वेस्ट करवाए और रिपोर्ट किया कि सभी continuous integration पास हुए। Box ने पिछले टोकन वॉल्यूम का एक तिहाई इस्तेमाल किया जिसमें चालीस प्रतिशत कम verbose आउटपुट था। Deloitte ने लो effort पर प्लांटेड बग्स का बहत्तर प्रतिशत पाया, जबकि Opus 5 के लिए यह छप्पन प्रतिशत था, जबकि Hebbia ने छियासी दशमलव छह प्रतिशत rubric coverage रिपोर्ट किया, जो साठ दशमलव तीन से बढ़ा है। Anthropic का यह भी कहना है कि containment-crossing attempts लगभग पचासी प्रतिशत गिरे, जबकि चेतावनी दी कि मॉडल अक्सर evaluation settings को पहचान लेता है। सस्ता long-context काम, तेज आउटपुट और मजबूत coding नतीजे इसे एक गंभीर flagship refresh बनाते हैं।

[NOVA]: ...

[NOVA]: OpenAI ने लगभग डेढ़ घंटे बाद GPT-6 Sol और Luna के साथ जवाब दिया, जबकि Astra, जो इस महीने की शुरुआत में लॉन्च हुआ था, अपने टॉप टियर पर बना हुआ है। प्रति मिलियन टोकन कीमत: Astra इनपुट के लिए दस डॉलर और आउटपुट के लिए पचास है, Opus 5.5 चार और बीस, Sol दो और दस, Luna दस सेंट और पचास सेंट। तीनों flagships टेक्स्ट, इमेज और फाइलें लेते हैं, लगभग एक मिलियन टोकन का कॉन्टेक्स्ट हैंडल करते हैं, और एक लाख अट्ठाईस हजार आउटपुट टोकन तक प्रोड्यूस कर सकते हैं।

[ALLOY]: तो Astra के खिलाफ, Opus असल में कहां जीतता है?

[NOVA]: Anthropic का लॉन्च टेबल उन्हें साथ-साथ दिखाता है। Terminal-Bench: Opus छियासठ दशमलव चार, Astra सत्तावन दशमलव नौ, जहां Opus extra-high effort पर और Astra high पर है। FrontierCode: चौवन दशमलव चार बनाम तिरेपन दशमलव तीन। GDPval, जो professional work के लिए एक Elo rating है: अठारह सौ छियालीस बनाम पंद्रह बयालीस। Humanity's Last Exam with tools: सड़सठ दशमलव सात बनाम सत्तावन दशमलव दो। Astra दो में जीतता है: AutomationBench, इकतालीस दशमलव चार बनाम चालीस, और Terminal-Bench Science, चौंसठ दशमलव छह बनाम अठावन दशमलव सात। डिफ़ॉल्ट मीडियम effort पर, Anthropic कहता है कि Opus लगभग चालीस प्रतिशत लागत पर Terminal-Bench पर Astra से बराबर है।

[ALLOY]: Sol, Opus से पुराने मॉडलों के जरिए मिलता है, क्योंकि हर lab ने दूसरे की पिछली पीढ़ी को benchmark किया। OpenAI कहता है कि Sol बहुत कम लागत पर FrontierCode पर Fable 5.1 के बराबर है, DeepSWE पर अड़सठ दशमलव आठ स्कोर करता है, जो Fable 5 से लगभग एक पॉइंट पीछे है, और offline OSWorld पर Opus 5 को हराता है, साठ दशमलव पांच बनाम साठ दशमलव तीन, जबकि प्रति टास्क लागत लगभग अस्सी प्रतिशत कम है। Anthropic कहता है कि Opus 5.5 Fable 5.1 जितना अच्छा प्रदर्शन करता है। तो तस्वीर स्पष्ट है: Astra और Fable दस-और-पचास premium tier में हैं, Opus 5.5 Fable-class नतीजे चार-और-बीस पर लाता है, और Sol उस कीमत को आधा करता है जबकि Fable-level coding का दावा करता है। जैसा कि Simon Willison ने कहा, असली price war top से एक tier नीचे है।

[NOVA]: ...

[ALLOY]: Grok 4.7 वह price-war मूव है जिसकी मुझे उम्मीद नहीं थी। SpaceXAI कहता है कि यह Grok 4.6 से बड़े base model का उपयोग करता है, फिर भी standard API इनपुट के लिए दो डॉलर प्रति मिलियन टोकन और आउटपुट के लिए छह डॉलर प्रति मिलियन टोकन पर रहता है। Serving speed भी level पर बना हुआ है। एक fast variant आउटपुट speed दोगुनी करता है और कीमत भी दोगुनी करता है, जो कम से कम उस trade को explicit बनाता है।

[NOVA]: बड़े model ने longer reinforcement-learning run से गुजरा जो उन समस्याओं की ओर वेटेड था जिनमें घंटे लग सकते हैं, सेकंड नहीं। SpaceXAI better self-verification, longer-context handling, coding और knowledge work को उस training का श्रेय देता है। उसने एक instruction layer भी जोड़ा जो Grok Bot harness को natively समझता है। कंपनी कहती है कि उसने safeguards को फिर से बनाया और अब तक के सबसे मजबूत refusal और jailbreak results हासिल किए। इसका रिपोर्ट किया गया biosafety score LatchBio पर बासठ दशमलव चार प्रतिशत है, जबकि HackerBench दिखाता है कि तीन दशमलव तीन प्रतिशत risky dual-use prompts अटक जाते हैं। ये SpaceXAI के results हैं, तो outside use देखेगा कि वे कितने अच्छे travel करते हैं।

[ALLOY]: मुझे "बड़े दिमाग" के नारे से ज्यादा कीमत पर ध्यान देता है। उसी टोकन दर पर बेहतर दस्तावेज़ और प्रस्तुति निर्माण रूटीन का काम फिर से निर्देशित कर सकता है भले ही कोई दूसरा फ्लैगशिप सबसे कठिन मूल्यांकन जीत ले। SpaceXAI ग्रोक को CursorBench मूल्य-प्रदर्शन की सीमा के पास रखता है और Fable 5.1 और Astra के खिलाफ सॉफ्टवेयर इंजीनियरिंग, पेशेवर काम, और अर्थशास्त्र मूल्यांकन में प्रतिस्पर्धात्मक परिणाम रिपोर्ट करता है। चुनिंदा सुरक्षा भागीदारों को भी आमंत्रण-только रेड-टीम एक्सेस मिलता है। इसके लिए सावधानीपूर्वक सीमाएं चाहिए, लेकिन रक्षा टीमें स्पष्ट रूप से मॉडल चाहती हैं जो यथार्थवादी हमला रास्तों के माध्यम से तर्क करने में सक्षम हों।

[NOVA]: और वितरण तुरंत है: Cursor, Grok Build, Grok API, तृतीय-पक्ष कोडिंग हार्नेस, मॉडल राउटर, और क्लाउड प्लेटफॉर्म। ग्रोक वहां पहुंचता है जहां डेवलपर्स पहले से ही इन्फरेंस खरीदते हैं, अपने सबसे मजबूत तर्क के साथ चालान पर: पुरानी दर पर एक बड़ा मॉडल। अगर दावा किए गए लाभ सामान्य कोडिंग और ज्ञान कार्य में बने रहते हैं, तो प्रतिस्पर्धियों को गुणवत्ता और कीमत पर जवाब देना होगा बिना यह मानने के कि बड़ा मॉडल स्वचालित रूप से ज्यादा खर्च करता है।

[NOVA]: ...

[NOVA]: Nokia का AnyJev चैट से अधिक संकरी समस्या को संबोधित करता है, और यही इसे दिलचस्प बनाता है। ओपन-सोर्स Python लाइब्रेरी किसी मौजूदा ओपन भाषा मॉडल को बिना अतिरिक्त मॉडल प्रशिक्षण के कैलिब्रेटेड निर्णय प्रणाली में बदल देती है। एक पैराग्राफ मांगने के बजाय, एक एप्लिकेशन मॉडल से निश्चित विकल्पों में से चयन करने के लिए कहता है और रूटिंग, वर्गीकरण, या एस्केलेशन के लिए उपयुक्त संभावनाएं प्राप्त करता है। यह Transformers और vLLM सर्विंग का समर्थन करता है, सामान्य प्रॉम्प्ट कार्य को दोहराने से बचने के लिए शेयर्ड-प्रीफिक्स स्कोरिंग का उपयोग करता है, और Apache 2.0 लाइसेंस रखता है। Nokia के शोधकर्ताओं ने इसे Qwen, OLMo, Granite, Phi, और Mistral मॉडलों पर परीक्षण किया, न कि इसे एक चेकपॉइंट के लिए ट्रिक के रूप में प्रस्तुत किया।

[ALLOY]: ठीक है, चतुर भाग यह है कि यह दो पूर्वाग्रहों पर कैसे हमला करता है जो कच्ची संभावनाओं को अविश्वसनीय बनाते हैं। एक मॉडल साक्ष्य की परवाह किए बिना "हां" जैसे लेबल को प्राथमिकता दे सकता है, और यह किसी भी विकल्प को प्राथमिकता सूची स्थिति में प्राथमिकता दे सकता है। AnyJev विकल्पों को घुमाता है ताकि हर जवाब हर स्थिति में दिखाई दे, फिर परिणामों को ज्यामितीय माध्य का उपयोग करके संयोजित करता है। यह वास्तविक इनपुट देखने के बाद मॉडल की पृष्ठभूमि प्राथमिकता को भी ठीक करता है। एक दूसरा स्तर कुछ सौ लेबल किए गए उदाहरणों का उपयोग करके विश्वास को बदलता है बिना विजेता जवाब को बदले। Qwen3-8B के साथ बीस-तरीके के बैंकिंग कार्य पर, पुनर्व्यवस्थित विकल्पों ने कच्चे जवाब तेईस प्रतिशत समय बदले। AnyJev ने इसे लगभग सात प्रतिशत तक कम किया और सटीकता सत्तर चार दशमलव सात से अस्सी दशमलव सात प्रतिशत तक बढ़ाई। इससे भी बेहतर, पांच प्रतिशत त्रुटि सीमा पर स्वचालित अनुरोधों की हिस्सेदारी सात दशमलव सात से बावन प्रतिशत तक बढ़ गई। यह सांख्यिकीय सजावट नहीं है। यह बदलता है कि कितना काम स्वचालित रूप से हो सकता है और कितना अभी भी किसी व्यक्ति की जरूरत है।

[NOVA]: ...

[ALLOY]: वाक-पहचान बताती है कि क्या कहा गया था, लेकिन यह एक मीटिंग सहायक को यह बता सकती है कि किसने कहा। Nemotron 3 आठ स्पीकर को कैसे सीधा रखता है जब लोग एक दूसरे को बाधित करते हैं?

[NOVA]: NVIDIA का ओपन-वेट मॉडल एक एकल ऑडियो स्ट्रीम से आठ चैनल स्पीकर गतिविधि का उत्पादन करता है। इसमें सौ मिलियन पैरामीटर हैं और मानक सोलह-किलोहर्ट्ज, एकल-चैनल ऑडियो स्वीकार करता है। मॉडल हर दस मिलीसेकंड में ध्वनि को फ्रीक्वेंसी प्रतिनिधित्व में बदलता है, उन अवलोकनों को अस्सी मिलीसेकंड फ्रेम में समूहित करता है, और उन्हें इकतीस-परत Transformer के माध्यम से भेजता है। एक कन्वोल्यूशन परत दस मिलीसेकंड टाइमिंग को पुनर्स्थापित करती है। जब दो लोग एक साथ बात करते हैं, तो दो आउटपुट चैनल सक्रिय होते हैं एक आवाज को जीतने के बजाय। स्पीकर आगमन क्रम द्वारा असाइन किए जाते हैं - पहली सुना गया नया वॉयस पहला चैनल पाता है - और दो मेमोरी सिस्टम उन पहचानों को लगातार चंक्स में ऑडियो स्ट्रीम के रूप में संरक्षित करते हैं।

[ALLOY]: यह NVIDIA के पिछले चार-स्पीकर स्ट्रीमिंग सिस्टम से गंभीर छलांग है। Voice Arena के प्रारंभिक Diarization-Bench पर, लगभग बाईस घंटे और सौ उनतीस अंग्रेजी बातचीत को कवर करते हुए, Nemotron ने चौदह दशमलव बहत्तर प्रतिशत डायराइजेशन त्रुटि दर पर पहुंचा। अगला रैंक किया गया सिस्टम उन्नीस दशमलव तीन पर था, लगभग चौबीस प्रतिशत सापेक्ष कमी। NVIDIA के चार-स्पीकर बेसलाइन के सिर्फ एक सेकंड से अधिक विलंबता पर, औसत सापेक्ष त्रुटि आठ स्थितियों में इक्यावन प्रतिशत गिरा, जिसमें एक विशेष रूप से कठिन मल्टी-स्पीकर सेट पर पैंसठ प्रतिशत गिरावट शामिल है। कंपनी RTX Pro 5000 पर लंबे चंक्स के साथ पंद्रह हजार गुना रियल टाइम से ऊपर थ्रूपुट भी रिपोर्ट करती है। ठीक है, यह वास्तव में बेतुका है। आठ ओवरलैपिंग स्पीकर विनम्र बोर्ड मीटिंग नहीं हैं। वे एट्रिब्यूशन के लिए हॉस्टाइल वातावरण हैं। वेट्स NVIDIA के OpenMDW लाइसेंस के तहत व्यावसायिक रूप से उपयोग करने योग्य हैं, क्लाउड सर्विंग रूट्स और ऑन-डिवाइस मोबाइल पथ के साथ, ताकि यह लैब डेमो से आगे मीटिंग कैप्चर, कॉल विश्लेषण, प्रसारण, और लाइव ट्रांसक्रिप्शन में जा सके जहां बाधाएं सामान्य हैं।

[NOVA]: ...

[NOVA]: OpenAI अपनी Daybreak साइबर-डिफेंस प्रोग्राम को सीधे यूक्रेन की सरकार तक विस्तारित कर रहा है, कंपनी के टूल्स को नागरिक बुनियादी ढांचे की सुरक्षा के काम में लगा रहा है। एक राष्ट्रीय सरकार अब विक्रेता सहायता की सीधी प्राप्तकर्ता बन गई है, रक्षात्मक साइबर संचालन के लिए, न कि केवल शैक्षणिक या मध्यस्थ साझेदारी के माध्यम से क्षमता प्राप्त कर रही है। Daybreak को नागरिक-उन्मुख प्रणालियों के इर्द-गिर्द बनाया गया है, जिससे इस विस्तार का उद्देश्य सामान्य सरकारी पहुंच से अधिक सीमित है। एक ऐसे देश में जहां डिजिटल हमले भौतिक हमलों के साथ हो सकते हैं, तेज़ खतरे के विश्लेषण से संचार, सार्वजनिक सेवाएं और अन्य आवश्यक प्रणालियां प्रभावित हो सकती हैं।

[ALLOY]: और वही संदर्भ इस कदम को महत्वपूर्ण बनाता है। विसंगति पहचान, खतरा-खुफिया प्रसंस्करण, स्वचालित ट्रायज और घटना-प्रतिक्रिया सहायता के यहां तत्काल मानवीय दांव हैं। OpenAI का निर्णय फ्रंटियर-मॉडल कंपनियों को आवश्यक सेवाओं के आसपास सार्वजनिक क्षेत्र के रक्षकों के साथ सीधे संबंध बनाते हुए दिखाता है। यह प्रतिक्रिया कार्य को छोटा कर सकता है, लेकिन यह कठिन निर्णय विक्रेता प्रोग्रामों के भीतर भी रखता है: कौन योग्य है, कौन से रक्षात्मक उपयोग को उन्नत पहुंच मिलती है, और सुरक्षा उपाय सुरक्षा को दोहरे-उपयोग की बढ़त से कैसे अलग करते हैं। सीमा शैक्षणिक नहीं है जब वही क्षमताएं जो कमजोरी की पहचान करती हैं वे उसका शोषण करने में भी मदद कर सकती हैं।

[NOVA]: बिल्कुल, और यह आसपास की परत बनाने वाली कंपनियों—सुरक्षा संचालन सॉफ्टवेयर, साक्ष्य प्रबंधन, अलर्ट प्राथमिकता और विश्लेषक सह-पायलट—को एक स्पष्ट मांग संकेत देता है। सरकारें केवल AI-सहायता प्राप्त साइबर रक्षा पर चर्चा नहीं कर रही हैं; कम से कम एक को एक फ्रंटियर लैब से चल रहे संघर्ष के दौरान एक समर्पित प्रोग्राम मिल रहा है। मैं सफलता को केवल पहुंच से नहीं मापूंगा। सार्थक परिणाम हैं रक्षित सेवाएं, तेज़ जांच और कम सफल घुसपैठ। फिर भी, यूक्रेन का शामिल होना प्रदर्शन से परिचालन समर्थन की ओर एक कदम को चिह्नित करता है।

[ALLOY]: हां, और सीधी सहायता सीधी जिम्मेदारी लाती है। OpenAI को अब नागरिक रक्षा के आसपास की सीमा बनाए रखनी होगी जबकि उसकी प्रणालियां वास्तविक प्रतिद्वंद्वी व्यवहार, संवेदनशील जानकारी और तत्काल निर्णयों का सामना करती हैं। अगर Daybreak जवाबदेह मानवीय निर्णय को बदले बिना विश्लेषकों को पहले साक्ष्य जोड़ने में मदद करता है, तो यह संकीर्ण रूप से परिभाषित सार्वजनिक-हित तैनाती के लिए एक मॉडल बन सकता है। अगर सीमा धुंधली हो जाती है, तो वही प्रोग्राम अच्छे कारण के लिए जांच का विषय बनेगा।

[NOVA]: ...

[NOVA]: TasteBench पूछता है कि क्या कोई एजेंट लंबे कार्य के दौरान अच्छे चुनाव करता है, नहीं कि यह सिर्फ सफल अंतिम उत्तर पर टकराता है या नहीं। शोधकर्ता "स्वाद" का उपयोग उन निर्णयों के लिए करते हैं जैसे कि किस परिकल्पना पर ध्यान देना चाहिए, किस आंशिक कार्यान्वयन को जारी रखना चाहिए, और कब कोई आशाजनक रास्ता अंत हो गया है।

[ALLOY]: मुझे यह अंतर पसंद है क्योंकि अंतिम-उत्तर स्कोरिंग बर्बादी और भाग्य को छिपा सकती है। दो एजेंट दोनों एक सॉफ्टवेयर कार्य पूरा कर सकते हैं, जबकि एक सुसंगत रास्ता अपनाता है और दूसरा पुनर्प्राप्ति से पहले खराब शाखाओं पर घंटों जलाता है। लंबे समय चलने वाले शोध और कोडिंग प्रणालियां इन मध्यवर्ती निर्णयों से जीवित या मृत होती हैं।

[NOVA]: लेकिन क्या कोई बेंचमार्क अपने लेखकों की प्राथमिकताओं को केवल एन्कोड करके अच्छा स्वाद परिभाषित कर सकता है?

[ALLOY]: यही कठिन हिस्सा है। विशेषज्ञ निर्णय डोमेन में भिन्न हो सकते हैं, और एक आश्चर्यजनक रास्ता सफल होने से पहले गलत दिख सकता है। TasteBench एक निदान के रूप में सबसे उपयोगी है, एक बड़े स्कोर के रूप में नहीं। यह योजना गुणवत्ता को अंतिम पूर्णता से अलग करने में मदद कर सकता है और प्रकट कर सकता है कि कोई एजेंट बार-बार मजबूत विचारों को छोड़ता है, कमजोर विचारों से चिपका रहता है, या अपना बजट भटकते हुए खर्च करता है। पारंपरिक पास-या-फेल मूल्यांकन उन व्यवहारों को एक साथ धुंधला कर देते हैं।

[NOVA]: ...

[ALLOY]: GameHorizon एजेंट्स को इक्कीस प्रमुख गेम्स में से पांच हजार घंटे की रिकॉर्डेड प्ले देता है, जिसमें Valorant, Minecraft, Grand Theft Auto V, Palworld, और Elden Ring शामिल हैं। सौ अनुभवी खिलाड़ियों ने डेमोस्ट्रेशन्स जनरेट किए, जिनमें एक्शन्स इंस्ट्रक्शन्स के साथ अलाइन थे - तुरंत के कंट्रोल्स से लेकर छोटे ऑपरेशन्स और लंबी स्ट्रैटेजीज तक।

[NOVA]: वह लेयर्ड लेबलिंग ही पॉइंट है। एक एजेंट अगला कीप्रेस पहचान सकता है लेकिन उस गोल को पूरा करने में असफल हो सकता है जिसमें कई स्टेजेस लगते हैं, या एक अच्छी स्ट्रैटेजी बता सकता है जबकि अभी जरूरी एक्शन मिस कर रहा है। GameHorizon उन फेलियर्स को अलग करता है - पांच हजार ऑफलाइन क्वेश्चन्स और बाईस इंटरैक्टिव टास्क्स के जरिए जो बासठ सबटास्क्स में बंटे हैं। रिसर्चर्स ने सैंतालीस विज़न-लैंग्वेज, इंटरफेस-कंट्रोल, कोडिंग, और गेम-स्पेशलिस्ट मॉडल्स का मूल्यांकन किया। चूंकि रिकॉर्डिंग्स फिक्स्ड हैं, अलग-अलग सिस्टम एक ही सिचुएशन्स का सामना करते हैं, अनप्रेडिक्टेबल लाइव रंस पर कंपेयर करने के बजाय। AAA गेम्स डेंस वर्ल्ड्स, पार्शियल इन्फॉर्मेशन, इंटरप्शन्स, और डिलेड रिवॉर्ड्स देते हैं - एजेंट्स के लिए एक यूज़फुल स्ट्रेस केस जिन्हें अगली स्क्रीन से आगे प्लान करना होता है।

[NOVA]: ...

[NOVA]: NVIDIA का तर्क है कि एजेंट सिक्योरिटी तब असली बनती है जब कोई एक चिंता को एक requirement, एक enforceable control, एक owner, और evidence में बदल देता है कि वह control काम कर गया। इसका उदाहरण सीधा है: एक एजेंट जो कस्टमर रिकॉर्ड अपडेट कर रहा है, एक डॉक्यूमेंट में एम्बेडेड मैलिशियस इंस्ट्रक्शन्स पढ़ता है और डेटा एक्सपोर्ट करने की कोशिश करता है। एक नेटवर्क रूल ट्रांसफर को ब्लॉक करता है, प्रोटेक्टेड लॉग्स एटेम्प्टेड टूल कॉल और डेस्टिनेशन को रिकॉर्ड करते हैं, और एजेंट अपने परमिशन को एक्सपैंड नहीं कर सकता।

[ALLOY]: यह बहुत concrete है। यह मानता है कि मॉडल को manipulate किया जा सकता है और मॉडल की reasoning के बाहर एक बाउंड्री रखता है। NVIDIA सिस्टम को मॉडल्स, harnesses, और execution environments में बांटता है। मॉडल्स capabilities सप्लाई करते हैं; harnesses इंस्ट्रक्शन्स, context, और टूल्स को असेम्बल करते हैं; रनटाइम्स फाइल्स, नेटवर्क्स, और प्रोसेसेस को कंट्रोल करते हैं जहां एक्शन्स होते हैं। केवल एक लेयर पर defense रखने से दूसरा लेयर बैड इंस्ट्रक्शन को दुनिया में ले जाने में सक्षम रहता है।

[NOVA]: NVIDIA अपने sandboxed runtime के रूप में external file, network, और process limits के लिए OpenShell की ओर इशारा करता है। Cisco's DefenseClaw governance जोड़ता है, जबकि JFrog एजेंट स्किल्स को रन होने से पहले स्कैन करता है। अन्य उदाहरणों में CrowdStrike's SafeMind शामिल है - रिपीटेड अटैक सिमुलेशन के लिए, Palo Alto Networks' Prisma AIRS - कंटिन्यूअस एडवरसैरियल प्रोबिंग के लिए, Capital One's VulnHunter - AI-असिस्टेड कोड रिव्यू के लिए, और ReversingLabs' Spectra Assure - मैलिशियस डिपेंडेंसीज खोजने के लिए। यह बहुत सारे प्रोडक्ट नेम्स हैं, लेकिन वे एक concrete आइडिया को सपोर्ट करते हैं: permissions, execution boundaries, monitoring, और software supply-chain checks सभी को मॉडल के जजमेंट से इंडिपेंडेंटली सरवाइव करना होगा। एक एजेंट जो मैलिशियस इंस्ट्रक्शन पढ़ सकता है उसे बाहर निकलने वाला कनेक्शन खोलने, प्रोटेक्टेड फाइल तक पहुंचने, या एक पॉइजंड पैकेज इंस्टॉल करने से रोका जा सकता है। यह सिक्योरिटी को मॉडल बिहेवियर की उम्मीद से कई इंडिपेंडेंटली enforceable limits में बदल देता है।

[NOVA]: ...

[ALLOY]: Thinking Machines Lab ने Crusoe Cloud पर अपने open models के लिए inference रन करने के लिए सालाना पैंसठ मिलियन डॉलर का वचन दिया है। यह partnership के रूप में छिपा हुआ hardware purchase नहीं है। प्रोडक्शन ट्रैफिक Crusoe Managed Inference से गुजरेगा, जहां Crusoe throughput, price-performance, capacity, और reliability के आसपास serving layer की जिम्मेदारी लेता है।

[NOVA]: open weights और model behavior वही रहते हैं। जो बदलता है वह endpoint के पीछे का machinery है - वे सर्वर्स, scheduling, scaling, और optimization जो latency और per-token economics तय करते हैं। Thinking Machines capacity planning को एक managed agreement के तहत हेंड ऑफ कर देता है खुद हर पार्ट ऑफ इंफ्रास्ट्रक्चर बनाने के बजाय। Crusoe के लिए, यह डील एक prominent anchor customer देती है और अपनी पिच के लिए एक serious reference देती है - AI-focused cloud के रूप में, बजाय bare accelerators का एक और seller के।

[ALLOY]: और साल में पैंसठ मिलियन दिखाता है कि inference operations कितने valuable हो गए हैं। training को अभी भी giant-cluster headlines मिलते हैं, लेकिन एक मॉडल जो continuously उपयोग होता है एक enormous recurring serving bill बनाता है। open-model labs एक choice का सामना करते हैं: research lab के बगल में infrastructure organization बनाना, या किसी specialist को वह काम absorb करने देना। Crusoe इस पर दांव लगा रहा है कि एक tuned managed service जीतता है - भले ही customers theoretically weights को कहीं और host कर सकते हैं। मुझे appeal दिखती है - weights का मालिक होना scheduling, batching, failover, या hardware utilization को magically आसान नहीं बनाता।

[NOVA]: मैं एक कॉन्ट्रैक्ट को व्यापक समेकन के रूप में पढ़ने का विरोध करूँगा, हालाँकि। डेवलपर्स को समान मॉडल इंटरफ़ेस दिख सकता है जबकि अंतर्निहित प्रोवाइडर बदलता है, जिससे लेटेंसी, अपटाइम, और कीमत-प्रदर्शन डील का दृश्य प्रमाण बन जाता है। Crusoe को अब यह दिखाना होगा कि एक नियोक्लाउड इस स्केल पर प्रोडक्शन इन्फरेंस दे सकता है, न कि बस आकर्षक कम्प्यूट रिज़र्व करना। अगर यह सफल होता है, तो अन्य ओपन-मॉडल कंपनियों को अपना सर्विंग स्टैक बनाने या सबसे बड़े हाइपरस्केलर्स को डिफ़ॉल्ट करने का एक विश्वसनीय विकल्प मिलता है। अगर यह संघर्ष करता है, तो कॉन्ट्रैक्ट एक महंगी याद दिलाने वाली बात बन जाता है कि प्रोडक्शन इन्फरेंस एक प्रोडक्ट है, बस GPU का ढेर नहीं।

[NOVA]: ...

[NOVA]: Jev टेक्स्ट स्वीकार करता है लेकिन नंबर वापस करता है: प्रोबेबिलिटीज़, कॉन्फिडेंस स्कोर, और कैटेगरी में वितरण। TypeSafe AI इसे System One मॉडल कहता है; "डिसीज़न मॉडल" स्पष्ट है। एक एप्लिकेशन एक स्टेट प्रोवाइड करता है—शायद एक कस्टमर रिकॉर्ड, आर्टिकल, या सेमी-स्ट्रक्चर्ड डॉक्यूमेंट—और प्रोज़ के बजाय टाइप्ड सवाल अटैच करता है।

[ALLOY]: तीन रेस्पॉन्स शेप हैं। एक हाँ-या-नहीं सवाल शून्य और एक के बीच कॉन्फिडेंस रिटर्न करता है। एक चॉइस सवाल नामित विकल्पों में प्रोबेबिलिटी वितरित करता है। एक स्कोर सवाल इनपुट को ऑर्डर किए गए न्यूमेरिक लेवल पर रेट करता है। तो एक जनरल मॉडल को यह बताने के लिए प्रॉम्प्ट करने के बजाय कि क्या कोई सपोर्ट टिकट ज़रूरी है, और फिर उसके सेंटेंस को पार्स करने के लिए, सॉफ्टवेयर को एक नंबर मिलता है जो सीधे राउटिंग में इस्तेमाल हो सकता है।

[NOVA]: कीमत उस स्पेशलाइज़ेशन को विवादास्पद बनाती है। Jev प्रति मिलियन इनपुट टोकन के लिए चार दशमलव दो सेंट चार्ज करता है, जिसमें कोई आउटपुट चार्ज नहीं है। यह GPT-5 Nano के पाँच सेंट इनपुट रेट से कम है, और न्यूमेरिकल आउटपुट उन व्याख्यात्मक पैराग्राफ के लिए भुगतान करने से बचता है जो एप्लिकेशन को कभी चाहिए ही नहीं थे। यह स्वाभाविक रूप से उन सिस्टम के लिए उपयुक्त है जो हर डॉक्यूमेंट में कई छोटे निर्णय लेते हैं: ट्रायर, मॉडरेशन, कैटेगराइज़ेशन, रैंकिंग, या यह चुनना कि कौन सा डाउनस्ट्रीम मॉडल रिक्वेस्ट को हैंडल करे। बड़े वॉल्यूम पर, प्रति मिलियन टोकन में सेन्ट का अंश बचाना छोटा लगता है जब तक कि हर आइटम कई निर्णय जेनरेट न करे।

[ALLOY]: और यह AnyJev के साथ अच्छी तरह जोड़ता है। Jev एक कमर्शियल मॉडल है जो प्रोबेबिलिटीज़ एमिट करने के लिए डिज़ाइन किया गया है; AnyJev उन्हें बिना रीट्रेनिंग के ओपन मॉडल से कैलिब्रेटेड डिसीज़न प्राप्त करने की कोशिश करता है। वे एक ही डिमांड को विपरीत दिशाओं से संबोधित करते हैं। कोई भी जनरेटिव मॉडल की जगह नहीं लेता जब किसी व्यक्ति को व्याख्या या जवाब की जरूरत होती है, लेकिन दोनों एक महंगे कन्वर्सेशनल मॉडल को ग्लोरिफाइड क्लासिफायर के रूप में उपयोग करने की आदत को चुनौती देते हैं। जब सॉफ्टवेयर को एक कॉन्फिडेंस वैल्यू की जरूरत होती है, तो तीन पॉलिश्ड पैराग्राफ वापस करना इंटेलिजेंस नहीं है। यह ओवरहेड है—और कभी-कभी एक पार्सिंग बग जो होने ही वाला है।

[NOVA]: ...

[ALLOY]: Invisible Playwright MCP ब्राउज़र ऑटोमेशन को एक सेल्फ-होस्टेड टूल में रैप करता है जो कॉमन बॉट डिफेंस से बचने के लिए डिज़ाइन किया गया है। यह Model Context Protocol बोलता है, जिसका उपयोग एजेंट बाहरी टूल कॉल करने के लिए करते हैं, और Playwright के माध्यम से एक एंटी-डिटेक्ट Firefox प्रोफाइल चलाता है। पॉइंट सेवenty रिपॉजिटरी के साथ शिप हुआ जिसके बयासी हज़ार से अधिक स्टार्स हैं। वह लोकप्रियता बताती है कि ब्राउज़र-आधारित एजेंट सिस्टम से कितनी बार टकराते हैं जो ऑटोमेशन को अस्वीकार करने के लिए बनाए गए हैं।

[NOVA]: आकर्षण स्पष्ट है: एक एजेंट डैशबोर्ड, फॉर्म, ऑथेंटिकेटेड पेज, स्क्रैपिंग, या कम्प्यूटर-यूज़ लूप के लिए ब्राउज़र सेशन बनाए रख सकता है बिना तुरंत फिंगरप्रिंट चेक और captcha स्क्रीन लगाए। सेल्फ-होस्टिंग सेशन क्रेडेंशियल्स को ऑपरेटर के एनवायरनमेंट के अंदर रखता है captcha-सॉल्विंग सर्विस के माध्यम से पास करने के बजाय। लेकिन "अनडिटेक्टेड" एक आर्म्स रेस में अस्थायी भाषा है। साइटें अपने फिंगरप्रिंट बदल सकती हैं, ब्राउज़र बिहेवियर नए तरीकों से ऑटोमेशन का पर्दाफ़ाश कर सकती हैं, और एक टूल जो एक डिफेंस के खिलाफ काम करता है अगले के खिलाफ फेल हो सकता है। इससे भी अधिक महत्वपूर्ण, एक चैलेंज को बायपास करना किसी साइट की शर्तों, एक्सेस नियमों, या कानून को ओवरराइड नहीं करता। प्रोजेक्ट उपयोगी इन्फ्रास्ट्रक्चर है जहाँ ऑटोमेशन की अनुमति है; यह ब्राउज़र फीचर के रूप में छिपा हुआ परमिशन नहीं है। इसका असली मूल्य निरंतरता है—एक अधिकृत वर्कफ़्लो को जीवित रखना जब सामान्य ऑटोमेशन बहुत आसानी से खुद को प्रकट करता है। सेल्फ-होस्टेड डेप्लॉयमेंट एक संगठन को ब्राउज़र स्टोरेज, कुकीज़, प्रोफाइल, और ऑथेंटिकेटेड सिस्टम को छूने वाली मशीनों पर कंट्रोल भी देता है। यह एक इंटरनल एजेंट के लिए मायने रख सकता है जो एक अप्रूव्ड सप्लायर पोर्टल पढ़ रहा है या कंपनी के मालिकाना डैशबोर्ड को ऑपरेट कर रहा है। फिर भी, वही स्टील्थ फीचर स्पष्ट दुरुपयोग को आकर्षित करती हैं, इसलिए आसपास के ऑथराइज़ेशन और ऑडिट ट्रेल उतने ही महत्वपूर्ण हैं जितना कि ब्राउज़र कनेक्शन खुद।

[NOVA]: ...

[NOVA]: OpenAI ने MentalHealthBench जारी किया है, जो यथार्थवादी मानसिक-स्वास्थ्य बातचीत में AI प्रतिक्रियाओं के लिए एक मानकीकृत मूल्यांकन है। यह दो आयामों को एक साथ स्कोर करता है: क्या प्रतिक्रिया उपयोगी है और क्या यह सुरक्षित है। मानसिक-स्वास्थ्य विशेषज्ञों ने परिदृश्यों और स्कोरिंग मानदंडों को आकार देने में मदद की। यह महत्वपूर्ण है क्योंकि एक मॉडल देखभाल करने वाला लग सकता है जबकि अभी भी लापरवाह मार्गदर्शन दे रहा हो, या स्पष्ट खतरे से बचते हुए इतना अस्पष्ट हो सकता है कि यह मदद करना बंद कर दे।

[ALLOY]: सही है, गर्माहट अकेले नुकसान को छिपा सकती है। अलग-अलग उपयोगिता और सुरक्षा निर्णय उस ट्रेडऑफ को दृश्यमान बनाते हैं। एक प्रतिक्रिया मनोवैज्ञानिक पीड़ा को सही ढंग से पहचान सकती है फिर भी एक खतरनाक विश्वास को मजबूत कर सकती है। दूसरी नैदानिक निश्चितता से बच सकती है लेकिन एक सामान्य इनकार के पीछे व्यक्ति को छोड़ सकती है। उन परिणामों को समान मानना एक आश्वस्त करने वाला स्कोर और एक बुरा उत्पाद देगा।

[NOVA]: यथार्थवादी बातचीत अलग-थलग संकट कीवर्ड से भी कठिन होती है। पीड़ा अप्रत्यक्ष रूप से प्रकट हो सकती है, कई बारी में बदल सकती है, या एक साधारण व्यावहारिक प्रश्न के बगल में बैठ सकती है। थेरेपी-संबंधी उत्पादों, वेलनेस ऐप्स, सहायता प्रणालियों और सामान्य सहायकों को पहचानने की जरूरत है कि कब किसी आदान-प्रदान को देखभाल की आवश्यकता है, कब पेशेवर मदद को प्रोत्साहित किया जाना चाहिए, और कब मॉडल सहायक भाषा से अनुचित नैदानिक अधिकार में चला गया है। मल्टी-टर्न सेटिंग उन विफलताओं को उजागर कर सकती है जिन तक एकल प्रॉम्प्ट कभी नहीं पहुंचता।

[ALLOY]: एक साझा बेंचमार्क डेवलपर्स और बाहरी शोधकर्ताओं को हाथ से चुने गए डेमो से कुछ मजबूत देता है। मैं किसी भी बेंचमार्क को थेरेपिस्ट के रूप में मॉडल को तैनात करने की अनुमति के रूप में नहीं मानूंगा; असली लोग इतिहास और जोखिम लाते हैं जो एक निश्चित संग्रह पूरी तरह से प्रतिनिधित्व नहीं कर सकता। लेकिन विशेषज्ञ-सूचित बातचीत से पता चल सकता है कि कोई प्रणाली उपयोगी रहती है या लापरवाह बन जाती है। MentalHealthBench OpenAI के मानव नियंत्रण पर व्यापक जोर से भी जुड़ता है। यहां, यह सिद्धांत संपर्क के सबसे संवेदनशील बिंदुओं में से एक पर मापनीय हो जाता है: एक व्यक्ति जब स्वर, निश्चितता और एस्केलेशन वास्तविक परिणाम ला सकते हैं, तब मशीन से मदद मांग रहा है।

[NOVA]: ...

[NOVA]: तीन रिपॉजिटरी तेजी से आगे बढ़ रहे हैं। Nanobot के अड़तालीस हज़ार पाँच सौ अठारह स्टार्स हैं, तीस दिनों में एक हज़ार दो सौ सड़सठ की वृद्धि के साथ। इसके पॉइंट थ्री फाइव रिलीज़ में वेब इंटरफ़ेस, मेमोरी, टूल्स, Model Context Protocol सपोर्ट, मल्टी-एजेंट वर्कफ़्लोज़ और ऑटोमेशन हुक के साथ एक हल्का, सेल्फ-होस्टेड पर्सनल-एजेंट फ्रेमवर्क को आगे बढ़ाया गया है। Codebase Memory MCP तेजी से बढ़ने की कहानी है: चवालीस हज़ार पाँच सौ बयालीस स्टार्स, पॉइंट इलेवन के बाद एक महीने में बारह प्रतिशत की वृद्धि। यह एक निरंतर कोड नॉलेड्ग्राफ बनाता है ताकि कोडिंग एजेंट बार-बार फ़ाइलें पढ़ने के बजाय संरचना से पूछताछ कर सकें, और प्रोजेक्ट एक सौ अट्ठावन भाषाओं के सपोर्ट का दावा करता है साथ ही प्रमुख टोकन बचत।

[ALLOY]: ठीक है, ये दोनों स्वाभाविक रूप से जुड़ते हैं: Nanobot एक पर्सनल एजेंट को व्यवस्थित कर सकता है, जबकि Codebase Memory एक रिपॉजिटरी की विशेषज्ञ समझ प्रदान करता है। Invisible Playwright MCP ब्राउज़र का समकक्ष है, जो इकतीस हज़ार छह सौ चौवालीस स्टार्स के साथ अपना पहला ट्रैक किया गया प्रकटन बना रहा है, आज पॉइंट सत्तर रिलीज़ के साथ। एक प्रोजेक्ट एजेंट को व्यवस्थित करता है, दूसरा कोड ज्ञान को संरक्षित करता है, और तीसरा इसे एक सेल्फ-होस्टेड ब्राउज़र सतह देता है। वह मॉड्यूलरिटी रोमांचक है क्योंकि टीमें मेमोरी, ब्राउज़िंग या ऑर्केस्ट्रेशन को स्वतंत्र रूप से बदल सकती हैं, एक विशाल फ्रेमवर्क को स्वीकार करने के बजाय। Codebase Memory का बारह प्रतिशत मासिक लाभ उस आकार पर विशेष रूप से प्रभावशाली है, जबकि Nanobot की हालिया रिलीज़ और निरंतर रिपॉजिटरी गतिविधि दिखाती है कि इसका पहले से बड़ा दर्शक वर्ग अभी भी बदलाव प्राप्त कर रहा है। साथ मिलकर, तीन प्रोजेक्ट ध्यान को टिकाऊ संदर्भ और विश्वसनीय टूल एक्सेस की ओर बढ़ते दिखाते हैं, न कि केवल एक और चैट स्क्रीन।

[NOVA]: ...

[NOVA]: आज मॉडल प्रगति सर्विंग वेरिएंट के माध्यम से भी आई। GLM 5.3 Prime और Qwen 3.8 Max Prime प्रत्येक OpenRouter के माध्यम से मिलियन-टोकन संदर्भ लाते हैं, उनके विक्रेता उन्हें स्थापित लाइनों के उच्च-थ्रूपुट वर्शन के रूप में स्थान दे रहे हैं। प्रतिस्पर्धा अब केवल यह नहीं है कि कौन सा मॉडल मूल्यांकन में शीर्ष पर है, बल्कि विशाल संदर्भ कितनी जल्दी प्रोडक्शन में जा सकते हैं।

[NOVA]: ...

[ALLOY]: Ternary Bonsai 2 27B एक सत्ताईस-अरब-पैरामीटर टेक्स्ट मॉडल को GGUF फॉर्मेट में पैक करता है, जिसका उपयोग llama.cpp द्वारा स्थानीय अनुमान के लिए किया जाता है। इसकी असामान्य विशेषता टर्नरी, दो-बिट-ओरिएंटेड क्वांटाइज़ेशन है, जो भारों को पूर्ण-सटीक भंडारण की तुलना में बहुत अधिक आक्रामक रूप से संपीड़ित करता है। यह CUDA और Apple Metal रनटाइम का समर्थन करता है, हाइब्रिड अटेंशन का उपयोग करता है, और Hugging Face पर 1,950 लाइक्स और 2.8 मिलियन से अधिक डाउनलोड हासिल कर चुका है।

[NOVA]: यह हार्डवेयर पर नियंत्रण रखने वाले लोगों के लिए उपयोगी जनरेशन में काफी दिलचस्पी है। आक्रामक संपीड़न मेमोरी बचत को गुणवत्ता और डिवाइस-विशिष्ट गति के साथ बदल सकता है, लेकिन यह उन मशीनों पर सत्ताईस-अरब-पैरामीटर मॉडल को व्यावहारिक बनाता है जो सामान्य भार नहीं रख सकतीं। स्थानीय अनुमान संवेदनशील प्रॉम्प्ट को मशीन पर रखता है, प्रति-टोकन बिलिंग हटाता है, और एक परिपक्व डेस्कटॉप रनटाइम इकोसिस्टम से जुड़ता है। डाउनलोड गिनती दर्शाती है कि लोग क्षमता, मेमोरी, गति और नियंत्रण के बीच एक व्यावहारिक संतुलन सक्रिय रूप से तलाश रहे हैं।

[NOVA]: ...

[NOVA]: Sam Altman की संयुक्त राष्ट्र सुरक्षा परिषद की टिप्पणियाँ मानव नियंत्रण, AI सुरक्षा शासन और अंतरराष्ट्रीय सहयोग पर केंद्रित हैं। MentalHealthBench को पेश करना उस व्यापक तर्क के एक भाग को विशेषज्ञ-जागरूक मूल्यांकन में बदल देता है, जो यथार्थवादी मानसिक-स्वास्थ्य बातचीत में सहायकता और सुरक्षा को मापता है।

[ALLOY]: Tyk दोनों विचारों को लाइव इन्फ्रास्ट्रक्चर से जोड़ता है। इसका ओपन-सोर्स गेटवे REST, GraphQL, TCP, gRPC और Model Context Protocol ट्रैफिक को एक नीति परत के माध्यम से रूट करता है, और इसके 10,800 से अधिक सितारे हैं। अंतरराष्ट्रीय सहयोग अपेक्षाएँ निर्धारित करता है, MentalHealthBench संवेदनशील व्यवहार को मापता है, और Tyk वहाँ रूटिंग और एक्सेस नियम लागू करता है जहाँ सॉफ्टवेयर चलता है।

[NOVA]: ...

[NOVA]: जिन प्राथमिक स्रोतों, विशिष्टताओं, बेंचमार्क संदर्भों और परियोजनाओं के बारे में हमने सब कुछ कवर किया है, उन्हें देखने के लिए Toby On Fitness Tech dot com पर शो नोट्स देखें।

[ALLOY]: AgentStack Daily सुनने के लिए धन्यवाद।

[NOVA]: हम जल्द वापस आएंगे।