आर्टिफिशियल इंटेलिजेंस क्षेत्र की प्रमुख कंपनी Nace AI ने अपना अब तक का सबसे सक्षम निर्णय मॉडल (Decision Model) Drex Max v1 ओपन-सोर्स कर दिया है। इस नए मॉडल के आने से डेवलपर्स और तकनीकी विशेषज्ञों के लिए राउटिंग, क्लासिफिकेशन और पॉलिसी चेक जैसे कार्य स्थानीय स्तर पर करना बेहद आसान हो गया है। सबसे खास बात यह है कि यह मॉडल अब एप्पल सिलिकॉन (Apple Silicon) मैक जैसे स्थानीय हार्डवेयर पर भी आसानी से चल सकता है।
Drex Max v1 क्या है और कैसे काम करता है?
Drex Max एक उन्नत निर्णय मॉडल है जो किसी दिए गए संदर्भ (Context) के आधार पर पूछे गए प्रश्नों के सटीक उत्तर देता है। इस मॉडल में उपयोगकर्ता टेक्स्ट, JSON या छवियों (Images) के रूप में डेटा इनपुट कर सकते हैं और विशिष्ट प्रश्न पूछ सकते हैं। मॉडल एक ही फॉरवर्ड पास में प्रत्येक विकल्प के लिए प्रायिकता (Probability) की गणना करके परिणाम देता है, यानी इसमें कुछ भी नया जनरेट नहीं किया जाता है।
इसमें तीन प्रकार के प्रश्न पूछे जा सकते हैं—नामित विकल्पों में से चयन, हाँ/ना (Yes/No), और क्रमिक स्कोर (Ordinal Score)। यही खूबी इसे एजेंट राउटिंग, टिकट ट्राइएज और गार्डरेल चेक्स के लिए एकदम उपयुक्त बनाती है।
ड्रेक्स मैक्स की मुख्य तकनीकी विशेषताएं (TL;DR)
- आकार: यह 27B पैरामीटर वाला डेंस मॉडल है, जिसमें 262,144-टोकन विंडो और प्रति प्रश्न 255 विकल्पों तक की क्षमता है।
- हार्डवेयर समर्थन: यह NVIDIA GPU (H100 या L40S) के साथ-साथ 24 GB या उससे अधिक रैम वाले Apple Silicon Macs पर स्थानीय रूप से चल सकता है।
- प्रदर्शन: सार्वजनिक Decision Index 0.4 पर इसने 67.52 अंक हासिल किए हैं, जो इसके पिछले संस्करण Drex v2.0 से काफी बेहतर है।
- दक्षता: InfographicVQA पर इसने 97.3 का उत्कृष्ट कौशल स्कोर प्राप्त किया है।
स्थानीय हार्डवेयर पर कैसे चलाएं Drex Max v1?
Nace AI ने डेवलपर्स के लिए इसके विभिन्न रनटाइम्स और चेकपॉइंट्स जारी किए हैं, जो एक जैसे API को सपोर्ट करते हैं। उपयोगकर्ता अपनी सुविधा और हार्डवेयर के अनुसार इसका उपयोग कर सकते हैं:
- Apple Silicon Mac (24 GB+): Kapitsa या MLX के माध्यम से affine Q4 चेकपॉइंट का उपयोग किया जा सकता है।
- Apple Silicon Mac (48 GB): Q8_0 GGUF चेकपॉइंट का उपयोग llama.cpp या Ollama के जरिए किया जा सकता है।
- NVIDIA GPU: पाइथन (Python) आधारित वातावरण में bf16 या 8-बिट मोड में चलाया जा सकता है, जो छवियों (Images) का भी समर्थन करता है।
अन्य निर्णय मॉडल से तुलना
Nace AI के अनुसार, Drex Max v1 अपने पिछले संस्करणों की तुलना में काफी उन्नत है। 27B पैरामीटर और 262,144 के अधिकतम संदर्भ विंडो के साथ यह वर्तमान में बाजार में उपलब्ध कई अन्य निर्णय मॉडलों को पीछे छोड़ता है। इसके ओपन-वेट्स को Nace.AI Open RAIL-M लाइसेंस के तहत सार्वजनिक किया गया है, जिससे डेवलपर्स बिना किसी बाधा के इसका लाभ उठा सकते हैं।
इस ओपन-सोर्स रिलीज़ से स्थानीय उपकरणों पर एआई आधारित निर्णय लेने की क्षमता में एक नया मील का पत्थर साबित होने की उम्मीद है।