आर्टिफिशियल इंटेलिजेंस के क्षेत्र में एक बड़ा कदम उठाते हुए Nace AI ने अपना अब तक का सबसे सक्षम डिसीजन मॉडल Drex Max v1 ओपन-सोर्स (Open Weights) कर दिया है। यह नया 27 बिलियन (27B) पैरामीटर वाला मॉडल अब डेवलपर्स और यूजर्स के लिए अपने खुद के हार्डवेयर पर लोकल रूप से चलाने के लिए उपलब्ध है। इसके आने से राउटिंग, क्लासिफिकेशन और पॉलिसी चेक जैसे कार्य सीधे लोकल मशीन पर ही किए जा सकते हैं।
Drex Max v1 क्या है और यह कैसे काम करता है?
Drex Max एक एडवांस्ड डिसीजन मॉडल है, जिसे किसी दिए गए संदर्भ (Context) पर आधारित टाइप किए गए सवालों के जवाब देने के लिए डिजाइन किया गया है। इसमें यूजर्स टेक्स्ट, JSON या इमेज जैसी स्टेट और डिफाउंड सवाल भेज सकते हैं। इसके बाद मॉडल एक ही फॉरवर्ड पास में हर संभावित विकल्प की प्रायिकता (Probability) की गणना करता है। इस प्रक्रिया में किसी भी नए टेक्स्ट का जनरेशन नहीं होता है, बल्कि सीधे सटीक निर्णय आउटपुट के रूप में मिलते हैं।
इस मॉडल के आर्किटेक्चर की बात करें तो इसमें 64 लेयर्स वाला 27B का डेंस बैक बोन दिया गया है। इसमें 48 लेयर्स Gated DeltaNet लीनियर-अटेंशन की हैं जो बाएं से दाएं काम करती हैं, जबकि अन्य 16 लेयर्स नॉन-कासुअल फुल-अटेंशन लेयर्स हैं। इसके अलावा, इसमें एक नेटिव विजन टॉवर भी शामिल है, जिससे यह विजुअल डेटा को भी आसानी से प्रोसेस कर सकता है।
लोकल हार्डवेयर और Apple Silicon पर रनिंग
Nace AI ने इस मॉडल को अलग-अलग हार्डवेयर प्लेटफॉर्म्स पर चलाने के लिए कई चेकपॉइंट्स जारी किए हैं:
- Apple Silicon Mac (24 GB+): Affine Q4 चेकपॉइंट के साथ 24GB या उससे अधिक रैम वाले मैक पर इसे आसानी से चलाया जा सकता है।
- Apple Silicon Mac (48 GB): 48GB रैम वाले मैक के लिए Q8_0 GGUF फॉर्मेट उपलब्ध है।
- CPU और Ollama/llama.cpp: डेवलपर्स llama.cpp या Ollama फोर्क के जरिए इसे सीपीयू पर भी रन कर सकते हैं।
- Nvidia GPU: पाइथन एनवायरनमेंट में H100 (bf16) या L40S (8-bit) जीपीयू पर इसे चलाया जा सकता है, जो इमेज प्रोसेसिंग को भी सपोर्ट करता है।
बेंचमार्क प्रदर्शन और क्षमता
Nace AI द्वारा साझा किए गए आंकड़ों के अनुसार, Drex Max v1 ने पब्लिक डिसीजन इंडेक्स 0.4 पर 67.52 का स्कोर हासिल किया है, जो इसके पिछले वर्जन Drex v2.0 (61.25) से काफी बेहतर है। यह मॉडल टूल्स (81.9), लैंग्वेज (72.2) और रिट्रीवल (68.8) जैसे क्षेत्रों में बेहतरीन प्रदर्शन करता है। साथ ही, इन्फोग्राफिक VQA जैसे विजन बेंचमार्क पर इसने 97.3 का शानदार स्कोर दर्ज किया है।
निष्कर्ष
Drex Max v1 के ओपन-सोर्स होने से एआई डेवलपर्स और शोधकर्ताओं को स्थानीय स्तर पर शक्तिशाली निर्णय लेने वाले मॉडल का उपयोग करने की स्वतंत्रता मिल गई है। एप्पल सिलिकॉन मैक और लोकल हार्डवेयर पर चलने की क्षमता इसे डेटा प्राइवेसी और एफिशिएंसी के लिहाज से बेहद खास बनाती है।