EN
एनवीडिया डीजीएक्स स्पार्क एआई सुपरकंप्यूटर — जीबी10 ग्रेस ब्लैकवेल, 128 जीबी यूनिफाइड मेमोरी, 4 टीबी एनवीएमई, 1 पेटाफ्लॉप एफपी4
सुपरचिप: एनवीडिया जीबी10 ग्रेस ब्लैकवेल सुपरचिप
सीपीयू: 20-कोर आर्म सीपीयू (10× कॉर्टेक्स-एक्स925 + 10× कॉर्टेक्स-ए725)
जीपीयू: 5वीं पीढ़ी के टेंसर कोर्स के साथ ब्लैकवेल जीपीयू, एफपी4 परिशुद्धता पर अधिकतम 1 पीएफएलओपी
याद: 128 जीबी सहसंबद्ध एकीकृत मेमोरी, 256-बिट एलपीडीडीआर5एक्स, 273 जीबी/सेकंड की दर से
- अवलोकन
- अनुशंसित उत्पाद
मुख्य विशेषताएँ
एनवीडिया जीबी10 ग्रेस ब्लैकवेल सुपरचिप — 20-कोर आर्म सीपीयू (10× कॉर्टेक्स-एक्स925 + 10× कॉर्टेक्स-ए725) के साथ ब्लैकवेल जीपीयू, जो एफपी4 परिशुद्धता पर अधिकतम 1 पीएफएलओपी प्रदान करता है
128 जीबी सहसंबद्ध एकीकृत स्मृति — 256-बिट एलपीडीडीआर5एक्स, 273 जीबी/सेकंड पर; स्थानीय रूप से 200 अरब पैरामीटर तक के मॉडल चलाएँ, संशोधित करें और सेवा प्रदान करें
4 टीबी एनवीएमई एम.2 भंडारण स्व-एन्क्रिप्शन के साथ, एनवीडिया डीजीएक्स ओएस और पूर्ण एनवीडिया एआई सॉफ्टवेयर स्टैक के साथ पूर्व-स्थापित
अधिक आवश्यकता होने पर स्केल आउट करें — एनवीडिया कनेक्टएक्स-7 नेटवर्किंग (200 जीबी/सेकंड, 2× क्यूएसएफपी) के साथ 10 जीबीई और वाई-फाई 7; 700 अरब पैरामीटर तक के मॉडल के साथ कार्य करने के लिए 4 इकाइयों तक क्लस्टर करें
वास्तविक डेस्कटॉप फुटप्रिंट — 150 × 150 × 50.5 मिमी, 1.2 किग्रा, एकल 240 वाट बाहरी आपूर्ति द्वारा संचालित
विवरण
एनवीडिया डीजीएक्स स्पार्क डेस्कटॉप पर ग्रेस ब्लैकवेल आर्किटेक्चर लाता है। यह एआई डेवलपर्स, शोधकर्ताओं और डेटा वैज्ञानिकों के लिए बनाया गया है, जो आपको बड़े भाषा मॉडलों पर प्रोटोटाइपिंग, फाइन-ट्यूनिंग और अनुमान लगाने की अनुमति देता है, बिना कि डेटा को क्लाउड में भेजे।
जीबी10 सुपरचिप एक 20-कोर आर्म सीपीयू को 5वीं पीढ़ी के टेंसर कोर्स के साथ ब्लैकवेल जीपीयू के साथ एनवीलिंक-सी2सी के माध्यम से सीपीयू+जीपीयू सुसंगत स्मृति के साथ जोड़ता है। 128 जीबी एकीकृत स्मृति के साथ आप एकल यूनिट पर 200 अरब पैरामीटर तक के मॉडलों के साथ काम कर सकते हैं, और दो यूनिट्स पर 405 अरब तक, या चार यूनिट्स पर 700 अरब तक स्केल कर सकते हैं — इसके लिए अंतर्निर्मित कनेक्टएक्स-7 नेटवर्किंग का उपयोग किया जाता है।
डीजीएक्स स्पार्क के साथ एनवीडिया डीजीएक्स ओएस और पूर्व-इंस्टॉल्ड एआई सॉफ्टवेयर स्टैक शिप किया जाता है, जिसमें पायथन, टेंसरआरटी-एलएलएम, जूपिटर, ओलामा, एनवीडिया एनआईएम और एनवीडिया ब्लूप्रिंट्स तक पहुँच शामिल है। स्थानीय रूप से प्रोटोटाइप किया गया कार्य सीधे डीजीएक्स क्लाउड या किसी भी एनवीडिया-त्वरित डेटा केंद्र में स्थानांतरित कर दिया जाता है।
लक्ष्य अनुप्रयोग: स्थानीय एलएलएम अनुमान · मॉडल फ़ाइन-ट्यूनिंग · एआई एजेंट विकास · डेटा विज्ञान · एज एआई, रोबोटिक्स और कंप्यूटर विज़न प्रोटोटाइपिंग।
तकनीकी विशिष्टताएँ
उत्पाद प्रकार |
एनवीडिया डीजीएक्स स्पार्क एआई सुपरकंप्यूटर (डेस्कटॉप ग्रेस ब्लैकवेल सिस्टम) |
सुपरचिप |
एनवीडिया जीबी10 ग्रेस ब्लैकवेल सुपरचिप |
सीपीयू |
20-कोर आर्म सीपीयू (10× कॉर्टेक्स-एक्स925 + 10× कॉर्टेक्स-ए725) |
जीपीयू |
5वीं पीढ़ी के टेंसर कोर्स के साथ ब्लैकवेल जीपीयू, एफपी4 परिशुद्धता पर अधिकतम 1 पीएफएलओपी |
सीपीयू-जीपीयू इंटरकनेक्ट |
एनवीलिंक-सी2सी सहसंबद्ध मेमोरी लिंक |
याद |
128 जीबी सहसंबद्ध एकीकृत मेमोरी, 256-बिट एलपीडीडीआर5एक्स, 273 जीबी/सेकंड की दर से |
मॉडल का आकार |
एक यूनिट पर अधिकतम 200 अरब पैरामीटर; दो यूनिट्स पर 405 अरब; चार यूनिट्स पर अधिकतम 700 अरब |
संग्रहण |
4 टीबी एनवीएमई एम.2 जिसमें स्व-एन्क्रिप्शन है |
नेटवर्किंग |
एनवीडिया कनेक्टएक्स-7 (200 जीबी/सेकंड, 2× क्यूएसएफपी), 10 जीबीई और वाई-फाई 7 |
ऑपरेटिंग सिस्टम |
एनवीडिया डीजीएक्स ओएस |
एआई सॉफ्टवेयर स्टैक |
पाइटॉर्च, टेंसरआरटी-एलएलएम, जूपिटर, ओलामा, एनवीडिया निम और एनवीडिया ब्लूप्रिंट्स, पूर्व-इंस्टॉल किए गए |
डिप्लॉयमेंट पाथ |
स्थानीय रूप से प्रोटोटाइप किए गए कार्य को एनवीडिया डीजीएक्स क्लाउड या किसी भी एनवीडिया-त्वरित डेटा केंद्र में स्थानांतरित करें |
पावर सप्लाई |
एकल 240 डब्ल्यू बाहरी आपूर्ति |
आयाम |
150 × 150 × 50.5 मिमी |
भार |
1.2 किग्रा |
लक्षित अनुप्रयोग |
स्थानीय एलएलएम इन्फरेंस, मॉडल फाइन-ट्यूनिंग, एआई एजेंट विकास, डेटा विज्ञान, एज एआई, रोबोटिक्स और कंप्यूटर विज़न प्रोटोटाइपिंग |
