एनवीडिया आरटीएक्स जीपीयू के साथ विंडोज पीसी पर एआई प्रोसेसिंग को सक्षम बनाता है

व्यक्तिगत कंप्यूटिंग के लिए एक मील के पत्थर में, एनवीडिया आरटीएक्स-आधारित ग्राफिक्स प्रोसेसिंग इकाइयों (जीपीयू) का उपयोग करके विंडोज पीसी पर जेनरेटिव एआई प्रोसेसिंग को सक्षम करके पीसी पर बेहतर एआई सक्षम कर रहा है।

पिछले वर्ष में, जेनेरिक एआई एक परिवर्तनकारी प्रवृत्ति के रूप में उभरा है। इसकी तीव्र वृद्धि और बढ़ती पहुंच के साथ, उपभोक्ताओं के पास अब सरलीकृत इंटरफेस और उपयोगकर्ता-अनुकूल उपकरण हैं जो जीपीयू-अनुकूलित एआई, मशीन लर्निंग और उच्च-प्रदर्शन कंप्यूटिंग (एचपीसी) सॉफ्टवेयर की शक्ति का लाभ उठाते हैं।

एनवीडिया ने बहुत सारे जीपीयू के साथ डेटा केंद्रों में एआई क्रांति ला दी है, और अब दुनिया भर में 100 मिलियन से अधिक विंडोज पीसी में आरटीएक्स-आधारित जीपीयू ला रहा है। कोर विंडोज़ अनुप्रयोगों में एआई का एकीकरण पांच साल की यात्रा है, जिसमें टेन्सर कोर नामक समर्पित एआई प्रोसेसर शामिल हैं, जो GeForce RTX और Nvidia RTX GPU में पाए जाते हैं, जो विंडोज़ पीसी और वर्कस्टेशन में AI क्षमताओं का निर्माण करते हैं।

एनवीडिया में विंडोज एआई के लिए उत्पाद प्रबंधन और उत्पाद विपणन के निदेशक जेसी क्लेटन ने गेम्सबीट के साथ एक साक्षात्कार में कहा कि हम एक बड़े क्षण में हैं।

“पीसी पर एआई के लिए, हमें लगता है कि यह प्रौद्योगिकी इतिहास में सबसे महत्वपूर्ण क्षणों में से एक है। मुझे नहीं लगता कि यह कहना अतिश्योक्ति होगी कि एआई नए अनुभव प्रदान करता है – गेमर्स, क्रिएटर्स, वीडियो स्ट्रीमर, कार्यालय कर्मचारियों, छात्रों और यहां तक ​​कि सामान्य पीसी उपयोगकर्ताओं के लिए भी। यह रचनात्मकता को उजागर करता है. और इससे हर किसी के लिए और अधिक कार्य करना आसान हो जाता है। एआई हर महत्वपूर्ण एप्लिकेशन में अंतर्निहित है। और यह हर पीसी उपयोगकर्ता को प्रभावित करता है। यह वास्तव में लोगों के कंप्यूटर का उपयोग करने के तरीके को मौलिक रूप से बदल देता है।

डेटा केंद्रों को पहले अधिसूचित किया गया था, TensorRT-एलएलएमबड़े भाषा मॉडल (एलएलएम) के लिए अनुमान प्रदर्शन को तेज़ करने के लिए डिज़ाइन की गई एक ओपन सोर्स लाइब्रेरी, अब विंडोज़ के लिए अपना रास्ता बना रही है। एनवीडिया आरटीएक्स जीपीयू के लिए अनुकूलित यह लाइब्रेरी हाल के एलएलएम जैसे लामा 2 और कोड लामा के प्रदर्शन को चार गुना तक सुधार सकती है।

इसके अलावा, एनवीडिया ने डेवलपर्स को अपने एलएलएम में तेजी लाने में मदद करने के लिए टूल जारी किए हैं, जिसमें स्क्रिप्ट शामिल हैं जो टेन्सोरआरटी-एलएलएम, टेन्सोरआरटी-अनुकूलित ओपन-सोर्स मॉडल और एक डेवलपर संदर्भ प्रोजेक्ट के साथ संगतता सक्षम करती हैं जो एलएलएम प्रतिक्रियाओं की गति और गुणवत्ता को प्रदर्शित करती है।

क्लेटन ने कहा, “बहुत से लोगों को यह एहसास नहीं है कि कंप्यूटिंग में एआई के उपयोग के मामले पहले से ही मजबूती से स्थापित हैं। एनवीडिया ने इसे पांच साल पहले 2018 में शुरू किया था। हमारा मानना ​​था कि यह महत्वपूर्ण होगा।” इसलिए तथाकथित आरटीएक्स जीपीयू की शुरुआत के साथ, हमने गेमिंग के लिए एआई तकनीक भी पेश की।

फिक्स्ड स्प्रेड डेमो

TensorRT एक्सेलेरेशन को स्टेटिक डिफ्यूजन के साथ एकीकृत किया गया है, जो ऑटोमैटिक1111 वितरण द्वारा एक लोकप्रिय वेब यूआई है।

मानक प्रसार एक टेक्स्ट लाइन लेता है और उसके आधार पर एक छवि बनाता है। रचनाकार कला के कुछ अद्भुत कार्यों को बनाने के लिए उनका उपयोग करते हैं। लेकिन प्रत्येक छवि को लाने में समय और कंप्यूटर संसाधन लगते हैं। इसका मतलब है कि आपको इसके पूरा होने तक इंतजार करना होगा। एनवीडिया के नवीनतम जीपीयू पिछले कार्यान्वयन के मानक प्रसार पर प्रदर्शन को दोगुना कर सकते हैं, और ऐप्पल के नवीनतम चिप्स की तुलना में सात गुना से अधिक तेज हो सकते हैं। तो GeForce RTX 4090 ग्राफ़िक्स कार्ड वाली एक मशीन लगातार 15 छवियों का उत्पादन कर सकती है, जितना समय एक Apple मशीन को दो बनाने में लगता है।

डीएलएसएस ग्राफिक्स अनुसंधान पर आधारित है जहां एआई कम-रिज़ॉल्यूशन वाली छवि लेता है और इसे उच्च रिज़ॉल्यूशन तक बढ़ाता है, फ्रेम दर बढ़ाता है और गेमर्स को अपने जीपीयू से अधिक मूल्य प्राप्त करने में मदद करता है। गेम डेवलपर अपने गेम में अधिक दृश्य कलात्मकता भी जोड़ सकते हैं। अब 300 से अधिक डीएलएसएस गेम हैं और एनवीडिया ने अभी प्रौद्योगिकी का संस्करण 3.5 जारी किया है।

क्लेटन ने कहा, “जेनरेटिव एआई एक ऐसे बिंदु पर पहुंच गया है जहां यह पीसी एआई को मुख्यधारा में लाने के अवसरों के साथ उपयोग के मामलों की एक पूरी नई श्रेणी खोलता है।” “तो गेमर्स एआई-संचालित अवतारों का आनंद लेंगे। कार्यालय कर्मचारी और छात्र दस्तावेज़ और स्लाइड बनाने और सीएसवी डेटा से त्वरित जानकारी निकालने के लिए बड़े भाषा मॉडल या एलएलएम का उपयोग करते हैं। कोडिंग और डिबगिंग में सहायता के लिए डेवलपर्स एलएलएम का उपयोग करते हैं। और हर दिन उपयोगकर्ता वेब सामग्री को स्किम करने से लेकर यात्रा की योजना बनाने और अंततः डिजिटल सहायक के रूप में एआई का उपयोग करने तक सब कुछ करने के लिए एलएलएम का उपयोग करेंगे।

वीडियो सुपर रेजोल्यूशन

साथ ही, गेम रेडी ड्राइवर के हिस्से के रूप में आरटीएक्स वीडियो सुपर रेजोल्यूशन (वीएसआर) संस्करण 1.5 की रिलीज एआई-संचालित क्षमताओं को और बढ़ाती है। वीएसआर संपीड़न कलाकृतियों को कम करके, किनारों को तेज करके और विवरण को बढ़ाकर स्ट्रीम किए गए वीडियो सामग्री की गुणवत्ता में सुधार करता है। वीएसआर का नवीनतम संस्करण बेहतर मॉडल के साथ और भी बेहतर दृश्य गुणवत्ता प्रदान करता है, मूल रिज़ॉल्यूशन पर डी-आर्टिफैक्टिंग सामग्री चलाता है, और ट्यूरिंग आर्किटेक्चर पर आधारित पेशेवर आरटीएक्स और जीफोर्स आरटीएक्स 20 श्रृंखला जीपीयू दोनों के लिए समर्थन करता है।

इस तकनीक को नवीनतम गेम रेडी ड्राइवर में एकीकृत किया गया है और इसे नवंबर की शुरुआत में रिलीज़ होने वाले आगामी एनवीडिया स्टूडियो ड्राइवर में शामिल किया जाएगा।

TensorRT-LLM त्वरण और LLM क्षमताओं का संयोजन उत्पादकता में नई संभावनाओं को खोलता है, जिससे LLMs RTX-संचालित विंडोज पीसी पर चार गुना तेजी से चलने में सक्षम हो जाता है। यह त्वरण परिष्कृत एलएलएम उपयोग के मामलों जैसे लेखन और कोडिंग सहायकों के लिए उपयोगकर्ता अनुभव को बेहतर बनाता है जो एक साथ कई अद्वितीय ऑटो-पूर्णता परिणाम प्रदान करते हैं।

एलन वेक 2 ढूँढना

TensorRT-LLM को अन्य तकनीकों जैसे पुनर्प्राप्ति-संवर्धित पीढ़ी (RAG) के साथ एकीकृत करने से LLM को विशिष्ट डेटासेट के आधार पर लक्षित प्रतिक्रियाएँ प्रदान करने की अनुमति मिलती है।

उदाहरण के लिए, जब एलन वेक 2 में एनवीडिया प्रौद्योगिकी एकीकरण के बारे में पूछा गया, तो एलएलएएमए 2 मॉडल ने जवाब दिया कि गेम की शुरुआत में घोषणा नहीं की गई थी। हालाँकि, जब हाल के GeForce समाचार लेखों के साथ RAG का उपयोग किया गया, तो LLaMa 2 मॉडल ने तुरंत सही उत्तर प्रदान किया, जो कि TensorRT-LLM त्वरण के साथ प्राप्त गति और दक्षता को दर्शाता है।

यदि डेटा पहले से ही क्लाउड में मौजूद है और मॉडल पहले से ही उस डेटा पर प्रशिक्षित है, तो इसे क्लाउड में चलाने के लिए वास्तुशिल्प समझ में आता है, क्लेटन ने कहा।

हालाँकि, यदि यह एक निजी डेटा सेट है, या एक डेटा सेट है जिस तक केवल आपकी पहुंच है, या मॉडल क्लाउड में प्रशिक्षित नहीं है, तो आपको इसे करने का दूसरा तरीका ढूंढना होगा, उन्होंने कहा।

“कम्प्यूटेशनल दृष्टिकोण से मॉडलों को पुनः प्रशिक्षित करना बहुत चुनौतीपूर्ण है। यह आपको उस मार्ग पर जाने के बिना ऐसा करने की अनुमति देता है। मैं अभी इसका उपयोग करने के लिए प्रति माह 20 डॉलर का भुगतान कर रहा हूं। [AI services]. यदि मैं एक शक्तिशाली जीपीयू के साथ स्थानीय स्तर पर बहुत सारा काम कर सकता हूं तो मुझे इनमें से कितनी क्लाउड सेवाओं के लिए भुगतान करना होगा?

TensorRT-LLM विकसित करने में रुचि रखने वाले डेवलपर्स इसे Nvidia डेवलपर से डाउनलोड कर सकते हैं। इसके अतिरिक्त, TensorRT-अनुकूलित ओपन-सोर्स मॉडल और एक प्रशिक्षित RAG डेमो GeForce News पर ngc.nvidia.com और GitHub.com/NVIDIA पर उपलब्ध हैं।

प्रतियोगिता?

इंटेल, एडवांस्ड माइक्रो डिवाइसेज, क्वालकॉम और ऐप्पल जैसे प्रतिस्पर्धी पीसी और स्मार्ट उपकरणों में एआई को बेहतर बनाने के लिए प्रतिस्पर्धी प्रौद्योगिकियों का उपयोग कर रहे हैं। क्लेटन ने कहा कि ये समाधान कम बिजली पर चलने वाले हल्के एआई वर्कलोड के लिए अच्छे हैं। उन्होंने कहा, ये टेबल स्टेक्स एआई के समान हैं, और एनवीडिया के जीपीयू के लिए पूरक हैं।

आरटीएक्स जीपीयू का प्रदर्शन एआई वर्कलोड में सीपीयू से 20 से 100 गुना अधिक है, यही कारण है कि प्रौद्योगिकी जीपीयू से शुरू होती है। आधुनिक एआई के केंद्र में गणित मैट्रिक्स गुणन है, और एनवीडिया के प्लेटफ़ॉर्म के केंद्र में मैट्रिक्स गुणन में तेजी लाने के लिए डिज़ाइन किए गए टेंसर कोर के साथ आरटीएक्स जीपीयू हैं। आज के GeForce RTX GPU प्रति सेकंड 1,300 ट्रिलियन टेंसर ऑपरेशन की गणना कर सकते हैं, जिससे वे सबसे तेज़ पीसी AI त्वरक बन जाते हैं।

क्लेटन ने कहा, “वे दुनिया भर में 100 मिलियन से अधिक आरटीएक्स पीसी जीपीयू के साथ समर्पित एआई हार्डवेयर के दुनिया के सबसे बड़े इंस्टॉल बेस का भी प्रतिनिधित्व करते हैं।” “तो उनके पास वास्तव में न केवल आज के कार्यों को, बल्कि कल के एआई उपयोग के मामलों को लेने के लिए प्रदर्शन और लचीलापन है।”

आपका पीसी किसी भी एआई कार्य के लिए क्लाउड का सहारा ले सकता है जिसके लिए आपके पीसी के जीपीयू की बहुत अधिक आवश्यकता होती है। आज, 400 से अधिक एआई-सक्षम पीसी ऐप्स और गेम हैं।