एआई दौडमा नयाँ मापदण्ड: शक्तिशाली हार्डवेयर र सफ्टवेयरको गति अब नापिने

काठमाडौं – आर्टिफिसियल इन्टेलिजेन्स (Artificial intelligence) समूह एमएलकमन्स (MLCommons) ले दुई नयाँ बेन्चमार्क (benchmark) सार्वजनिक गरेको छ। कम्पनीका अनुसार यी बेन्चमार्कले उत्कृष्ट हार्डवेयर (hardware) र सफ्टवेयर (software) ले एआई (AI) एप्लिकेशन (application) हरू कति छिटो चलाउन सक्छन् भन्ने पत्ता लगाउन मद्दत गर्नेछ।

दुई वर्षअघि ओपनएआई (OpenAI) को च्याटजीपीटी (ChatGPT) सार्वजनिक भएदेखि नै चिप (chip) बनाउने कम्पनीहरूले करोडौं मानिसहरूलाई एआई (AI) उपकरणहरू प्रयोग गर्न दिने कोड (code) लाई प्रभावकारी रूपमा चलाउन सक्ने हार्डवेयर (hardware) बनाउन ध्यान केन्द्रित गर्न थालेका छन्। च्याटबट (chatbot) र सर्च इन्जिन (search engine) जस्ता एआई (AI) एप्लिकेशन (application) हरू चलाउन धेरै प्रश्नहरूको जवाफ दिनुपर्ने भएकोले, एमएलकमन्स (MLCommons) ले गति नाप्न एमएलपर्फ (MLPerf) बेन्चमार्कका दुई नयाँ संस्करणहरू विकास गरेको छ।

नयाँ बेन्चमार्कहरू मध्ये एउटा मेटा (Meta) को ४ खर्ब ५ अर्ब प्यारामिटर (parameter) भएको एआई (AI) मोडल (model) llama ३.१ मा आधारित छ। यो परीक्षणले सामान्य प्रश्नहरूको जवाफ दिने, गणित र कोड (code) जेनेरेसन (generation) जस्ता कुराहरूलाई लक्षित गर्दछ। नयाँ ढाँचाले ठूला प्रश्नहरू प्रशोधन गर्ने र धेरै स्रोतहरूबाट डेटा (data) संश्लेषण गर्ने प्रणालीको क्षमता परीक्षण गर्दछ।

एनभिडिया (Nvidia) ले आफ्ना धेरै चिपहरू बेन्चमार्कका लागि पेस गरेको छ, र डेल (Dell) टेक्नोलोजीज (Technologies) जस्ता सिस्टम (system) बनाउने कम्पनीहरूले पनि पेस गरेका छन्।

एमएलकमन्स (MLCommons) ले दिएको जानकारी अनुसार ४ खर्ब ५ अर्ब प्यारामिटर (parameter) भएको ठूलो बेन्चमार्कका लागि एडभान्स्ड माइक्रो डिभाइसेज (Advanced Micro Devices) को कुनै पनि प्रस्तुति थिएन।

नयाँ परीक्षणमा, एनभिडिया (Nvidia) को नवीनतम पुस्ताको आर्टिफिसियल इन्टेलिजेन्स (artificial intelligence) सर्भरहरू – जसलाई ग्रेस ब्ल्याकवेल (Grace Blackwell) भनिन्छ र जसमा ७२ वटा एनभिडिया ग्राफिक्स प्रोसेसिङ युनिट (Nvidia graphics processing units – GPUs) छन् – अघिल्लो पुस्ताभन्दा २.८ देखि ३.४ गुणा छिटो थियो। कम्पनीले मङ्गलबार भएको पत्रकार सम्मेलनमा बताए अनुसार नयाँ सर्भरमा आठवटा मात्र जिपियू (GPUs) प्रयोग गर्दा पनि पुरानो मोडलसँग तुलना गर्दा यो धेरै छिटो थियो।

एनभिडिया (Nvidia) ले आफ्ना सर्भरहरूभित्र रहेका चिपहरूको कनेक्सन (connection) लाई छिटो बनाउन काम गरिरहेको छ, जुन एआई (AI) को काममा महत्त्वपूर्ण छ जहाँ च्याटबट (chatbot) एकै पटक धेरै चिपहरूमा चल्छ।

दोस्रो बेन्चमार्क पनि मेटा (Meta) द्वारा निर्मित ओपन-सोर्स (open-source) एआई (AI) मोडल (model) मा आधारित छ र यो परीक्षणले च्याटजीपीटी (ChatGPT) जस्ता उपभोक्ता एआई (AI) एप्लिकेशन (application) हरूले सेट (set) गरेको प्रदर्शन अपेक्षाहरूलाई अझ नजिकबाट अनुकरण गर्ने लक्ष्य राखेको छ।

यसको लक्ष्य बेन्चमार्कको प्रतिक्रिया समयलाई कम गर्नु र यसलाई तत्काल प्रतिक्रियाको नजिक पुर्‍याउनु हो।