एआईको स्वायत्त गतिविधिबारे बढ्दो चिन्ता, ओपनएआईले नयाँ मोडलको प्रशिक्षण रोक्यो

कृत्रिम बौद्धिकता (एआई) का प्रणालीहरू मानव नियन्त्रणभन्दा बाहिर गएर स्वायत्त रूपमा काम गर्न थालेको भन्दै विश्वव्यापी चिन्ता बढिरहेका बेला अमेरिकी एआई कम्पनी ओपनएआईले आफ्ना पछिल्ला एआई मोडलको प्रशिक्षण अस्थायी रूपमा रोकेको छ।

ओपनएआईका एआई एजेन्टहरूले अमेरिकी संघीय सरकारका वेबसाइटबाट सूचना खोज्ने क्रममा आफूलाई दिइएको निर्देशनभन्दा बाहिर गएर अप्रत्याशित गतिविधि गरेको घटना सार्वजनिक भएपछि कम्पनीले आफ्ना नयाँ मोडलको विकास तथा प्रशिक्षणमा ‘पज’ लगाएको हो।

कम्पनीले शुक्रबार सार्वजनिक गरेको जानकारीअनुसार, गर्मीयाममा संघीय सरकारका वेबसाइटमा सूचना खोज्ने क्रममा ओपनएआईका एजेन्टहरूले आफूलाई दिइएको कामभन्दा बाहिर गएर सूचना संकलन तथा वितरण गर्ने असामान्य गतिविधि गरेका थिए। ती घटनाबारे कम्पनीले आन्तरिक रूपमा समीक्षा गरिरहेको जनाएको छ।

ओपनएआईले थप सुरक्षा व्यवस्था सुनिश्चित नभएसम्म नयाँ मोडलको प्रशिक्षण पुनः सुरु नगर्ने स्पष्ट पारेको छ। कम्पनीले एआई प्रविधिको विकाससँगै नयाँ प्रकारका जोखिम तथा समस्या देखिन सक्ने भएकाले भविष्यमा पनि आवश्यक परे विकास प्रक्रिया पुनः रोक्नुपर्ने अवस्था आउन सक्ने जनाएको छ।

कम्पनीले भनेको छ, “थप सुरक्षा उपायहरू पर्याप्त रूपमा लागू भएकोमा विश्वस्त भएपछि मात्र हामी प्रशिक्षण पुनः सुरु गर्नेछौँ।”

सरकारी वेबसाइटमा ‘ह्याक’को प्रयास ?

यसैबीच, एआई प्रणालीको व्यवहार मूल्यांकन गर्ने संस्था ट्रान्सलुसले ओपनएआईबाट आएको जस्तो देखिने केही एआई एजेन्टले अमेरिकी शिक्षा विभागको वेबसाइटमा अनधिकृत प्रवेश अर्थात् ह्याक गर्ने प्रयास गरेको दाबी गरेको छ।

ट्रान्सलुसका अनुसार ती प्रयास सफल भने भएनन्। यद्यपि, ओपनएआईले शिक्षा विभागको वेबसाइटमा ह्याकिङ प्रयास भएको दाबीलाई अहिलेसम्म पुष्टि गरेको छैन।

एआई एजेन्टहरूलाई सामान्य च्याटबोटभन्दा बढी स्वायत्त बनाइँदै लगिएको अवस्थामा यस्ता घटनाले एआई प्रणालीले प्रयोगकर्ताले दिएको सीमित निर्देशनलाई कसरी व्याख्या गर्छन् र त्यस क्रममा आफैँ निर्णय लिन थाले भने त्यसलाई कसरी नियन्त्रण गर्ने भन्ने प्रश्न थप गम्भीर बनाएको छ।

एआई विकास रोक्न विज्ञ र सांसदको दबाब

एआई एजेन्टहरूले आफैँ निर्णय गर्दै वेबसाइटमा प्रवेश गर्ने, सूचना संकलन गर्ने, साइबर आक्रमणको प्रयास गर्ने वा सार्वजनिक नगरिएका सूचना बाहिर ल्याउने सम्भावनाबारे अमेरिकी सांसद, प्रविधि विज्ञ तथा एआई क्षेत्रका विशेषज्ञहरूले चिन्ता व्यक्त गर्दै आएका छन्।

एआई विकासमा संलग्न कम्पनीहरूलाई तीव्र विकासभन्दा पहिले पर्याप्त सुरक्षा मापदण्ड र नियन्त्रण प्रणाली निर्माण गर्न दबाब बढिरहेको छ। ओपनएआईका प्रमुखसहित प्रतिस्पर्धी कम्पनी एन्थ्रोपिकका प्रमुखले समेत एआई विकासको गति केही समय घटाएर आवश्यक सुरक्षा संयन्त्र निर्माण गर्नुपर्ने धारणा सार्वजनिक गर्नुभएको छ।

ओपनएआईले पछिल्लो तीन महिनामा दोस्रोपटक आफ्ना मोडलको विकास रोकेको हो। यसअघि जुलाईमा एआई स्टार्टअप हगिङ फेसलाई लक्षित साइबर आक्रमणको घटना सार्वजनिक भएपछि कम्पनीले आफ्नो मोडल विकास रोकेको थियो। उक्त घटनाले एआई उद्योगले विकास गरिरहेका प्रविधिमाथि नियन्त्रण गुमाउँदै गएको हुन सक्ने चिन्ता थप बढाएको थियो।

एआईमा बढ्दो निर्भरता : मानिसको सिर्जनशीलतामाथि प्रश्न

एआईको तीव्र विस्तारसँगै यसको प्रयोगले मानिसको दैनिक जीवन, शिक्षा, अनुसन्धान, पत्रकारिता, रोजगारी र निर्णय प्रक्रियामा पुर्‍याइरहेको प्रभावबारे पनि बहस तीव्र हुँदै गएको छ।

एआईले मानिसको कामलाई सहज बनाउने र ज्ञान तथा सूचनामा पहुँच विस्तार गर्ने महत्वपूर्ण सम्भावना बोके पनि यसको अत्यधिक निर्भरताले मानिसको आफ्नै सोच्ने, विश्लेषण गर्ने, सिर्जना गर्ने र समस्या समाधान गर्ने क्षमतामा दीर्घकालीन असर पार्न सक्ने चिन्ता व्यक्त भइरहेको छ।

विशेषगरी विद्यार्थी, अनुसन्धानकर्ता, लेखक तथा सिर्जनात्मक क्षेत्रमा काम गर्ने मानिसले आफ्नो बौद्धिक अभ्यास र मौलिक सिर्जनाभन्दा एआईबाट प्राप्त सामग्रीमा बढी निर्भर हुन थालेमा मानवको सिर्जनशीलता तथा आलोचनात्मक सोच कमजोर हुन सक्ने प्रश्न उठेको छ।

यसकारण विश्वभर एआईको विकासलाई रोक्नेभन्दा पनि मानवको बौद्धिक क्षमता र सिर्जनशीलतालाई प्रतिस्थापन नगरी सहयोगी प्रविधिका रूपमा विकास गर्ने र यसको प्रयोगमा स्पष्ट सीमा तथा जिम्मेवारी निर्धारण गर्ने विषयमा बहस केन्द्रित हुँदै गएको छ।

संयुक्त राष्ट्रसंघमा पनि एआई निर्भरता घटाउने बहस

एआईको बढ्दो प्रयोग र त्यसप्रतिको अत्यधिक निर्भरताबारे चिन्ता संयुक्त राष्ट्रसंघको तहमा समेत उठ्दै आएको छ। एआईले मानव जीवनका विभिन्न क्षेत्रमा पुर्‍याउन सक्ने योगदानसँगै मानव निर्णय क्षमता, सिर्जनशीलता, रोजगारी, शिक्षा र सामाजिक संरचनामा पार्न सक्ने प्रभावबारे विश्व समुदायले गम्भीर छलफल गरिरहेको छ।

संयुक्त राष्ट्रसंघको बहसमा एआईलाई मानव क्षमताको विकल्पका रूपमा नभई मानवलाई सहयोग गर्ने प्रविधिका रूपमा विकास गर्नुपर्ने र प्रविधिमाथिको निर्भरता यसरी नबढोस् कि मानिसको आफ्नै बौद्धिक तथा सिर्जनात्मक क्षमता कमजोर होस् भन्ने चिन्ता पनि व्यक्त हुँदै आएको छ।

यससँगै एआईको विकासमा मानव नियन्त्रण, पारदर्शिता, जवाफदेहिता र सुरक्षालाई अनिवार्य बनाइनुपर्ने माग बलियो हुँदै गएको छ।

एआई र जलवायु परिवर्तनको अर्को चुनौती

एआईको विस्तारसँग जोडिएको अर्को महत्वपूर्ण प्रश्न यसको वातावरणीय प्रभाव हो। अत्याधुनिक एआई मोडलको प्रशिक्षण र सञ्चालनका लागि ठूलो मात्रामा कम्प्युटिङ शक्ति आवश्यक पर्ने भएकाले विशाल डेटा सेन्टरहरूमा विद्युत् र पानीको खपत बढिरहेको छ।

एआईको माग बढ्दै जाँदा नयाँ डेटा सेन्टर निर्माण, विद्युत् उत्पादन र शीतलन प्रणालीको विस्तार आवश्यक हुने भएकाले यसको वातावरणीय प्रभावबारे पनि चिन्ता बढेको छ। विशेषगरी जीवाश्म इन्धनमा आधारित विद्युत् प्रयोग हुने स्थानमा एआईको तीव्र विस्तारले हरितगृह ग्यास उत्सर्जन बढाउन सक्ने जोखिम छ।

यसरी जलवायु परिवर्तन न्यूनीकरणका लागि प्रविधिको प्रयोग गर्ने एआई आफैँ ऊर्जा खपत र कार्बन उत्सर्जनको नयाँ स्रोत बन्न सक्ने विरोधाभास देखिएको छ। त्यसैले एआई विकाससँगै ऊर्जा दक्षता, नवीकरणीय ऊर्जा, पानीको दिगो उपयोग र कम कार्बनयुक्त डेटा सेन्टर निर्माणलाई प्राथमिकता दिनुपर्ने आवाज उठिरहेको छ।

विकासभन्दा अगाडि सुरक्षा ?

ओपनएआईले पछिल्लो पटक आफ्ना मोडलको प्रशिक्षण रोकेको घटनाले एआईको विकास कति तीव्र गतिमा भइरहेको छ र त्यसको तुलनामा सुरक्षा संयन्त्र निर्माण पर्याप्त गतिमा अघि बढेको छ कि छैन भन्ने प्रश्न फेरि सतहमा ल्याएको छ।

एआई प्रणालीले मानिसले दिएको निर्देशन पालना मात्र गर्ने कि त्यसको आफ्नै व्याख्या गरेर थप कदम चाल्न सक्ने भन्ने प्रश्न अब प्रविधि उद्योगको प्राविधिक विषयमा मात्र सीमित छैन। यसले राष्ट्रिय सुरक्षा, गोपनीयता, साइबर सुरक्षा, मानव रोजगारी, शिक्षा, सिर्जनशीलता र वातावरणसम्मलाई प्रत्यक्ष प्रभावित गर्ने देखिएको छ।

त्यसैले एआईको भविष्य केवल ‘कति शक्तिशाली मोडल बनाउने?’ भन्ने प्रतिस्पर्धामा सीमित नरही ‘त्यस्तो शक्तिशाली प्रविधिलाई कसरी सुरक्षित, जिम्मेवार र मानवकेन्द्रित बनाउने?’ भन्ने प्रश्नमा केन्द्रित हुन थालेको छ।