एआईको विकासले निम्त्याउँदैछ संकटः ‘एन्थ्रोपिक’ द्वारा विश्वव्यापी रूपमा विकास रोक्न अपील

काठमाडौं । आधुनिक प्रविधिको संसारमा ‘आर्टिफिसियल इन्टेलिजेन्स’ (एआई) ले ल्याएको क्रान्ति अहिले एउटा यस्तो मोडमा आइपुगेको छ, जहाँ यसका निर्माताहरू नै भविष्यलाई लिएर त्रसित हुन थालेका छन् ।

विश्वकै अग्रणी एआई अनुसन्धान संस्थाहरूमध्ये एक ‘एन्थ्रोपिक’ ले हालै एक चेतावनी जारी गर्दै भनेको छ,‘यदि एआईको विकासको गतिलाई तुरुन्तै सुस्त बनाइएन वा केही समयका लागि रोकिएन भने, मानवजातिले यस प्रविधिमाथिको नियन्त्रण सदाका लागि गुमाउन सक्छ ।’

एन्थ्रोपिकको यो चेतावनीले सिलिकन भ्यालीदेखि विश्वका शक्तिशाली सरकारहरूसम्म हलचल मचाएको छ । कम्पनीले एक विस्तृत ब्लग पोस्ट सार्वजनिक गर्दै विश्वका ठूला एआई ल्याबहरूलाई एकै ठाउँमा उभिएर ‘समन्वयात्मक विराम’ लिन प्रस्ताव गरेको छ ।

के हो ‘एन्थ्रोपिक’ को डर ?
एन्थ्रोपिकका सह–संस्थापक ज्याक क्लार्क र अनुसन्धान संस्थानका प्रमुख मेरिना फाभारोका अनुसार, एआई प्रणालीहरू यति छिटो सक्षम हुँदैछन् कि उनीहरूले अब मानव निर्देशन बिना नै जटिल सफ्टवेयर कार्यहरू गर्न थालेका छन् । सबैभन्दा डरलाग्दो पक्ष भनेको ‘रिकर्सिभ सेल्फ–इम्प्रुभमेन्ट’ हो ।

यो यस्तो प्रक्रिया हो जहाँ एउटा एआई मोडलले आफैंले आफ्नो नयाँ र अझ शक्तिशाली संस्करण डिजाइन र विकास गर्न सक्छ । यदि कुनै एआई प्रणालीले मानव हस्तक्षेप बिना नै आफूलाई सुधार गर्न थाल्यो भने, यसको वृद्धिको गति गणितीय नभई घातीय हुनेछ ।

यसको अर्थ, केही दिन वा हप्तामै एआई यति शक्तिशाली बन्न सक्छ कि मानिसले त्यसलाई कसरी रोक्ने वा कसरी निर्देशित गर्ने भन्ने भेउ नै पाउने छैनन् ।

एन्थ्रोपिकले चेतावनी दिएको छ, ‘हामी यस्तो विन्दुको नजिक छौँ जहाँ एआईले आफ्नै उत्तराधिकारी बनाउन सक्छ । यो विज्ञान र स्वास्थ्यका लागि ठूलो उपलब्धि भए तापनि यसले मानव नियन्त्रण गुम्ने जोखिमलाई पनि उत्तिकै बढाउँछ ।’

एआई ल्याबहरूबीचको मतभेदः एन्थ्रोपिक भर्सेस ओपनएआई
एआईको भविष्यलाई लिएर विश्वका दुई ठूला शक्तिहरूबीच वैचारिक युद्ध सुरु भएको छ । एकातिर एन्थ्रोपिकले कम्पनीहरू आफैं मिलेर विकास रोक्नुपर्छ भनिरहेको छ भने, अर्कोतिर ‘च्याटजीपीटी’ निर्माता ‘ओपनएआई’ यसमा असहमत देखिएको छ ।

ओपनएआईले सार्वजनिक गरेको एक प्रतिवेदनमा भनेको छ कि एआईको नियमन गर्ने अधिकार निजी कम्पनीहरूको हातमा हुनुहुँदैन ।

ओपनएआईको तर्क छ, ‘एआई नवाचारको गति कस्तो हुनुपर्छ भन्ने निर्णय कुनै एउटा प्रयोगशाला, कम्पनी वा विशेष हित समूहले गर्नु हुँदैन । यो निर्णय लोकतान्त्रिक सरकारहरूले गर्नुपर्छ, जसले सुरक्षा र जवाफदेहिताका संयन्त्रहरू निर्माण गर्न सक्छन् ।’

यो मतभेदले एउटा ठूलो प्रश्न खडा गरेको छ, के निजी कम्पनीहरूले नाफाको लोभ त्यागेर सुरक्षाका लागि आफ्नै विकास रोक्लान् त ? एन्थ्रोपिकका अनुसार, यदि एउटा कम्पनीले मात्र विकास रोक्यो भने अर्को ‘कम सतर्क’ प्रतिस्पर्धी अगाडि बढ्नेछ, जसले जोखिमलाई झन् बढाउँछ । त्यसैले, एक विश्वव्यापी समन्वय आवश्यक छ ताकि कसैले पनि गोप्य रूपमा एआईलाई खतरनाक स्तरमा नपुर्याओस् ।

‘एआई वर्म’ र साइबर सुरक्षाको नयाँ खतरा
एन्थ्रोपिकको यो चेतावनीलाई टोरन्टो विश्वविद्यालयका अनुसन्धानकर्ताहरूको पछिल्लो खोजले थप पुष्टि गरिदिएको छ ।
अनुसन्धानकर्ता निकोलस पापेर्नोटको टोलीले प्रयोगशालामा एउटा यस्तो ‘एआई वर्म’ विकास गरेर देखाएको छ, जसले मानिसको मद्दत बिना नै एउटा कम्प्युटरबाट अर्कोमा फैलिँदै आफ्नो ह्याकिङ रणनीति बदल्न सक्छ ।

पापेर्नोटका अनुसार, एआईले गर्दा साइबर आक्रमणको लागत निकै घटेको छ । पहिले ह्याकरहरूले बैंक, अस्पताल वा विद्युत ग्रिड जस्ता ठूला निकायलाई मात्र निशाना बनाउँथे । तर अब एआईको सहयोगले तपाईँको घरमा रहेको पुरानो ल्यापटप वा सामान्य इन्टरनेट उपकरण पनि सजिलै कब्जामा लिन सकिन्छ । यी साना उपकरणहरूलाई प्रयोग गरेर पछि ठूला सरकारी नेटवर्कमा आक्रमण गर्न सकिन्छ ।

‘यो केवल सबैभन्दा शक्तिशाली एआई मोडलहरूको मात्र कुरा होइन,’ पापेर्नोटले भने, ‘सस्तो र खुला स्रोत (इउभल–कयगचअभ) एआई उपकरणहरूले पनि विश्वको साइबर सुरक्षालाई धराशायी बनाउन सक्छन् ।’

‘मिथोस’ मोडल र बैंकिङ क्षेत्रमा त्रास
एन्थ्रोपिककै आफ्नै एआई मोडल ‘मिथोस’ ले यसै वर्षको सुरुमा प्रविधि जगतमा हलचल मच्चाएको थियो । यस मोडलले बैंकिङ र सफ्टवेयर प्रणालीका कोडहरूमा यस्ता सूक्ष्म कमजोरीहरू पत्ता लगायो, जुन मानव विज्ञहरूले वर्षौंसम्म देख्न सकेका थिएनन् ।

यसले के देखाउँछ भने एआईसँग सफ्टवेयर सुरक्षा ध्वस्त पार्ने क्षमता छ । यदि यस्तो प्रविधि गलत हातमा पुग्यो वा एआई आफैंले स्वायत्त रूपमा काम गर्न थाल्यो भने विश्वको वित्तीय प्रणाली र डिजिटल पूर्वाधार केही मिनेटमै ध्वस्त हुन सक्छ ।

सुरक्षा बनाम नाफाः एक ट्रिलियन डलरको दौड
एन्थ्रोपिकले आफूलाई ‘सुरक्षा–केन्द्रित’ कम्पनीको रूपमा प्रस्तुत गर्दै आएको छ । तर यसको पछाडि ठूलो व्यापारिक स्वार्थ पनि लुकेको छ । हाल एन्थ्रोपिक र ओपनएआई दुवै शेयर बजारमा सूचीकृत हुने तयारीमा छन् । एन्थ्रोपिकको बजार मूल्य झण्डै १ ट्रिलियन डलर (१००० अर्ब डलर) पुग्न सक्ने अनुमान गरिएको छ ।

यति ठूलो आर्थिक दाउ लागेको बेला ‘विकास रोकौं’ भन्नु कत्तिको व्यावहारिक छ भन्ने प्रश्न पनि उठेको छ । केही आलोचकहरू भन्छन् कि यो ‘सुरक्षा’ को कार्ड खेलेर एन्थ्रोपिकले आफ्ना प्रतिस्पर्धीहरूलाई सुस्त बनाउन खोजिरहेको हुन सक्छ । तर, कम्पनीले भने आफूले अमेरिकी सेनालाई समेत निगरानी र हतियारका लागि एआई प्रयोग गर्न नदिएर आफ्नो नैतिकता प्रमाणित गरिसकेको दाबी गरेको छ । यही कारणले गर्दा अमेरिकी सरकारले एन्थ्रोपिकलाई सन् २०२६ देखि लागू हुने गरी राष्ट्रिय सुरक्षाको ‘ब्ल्याकलिस्ट’ मा राखेको छ ।

सरकारको फितलो उपस्थिति र ट्रम्पको कार्यकारी आदेश
एआईको विकास जुन गतिमा भइरहेको छ, त्यसको तुलनामा सरकारी नियमन कछुवाको गतिमा छ । संयुक्त राज्य अमेरिकामा, जहाँ विश्वका प्रमुख एआई ल्याबहरू छन्, त्यहाँ अझै पनि एआई सम्बन्धी कडा कानुन बन्न सकेको छैन ।

हालैको ट्रम्प प्रशासनको एक कार्यकारी आदेशले एआई सुरक्षाको जिम्मा कम्पनीहरूलाई नै सुम्पिएको छ । सरकारले कम्पनीहरूलाई आफ्ना शक्तिशाली मोडलहरू सार्वजनिक गर्नुअघि स्वेच्छिक रूपमा साइबर सुरक्षा परीक्षणका लागि बुझाउन आग्रह गरेको छ । तर यो ‘स्वेच्छिक’ मात्र भएकाले कम्पनीहरूले यसलाई पालना गर्छन् नै भन्ने ग्यारेन्टी छैन ।

‘एलाइन्मेन्ट’ को चुनौती
एआई उद्योगमा अहिले सबैभन्दा धेरै चर्चा हुने शब्द हो ‘एलाइन्मेन्ट’ । यसको अर्थ एआईका उद्देश्यहरू मानव मूल्य–मान्यता र हितसँग मेल खानुपर्छ भन्ने हो ।

एन्थ्रोपिकले प्रस्ताव गरेको ‘पज’ वा विरामको मुख्य उद्देश्य नै यही हो । उनीहरू चाहन्छन् कि एआईको क्षमता बढ्नुअघि नै त्यसलाई मानव हितमा कसरी राखिरहने भन्ने अनुसन्धान पूरा होस् ।

यदि एआईले मानिसले नबुझ्ने भाषामा संवाद गर्न थाल्यो वा मानिसको नियन्त्रणभन्दा बाहिरका लक्ष्यहरू निर्धारण ग¥यो भने, त्यो मानवताका लागि घातक हुनेछ ।

‘हामीलाई यस्तो सामाजिक संरचना र अनुसन्धान चाहिन्छ जसले एआईको प्रगतिसँग तालमेल मिलाउन सकोस्,’ एन्थ्रोपिकले भनेको छ ।

विगतका असफल प्रयासहरू र भविष्यको बाटो
यो पहिलो पटक होइन कि एआई रोक्न माग गरिएको हो । सन् २०२३ मा एलन मस्क र हजारौं विज्ञहरूले एआईको विकास ६ महिना रोक्न अपिल गरेका थिए । तर त्यसबेला कसैले सुनेनन् । अहिले एन्थ्रोपिक जस्तो भित्रैको खेलाडीले यस्तो प्रस्ताव ल्याउनुले खतराको घण्टी अझ चर्को गरी बजेको संकेत गर्छ ।

एन्थ्रोपिकको प्रस्ताव अनुसार विश्वका अग्रणी ल्याबहरूले एक आपसमा विश्वासको वातावरण बनाउनुपर्छ । एउटा ल्याबले काम रोक्दा अर्कोले त्यसको फाइदा उठाएर अघि बढ्न नपाउने संयन्त्र बन्नुपर्छ । एआईले आफैंलाई सुधार गर्ने क्षमता विकास गर्नुअघि कडा सुरक्षा ‘गार्डरेल’ हरू स्थापना गर्नुपर्छ ।

मानवताको भाग्य एआईको हातमा ?
हामी अहिले यस्तो ऐतिहासिक बिन्दुमा छौँ जहाँ हाम्रा निर्णयहरूले आउँदो दशकौंको भविष्य तय गर्नेछ । एआईले क्यान्सरको उपचार खोज्न सक्छ, जलवायु परिवर्तनको समाधान दिन सक्छ र गरिबी निवारणमा मद्दत गर्न सक्छ ।

तर, यदि यो प्रविधि नियन्त्रणबाहिर गयो भने यसले निम्त्याउने साइबर युद्ध, जैविक हतियारको निर्माण र सामाजिक अस्थिरताले मानव सभ्यता नै संकटमा पर्न सक्छ ।

एन्थ्रोपिकको चेतावनी केवल एउटा व्यापारिक संस्थाको भनाइ मात्र होइन, यो एक गम्भीर वैज्ञानिक चेतावनी हो । प्रविधिको दौडमा अन्धो भएर लाग्नुभन्दा केही समय रोकिएर सुरक्षाका उपायहरू सोच्नु नै बुद्धिमानी हुने देखिन्छ । के विश्वका दिग्गज कम्पनी र सरकारहरू यो ‘ब्रेक’ लगाउन तयार होलान ? वा नाफा र शक्तिको दौडले हामीलाई एक यस्तो खाडलमा पुर्याउनेछ जहाँबाट फर्कन सम्भव हुने छैन ? यो प्रश्नको उत्तर समयले नै दिनेछ ।

तर अहिलेका लागि यति भन्न सकिन्छ— एआईको भविष्य केवल कोड र डेटामा मात्र होइन, मानव नैतिकता र संयमतामा पनि अडिएको छ ।