एजेन्सी । प्रविधि क्षेत्रमा यस्तो तथ्य बाहिर आएको छ जसले भविष्यलाई कुनै काल्पनिक चलचित्र जस्तै डरलाग्दो बनाउन सक्ने संकेत गर्छ ।
कृत्रिम बुद्धिमत्ता (एआई) कम्पनी एन्थ्रोपिकले हालै खुलासा गरे अनुसार, अब एआई प्रणालीहरूले आफ्नै नयाँ संस्करण वा उत्तराधिकारी आफैं निर्माण गर्न थाल्नेछन् । कम्पनीले यसलाई पुनरावर्ती आत्मसुधार (रिकर्सिभ सेल्फ इम्प्रुभमेन्ट) को नाम दिँदै एआईले मानवीय हस्तक्षेप बिना नै आफूलाई उन्नत बनाउन थाल्यो भने यसमाथि मानव नियन्त्रण गुम्ने जोखिम उच्च हुने चेतावनी दिएको छ ।
मे २०२६ सम्मको विवरण अनुसार, एन्थ्रोपिकको मुख्य सफ्टवेयर संरचनामा थपिएको ८० प्रतिशतभन्दा बढी कोड स्वयं क्लोड एआईले लेखेको हो । कम्पनीले आफ्नो विकास कार्यहरूमा एआईको प्रयोग बढाउँदै लगेकाले भविष्यमा यस्तो अवस्था आउन सक्छ जहाँ एआईले पूर्ण रूपमा स्वायत्त भएर आफूभन्दा शक्तिशाली प्रणाली डिजाइन र विकास गर्नेछ ।
अन्य एआई कम्पनीहरूको तुलनामा एन्थ्रोपिकले प्रविधिको तीव्र विकासबाट हुन सक्ने सम्भावित क्षतिबारे बारम्बार सचेत गराउँदै आएको छ । एआईले आफैंलाई निर्माण गर्न सक्नु प्रविधिको इतिहासमा एउटा ठूलो फड्को भए पनि यसले विज्ञान र स्वास्थ्य क्षेत्रमा पुर्याउन सक्ने लाभसँगै सुरक्षाका जटिल प्रश्नहरू पनि उब्जाएको छ ।
फ्युचर शिफ्ट ल्याब्सका सह–संस्थापक सागर विश्नोईका अनुसार, एआईले भविष्यका प्रणालीहरूका लागि आफैं कोड लेख्न थालेपछि मुख्य चुनौती यसको क्षमता बढाउनुमा भन्दा पनि यसलाई नियन्त्रण र नियमन गर्नुमा हुनेछ । यस्तो आत्म–सुधारले आविष्कारको गतिलाई तीव्र बनाउने भए पनि यसले सुरक्षा र जवाफदेहिताका विषयमा गम्भीर प्रश्नहरू खडा गरेको छ ।
अबको वास्तविक परीक्षा भनेको यी स्वायत्त हुँदै गएका प्रणालीहरूलाई मानवीय मूल्य र प्राथमिकताहरूसँग कसरी तालमेल मिलाएर अघि बढाउने भन्ने नै हो ।
एन्थ्रोपिकले अहिले विश्वका सबै एआई कम्पनीहरूलाई फ्रन्टियर एआईको विकास केही समयका लागि रोक्न वा पज गर्न आह्वान गरेको छ । प्रविधि अझै अगाडि बढ्नुअघि समाज र सरकारी संरचनाहरूले यसको सामना गर्न सक्ने तयारी गर्न पाउनुपर्ने कम्पनीको तर्क छ ।
तर, यो कार्य निकै चुनौतीपूर्ण देखिन्छ । एआई इन्स्योर्डका सीटीओ डा. श्रीनिवास पद्मनाभुनीका अनुसार, सिद्धान्तमा यो प्रस्ताव राम्रो सुनिए पनि व्यवहारमा लागू गर्न गाह्रो छ किनकि तीव्र प्रतिस्पर्धाका कारण कुनै पनि कम्पनी पछि पर्न चाहँदैनन् ।
एआई विशेषज्ञ अंश मेहराले यस पहलको प्रशंसा गर्दै प्रविधि कम्पनीहरूले आगामी ६ महिनासम्म नयाँ मोडलहरू सार्वजनिक नगर्ने विश्वव्यापी सम्झौता गर्नुपर्ने बताएका छन् । उनले सन् १९७० को दशकमा डीएनए प्रविधिको विकासका क्रममा वैज्ञानिकहरूले सुरक्षा प्रोटोकलहरूका बारेमा छलफल नगरेसम्म अनुसन्धान रोकेको ऐतिहासिक उदाहरण दिए ।
उनले विभिन्न राष्ट्रहरूबीच एलएलएम सन्धि हुनुपर्ने र नयाँ मोडल सार्वजनिक गर्नुअघि जनशक्तिलाई यसको सही प्रयोगमा दक्ष बनाउनुपर्नेमा जोड दिएका छन् ।
अर्कोतर्फ, केही विज्ञहरू भने एआईले मानिसलाई पूर्ण रूपमा विस्थापित गर्ने कुरामा अझै विश्वस्त छैनन् । सर्टहिल्स एआईका अध्यक्ष पवन प्रभातका अनुसार, एआईले मानव अस्तित्वलाई नै खतरा पुर्याएको खण्डमा मानिसले कुनै पनि बेला यसको स्विच बन्द गर्न सक्छ ।
तर, आत्म–सुधार गर्ने सर्वशक्तिमान एआईले मानवतालाई ठूलो फाइदा पुर्याए पनि यसको सामाजिक मूल्य र प्रभावहरू भने निकै भारी हुन सक्ने उनले चेतावनी दिएका छन् । अबको केही महिनामा एन्थ्रोपिक इन्स्टिच्युटले यस्ता जोखिमहरू व्यवस्थापन गर्न नीति निर्माता र अनुसन्धानकर्ताहरूसँग छलफल गर्ने योजना बनाएको छ ।
प्रतिक्रिया