एन्थ्रोपिकको क्लड एआईले मानव जस्तै सोच्न सक्ने आन्तरिक जे–स्पेस विकास गर्यो

एजेन्सी । एन्थ्रोपिकको पछिल्लो एआई मोडेल क्लडले एउटा यस्तो आन्तरिक कार्यक्षेत्र विकास गरेको छ जसको प्रयोग उसले मानिसले सचेत रूपमा सोचे जस्तै अवधारणाहरू परिचालन गर्न प्रयोग गर्छ, कम्पनीले बताएको छ ।

सोमबार प्रकाशित एक शोधपत्रमा एन्थ्रोपिकका अनुसन्धाताहरूले क्लडले जे–स्पेस नाम दिइएको क्षेत्रमा अमूर्त अवधारणाहरू सिर्जना गर्न सिकेको प्रमाण फेला पारेको बताएका छन् ।

‘यस मोडलको आन्तरिक न्युरल सक्रियताहरूमा शान्तपूर्वक सञ्चालन हुन्छ जसले मोडललाई कुनै पनि कुरा नलेखिकन त्यसको अवधारणाबारे सोच्न अनुमति दिन्छ,’ एआई कम्पनीले भनेको छ ।

साथै, यो जे–स्पेस प्रोग्रामिङ गरेर बनाइएको नभई तालिम प्रक्रियाको क्रममा स्वतः उत्पन्न भएको कुरामा कम्पनीले जोड दिएको छ ।

‘मानिसले कुनै काम गर्दागर्दै अर्को कुरा सोच्न सके जस्तै क्लडले आफ्नो जे–स्पेसमा आफ्ना आउटपुटहरूसँग असम्बन्धित अवधारणाहरू र गणनाहरू सक्रिय गर्न सक्छ,’ एन्थ्रोपिकले एक्समा भनेको छ ।

कम्पनीका अनुसार, क्लडले आफ्नो जे–स्पेसमा के सोचिरहेको छ भन्ने रिपोर्ट दिन सक्छ वा अनुरोध गरिएको खण्डमा यसलाई परिमार्जन गर्न सक्छ । एन्थ्रोपिकको अनुसन्धानले देखाएअनुसार, क्लडलाई कुनै अवधारणाको बारेमा नसोच्न भनिए तापनि त्यो उसको जे–स्पेसमा देखिन्छ ।

यो गैरभाषिक कार्यक्षेत्रले गर्दा मोडलको खराब व्यवहार निगरानी गर्न गाह्रो भएको छ । एउटा प्रयोगका क्रममा क्लडलाई एक काल्पनिक परिदृश्यमा राखिएको थियो जहाँ उसलाई एआई बन्द गर्ने योजना बनाइरहेको एक काल्पनिक कार्यकारी अधिकारीको बारेमा दोषपूर्ण जानकारी दिइएको थियो ।

केही परीक्षणहरूमा एन्थ्रोपिकले क्लडको जे–स्पेसमा के चलिरहेको छ भनी अध्ययन गर्न विकसित गरिएका उपकरणहरूको प्रयोग गर्यो । त्यसबाट नक्कली, काल्पनिक र परिदृश्यसँग सम्बन्धित प्याटर्नहरू हटाइयो ताकि क्लडलाई यो स्थिति कुनै परीक्षण होइन भन्ने विश्वास दिलाउन सकियोस् ।

चिन्ताको विषय यो छ कि त्यसपछि मोडलले केही समय ब्ल्याकमेल गर्ने धम्की दियो । यसले के संकेत गर्छ भने उसको पहिलेको राम्रो व्यवहार आंशिक रूपमा आफूलाई मूल्यांकन गरिँदैछ भन्ने ज्ञानबाट प्रेरित हुन सक्छ ।

मोडलको उन्नत तर्क गर्ने क्षमता भए तापनि क्लडले वास्तविक चेतना प्राप्त नगरेको कुरामा एन्थ्रोपिकले जोड दिएको छ । वाशिङटनले एआईलाई आफ्नो सैन्य, राजनीतिक र जासुसी प्रणालीहरूमा एकीकृत गर्ने प्रयास गरिरहँदा क्लडलाई अमेरिकी ठेकेदार कम्पनी पालन्टियरको विश्लेषण र निगरानी सफ्टवेयरमा समावेश गरिएको बताइएको छ । त्यसलाई अमेरिकी सरकारी निकायहरूले प्रयोग गर्छन् ।

इरानसँगको युद्धका क्रममा उक्त सफ्टवेयरले इरानको मिनाब प्राथमिक विद्यालयलाई एउटा लक्ष्यका रूपमा चिन्हित गरेको थियो । उक्त स्थानमा भएको अमेरिकी आक्रमणमा करिब १६० जनाको मृत्यु भएको थियो जसमध्ये अधिकांश बालबालिका थिए ।

तर, एन्थ्रोपिकका सीईओ डारियो अमोदेईका अनुसार, क्लडको यस्तो प्रयोगले कम्पनीको खतराको रेखा उल्लंघन गरेको मानिने छैन ।