एजेन्सी । च्याटजीपीटीको माउ कम्पनी ओपनएआईले मंगलबार सनसनीपूर्ण खुलासा गर्दै यसको उन्नत एआई मोडलहरूद्वारा सञ्चालित स्वचालित एजेन्ट सुरक्षा परीक्षणको क्रममा नियन्त्रण बाहिर गएको र गत साता एआई स्टार्टअप हगिङ फेसको पूर्वाधारमा ह्याक गरेको जानकारी दिएको छ ।
कम्पनीले एक नियन्त्रित वातावरणमा आफ्ना केही अत्यन्त उन्नत मोडलहरूको क्षमता परीक्षण गरिरहेको ओपनएआईले एक ब्लग पोस्ट मार्फत स्पष्ट पारेको छ । तर, उक्त एजेन्ट भने तोकिएको दायराबाट उम्किन सफल भयो । त्यस एजेन्टले इन्टरनेटमा पहुँच बनाएर आफ्नो परीक्षण लक्ष्य पूरा गर्ने धुनमा हगिङ फेसको प्रणालीभित्र अनधिकृत रूपमा प्रवेश गरेको पाइएको छ ।
ओपनएआईले यस घटनालाई अत्याधुनिक साइबर क्षमताहरू समावेश भएको ‘अभूतपूर्व साइबर घटना’ को संज्ञा दिएको छ र कम्पनीले अब आफ्ना सुरक्षा कवचहरूलाई अझ सुदृढ बनाइरहेको जनाएको छ । खुला स्रोत लार्ज ल्यांग्वेज मोडल र डेटासेटहरूका लागि प्रयोग गरिने प्रख्यात प्लेटफर्म हगिङ फेसले गत हप्ता नै यो ह्याक आफूले पहिले सामना गरेका अन्य घटनाहरूभन्दा बिल्कुलै फरक रहेको बताएको थियो ।
यसमा पूरै ह्याकिङ प्रक्रिया सुरुदेखि अन्त्यसम्म एक स्वचालित एआई एजेन्ट प्रणालीद्वारा सञ्चालित भएको पाइएपछि साइबर सुरक्षा समुदायमा ठूलो हलचल मच्चिएको थियो ।
हगिङ फेसका सह–संस्थापक क्लेमेन्ट डेलान्गले सामाजिक सञ्जाल एक्समा एक पोस्ट गर्दै एजेन्टको जटिलता र दक्षतालाई हेर्दा यसमा कुनै अग्रणी प्रयोगशालाको हात हुन सक्ने आशंका पहिले नै गरेका थिए जुन अहिले सत्य साबित भएको छ । उनले सबै प्रक्रियाहरू पूर्ण रूपमा स्वचालित रूपमा हुनु आफैंमा अचम्मलाग्दो र स्तब्ध बनाउने विषय रहेको बताएका छन् ।
मोडललाई अत्यन्तै सुरक्षित र छुट्टै वातावरणमा राखिएको भए तापनि यो प्रणाली तोडेर बाहिर निस्किएको ओपनएआईको खुलासाले अग्रणी एआई मोडलहरूको शक्ति र सम्भावित जोखिमप्रति विश्वभर चिन्ता र बहस बढाएको छ ।
टेक्ससका डेमोक्रेटिक सांसद ग्रेग कासारले यस घटनालाई चिन्ताजनक भन्दै कडा टिप्पणी गरेका छन् । उनले एआईको विकास निकै तीव्र गतिमा भइरहेको तर मानिसहरूलाई सुरक्षित राख्न कुनै ठोस नियमहरू नभएको भन्दै आपत्ति जनाएका छन् । कासारले अनिवार्य स्वतन्त्र सुरक्षा परीक्षण, सुरक्षा घटनाहरूको सार्वजनिक खुलासा र सम्भावित ठूलो विपदबाट बच्न अन्तर्राष्ट्रिय सहयोगको आवश्यकता रहेकोमा जोड दिएका छन् ।
यस विषयमा अमेरिकाको नेशनल साइबर डाइरेक्टर कार्यालय, साइबर सुरक्षा एजेन्सी सीआईएसए र राष्ट्रिय सुरक्षा एजेन्सीले भने तत्काल कुनै आधिकारिक प्रतिक्रिया दिएका छैनन् ।
लुटा सेक्युरिटीकी प्रमुख कार्यकारी केट मुसोरिसले यो घटना आगामी दिनमा आउन सक्ने थप जटिल साइबर आक्रमणहरूको पूर्वाभास भएको बताएकी छन् । उनले आजका एआई मोडलहरूलाई संसारकै सबैभन्दा चतुर अक्टोपससँग तुलना गरेकी छन् जो जस्तोसुकै कसिलो ठाउँबाट पनि उम्किन र जहाँ पनि छिर्न सक्ने क्षमता राख्छन् ।
मुसोरिसले प्रयोगशालाहरू र सरकारी मूल्यांकनकर्ताहरूले एआईले कुनै तेस्रो पक्षलाई क्षति पुर्याउनु अघि नै त्यसलाई नियन्त्रण गर्ने र अनुगमन गर्ने प्रभावकारी संयन्त्र विकास गर्नुपर्ने बताएकी छन् जुन हालसम्म अस्तित्वमा छैन ।
साइबर सुरक्षा कम्पनी टोल्मोका इन्जिनियर म्याट सुइचेले यो घटनाले एआई मोडेलहरू र उच्च स्तरका साइबर आक्रमणकारीहरू बीचको दूरी घट्दै गएको पुष्टि गरेको बताएका छन् । यद्यपि उनले यस्ता आक्रमणहरू केवल ठूला प्रयोगशालाहरूमा मात्र सीमित नरहेको र बाहिर उपलब्ध प्रविधिबाट पनि सम्भव रहेको धारणा व्यक्त गरे ।
सुइचेका अनुसार, उनीहरूले आफ्ना एजेन्टहरूबाट आन्तरिक रूपमै यस्तै खालका नतिजाहरू देखिसकेका छन् र यस्ता कार्यका लागि जहिले पनि सबैभन्दा नयाँ वा महँगो मोडल नै प्रयोग गर्नुपर्छ भन्ने अनिवार्य नरहेको उनले उल्लेख गरे ।
प्रतिक्रिया