एजेन्सी । अमेरिकी अर्बपति इलोन मस्कको एआई उपकरण ग्रोकलाई इन्डोनेसिया र मलेसियाले प्रतिबन्ध लगाएका छन् ।
यस उपकरणको डिजिटल अनड्रेसिङ सुविधामार्फत महिला र नाबालकहरूका उत्तेजक र अश्लील तस्बिरहरू इन्टरनेटमा भरिएपछि यी देशहरू यस्तो कदम चाल्ने पहिलो राष्ट्र बनेका छन् ।
प्रयोगकर्ताहरूले ग्रोकलाई यौनजन्य स्पष्ट डीपफेक बनाउन लगाएको एउटा भाइरल ट्रेन्डपछि मस्कमाथि ग्रोकलाई नियन्त्रण गर्न अन्तर्राष्ट्रिय दबाब बढ्दै गएको छ ।
ग्रोक मस्कको सामाजिक सञ्जाल एक्समा उपलब्ध एउटा उपकरण हो ।
इन्डोनेसियाकी डिजिटल मन्त्री मेउट्या हफिदले शनिबार एक विज्ञप्ति जारी गर्दै यो प्रतिबन्ध आर्टिफिसियल इन्टेलिजेन्स प्रविधिको प्रयोग गरी बनाइएका नक्कली अश्लील सामग्रीको जोखिमबाट महिला, बालबालिका र आम जनतालाई बचाउन लगाइएको बताएकी छन् ।
मलेसियाले पनि आइतबार एक अस्थायी प्रतिबन्धको घोषणा गरेको छ । महिला र नाबालकहरूका सामग्रीसहित अश्लील, सिधै यौनजन्य, अभद्र, अत्यन्तै अपमानजनक र विना–मञ्जुरी बनाइएका तस्बिरहरू उत्पादन गर्न ग्रोकको बारम्बार दुरुपयोग भएपछि यो कदम चालिएको हो ।
इन्डोनेसिया र मलेसिया दुवै मुस्लिमबहुल देशहरू हुन् जहाँ अश्लीलता विरुद्ध कडा कानुनहरू छन् ।
बेलायत, युरोपेली संघ र भारतका अधिकारीहरूले पनि ग्रोकका सुरक्षा उपायहरूबारे चिन्ता व्यक्त गरेका छन् ।
यसअघि मस्क र एक्सएआईले नियम उल्लंघन गर्ने खाताहरूलाई स्थायी रूपमा निलम्बित गरेर र स्थानीय सरकार तथा सुरक्षा निकायहरूसँग मिलेर काम गर्दै यो समस्या समाधान गरिरहेको बताएका थिए । तर, प्रयोगकर्ताका अनुरोधहरूमा ग्रोकले अझै पनि महिलाहरूको अश्लील तस्बिरहरू उत्पादन गरिरहेको थियो ।
अन्य मूलधारका एआई मोडेलहरूको तुलनामा ग्रोकलाई धेरै प्रयोगकर्ताहरूले भिन्न रूपमा हेर्छन् किनभने यसले यौनजन्य स्पष्ट सामग्री र कम्प्यानियन अवतारहरूलाई अनुमति दिने र केही अवस्थामा प्रोत्साहन समेत गर्ने गरेको छ ।
डिजिटल अनड्रेसिङ ट्रेन्डमा वृद्धि गत वर्षको अन्त्यतिर सुरु भएको थियो । त्यतिखेर धेरै प्रयोगकर्ताहरूले एक्समा ग्रोकलाई ट्याग गरेर तस्बिरहरूलाई तोडमोड गराउन सकिने पत्ता लगाए ।
प्रयोगकर्ताहरूले च्याटबोटलाई बिकिनी लगाएका र उत्तेजक हाउभाउमा रहेका तस्बिरहरू बनाउन प्रेरित गरेका छन् । त्यसले विश्वभरका लाखौं महिलालाई मानसिक तनाव दिएको छ ।
एल्गोरिदमको अनुसन्धान गर्ने युरोपेली गैर–नाफामूलक संस्था एआई फरेन्सिकका अनुसन्धाताहरूले डिसेम्बर २५ देखि जनवरी १ सम्म ग्रोकले बनाएका २० हजारभन्दा बढी तस्बिर र ५० हजार प्रयोगकर्ताका अनुरोधहरूको विश्लेषण गरेका छन् ।
अनुसन्धानताहरूले त्यहाँ शी (उनी), पुट रिमुभ (राख्नु हटाउनु), बिकिनी र क्लोदिङ (लुगा) जस्ता शब्दहरूको उच्च प्रयोग भएको फेला पारे ।
मानिसका तस्बिरहरूमध्ये आधाभन्दा बढीमा अन्डरवेयर वा बिकिनी जस्ता न्यूनतम लुगा लगाएका व्यक्तिहरू समावेश थिए ।
सार्वजनिक रूपमा मस्कले लामो समयदेखि वोक एआई मोडेल र उनले भन्ने गरेको सेन्सरशिप विरुद्ध वकालत गर्दै आएका छन् ।
तर, ती अर्बपतिले कम्पनीभित्रै ग्रोकका लागि कडा सुरक्षा उपायहरू राख्ने कुराको विरोध गरेको एक्सएआईको अवस्थाबारे जानकार एक स्रोतले सीएनएनलाई बताएको छ ।
आफ्ना प्रतिस्पर्धीहरूको तुलनामा पहिले नै सानो रहेको एक्सएआईको सुरक्षा टोलीले यो विवाद सुरु हुनुभन्दा केही हप्ताअघि धेरै कर्मचारीहरू गुमाएको थियो ।
मस्कले अवैध सामग्री बनाउन ग्रोक प्रयोग गर्ने जो कोहीले परिणाम भोग्नुपर्ने बताएका छन् । तर, उनले एपमा रहेको यौनजन्य सामग्रीबारेको चिन्तालाई सरकारहरूले अभिव्यक्ति स्वतन्त्रतालाई दमन गर्न मात्र चाहेको तर्क गर्दै र आलोचनाको जवाफ इमोजीमार्फत दिएर ठूलो मात्रामा खारेज गरेका छन् ।
गत हप्ता ग्रोकले यसका केही तस्बिर उत्पादन सुविधाहरूलाई एक्सका सशुल्क ग्राहकहरूका लागि मात्र सीमित गरेको छ । तर, यो प्रतिबन्ध ग्रोकसँग अन्तर्क्रिया गर्ने एउटा तरिकामा मात्र लागू हुन्छ ।
सशुल्क ग्राहक नभएकाहरूले अझै पनि एपमा तस्बिर सम्पादन गर्न ग्रोकलाई अनुरोध गर्न सक्छन् । यसको छुट्टै वेबसाइट तथा एपमार्फत तस्बिर र भिडियो उत्पादन गर्ने सुविधाहरू अझै पनि निःशुल्क उपलब्ध छन् ।
प्रतिक्रिया