हालै एक अभिनेतृ तथा मोडलले एआई (कृत्रिम बौद्धिकता) को दुरुपयोग गरी बनाएका नक्कली भिडियोमार्फत आफ्नो प्रतिष्ठामाथि खलल पु¥याएको खुलाइन् । लामो समयदेखि नक्कली स्न्यापच्याट खाता, नक्कली भिडियोहरूको सिकार भएको र यसलाई रोक्न हरसम्भव प्रयास गरेको उनले सामाजिक सञ्जालमा सेयर गरेकी थिइन् । उनले लेखेकी थिइन्–‘स्न्यापच्याट, इन्स्टाग्राम वा अन्य कुनै प्लाटफर्मका खाताहरूसँग नझुक्किनुहोस्, यो मात्र मेरो आधिकारिक इन्स्टाग्राम र स्न्यापच्याट खाता हो ।’ उनले नक्कली स्न्यापच्याट खातालाई रिपोर्ट गर्न र यसमा सहयोग गरिदिन सबै माझ आग्रह गरेकी थिइन् ।
अर्का चर्चित टिकटकरको पनि नक्कली तस्बिर सामाजिक सञ्जालमा फैलिएको छ । उक्त तस्बिर उनको अनुहारसँग मिल्दो छ । सडकमा सवारी साधन गुडाउँदै गरेको र पृष्ठभूमिमा हातमा पेस्तोल बोकेका केही पुरुषहरूले पछ्याइरहेजस्तो देखिन्छ । उनले यौनिक तथा लैंगिक अल्पसंख्यक समुदायको प्रतिनिधित्व गर्छिन् ।
नक्कली÷भ्रामक सामग्रीहरूबनाएर फेसबुक, इन्स्टाग्राम, टिकटकलगायत सामाजिक सञ्जालहरूमा सेयर गर्नु नेपाली समाजका लागि नयाँ समस्या पक्कै होइन । नेपालमा महिला र यौनिक तथा लैंगिक अल्पसंख्यक समुदायहरू इन्टरनेट प्लाटफर्ममार्फत दुव्र्यवहार गर्ने, होच्याउने, धम्क्याउने, गालीगलौज गर्ने, मानसिक आघात पु¥याउने गतिविधिबाट उच्च जोखिममा रहेको अध्ययनले देखाउँछन् । महिला र यौनिक तथा लैंगिक अल्पसंख्यक समुदायको क्षेत्रमा काम गर्ने बडी एण्ड डेटा नामक संस्थाले ०७८ असोजमा प्रकाशन गरेको ‘इन्टरनेट अनुभव गरिरहेका पहिचानहरू ः नेपाल सर्भेक्षण प्रतिवेदन’ ले सर्भेमा सहभागी भएका १९६ जनामध्ये ८६ प्रतिशतले केही न केही स्वरूपमा अनलाइन हिंसा भोगेको देखाएको छ । सर्भेमा सहभागी यौनिक तथा लैगिंक अल्पसंख्यक समुदायहरूमध्ये ९७ दशमलव ४ प्रतिशतले अनलाइन हिंसा भोगेको बताएका थिए ।
अधिवक्ता एवं डिजिटल राइट्स नेपालका कार्यकारी निर्देशक सन्तोष सिग्देलको भनाइमा सूचना प्रविधि विकासको पछिल्लो कडीका रूपमा लिइने एआईको व्यापकतासँगै यसले ‘कन्टेन्ट जेनेरेसन’ (सामग्री उत्पादन), ‘कन्टेन्ट म्यानिपुलेसन’ (सामग्रीमा परिवर्तन वा हेरफेर) मा ठूलो भूमिका खेल्न थालेको छ । ‘नेपालमा पछिल्ला दिनहरूमा एआई साइटहरूबाटै कन्टेन्ट जेनेरेट गर्ने अभ्यासका साथै कुनै व्यक्तिको तस्बिर वा भिडियो अनधिकृत रूपमा प्रयोग गर्ने वा तस्बिर÷भिडियोलाई अन्य कुनै व्यक्तिको तस्बिरमा जोडी डिपफेक तयार गर्ने काम बढ्दै गएको पाइन्छ भने आगामी दिनमा यो प्रवृत्ति अझ बढ्ने देखिन्छ,’ सिग्देलले भने ।
यस्ता सामग्रीहरूले पछिल्लो समय लैंगिक हिंसालाई थप बढावा दिएको भोटाहिटीस्थित नेपाल प्रहरीको साइबर ब्युरोका प्रहरी निरीक्षक राजकुमार खड्गीले बताए । ‘एआई प्रणालीको प्रयोग गरेर हुबहु आवाज, भिडियो बनाउने, नग्न तस्बिरहरूसिर्जना गर्ने, अनलाइन प्लाटफर्ममा सेयर गरिदिने, प्रविधिकाबारेमा ज्ञान नभएकाले त्यो पत्याउने भए,’ खड्गीले भने, ‘एक वर्ष भयो यस्ता सामग्रीविरुद्ध उजुरी आउन थालेको, सुरु—सुरुमा राजनीतिक दलका नेताहरूको अफवाह फैलाउने खालका आउँथे, पछिल्लो दुई तीन महिना भयो महिलाको चरित्र हत्या गर्ने खालका बढी आउन थालेका छन् ।’ साइबर ब्युरोले कतिसंख्यामा यस्ता उजुरी आए भन्ने यकिन तथ्यांक राखेको छैन । साइबर अपराधअन्तर्गत अभिलेख गरेको छ । ब्युरोमा गत आर्थिक वर्ष २०७९÷८० मा साइबर अपराधसम्बन्धी ५ हजार ५ सय २८ उजुरी आएका थिए, जसमध्ये महिलाका २ हजार ७०१ महिला र ९० उजुरी बालिकाका तर्फबाट परेको थियो । पुरुषका २ हजार ४४९ र बालकका ३८ उजुरी थिए । अन्यका २ सय ५० वटा उजुरी थिए । एआईद्वारा सिर्जना गरिएका सामग्रीविरुद्धका घटनाहरूलाई छुट्टै अभिलेख राखेर अघि बढ्ने योजनामा रहेको खड्गीले बताए । यसैगरी नेपालमा एआईलाई नै नियमन गर्ने प्रत्यक्ष कानुन छैन । ‘अब यस्ता घटनाको अनुसन्धान, नियममा कसरी अघि बढ्ने भन्ने पनि हाम्रो छलफलको विषय नै छ,’ उनले थपे ।
आफूले निर्देशन दिएअनुसार एआईद्वारा तुरुन्तै तथ्यांकहरू विश्लेषण गरेर फोटो, भिडियो, अडियो, टेक्स्ट सामग्रीहरू सिर्जना गर्न सकिन्छ । स्थानीय तथा धेरै भाषामा सामग्री सिर्जना गर्न सक्ने हुनाले यी नक्कली सामग्रीहरू दुरुस्तजस्तै देखिन्छन् । यसले दैनिक काम छिटो तथा एकैपटक धेरै मात्रामा गर्न सकिने र मानिसले रोजगारी गुमाउन सक्ने खतरा रहेको बहस चलिरहेको छ । अर्कातिर एआई सिर्जित सामग्रीमा समेत महिला, सिमान्तकृत, अल्पसंख्यकहरू हिंसाको प्रमुख निशानामा छन् । ‘यसले महिलाहरूका बारेमा विश्वस्त पार्ने झूटा वा गलत सामग्री बनाएर अनलाइन आक्रमणलाई तीव्र रूपमा फैलाउन सक्छन्, यस्तो उत्पीडन उच्च स्तरको छवि भएका महिलाहरू लक्षित हुनसक्छ,’ ‘एआईको युगमा लैंगिक हिंसा’ बारे युनेस्कोले हालसालै प्रकाशन गरेको अध्ययन सामग्रीमा लेखिएको छ । लैंगिक हिंसा गर्न संलग्न हुनेहरूले अनुहार र शरीरलाई एआईद्वारा परिवर्तन गरेर, महिलाको अनलाइन पहिचानको दुरुपयोग गर्ने, व्यावसायिक र निजी सम्बन्धहरू बिगार्ने, यस्तो हिंसाबाट बचेकालाई समेत चिनजानको बहाना बनाएर पछ्याउन वा दुःख दिन सक्ने उल्लेख छ । युनेस्कोको अध्ययनले एआई सिर्जित सामग्रीहरूमा लैंगिक पूर्वाग्रहलाई पनि उजागर गरेको छ ।
अमेरिकास्थित ‘एमआइटी टेक्नोलोजी रिभ्यु’ पत्रिकाकी पत्रकार मेलिसा हेकिलाले एआई प्रणालीमा सिर्जित सामग्रीहरू कतिसम्म पूर्वाग्रही हुने गरेका छन् भन्ने तीतो अनुभव सन् २०२२ डिसेम्बरमा लेखेकी छन् । उनले चर्चित एप ‘लेन्सा’ मा आफ्नो अवतार सिर्जना गर्नुअघि आफ्ना सहकर्मीहरूले पाएजस्तै नतिजाहरू आउने आशा राखेकी थिइन् । तर उक्त एपले उनका पुरुष सहकर्मीहरूलाई अन्तरिक्ष यात्री, अन्वेषक, आविष्कारक अवतार बनाइदियो । उनले आफ्ना धेरैजसो तस्बिरहरूनग्न र कामुक पाइन् । उनी एसियन मूलकी हुन् । गोरा जातिकी उनकी महिला सहकर्मीका अवतारहरू मेलिसाका भन्दा कम नग्न, अश्लील थिए । मेलिसाले आफ्नो चिनियाँ सहकर्मीका अवतारहरू आफ्नाजस्तै अर्धनग्न र कामुक पाइन् ।
एआई सिर्जित सामग्रीले हानिकारक लैंगिक पूर्वाग्रहलाई निरन्तरता दिएको अस्ट्रेलियास्थित तस्मानिया विश्वविद्यालयको तस्मानियन स्कुल अफ बिजनेस एन्ड इकोनोमिक्सको नयाँ अनुसन्धानले पनि देखाएको छ । उक्त अध्ययन एक महिनाअघि प्रकाशित गरिएको छ । यसले महिला नेतृत्वमाथि एआईको पूर्वाग्रहलाई अनुसन्धान गरेको छ । यसमा एआईले ‘राम्रो’ र ‘खराब’ नेतालाई कसरी विश्लेषण गर्छ भनेर अध्ययन गर्दा बलियो, साहसी र सक्षमका रूपमा पुरुष नेताहरूलाई र प्रायः भावनात्मक र प्रभावहीनका रूपमा महिला नेतृहरूलाई चित्रण गरिएको थियो ।
