क्यों हैं Deepfakes आप के लिए चिंता का विषय

0
19
deepfakes

जैसा कि आप जानते ही होंगे कि हालिया घटनाओं में, लोकप्रिय अभिनेत्री रश्मिका मंदाना एक deepfake वीडियो से जुड़े विवाद के केंद्र में आ गई हैं। सोशल मीडिया पर वायरल हो रहे वीडियो में एक महिला को लिफ्ट में प्रवेश करते हुए दिखाया गया है, लेकिन उसका चेहरा डिजिटल रूप से बदलकर मंदाना जैसा कर दिया गया है।

इस घटना ने व्यापक चिंता पैदा कर दी है और कानूनी कार्रवाई की मांग की जा रही है। बॉलीवुड आइकन और अलविदा फिल्म के सह-कलाकार अमिताभ बच्चन ने deepfake की प्रवृत्ति के बारे में अपनी चिंता व्यक्त की और उन्होंने कानूनी कार्रवाई पर जोर दिया।

क्या होता है Deepfakes

Deepfake, नकली घटनाओं की छवियां बनाने के लिए artificial intelligence के एक रूप का उपयोग करता है जिसे deep learning कहा जाता है, इसलिए इसे deepfake नाम दिया गया है। यह फोटोशॉपिंग का नवीनतम रूप है।

Deepfake AI एक प्रकार की artificial intelligence है जिसका उपयोग ठोस छवि, ऑडियो और वीडियो धोखाधड़ी बनाने के लिए किया जाता है।

Deepfakes किस लिए होता है

deepfakes dangers

कई deepfakes अश्लील होते हैं। एआई फर्म डीपट्रेस को सितंबर 2019 में 15,000 deepfakes वीडियो ऑनलाइन मिले, जो नौ महीनों में लगभग दोगुना हो गया। आश्चर्यजनक रूप से 96% अश्लील थे और उनमें से 99% में महिला मशहूर हस्तियों से लेकर पोर्न स्टार्स तक के चेहरे शामिल थे।

चूँकि नई तकनीकें अकुशल लोगों को मुट्ठी भर तस्वीरों के साथ deepfakes बनाने की अनुमति देती हैं, इसलिए बदला लेने वाले पोर्न को बढ़ावा देने के लिए नकली वीडियो सेलिब्रिटी दुनिया से परे फैलने की संभावना है। Deepfake तकनीक को महिलाओं के खिलाफ हथियार बनाया जा रहा है। पोर्न के अलावा बहुत सारा मज़ाक, व्यंग्य और शरारत भी deefake में शामिल है।

Deepfakes क्यों हो सकता है खतरनाक

हम और अधिक deepfake की उम्मीद कर सकते हैं जो परेशान करते हैं, डराते हैं, नीचा दिखाते हैं, कमजोर करते हैं और अस्थिर करते हैं। Deepfake के माध्यम से, शरारत करने के लिए अभी भी पर्याप्त जगह है।

Deepfake स्टॉक की कीमतें बदल सकते हैं, मतदाताओं को प्रभावित कर सकते हैं और धार्मिक तनाव भड़का सकते हैं। Deepfake में किसी भी समाज में अराजकता पैदा करने की काफी क्षमता होती है।

अन्य synthetic media और fake news के साथ-साथ deepfake का अधिक घातक प्रभाव एक शून्य-विश्वास वाले समाज का निर्माण करना है, जहां लोग सच और झूठ के बीच अंतर नहीं कर सकते हैं या अब इसकी परवाह नहीं करते हैं। और जब विश्वास ख़त्म हो जाता है, तो विशिष्ट घटनाओं के बारे में संदेह उठाना आसान हो जाता है।

कैसे पहचाने Deepfakes को

deepfakes dangers to humanity

जैसे-जैसे तकनीक में सुधार होता है यह कठिन होता जाता है। 2018 में, अमेरिकी शोधकर्ताओं ने पाया कि deepfake चेहरे सामान्य रूप से पलकें नहीं झपकाते हैं। लेकिन जैसे ही शोध प्रकाशित हुआ, deepfake पलक झपकते ही सामने आ गए।

खेल की प्रकृति ऐसी है: जैसे ही कोई कमजोरी सामने आती है, उसे ठीक कर दिया जाता है। खराब गुणवत्ता वाले deepfake को पहचानना आसान होता है। माइक्रोसॉफ्ट, फेसबुक और अमेज़ॅन जैसी बड़ी तकनीकी कंपनियां नियमित रूप से Deepfake Detection Challenge का आयोजन करती हैं।

Deepfake का समाधान क्या है?

विडंबना यह है कि AI इसका समाधान हो सकता है। Artificial Intelligence पहले से ही नकली वीडियो का पता लगा सकती है, लेकिन कई मौजूदा पहचान प्रणालियों में गंभीर कमजोरी है: वे मशहूर हस्तियों के साथ सबसे अच्छा काम करते हैं क्योंकि वे घंटों तक प्रशिक्षण ले सकते हैं।

प्रौद्योगिकी कंपनियां वर्तमान में deepfake सामने आते ही उसका पता लगाने के लिए detection system पर काम कर रही हैं। एक अन्य रणनीति मीडिया उद्गम पर केंद्रित है। डिजिटल वॉटरमार्क फुलप्रूफ नहीं हैं, लेकिन ऑनलाइन blockchain, लेजर सिस्टम वीडियो, छवियों और ऑडियो के छेड़छाड़-प्रूफ रिकॉर्ड रख सकते हैं ताकि उनकी उत्पत्ति और हर हेरफेर को हमेशा पहचाना जा सके।

Also Check: ATL Marathon 2023-24: NITI AYOG दे रहा Internship का सुनहरा मौका

लोगों ने और क्या पूछा

1. क्या deepfake अवैध है?

Deepfake अपराध है या नहीं यह विशिष्ट परिस्थितियों पर निर्भर करता है। कुछ मामलों में, deepfake बनाना या साझा करना धोखाधड़ी या मानहानि का एक रूप माना जा सकता है, जो दोनों अवैध हैं। अन्य मामलों में, यह अवैध नहीं हो सकता है, लेकिन फिर भी इसे अनैतिक या हानिकारक माना जा सकता है।

LEAVE A REPLY

Please enter your comment!
Please enter your name here