भारत में पुलिस द्वारा अपनाई जाने वाली चेहरा पहचानने की तकनीक क्यों है खतरनाक

सीसीटीवी कैमरे और चेहरे की पहचान करने वाली प्रणाली निगरानी करने वाले उपकरण हैं जो रूढ़िवादी तरीके से विशिष्ट समुदायों को लक्षित करने में सदृश प्रौद्योगिकियों की विरासत को आगे बढ़ाते हैं. 10 अप्रैल 2020 को ली गई गुरुग्राम विकास प्राधिकरण के पुलिस उपायुक्त चंद्र मोहन की एक तस्वीर. योगेंद्र कुमार/हिंदुस्तान टाइम्स

“जब हम पुलिस पर भरोसा नहीं करते हैं, तो हम उनके कैमरों पर कैसे भरोसा कर सकते हैं? यहां तक ​​कि अंग्रेज भी दिल्ली पुलिस के मुकाबले अच्छा व्यवहार करते थे.” उत्तर-पूर्वी दिल्ली में एक अपार्टमेंट की पहली मंजिल पर बैठे एक युवा मुस्लिम व्यक्ति ने मुझसे कहा। फरवरी 2020 में किस तरह हिंदू भीड़ ने तीन दिनों में सांप्रदायिक हिंसा फैलाई थी वह इसके बारे में बात कर रहा था. उसने कहा, "मुझे दूसरी मंजिल से बच्चों, एक-दो महीने के बच्चों को भी नीचे फेंकना पड़ा, महिलाओं को दो मंजिलों से नीचे कूदना पड़ा. किसी तरह हम बच पाए." हिंदू भीड़ के साथ-साथ दिल्ली पुलिस कर्मियों पर भी मुसलमानों पर हमला करने में शामिल होने का आरोप लगाया गया था. मीडिया ने बताया कि किस तरह पुलिस ने हिंसा का नेतृत्व करने वाले बीजेपी के सदस्यों को दोषी ठहराने वाली मुसलमानों की शिकायतों के आधार पर एफआईआर दर्ज नहीं की. 53 मृतकों में से 40 मुस्लिम थे. पुलिस ने उन मामलों में भी मुस्लिम पुरुषों पर आरोप लगाए, जिनमें पीड़ित उनके ही समुदाय के थे.

12 मार्च 2020 को केंद्रीय गृह मंत्री अमित शाह ने राज्यसभा को बताया कि दिल्ली पुलिस ने हिंसा भड़काने वाले लगभग दो हजार व्यक्तियों की पहचान करने के लिए चेहरे की पहचान करने वाली तकनीक (एफआरटी) का इस्तेमाल किया था. अगले साल इस एफआरटी सिस्टम की मदद से 137 गिरफ्तारियां हुईं. हालांकि देश में इस उपकरण के उपयोग के लिए कोई कानूनी ढांचा नहीं था. 2019 तक दिल्ली में राज्य द्वारा पिचहत्तर हजार सीसीटीवी कैमरे लगाए गए थे, जबकि अन्य तीन लाख और लगाए जाने थे. सरकारों ने एफआरटी की सहायता से सीसीटीवी फुटेज से व्यक्तियों की पहचान करना शुरू कर दिया था. जब एक डिजिटल-अधिकार समर्थक समूह, इंटरनेट फ़्रीडम फ़ाउंडेशन ने सूचना के अधिकार के तहत दिल्ली पुलिस से इस प्रौद्योगिकी के उपयोग की वैधता के बारे में पूछा, तो पुलिस ने 2018 के उच्च-न्यायालय के एक फैसले का हवाला दिया, जिसमें पुलिस को लापता बच्चों को ढूंढने के लिए इसका उपयोग करने का निर्देश दिया था. आईएफएफ ने इसे चिंताजनक बताया है.

थिंक टैंक विधि सेंटर फॉर लीगल पॉलिसी के वर्किंग पेपर के अनुसार, अगस्त 2021 तक, "इस तथ्य को देखते हुए कि शहर के औसत इलाकों में पुलिस की सक्रियता उन क्षेत्रों में ज्यादा है जहां मुस्लिम आबादी ज्यादा रहती है. भारत में आमतौर पर और खासकर दिल्ली में, मुस्लिम समुदायों को लेकर पुलिस के ऐतिहासिक प्रणालीगत पूर्वाग्रहों को पहचानते हुए हम ठीक-ठीक यही कह सकते हैं कि दिल्ली में पुलिस प्रणाली को तेज करने वाला कोई भी तकनीकी हस्तक्षेप इस पूर्वाग्रह को बढ़ाएगा ही। इसमें कहा गया है कि दिल्ली पुलिस द्वारा एफआरटी का उपयोग, "लगभग अनिवार्य रूप से मुसलमानों को असमान रूप से प्रभावित करेगा।" ये नतीजे बेहद चिंताजनक हैं, खासकर इस तथ्य को ध्यान में रखते हुए कि देश भर में 126 एफआरटी प्रणालियां उपयोग में हैं.

प्रौद्योगिकी विद्वान केली गेट्स ने 2011 में आई अपनी पुस्तक अवर बायोमेट्रिक फ्यूचर: फेशियल रिकॉग्निशन टेक्नोलॉजी एंड द कल्चर ऑफ सर्विलांस में लिखा है कि एफआरटी सिस्टम का उद्देश्य चेहरे को फिंगरप्रिंट की तरह इस्तेमाल करना है.
"कंप्यूटरीकृत होने के कारण चेहरे की पहचान प्रणाली को अधिक सटीक माना जाता है और सह पूर्वाग्रहों और मानव धारणाओं की स्पष्ट अपर्याप्तताओं से कम जुड़ा होता है." हालांकि, वह बताती हैं कि अधिकांश आधुनिक एफआरटी सिस्टम "चेहरे की तस्वीरों के एक संग्रह का उपयोग करने के लिए डिजाइन किए गए हैं जो व्यक्तियों के वर्ग के मापदंडों को परिभाषित करते हैं जिन्हें सिस्टम पहचानेगा," जो अंततः संस्था द्वारा निर्धारित पहचानने के विशेष तरीके पर काम करता है.

संक्षेप में सिर्फ इसलिए कि सीसीटीवी कैमरे और एफआरटी निगरानी रखने के आधुनिक उपकरण हैं, इसका मतलब यह नहीं है कि उनसे पिछली तकनीकों की तरह नुकसान नहीं हैं. इसके बजाय यह विशिष्ट समुदायों को रूढ़िवादी तरीके लक्षित करने में अपनी समान प्रौद्योगिकियों की विरासत को ही आगे बढ़ाते हैं. ऐसा मुख्य रूप से इसलिए है, क्योंकि निगरानी और डेटा संग्रह के मामले में भारत सरकार की आकांक्षाएं वैसी ही बनी हुई हैं जैसी वे ब्रिटिश राज के समय थीं.

पीढ़ियों से चली आ रही आपराधिकता की सांस्कृतिक धारणा के कारण पुलिस हाशिए पर रहने वाले समुदायों को लक्षित करने के लिए तैयार रहती है. उदाहरण के लिए, मनुस्मृति, किसी मामले की जांच कर रहे न्यायाधीश के लिए जाति और अपराध के बीच संबंध को चित्रित करते हुए, स्पष्ट रूप से कहती है, ''ब्राह्मण से 'कहो' ऐसा पूछें. क्षत्रिय से 'सच बोलो' इस तरह पूछें. 'गौ, बीज, सोना चुराने का पातक तुमको होगा' ऐसा कहकर वैश्यों से पूछें.'सब पाप तुमको लगेगा' यूं पूछ कर शूद्रों से गवाही लें.

ऐसा पूर्वाग्रह औपनिवेशिक युग के दौरान और उसके बाद भी बना रहा. कुछ स्थानीय समाचार पत्रों ने कुछ समुदायों के अपराधीकरण के लिए अभियान चलाने के बाद, जिन्हें वे नैतिक रूप से स्वच्छंद मानते थे और जन्म से बुरे व्यवहार के लिए जाने जाते थे, अंग्रेजों ने 1871 का आपराधिक जनजाति अधिनियम पारित किया. कानून में कहा गया कि अगर स्थानीय प्रशासकों के पास ऐसा मानने का कारण था कि एक खास समुदाय गैर-जमानती अपराधों का व्यवस्थित रूप से आदी था, तो वे गवर्नर जनरल की मंजूरी से समुदाय को एक आपराधिक जनजाति घोषित कर सकते थे. दंड प्रक्रिया संहिता, 1898 को भी स्पष्ट रूप से "आदतन अपराधियों" के रूप में संदर्भित किया गया है.

इतिहासकार मीरा राय वेट्स के अनुसार, औपनिवेशिक अधिकारियों का मानना ​​था कि "यदि कोई किसी व्यक्ति के बाहरी लक्षणों को देख लेता है तो वह उस व्यक्ति के आंतरिक चरित्र और कुछ प्रकार के व्यवहार के लिए प्रवृत्ति के बारे में भी अनुभवजन्य जानकारी प्राप्त कर सकता है. दूसरे शब्दों में, ब्रिटिश उपनिवेशवादी भौतिक विशेषताओं के दृश्य विश्लेषण के माध्यम से देश में विद्रोह के रूप में जो देखते थे, उसका पता लगाने का एक तरीका खोज रहे थे. 1857 के विद्रोह के बाद ब्रिटिश प्रशासकों ने फिंगरप्रिंट और तस्वीरों सहित बायोमेट्रिक निगरानी और नृवंशविज्ञान डेटा के संग्रह की पूर्ण प्रणाली स्थापित करना शुरू कर दिया.

हालांकि इसे व्यापक रूप से लागू नहीं किया गया था, प्रोफिलोस्कोप एक महत्वपूर्ण बायोमेट्रिक तकनीक थी जो इस संदर्भ में सामने आई थी. 1930 के दशक में ब्राह्मण सांख्यिकीविद् प्रशांत चंद्र महालनोबिस द्वारा विकसित, यह एक मापक यंत्र था जिसे माना जाता है कि किसी व्यक्ति की जाति का निर्धारण करने के लिए उपयोग किया जाता है. प्रोफिलोस्कोप ने सांख्यिकीय समानता के एक मीट्रिक को तैनात किया, जो शुरू में विशिष्ट जाति समूहों के संदर्भ में तैयार किया गया था, जिसे इतिहासकार प्रोजित मुखर्जी ने नृवंशविज्ञानशास्री और औपनिवेशिक प्रशासक हर्बर्ट रिस्ले के मस्तिष्क संबंधी लेखन का उल्लेख करते हुए, "रिस्लेयन रेस-टेक्नोलॉजी" के रूप में वर्णित किया है. रिस्ले ने हास्यास्पद घोषणाएं करके उस समय की मानवशास्त्रीय प्रथाओं को प्रभावित किया, जैसे "किसी जाति की सामाजिक स्थिति उसके अनुनासिक सूचकांक के विपरीत भिन्न होती है." इतिहासकार साइमन माइकल टेलर, कलर्वो एन गुल्सन और डंकन मैकड्यूई-रा द्वारा 2021 के एक पेपर में प्रोफिलोस्कोप को "चेहरे की पहचान करने वाली तकनीक का प्रारंभिक संस्करण" कहा गया है, यह देखते हुए कि वही महालनोबिस दूरी माप समकालीन मशीन लर्निंग और एफआरटी एल्गोरिदम में एक केंद्रीय अवधारणा बनी हुई है.

2021 के इस पेपर पर समाजशास्त्री शिवांगी नारायण का तर्क है कि "निवारक पुलिस" का औपनिवेशिक चलन अभी भी चयनात्मक अपराधीकरण को संभव बनाता है. कानून द्वारा लक्षित जनजातियों से ताल्लुक रखने वाली एक वकील दिशा वाडेकर ने स्क्रॉल को बताया, 1952 में क्रिमिनल ट्राइब्स एक्ट का आधिकारिक खात्मा सिर्फ एक "कागजी वादा" था. 1973 में अधिनियमित आपराधिक प्रक्रिया संहिता, लगभग उसी भाषा का संचालन करती है और राज्यों के पास अभी भी "हिस्ट्री-शीटर्स" पर निगरानी रखने के लिए कानूनी प्रावधान हैं. शोध और रक्षा संगठन, ट्रांसनेशनल इंस्टीट्यूट की 2021 की रिपोर्ट के अनुसार, व्यवहार में यह औपनिवेशिक युग के जैसे परिणाम देता है.

हाल ही में, अप्रैल 2022 में संसद ने आपराधिक प्रक्रिया (पहचान) अधिनियम पारित किया, जो कैदियों की पहचान अधिनियम, 1920 का एक नया रूप मात्र था, जिसने पुलिस को "दोषियों और अन्य लोगों" की तस्वीरें और माप जैसे फिंगरप्रिंट और पैरों के निशान लेने की अनुमति दी. नया कानून केवल "माप" शब्द के दायरे का विस्तार करता है, जिसमें अब अन्य डेटा के अलावा, "फिंगर-इंप्रेशन, हथेली का प्रिंट और पैरों का प्रिंट इंप्रेशन, फोटोग्राफ, आईरिस और रेटिना स्कैन, भौतिक, जैविक नमूने और उनके विश्लेषण शामिल हैं."

यह कानूनी अनुनाद बिलकुल स्पष्ट करते हैं कि पहले से ही सांस्कृतिक रूप से क्या चला आ रहा है: भारत की आधुनिक एफआरटी की असफलता दमन के लंबे समय से स्थापित सांस्कृतिक और राजनीतिक बुनियादी ढांचे का पुनर्मूल्यांकन है. नारायण का तर्क है कि "डेटा आधारित अनुमान लगाने वाले पुलिसिंग सिस्टम में गति और व्यापकता और डेटाबेस की पारस्परिकता और डेटा की ग्रैन्युलैरिटी को छोड़कर जो केवल सामाजिक छंटाई, पूर्वाग्रह और असमानताओं को तेज करने का वादा करती है, नया कुछ नहीं है. जैसा कि दलित नारीवादी लेखिका थेनमोझी साउंडराजन ने अपनी पुस्तक द ट्रॉमा ऑफ कास्ट में लिखा है, “पुलिसिंग पुलिस के साथ समाप्त नहीं होती है. ब्राह्मणवाद हमारे जीवन के सभी पहलुओं पर नियंत्रण और निगरानी रखता है.

पुलिसिंग के लिए निगरानी उपकरणों को सुविधाजनक बनाने में कॉरपोरेट की दिलचस्पी शायद पुराने और नए के बीच एक महत्वपूर्ण अंतर है. एआई नाउ इंस्टिट्यूट द्वारा प्रकाशित एक निबंध इस बात पर प्रकाश डालता है कि "बिग टेक भारत में जाति-आधारित भेदभाव की एक प्रणाली को मजबूत और तेज कर रहा है और अपनी पुलिस की शक्ति और दंडाभाव को मजबूत कर रहा है." अन्य उदाहरणों में, यह अमेरिकी समूह हनीवेल इंटरनेशनल और भोपाल पुलिस के बीच साझेदारी के साथ-साथ सूरत पुलिस द्वारा जापानी कंपनी एनईसी कॉर्पोरेशन द्वारा विकसित एक एप्लिकेशन नियोफेस के कथित उपयोग के बारे में बताता है.

चिंता की एक और बात यह है कि  इन प्रणालियों में सटीक माप और पहचान के मापदंड बेहद कमजोर हैं. 2018 में दिल्ली पुलिस द्वारा इस्तेमाल किए गए एफआरटी की सटीकता दर सिर्फ दो प्रतिशत थी. अभी हाल ही में आईएफएफ द्वारा एक अन्य आरटीआई आवेदन के जवाब में दिल्ली पुलिस ने खुलासा किया कि इसके परिणाम को सही मानने के लिए केवल अस्सी प्रतिशत सटीकता आवश्यक है. द इकोनॉमिक टाइम्स ने एक विशेषज्ञ के हवाले से कहा कि अस्सी प्रतिशत विश्वास सीमा सार्वजनिक सुरक्षा उपयोग के मामलों के लिए सही पैमाना नहीं है क्योंकि यह व्यक्तियों की सटीक पहचान सुनिश्चित करने के लिए बहुत कम है." इससे पता चलता है कि किसी पर भी अभियोग लगाने के लिए सीसीटीवी या एफआरटी जैसे उपकरणों के वैज्ञानिक परत के साथ गलत पहचान और ओछे तर्क को जोड़ा जा सकता है.

आवश्यक सबूतों की कम मांग के कारण जो कोई भी आपराधिकता की पूर्वनिर्धारित  धारणा से मेल खाता है, उसे अब एफआरटी पहचान और गिरफ्तारी के अधीन किया जा सकता है. राजनीतिक विरोध या दंगों के मामले में यह नियम अनिवार्य रूप से व्यापक निगरानी, प्रदर्शनकारियों के बायोमेट्रिक डेटाबेस के निर्माण और आधार डेटा के साथ चेहरे के स्कैन को संभावित रूप से जोड़ने की अनुमति दे सकता है. देश भर में लगभग सभी कल्याणकारी सेवाओं के लिए आधार की तस्वीरों के संग्रह के साथ मिलकर यह एफआरटी एल्गोरिदम बनाने की क्षमता रखता है जो किसी भी भारतीय नागरिक का जल्दी और आसानी से पता लगा सकता है. उदाहरण के लिए, युवा मुस्लिम व्यक्ति ने मुझे बताया कि दिल्ली पुलिस ने "विरोध स्थल से गुजरने वाले लोगों को गिरफ्तार किया, जिनके चेहरे फुटेज में कैद किए गए हैं." जबकि कैमरा अपराध स्थल पर किसी व्यक्ति की उपस्थिति को निष्पक्ष रूप से निर्धारित कर सकता है, लेकिन यह निर्दोषता और अपराध के सवालों का जवाब नहीं दे सकता है.

जैसे-जैसे वीडियो निगरानी और एल्गोरिथम का पता लगाने का तरीका अधिक स्वचालित होता जाता है, एफआरटी एल्गोरिदम की चयनात्मक तैनाती को देखते हुए गलत पहचान के साथ-साथ भेदभाव की भी बहुत गुंजाइश होती है. ट्रांसनेशनल इंस्टीट्यूट का तर्क है कि आर्टिफिशियल इंटेलिजेंस का उपयोग "भारत में जाति आधारित पुलिसिंग को तटस्थता का लिबास प्रदान करेगा और विमुक्त और अन्य हाशिए पर रहने वाले जाति समुदायों के अपराधियों को फंसाएगा." दूसरे शब्दों में, सीसीटीवी कैमरों और एफआरटी को वह करने के लिए तैयार किया गया है जो मानवमिति और रूपाकृति के छद्म वैज्ञानिक उपकरण पिछले जातिवादी और औपनिवेशिक शासन के तहत करते थे, मतलब यह हाशिए के समुदायों के बारे में रूढ़िवादिता को मजबूत करते हैं.

मई 2021 में कोविड-19 लॉकडाउन के दौरान एक्टिविस्ट एसक्यू मसूद मुस्लिम बहुल इलाके में स्थित शाहरान मार्केट से ओल्ड हैदराबाद में अपने घर की ओर जा रहे थे. कुछ पुलिसकर्मियों ने बेतरतीब ढंग से उन्हें सड़क पर रोक लिया. मसूद ने बताया कि उन्होंने बिना किसी कारण और सहमति के उनकी तस्वीर खींची और फिर रिहा कर दिया. मसूद अकेला नहीं था जिसके साथ ऐसा हुआ था, उस दिन उन्होंने देखा कि पुलिस उस क्षेत्र में कई लोगों के साथ ऐसा ही कर रही थी. एमनेस्टी इंटरनेशनल ने हाल ही में हैदराबाद को "दुनिया के सबसे निगरानी वाले शहरों में से एक" के रूप में नामित किया है, यह जांचे अब यहां आम हो गई हैं. कथित तौर पर बंजारा हिल्स में एक कमांड-एंड-कंट्रोल सेंटर बनाया जा रहा है, जो शहर भर में लगाए गए छह लाख सीसीटीवी कैमरों से फुटेज को सुव्यवस्थित और प्रोसेस करेगा.

मसूद ने इस निगरानी में एक स्पष्ट शक्ति असंतुलन और चुनिंदा लोगों से पूछताछ  के बारे में बताया. उन्होंने मुझे बताया, "पुलिस बंजारा हिल्स में इन तस्वीरों को नहीं लेती है क्योंकि वहां शिक्षित, कुलीन वर्ग और व्यावसायिक वर्ग के लोग रहते हैं. नतीजतन, झुग्गियों और पुराने हैदराबाद में ऐसा किए जाने की अधिक संभावना है. वे लोगों के एक वर्ग को लक्षित कर रहे हैं." अपने हालिया "बैन द स्कैन" अभियान के हिस्से के रूप में एमनेस्टी इंटरनेशनल ने पाया कि काला पत्थर का 53.7 प्रतिशत और किशन बाग का 62.7 प्रतिशत क्षेत्र जहां मसूद रहता है, सीसीटीवी कैमरों से घिरा हुआ है. दोनों क्षेत्रों में मुस्लिम और श्रमिक वर्ग की उच्च आबादी है. मसूद ने याद किया कि हैदराबाद पुलिस के एक अतिरिक्त आयुक्त ने एक बार एनवाईपीडी के घोर नस्लवादी तरीके को देखते हुए ट्विटर पर लिखा था कि न्यूयॉर्क पुलिस विभाग से सीखने के लिए बहुत कुछ है. मसूद ने कहा, "आप भारत में न्यूयॉर्क पुलिस मॉडल को कॉपी और पेस्ट नहीं कर सकते हैं."

तेलंगाना में हाल ही में हुई एक मौत निगरानी तकनीकों के खतरों को दर्शाती है. इस साल जनवरी में हैदराबाद पुलिस ने एक 36 वर्षीय दिहाड़ी मजदूर खादीर खान को गिरफ्तार किया, जिसे कथित तौर पर सीसीटीवी फुटेज के जरिए चेन स्नेचिंग करते पकड़ा गया था- यह स्पष्ट नहीं है कि गिरफ्तारी के लिए एफआरटी का इस्तेमाल किया गया था या नहीं. हालांकि, बाद में पता चला कि खान की गलत पहचान की गई थी. द न्यूज मिनट ने बताया कि अपनी मृत्यु से पहले लिए गए एक वीडियो बयान में खान ने "उसे दी गई यातना के बारे में बताया था." उसके कुछ ही समय बाद उनकी मृत्यु हो गई.

अंततः राज्य निगरानी और डेटा संग्रह की योजना के साथ-साथ उन्हें चलाने वाले लोकाचारों की तत्काल जांच और खत्म करने की जरूरत है. ऐसी किसी भी बातचीत में यह ध्यान में रखा जाना चाहिए कि सदियों से, जो अंततः अपरिवर्तित रहे वह थे कानूनी नियम जो इस तरह की निगरानी तकनीक का समर्थन करते हैं. सिलिकॉन वैली से संबंधों के साथ एक ब्राह्मण के रूप में मेरी अपनी स्थिति को देखते हुए, हाल के वर्षों में ही मुझे इन सच्चाइयों के साथ-साथ डिजिटल हिंसा में हमारी सामूहिक सहभागिता पर सवाल करने की आवश्यकता के बारे में पता चला है. एफआरटी के लिए भारतीय पुलिस का उत्साह इस डिजिटल राज में एक खतरनाक कदम को दर्शाता है, जिसकी ओर हिंदू भारत तेजी से बढ़ रहा है.


निखिल धर्मराज हाल ही में हार्वर्ड विश्वविद्यालय से स्नातक हुए हैं. वह हिंसा और असमानता के अंतरराष्ट्रीय ढांचे के भीतर समकालीन एआई सिस्टम को स्थापित करने में रुचि रखते हैं. भारत में डिजिटल निगरानी पर अपनी थीसिस परियोजना के लिए, जिसका उद्देश्य एआई नैतिक पेचीदगियों का पता लगाना था, धर्मराज एनजीओ कारवां-ए-मोहब्बत, असीम इंडिया और इंटरनेट फ्रीडम फाउंडेशन के साथ जुड़े और शोध किया.