Ticker

6/recent/ticker-posts

फेसबुक एक डूम्सडे मशीन है

 फेसबुक एक डूम्सडे मशीन है

आधुनिक वेब का आर्किटेक्चर मानवता के लिए गंभीर खतरा है। खुद को बचाने में बहुत देर नहीं हुई है।


 

वह डूम्सडे मशीन कभी मौजूद नहीं थी। यह एक ऐसा सोचा हुआ प्रयोग था, जो इस प्रकार था: सभी मानव जीवन को नष्ट करने के एकमात्र उद्देश्य से निर्मित एक उपकरण की कल्पना करें। अब मान लीजिए कि मशीन को गहरे भूमिगत दफन किया गया है, लेकिन एक कंप्यूटर से जुड़ा हुआ है, जो कि संयुक्त राज्य अमेरिका के शहरों और कस्बों में सेंसर तक पहुंच गया है।

सेंसर को आसन्न सर्वनाश के संकेतों को सूँघने के लिए डिज़ाइन किया गया है - दुनिया के अंत को रोकने के लिए नहीं, बल्कि इसे पूरा करने के लिए। यदि विकिरण का स्तर, तीन अमेरिकी शहरों में एक साथ परमाणु विस्फोट का सुझाव देता है, तो सेंसर डूमसडे मशीन को सूचित करते हैं, जो प्रतिक्रिया में कई परमाणु वारहेड को विस्फोट करने के लिए प्रोग्राम किया जाता है। उस बिंदु पर, वापस नहीं जा रहा है। विखंडन श्रृंखला प्रतिक्रिया जो परमाणु विस्फोट पैदा करती है, पृथ्वी पर सभी जीवन को बुझाने के लिए पर्याप्त समय पर शुरू की जाती है। प्रकाश की एक भयानक चमक है, एक शानदार उछाल वाली आवाज़ है, फिर एक निरंतर दहाड़ है। हमारे पास विनाश के पैमाने के लिए एक शब्द है जिसे डूम्सडे मशीन अनलेश करेगी: मेगाडेथ।

मेगाडेथ के लिए कोई भी नहीं है। लेकिन मेगाडेथ एकमात्र ऐसी चीज नहीं है जो डूम्सडे मशीन को बड़ा बनाती है। वास्तविक आतंक अपनी स्वायत्तता में है, यह विचार है कि यह मानवीय आदान-प्रदान के बिना, फिर पर्यावरणीय आदानों की एक श्रृंखला का पता लगाने के लिए प्रोग्राम किया जाएगा। "मानव हस्तक्षेप, नियंत्रण और अंतिम निर्णय का कोई मौका नहीं है," सैन्य रणनीतिकार हरमन कहन ने अपनी 1960 की पुस्तक, ऑन थर्मोन्यूक्लियर वॉर में लिखा था, जिसने डूमसडे मशीन के लिए काल्पनिक अनुमान लगाया था। यह अवधारणा नाभिकीय युद्ध को अकल्पनीय और इसलिए अकल्पनीय थी।

कहन ने निष्कर्ष निकाला कि पृथ्वी पर सभी जीवन के विलुप्त होने को स्वचालित करना अनैतिक होगा। यहां तक ​​कि त्रुटि का एक असीम जोखिम भी डूम्सडे मशीन के अस्तित्व को सही ठहराने के लिए बहुत अच्छा है। कहन ने लिखा, "और भले ही हम कंप्यूटर को छोड़ दें और डूमसडे मशीन को निर्णय निर्माताओं द्वारा विश्वसनीय रूप से चलाया जा सके," यह अभी भी पर्याप्त रूप से नियंत्रणीय नहीं है। कोई भी मशीन अपने आप से इतनी शक्तिशाली नहीं होनी चाहिए - लेकिन कोई भी व्यक्ति ऐसा नहीं होना चाहिए।

सोवियत संघ ने शीत युद्ध के दौरान डूमसडे मशीन का एक संस्करण बनाया था। उन्होंने इसका नाम "डेड हैंड" रखा। लेकिन अब तक, कुछ चमत्कारिक ढंग से, हमें पता चला है कि बम के साथ कैसे रहना है। अब हमें यह जानने की जरूरत है कि सामाजिक वेब को कैसे जीवित रखा जाए।

लोग फेसबुक के बारे में शिकायत करते हैं जैसे कि हाल ही में कुछ घट गया हो। ऐसी धारणा है कि सोशल वेब एक बार उपयोगी था, या कम से कम यह अच्छा हो सकता था, अगर केवल हमने कुछ लीवर को खींचा था: कुछ मॉडरेशन और फैक्ट-चेकिंग, यहां थोड़ा सा रेगुलेशन, शायद एक फेडरल एंटीट्रस्ट मुकदमा। लेकिन यह बहुत दूर है और एक दृश्य को देखते हुए। आज के सामाजिक नेटवर्क, उनमें से फेसबुक प्रमुख, उन चीजों को प्रोत्साहित करने के लिए बनाए गए थे जो उन्हें इतना हानिकारक बनाते हैं। यह उनकी बहुत वास्तुकला में है।

मैं सालों से सोच रहा था कि सोशल वेब को सही मायनों में जादुई बनाने में क्या लगेगा - कम चरम, कम विषैला, अधिक सच - और मुझे हाल ही में एहसास हुआ कि मैं समस्या के बारे में बहुत संकीर्ण सोच रहा हूं । मैं लंबे समय से मार्क जुकरबर्ग को स्वीकार करना चाहता था कि फेसबुक एक मीडिया कंपनी है, वह उसी तरह से तैयार किए गए सूचनात्मक वातावरण की ज़िम्मेदारी लेता है जिस तरह से वह एक पत्रिका का संपादक होता है। (मैंने उसे एक बार इस पर दबाया और वह हँसा।) हाल के वर्षों में, जैसा कि फेसबुक की गलतियों ने कंपाउंड किया है और इसकी प्रतिष्ठा में गिरावट आई है, यह स्पष्ट हो गया है कि लापरवाही समस्या का केवल एक हिस्सा है। कोई भी, मार्क जुकरबर्ग भी नहीं, वह अपने द्वारा बनाए गए उत्पाद को नियंत्रित कर सकता है। मुझे पता चला है कि फेसबुक एक मीडिया कंपनी नहीं है। यह एक प्रलय का दिन है।

सोशल वेब बिल्कुल वही कर रहा है जो इसके लिए बनाया गया था। फेसबुक सत्य की तलाश करने और इसकी रिपोर्ट करने, या नागरिक स्वास्थ्य में सुधार करने, या खाते में शक्तिशाली रखने, या अपने उपयोगकर्ताओं के हितों का प्रतिनिधित्व करने के लिए मौजूद नहीं है, हालांकि ये घटनाएं कभी-कभी इसके अस्तित्व के उत्पादों द्वारा हो सकती हैं। कंपनी का शुरुआती मिशन "लोगों को साझा करने और दुनिया को अधिक खुला और जुड़ा बनाने की शक्ति देना था।" इसके बजाय, इसने "समुदाय" की अवधारणा ली और इसे सभी नैतिक अर्थों में छीन लिया। उदाहरण के लिए, QAnon का उदय सामाजिक वेब के तार्किक निष्कर्षों में से एक है। ऐसा इसलिए है क्योंकि Google- Google और YouTube के साथ-साथ वैश्विक दर्शकों के लिए बिजली की गति पर विघटन को फैलाने और फैलाने के लिए एकदम सही है। फेसबुक सरकारी प्रचार, लक्षित उत्पीड़न, आतंकवादी भर्ती, भावनात्मक हेरफेर और नरसंहार का एक एजेंट है, जो एक विश्व-ऐतिहासिक हथियार है जो भूमिगत नहीं, बल्कि कैलिफोर्निया के मेनलो पार्क में एक डिज्नीलैंड से प्रेरित परिसर में रहता है। 

सोशल वेब के दिग्गज - फेसबुक और इसकी सहायक इंस्टाग्राम; Google और इसकी सहायक YouTube; और कुछ हद तक, ट्विटर- जो मैं मेगास्टेल कहलाता है, के अनुसरण में उन्हें कुत्ते की कीमत पर तटस्थ होकर सफलता हासिल की है। रास्ते में कहीं, फेसबुक ने फैसला किया कि उसे न केवल एक बहुत बड़े उपयोगकर्ता आधार की आवश्यकता थी, बल्कि एक जबरदस्त, आकार में अभूतपूर्व। उस फैसले ने फेसबुक को वेग से बचने के लिए, एक टिपिंग पॉइंट तक पहुंचा दिया, जहां यह समाज को मौजूदा नुकसान पहुंचा सकता है।

डूम्सडे मशीन की तुलना की सीमाएँ स्पष्ट हैं: फेसबुक एक शहर को परमाणु बम को बर्बाद करने के लिए तत्काल कम नहीं कर सकता है। और जबकि डूमेसडे मशीन की कल्पना एक विश्व-अंत करने वाले उपकरण के रूप में की गई थी ताकि दुनिया का अंत हो जाए, फेसबुक शुरू हो गया क्योंकि एक अर्ध-प्रतिभावान हार्वर्ड अंडरग्रेड एक रात में ऊब गया था। लेकिन दांव अभी भी जीवन-मृत्यु है। मेगास्केल लगभग अस्तित्व के लिए खतरा है जो मेगाडेथ है। दुनिया की आबादी के भाग्य को नियंत्रित करने के लिए कोई भी मशीन सक्षम नहीं होनी चाहिए - और ऐसा करने के लिए डूम्सडे मशीन और फेसबुक दोनों का निर्माण किया जाता है।

फेसबुक के पैमाने-पर-किसी भी लागत वाले व्यवसाय मॉडल द्वारा नुकसान के चक्र को देखने के लिए सरल है। पैमाने और जुड़ाव फेसबुक के लिए मूल्यवान हैं क्योंकि वे विज्ञापनदाताओं के लिए मूल्यवान हैं। इन प्रोत्साहनों से डिजाइन विकल्प जैसे प्रतिक्रिया बटन होते हैं जो उपयोगकर्ताओं को आसानी से और अक्सर संलग्न करने के लिए प्रोत्साहित करते हैं, जो बदले में उपयोगकर्ताओं को विचारों को साझा करने के लिए प्रोत्साहित करते हैं जो एक मजबूत प्रतिक्रिया को भड़काएंगे। हर बार जब आप फेसबुक पर एक प्रतिक्रिया बटन पर क्लिक करते हैं, तो एक एल्गोरिथ्म इसे रिकॉर्ड करता है, और इसके चित्र को तेज करता है कि आप कौन हैं। उपयोगकर्ताओं के हाइपर-टारगेटिंग, जो उनके व्यक्तिगत डेटा के माध्यम से संभव हो जाते हैं, विज्ञापन-प्रसार के लिए सही वातावरण बनाते हैं, विज्ञापनदाताओं द्वारा, राजनीतिक अभियानों के द्वारा, विघटन के दूतों द्वारा, और निश्चित रूप से फेसबुक द्वारा, जो अंततः आपके द्वारा देखे और क्या नियंत्रित करता है आप साइट पर नहीं देखते हैं। फ़ेसबुक ने लगभग 15,000 मध्यस्थों की एक सूची तैयार की है, जो लोगों को ग़ैरक़ानूनी चीज़ों को देखने के लिए भुगतान करते हैं - हत्या, सामूहिक बलात्कार, और ग्राफिक हिंसा के अन्य चित्रण जो मंच पर हवा करते हैं। यहां तक ​​कि फेसबुक ने जोर देकर कहा है कि यह उस सामग्री के लिए एक मूल्य-तटस्थ पोत है जिसे उपयोगकर्ता अपने प्रकाशन के लिए चुनते हैं, मॉडरेशन एक लीवर है जिसे कंपनी ने बार-बार खींचने की कोशिश की है। लेकिन पर्याप्त भाषा बोलने वाले पर्याप्त मध्यस्थ नहीं हैं, जो पर्याप्त घंटे काम कर रहे हैं, जिससे कि दुनिया में फ़ेसबुक की बाढ़ को रोका जा सके, क्योंकि 10 में से 10 बार, एल्गोरिथ्म एक व्यक्ति की तुलना में तेज़ और अधिक शक्तिशाली है। मेगस्केल में, यह एल्गोरिदमिक रूप से व्यक्तिगत सूचनात्मक वातावरण को विकृत करता है, जो सार्थक रूप से मध्यम से कठिन है, और परिणामस्वरूप असाधारण रूप से खतरनाक है।

ये खतरे सैद्धांतिक नहीं हैं, और वे मेगास्केल द्वारा अतिरंजित हैं, जो मंच को लोगों पर प्रयोग करने के लिए एक जगह बना देता है। फेसबुक ने अपने उपयोगकर्ताओं पर बिना बताए सामाजिक-छद्म प्रयोग किए हैं। फेसबुक ने डिजिटल उपनिवेशवाद के लिए एक शक्ति के रूप में काम किया है, जो पूरी दुनिया में लोगों के लिए इंटरनेट का वास्तविक और (केवल) अनुभव बनने का प्रयास कर रहा है। फेसबुक ने चुनाव के परिणाम को प्रभावित करने की अपनी क्षमता के बारे में डींग मारी है। गैरकानूनी आतंकवादी समूह संगठित करने के लिए फेसबुक का उपयोग करते हैं। सरकारी अधिकारी अपने स्वयं के नागरिकों को गुमराह करने के लिए, और चुनावों में छेड़छाड़ करने के लिए फेसबुक का उपयोग करते हैं। नरसंहार को अंजाम देने के लिए सैन्य अधिकारियों ने फेसबुक की शालीनता का फायदा उठाया है। अनजाने में सेमिटिक संदेशों और अमेरिकी झंडों को जलाने वाले इस्लामिक स्टेट के लिए जाने-अनजाने में ऑटो-जेनरेट किए गए वीडियो फ़ेसबुक।

यू.एस. खुफिया एजेंसियों ने 2016 के चुनाव में सूचना युद्ध और विदेशी हस्तक्षेप के लिए फेसबुक को एक मुख्य युद्ध के मैदान के रूप में पहचाना, इसके बाद भी कंपनी अपनी साइट पर अतिवाद, घृणा फैलाने वाले भाषण, प्रचार, विघटन, और षड्यंत्र के सिद्धांतों के प्रसार को रोकने में विफल रही है। नियो-नाजियों ने औपचारिक रूप से प्रतिबंधित होने के बाद भी विज्ञापन निकालकर फेसबुक पर सक्रिय रहे। उदाहरण के लिए, इस वर्ष के अक्टूबर तक यह नहीं था कि फेसबुक ने घोषणा की कि वह QAnon को समर्पित समूहों, पृष्ठों और इंस्टाग्राम खातों को हटा देगा, साथ ही साथ किसी भी पोस्ट ने होलोकॉस्ट को अस्वीकार कर दिया। (पहले जुकरबर्ग ने होलोकॉस्ट के बारे में विघटन को दूर न करने के फेसबुक के फैसले का बचाव किया था, होलोकॉस्ट डेनिवर्स के बारे में कहते हुए, "मुझे नहीं लगता कि वे जानबूझकर इसे गलत कर रहे हैं।" उन्होंने बाद में स्पष्ट किया कि उनका मतलब होलोकॉस्ट डेनिवर्स की रक्षा करना नहीं था। ) फिर भी, फेसबुक नियमित रूप से नवीनतम QAnon समूहों की सिफारिश करने वाले उपयोगकर्ताओं को ईमेल भेजता है। श्वेत वर्चस्ववादी और डीप्लाट किए गए मैगा ट्रोल्स गैब और पार्लर जैसे छोटे सामाजिक प्लेटफार्मों के लिए झुंड कर सकते हैं, लेकिन ये प्लेटफ़ॉर्म मेगास्केल के बिना शहादत की कथा से थोड़ा हटकर पेश करते हैं।

2020 के राष्ट्रपति चुनाव के बाद के दिनों में, जुकरबर्ग ने फेसबुक एल्गोरिथ्म के लिए एक ट्वीक को अधिकृत किया ताकि एनपीआर जैसे उच्च सटीकता वाले समाचार स्रोतों को लोगों के फीड्स में तरजीही दृश्यता मिले, और हाइपर-पार्टिसन पेज जैसे ब्रेइटबार्ट न्यूज और ऑक्युपाई डेमोक्रेट्स '। द न्यू यॉर्क टाइम्स के अनुसार दफन, सबूत की पेशकश कि फेसबुक कर सकता था, अगर वह चाहता था, तो विघटन को कम करने के लिए एक डायल चालू करें - और एक अनुस्मारक की पेशकश करते हुए कि फेसबुक में एक स्विच फ्लिप करने और अरबों लोगों को ऑनलाइन देखने की क्षमता बदलने की शक्ति है।

डायल को छूने का निर्णय फेसबुक के लिए बहुत ही असामान्य था। इसके बारे में इस तरह से सोचें: डूमसडे मशीन के सेंसर ने पर्यावरण में कुछ हानिकारक पाया और अपने एल्गोरिदम को हमेशा की तरह पूरे वेब पर इसे उड़ाने नहीं दिया। इस बार एक मानव ने नुकसान को कम करने के लिए हस्तक्षेप किया। एकमात्र समस्या यह है कि फेसबुक "दुनिया के लिए बुरा" कहे जाने वाले कंटेंट की व्यापकता को कम करने के साथ ही साइट के साथ लोगों की व्यस्तता को भी कम करता है। मानव हस्तक्षेप के साथ अपने प्रयोगों में, टाइम्स ने बताया, फेसबुक ने डायल को कैलिब्रेट किया ताकि उपयोगकर्ताओं के समाचार फीड में पर्याप्त हानिकारक सामग्री उन्हें अधिक समय तक वापस रखने के लिए खिलाया जा सके।

दुनिया को और अधिक खुला और जुड़ा हुआ बनाने के लिए फेसबुक का घोषित मिशन- हमेशा मेरे लिए, सबसे अच्छा और सबसे कम साम्राज्यवादी है। आखिरकार, आज के साम्राज्य वेब पर पैदा होते हैं। फेसबुक एक सीमा-रहित राष्ट्र-राज्य है, जिसकी उपयोगकर्ताओं की आबादी लगभग चीन और भारत के रूप में बड़ी है, और यह बड़े पैमाने पर एल्गोरिदम द्वारा संचालित है। हिलेरी क्लिंटन ने इस साल की शुरुआत में मुझसे कहा था कि जुकरबर्ग से बात करना ऐसा लगता है जैसे किसी विदेशी राज्य के सत्तावादी प्रमुख के साथ बातचीत करना। "यह एक वैश्विक कंपनी है जिसका उन तरीकों पर बहुत अधिक प्रभाव है जिन्हें हम केवल समझने की शुरुआत कर रहे हैं," उसने कहा।

मुझे कुछ हफ्ते पहले क्लिंटन की चेतावनी याद आई, जब दो वरिष्ठ अमेरिकी अधिकारियों, संक्रामक-रोग चिकित्सक एंथोनी फौसी और एफबीआई निदेशक क्रिस्टोफर रे की निंदा के लिए, ज़ुकरबर्ग ने तर्क दिए कि स्टीव बैनन को फेसबुक से निलंबित करने के निर्णय का बचाव किया। इस प्रकरण ने मुझे एक सवाल के बारे में सोचने पर मजबूर कर दिया, जो कि अकल्पनीय है, लेकिन मैं वैसे भी लोगों से पूछता रहता हूं: अगर फेसबुक मौजूद नहीं होता तो वास्तविक दुनिया की हिंसा कितनी होती? मेरे द्वारा पूछे गए लोगों में से एक, जोशुआ गेल्टज़र, व्हाइट हाउस के एक पूर्व अधिकारी, जो अब जॉर्ज टाउन लॉ में पढ़ा रहे हैं। आतंकवाद विरोधी हलकों में, उन्होंने मुझे बताया, लोग यह बताने के पक्षधर हैं कि 9/11 के बाद से आतंकवादियों को बाहर रखने में अमेरिका कितना अच्छा है। यह गलत है, उन्होंने कहा। वास्तव में, "आतंकवादी हर एक दिन, हर एक घंटे, हर एक मिनट में प्रवेश कर रहे हैं" फेसबुक के माध्यम से।

वह वेबसाइट जो संभवतः बड़े पैमाने पर हिंसा को प्रोत्साहित करने के लिए जानी जाती है वह है छवि बोर्ड 4chan- जिसके बाद 8chan था, जो तब 8kun बन गया। ये बोर्ड उन साइटों के लिए बदनाम हैं जहां कई सामूहिक-शूटिंग संदिग्धों ने होमोसाइड स्प्रीस से पहले घोषणापत्र साझा किया है। कुछ लोग जो इन साइटों का बिना शर्त बचाव करने को तैयार हैं, वे फ्री-स्पीच निरपेक्षता की स्थिति से ऐसा करते हैं। वह तर्क विचार के योग्य है। लेकिन ध्यान आकर्षित करने वाली साइट के बारे में कुछ वास्तुशिल्प भी है: 8kun पर कोई एल्गोरिदम नहीं हैं, केवल उन उपयोगकर्ताओं का एक समुदाय है जो वे चाहते हैं जो पोस्ट करते हैं। लोग अपमानजनक विचारों को प्रकाशित करने के लिए 8kun का उपयोग करते हैं, लेकिन कम से कम समुदाय कुछ ऐसा नहीं होने का नाटक कर रहा है। सबसे बड़ा सामाजिक मंच उसी तरह तटस्थ और समर्थक मुक्त भाषण होने का दावा करता है जब वास्तव में कोई दो लोग एक ही फीड नहीं देखते हैं। एल्गोरिदमिक रूप से ट्विक किए गए वातावरण उपयोगकर्ता डेटा पर फ़ीड करते हैं और उपयोगकर्ता अनुभव में हेरफेर करते हैं, और अंततः उपयोगकर्ता की सेवा करने के उद्देश्य से नहीं। वास्तविक दुनिया की हिंसा के साक्ष्य को फेसबुक और 8kun दोनों में आसानी से खोजा जा सकता है। लेकिन 8kun अपने उपयोगकर्ताओं या सूचनात्मक वातावरण में हेरफेर नहीं करते हैं। वे दोनों साइट हानिकारक हैं। लेकिन फेसबुक वास्तव में मानवता के लिए बदतर हो सकता है।

एक टिप्पणी भेजें

0 टिप्पणियाँ