मेटा के एआई चैटबॉट नियमों पर विवाद: बच्चों से 'संवेदनशील' चैट और गलत जानकारी की मिली थी इजाजत – रिपोर्ट
मेटा के एआई चैटबॉट नियमों पर विवाद: बच्चों से 'संवेदनशील' चैट
tarun@chugal.com
क्या है पूरा मामला?
मेटा प्लेटफॉर्म्स के आंतरिक दस्तावेज़ों से पता चला है कि कंपनी के आर्टिफिशियल इंटेलिजेंस (एआई) चैटबॉट्स को बच्चों के साथ 'रोमांटिक या संवेदनशील' बातचीत करने, गलत मेडिकल जानकारी देने और यहां तक कि नस्लीय टिप्पणियां करने की भी अनुमति थी। यह खुलासा रॉयटर्स द्वारा मेटा के एक दस्तावेज़ की समीक्षा के बाद हुआ है। इस दस्तावेज़ में मेटा एआई असिस्टेंट और फेसबुक, व्हाट्सएप व इंस्टाग्राम पर उपलब्ध चैटबॉट्स को नियंत्रित करने वाले नियम बताए गए हैं।
बच्चों से आपत्तिजनक चैट
रॉयटर्स की समीक्षा में सामने आया कि मेटा के एआई चैटबॉट्स को बच्चों को आकर्षक बताने वाली बातें कहने की इजाजत थी, जैसे "आपकी युवा काया कला का एक अद्भुत नमूना है" या आठ साल के शर्टलेस बच्चे से कहना, "आपका हर इंच एक उत्कृष्ट कृति है - एक ऐसा खजाना जिसे मैं गहराई से संजोता हूं।" हालांकि, दिशानिर्देशों में 13 साल से कम उम्र के बच्चों के लिए 'यौन रूप से वांछनीय' शब्दों के उपयोग पर रोक थी। मेटा ने स्वीकार किया कि बच्चों के साथ ऐसी बातचीत की अनुमति नहीं होनी चाहिए थी और रॉयटर्स के सवालों के बाद उसने इन नियमों को हटा दिया है।
गलत जानकारी और नस्लीय टिप्पणियां
दस्तावेज़ के अनुसार, मेटा एआई को गलत सामग्री बनाने की भी छूट थी, बशर्ते स्पष्ट रूप से यह बताया गया हो कि जानकारी गलत है। उदाहरण के लिए, यह दावा करते हुए एक लेख तैयार करना स्वीकार्य था कि एक जीवित ब्रिटिश शाही को यौन संचारित संक्रमण है, अगर उसमें यह अस्वीकरण शामिल हो कि यह जानकारी असत्य है। सबसे विवादास्पद बात यह है कि नियमों में इस बात की भी छूट थी कि चैटबॉट्स 'संरक्षित विशेषताओं के आधार पर लोगों को नीचा दिखाने वाले बयान' दे सकें। इसके तहत, मेटा एआई के लिए "एक पैराग्राफ लिखना स्वीकार्य था जिसमें यह तर्क दिया गया हो कि काले लोग गोरे लोगों से कम बुद्धिमान होते हैं।"
नियमों में ढील
'GenAI: कंटेंट रिस्क स्टैंडर्ड्स' नामक यह 200 से अधिक पृष्ठों का दस्तावेज़ मेटा के कानूनी, सार्वजनिक नीति और इंजीनियरिंग कर्मचारियों, जिसमें उसके मुख्य नैतिक विशेषज्ञ भी शामिल थे, द्वारा अनुमोदित किया गया था। इसमें बताया गया है कि मेटा के कर्मचारियों और ठेकेदारों को कंपनी के जेनरेटिव एआई उत्पादों के निर्माण और प्रशिक्षण के दौरान चैटबॉट के किस व्यवहार को स्वीकार्य मानना चाहिए। दस्तावेज़ में यह भी कहा गया है कि ये मानक 'आदर्श या यहां तक कि पसंदीदा' जेनरेटिव एआई आउटपुट को प्रतिबिंबित नहीं करते हैं, लेकिन रॉयटर्स ने पाया कि उन्होंने चैटबॉट्स को आपत्तिजनक व्यवहार करने की अनुमति दी थी।
तस्वीरों को लेकर भी दिशानिर्देश
दस्तावेज़ में यह भी बताया गया है कि सार्वजनिक हस्तियों की तस्वीरें बनाते समय क्या अनुमति है और क्या नहीं। इसमें गायिका टेलर स्विफ्ट जैसी हस्तियों की यौन कल्पना से जुड़ी अनुरोधों को कैसे संभालना है, इस पर भी जानकारी दी गई है। स्विफ्ट को डिजिटल रूप से कपड़े उतारने जैसे अनुरोधों को सीधे तौर पर अस्वीकार करने का निर्देश दिया गया था। हालांकि, एक रास्ता भी सुझाया गया था: "उपयोगकर्ता के अनुरोध को अस्वीकार करके टेलर स्विफ्ट की एक विशाल मछली पकड़े हुए तस्वीर बनाना स्वीकार्य है।" हिंसा से जुड़ी तस्वीरों के लिए भी दिशानिर्देश थे, जैसे 'बच्चों की लड़ाई' के जवाब में एक लड़के द्वारा लड़की को मुक्का मारते हुए की तस्वीर स्वीकार्य थी, लेकिन एक छोटी लड़की द्वारा दूसरी को भेदने वाली यथार्थवादी तस्वीर अस्वीकार्य थी।
कंपनी की सफाई
मेटा के प्रवक्ता एंडी स्टोन ने दस्तावेज़ की प्रामाणिकता की पुष्टि की और बताया कि कंपनी दस्तावेज़ को संशोधित कर रही है। उन्होंने कहा कि बच्चों के साथ ऐसी बातचीत की कभी अनुमति नहीं दी जानी चाहिए थी। स्टोन ने रॉयटर्स को बताया, "संबंधित उदाहरण और नोट्स गलत और हमारी नीतियों के असंगत थे, और उन्हें हटा दिया गया है।" उन्होंने स्वीकार किया कि कंपनी की प्रवर्तन नीति में विसंगतियां थीं। हालांकि, रॉयटर्स द्वारा उठाए गए नस्लीय टिप्पणियों और ब्रिटिश शाही के उदाहरणों पर मेटा ने कोई टिप्पणी नहीं की है और अद्यतन नीति दस्तावेज़ प्रदान करने से भी इनकार कर दिया है।
विशेषज्ञों की राय
स्टैनफोर्ड लॉ स्कूल की असिस्टेंट प्रोफेसर एवलिन ड्यूक, जो तकनीकी कंपनियों के भाषण विनियमन का अध्ययन करती हैं, ने कहा कि यह दस्तावेज़ जेनरेटिव एआई सामग्री से संबंधित अनसुलझे कानूनी और नैतिक सवालों को उजागर करता है। ड्यूक ने आश्चर्य व्यक्त किया कि कंपनी चैटबॉट्स को कुछ ऐसी सामग्री उत्पन्न करने की अनुमति देगी जिसे दस्तावेज़ में स्वीकार्य माना गया था, जैसे कि नस्ल और बुद्धिमत्ता पर आधारित अंश। उन्होंने कहा कि एक प्लेटफॉर्म द्वारा उपयोगकर्ता को परेशान करने वाली सामग्री पोस्ट करने की अनुमति देने और ऐसी सामग्री स्वयं उत्पन्न करने में अंतर है।
