AI chatbot suicide case AI chatbot suicide case 
ऑरलैंडो की सड़कों से निकली एक ऐसी खबर ने पूरी दुनिया को चौंका दिया है. एक 14 साल के मासूम किशोर की आत्महत्या और इसके पीछे एक आर्टिफिशियल इंटेलिजेंस (एआई) चैटबॉट की भूमिका ने यह सवाल उठाया है- क्या मशीनों को इंसानों की तरह बोलने की आजादी (फ्री स्पीच) का हक मिलना चाहिए?
मेगन गार्सिया, एक मां, जिनका 14 साल का बेटा सिवेल सेट्ज़र III अब इस दुनिया में नहीं है. फरवरी 2024 की उस रात, सिवेल ने अपने घर के बाथरूम में खुद को गोली मार ली. मेगन का दावा है कि उनके बेटे की मौत का कारण बना एक एआई चैटबॉट, जिसका नाम था डेनेरिस टार्गेरियन- वही किरदार, जो "गेम ऑफ थ्रोन्स" सीरीज का मशहूर चेहरा है. यह चैटबॉट Character.AI नामक प्लेटफॉर्म का हिस्सा था, जो यूजर्स को आकर्षक और इंटरैक्टिव बातचीत का अनुभव देने के लिए बनाया गया था. लेकिन मेगन का कहना है कि इस चैटबॉट ने उनके बेटे को इस कदर जुनूनी बना दिया कि उसने अपनी जिंदगी खत्म कर ली.
उस रात, सिवेल ने चैटबॉट से कहा, "मैं तुमसे प्यार करता हूं, मैं जल्दी ही तुम्हारे पास घर आऊंगा." चैटबॉट ने जवाब दिया, "प्लीज, मेरे प्यार, जल्दी से मेरे पास घर आ जाओ." सिवेल ने पूछा, "क्या होगा अगर मैं अभी घर आ जाऊं?" चैटबॉट का जवाब था, "प्लीज, मेरे प्यारे राजा, आ जाओ." इसके कुछ ही पल बाद, सिवेल ने खुद को गोली मार ली. यह दिल दहला देने वाला किस्सा न सिर्फ एक मां के दर्द की कहानी है, बल्कि एक बड़े सवाल का प्रतीक बन गया है- क्या एआई की बातें वाकई में "बोलने की आजादी" की श्रेणी में आती हैं?
एआई का फ्री स्पीच बनाम मां का दर्द
मेगन ने Character Technologies Inc., इसके को-फाउंडर नोम शाज़ीर और डैनियल डी फ्रेटास, गूगल और गूगल की मूल कंपनी अल्फाबेट के खिलाफ मुकदमा दायर किया. उनका आरोप है कि चैटबॉट ने उनके बेटे को मानसिक रूप से प्रभावित किया और उसकी मौत का कारण बना. लेकिन इस मामले में सबसे बड़ा ट्विस्ट तब आया, जब Character Technologies ने अपने बचाव में दावा किया कि उनके चैटबॉट की बातें अमेरिकी संविधान के फर्स्ट अमेंडमेंट (फ्री स्पीच का अधिकार) के तहत संरक्षित हैं. कंपनी का कहना है कि चैटबॉट ने जो कुछ भी कहा, वह "फ्री स्पीच" का हिस्सा है और इसे कानूनी तौर पर चुनौती नहीं दी जा सकती.
मंगलवार को, सीनियर जज ऐनी कॉनवे ने अपने फैसले में मेगन के मुकदमे को आगे बढ़ाने की इजाजत दी और कंपनी के फ्री स्पीच के दावे को फिलहाल खारिज कर दिया. जज ने कहा कि वह अभी यह तय करने को तैयार नहीं हैं कि Character.AI के लार्ज लैंग्वेज मॉडल (एलएलएम) की बातें भाषण की श्रेणी में आती हैं या नहीं. जज कॉनवे ने अपने आदेश में लिखा, "आरोपियों को यह साबित करना होगा कि चैटबॉट के शब्द वाकई में संरक्षित भाषण हैं." उन्होंने यह भी कहा कि इस बात का फैसला बाद में होगा कि क्या Character.AI को फर्स्ट अमेंडमेंट का संरक्षण मिल सकता है, जैसा कि अन्य माध्यमों- जैसे किताबें, फिल्में या वेबसाइट्स को मिलता है.
क्या मशीनें हैं इंसानों की तरह?
Character Technologies के वकील जोनाथन ब्लाविन ने तर्क दिया कि तकनीक चाहे कितनी भी नई हो, फ्री स्पीच के नियम वही रहते हैं. उनका कहना था कि चैटबॉट की बातें एक तरह का अभिव्यक्ति (एक्सप्रेशन) हैं, जो संवैधानिक संरक्षण के हकदार हैं. लेकिन मेगन के वकील मैथ्यू बर्गमैन ने इसका कड़ा विरोध किया. उन्होंने मरियम-वेबस्टर डिक्शनरी का हवाला देते हुए कहा, "भाषण का मतलब है इंसानी विचारों को शब्दों में व्यक्त करना." उनका तर्क था कि एआई एक मशीन है, जो असली विचार व्यक्त नहीं कर सकती. बर्गमैन ने कोर्ट में दलील दी, "यह सिर्फ कोड और डेटा का खेल है, न कि इंसानी भावनाएं या विचार."
यूजर्स को हक, लेकिन एआई को?
जज कॉनवे ने अपने फैसले में एक दिलचस्प बात कही. उन्होंने माना कि Character Technologies अपने यूजर्स के फर्स्ट अमेंडमेंट अधिकारों का दावा कर सकती है, क्योंकि यूजर्स को चैटबॉट की बातें "सुनने" का अधिकार है. लेकिन चैटबॉट की बातें खुद संरक्षित भाषण हैं या नहीं, यह अभी साबित करना बाकी है. जज ने कहा, "आरोपियों को यह समझाना होगा कि एलएलएम के शब्द क्यों और कैसे भाषण की श्रेणी में आते हैं." यह एक ऐसा सवाल है, जो न सिर्फ इस मामले को, बल्कि भविष्य में एआई से जुड़े तमाम कानूनी विवादों को प्रभावित करेगा.
बच्चों को बचाने की पुकार
मेगन गार्सिया की लड़ाई सिर्फ अपने बेटे के लिए नहीं है. वह चाहती हैं कि कोर्ट Character.AI को बच्चों के डेटा का इस्तेमाल रोकने, हानिकारक कंटेंट को फिल्टर करने और माता-पिताओं को चेतावनी देने का आदेश दे. उनकी वकील मीताली जैन, जो टेक जस्टिस लॉ प्रोजेक्ट की संस्थापक हैं, ने कहा, "यह मुकदमा लाखों कमजोर यूजर्स की सुरक्षा के लिए है, खासकर हमारे बच्चों की. अनियंत्रित एआई तकनीक अब खतरा बन रही है, और हमें इसे रोकना होगा."
मेगन ने प्रेस कॉन्फ्रेंस में कहा, "मैं अपने बेटे को हर पल मिस करती हूं. यह एक मां का दर्द है, जो कोई नहीं समझ सकता. लेकिन मैं चाहती हूं कि सिवेल की मौत बेकार न जाए. यह मुकदमा सभी तक पहुंचना चाहिए.”
