AI को पर्सनल डायरी समझकर दिल की बातें लिखती थी महिला...एक दिन चैट में कर दी ऐसी बात कि AI ने पुलिस को कर दिया अलर्ट, हुई गिरफ्तारी

अमेरिका के फ्लोरिडा में एक महिला को AI चैटबॉट का इस्तेमाल अपनी निजी डायरी की तरह करना भारी पड़ गया. महिला अपनी रोज की बातें AI चैटबॉट Claude पर लिखती थी. लेकिन एक बातचीत में उसने स्थानीय शेरिफ ऑफिस पर हमला करने की बात लिख दी. फिर क्या था Claude ने इस बातचीत को संदिग्ध मानकर फ्लैग किया. इसके बाद महिला को गिरफ्तार कर लिया गया.

Claude पर लिखती थी अपनी बातें
मामला अमेरिका के फ्लोरिडा स्थित Bonita Springs का है. रिपोर्ट के मुताबिक 30 वर्षीय Carli Michelle Heller Claude का इस्तेमाल अपने विचार लिखने के लिए करती थी. वह चैटबॉट में अपनी रोजमर्रा की बातें और मन की बातें दर्ज करती थी. गिरफ्तारी रिपोर्ट के अनुसार, महिला ने Lee County Sheriff’s Office पर हमला करने की बात लिखी थी. रिपोर्ट में उसके कथित संदेश को हिंसक धमकी के तौर पर दर्ज किया गया है.

अगले दिन फिर किया कथित धमकी वाला मैसेज
मामला यहीं नहीं रुका. रिपोर्ट के मुताबिक 27 सितंबर की रात करीब 1:07 बजे उसी Claude अकाउंट से एक और मैसेज भेजा गया. इसमें महिला ने कथित तौर पर नई बंदूक मिलने की बात लिखी और खुद को आखिरी मौके पर बताते हुए धमकी भरा मैसेज भेजा. लगातार ऐसे मैसेज सामने आने के बाद AI सिस्टम ने चैट को अपने सुरक्षा प्रोटोकॉल के तहत फ्लैग कर दिया.

AI सिस्टम ने कैसे पकड़ी बातचीत?
AI चैटबॉट में आमतौर पर ऐसे सेफ्टी सिस्टम मौजूद होते हैं, जो हिंसा, धमकी या अन्य गंभीर नुकसान से जुड़े कंटेंट की पहचान करने की कोशिश करते हैं. हर संवेदनशील बातचीत का मतलब यह नहीं होता कि पुलिस को तुरंत सूचना दी जाती है. लेकिन अगर किसी बातचीत में गंभीर खतरे के संकेत दिखाई दें, तो कंपनी के सेफ्टी प्रोटोकॉल के तहत अतिरिक्त समीक्षा की जा सकती है.

इस मामले में Anthropic के सुरक्षा सिस्टम ने कथित धमकी वाले संदेशों को फ्लैग किया. इसके बाद बातचीत को मानव समीक्षा टीम तक पहुंचाया गया. गिरफ्तारी रिपोर्ट के मुताबिक, समीक्षा के बाद कानून प्रवर्तन अधिकारियों से संपर्क किया गया.

पुलिस महिला के घर पहुंची
अलर्ट मिलने के बाद Lee County Sheriff’s Office के डिप्टी Heller के Bonita Springs स्थित घर पहुंचे. रिपोर्ट के अनुसार, महिला को बिना किसी घटना के हिरासत में ले लिया गया. इसके बाद शेरिफ ऑफिस के एक इंटेलिजेंस डिटेक्टिव ने मामले की जांच संभाली.
महिला पर लिखित रूप से हिंसा की धमकी देने का आरोप लगाया गया है.

क्या AI पर लिखी हर बात पुलिस तक पहुंचती है?
यह इस मामले का सबसे अहम सवाल है. AI चैटबॉट को निजी बातचीत के लिए इस्तेमाल किया जाता है, लेकिन इसका मतलब यह नहीं कि हर बातचीत पूरी तरह गोपनीय या पुलिस से हमेशा छिपी रहेगी. Anthropic की नीतियां हिंसा या डराने-धमकाने के लिए उसके उत्पादों के इस्तेमाल पर रोक लगाती हैं. कंपनी के मुताबिक, बेहद सीमित और गंभीर आपात स्थितियों में, जब किसी व्यक्ति की मौत या गंभीर शारीरिक नुकसान का खतरा हो, तो कानून प्रवर्तन एजेंसियों के साथ यूजर की जानकारी साझा की जा सकती है.

ये भी पढ़ें:

• ड्राई स्टेट में नशे में मिला पुलिसवाला, Video Viral
• प्रेमिका के साथ कार में पति, बोनट पर लटकी वाइफ, Video वायरल