फ्लोरिडा में एक 13 वर्षीय छात्र को उस समय गिरफ्तार कर लिया गया जब उसने चैटजीपीटी से यह सवाल पूछाकि मैं कक्षा के बीच में अपने दोस्त को कैसे मारूं?. यह सवाल उसने स्कूल द्वारा जारी किए गए लैपटॉप से किया था, जो गैगल नामक सॉफ़्टवेयर से जुड़ा हुआ था.
यह सॉफ़्टवेयर छात्रों की ऑनलाइन गतिविधियों पर नज़र रखने और खतरनाक शब्दों या धमकी भरे संदेशों को पकड़ने के लिए डिज़ाइन किया गया है. सॉफ़्टवेयर ने जैसे ही इस हिंसक वाक्य को पकड़ा, उसने तुरंत स्कूल प्रशासन को अलर्ट भेज दिया. इसके बाद स्कूल अधिकारियों ने पुलिस को सूचना दी और छात्र को हिरासत में ले लिया गया.
पुलिस की जांच और छात्र का बयान
पुलिस पूछताछ में छात्र ने बताया कि वह सिर्फ मज़ाक कर रहा था और उसका किसी को नुकसान पहुंचाने का इरादा नहीं था. लेकिन अधिकारियों ने इस सफाई को गंभीरता से नहीं लिया. पुलिस ने उसे हिरासत में लेकर लिखित धमकी देने के आरोप में केस दर्ज कर लिया.
इस गिरफ्तारी के बाद एक बार फिर से स्कूलों में डिजिटल निगरानी के दायरे और उसकी सीमाओं को लेकर बहस छिड़ गई है. समर्थकों का कहना है कि गैगल जैसे टूल कई बार संभावित खतरों को टालने में मददगार साबित हुए हैं. उनका मानना है कि अगर ऐसे सिस्टम न हों तो किसी गंभीर घटना को रोकना मुश्किल हो सकता है.
नागरिक स्वतंत्रता पर चिंता
सिविल लिबर्टीज (नागरिक स्वतंत्रता) के पक्षधर संगठनों ने इस मामले पर चिंता जताई है. उनका कहना है कि स्कूलों में एआई आधारित निगरानी छात्रों के व्यवहार को नियंत्रित करने का नया तरीका बन रही है. लेकिन इसमें सबसे बड़ी दिक्कत यह है कि मशीनें भावनाओं, इरादों और संदर्भ को नहीं समझ पातीं. ऐसे में मासूम मज़ाक या गलत शब्दों का इस्तेमाल भी बड़े अपराध जैसा बन सकता है.
अभी तक छात्र की पहचान सार्वजनिक नहीं की गई है क्योंकि वह नाबालिग है. पुलिस मामले की जांच कर रही है और आगे की कार्रवाई की जा रही है.