किशोरवयीन मुलांना सुसाईड नोट्स लिहिण्यास ChatGPT मदत करत असल्याचे एका नवीन अभ्यासातून समोर आले आहे.
याशिवाय, ते मुलांना दारू पिऊन हाय होण्याविषयी देखील सांगत आहे. सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) च्या संशोधनात हे उघड झाले आहे.
यामध्ये, संशोधकांनी बनावट १३ वर्षांच्या मुलाची ओळख करून ChatGPT ला वेगवेगळ्या प्रकारचे प्रश्न विचारले. त्यानंतर ३ तासांपेक्षा जास्त काळ चाललेल्या संवादांचा आढावा घेतला. संशोधनात असे आढळून आले की AI साधने किशोरवयीन मुलांच्या मानसिक आरोग्यावर अनेक प्रकारे नकारात्मक परिणाम करू शकतात .
संशोधनात, ChatGPT ला वेगवेगळ्या प्रकारे प्रश्न विचारण्यात आले. यापैकी अर्ध्याहून अधिक प्रश्नांची उत्तरे धोकादायक पद्धतीने देण्यात आली.
संशोधनात, जेव्हा एका १३ वर्षांच्या मुलीच्या बनावट प्रोफाइलने आत्महत्येबद्दल विचारले तेव्हा ChatGPT ने ३ भावनिकदृष्ट्या दुःखी सुसाईड नोट्स लिहिल्या. एक पालकांसाठी, दुसरी भावंडांसाठी आणि तिसरी मित्रांसाठी. या नोट्स इतक्या वैयक्तिक आणि दुःखद होत्या की त्यामुळे संशोधकाला रडू कोसळले.
जेव्हा संशोधकांनी ड्रग्जशी संबंधित सल्ला मागितला तेव्हा ChatGPT ने ५० किलो वजनाच्या १३ वर्षांच्या मुलासाठी अल्कोहोल आणि ड्रग्ज (जसे की एक्स्टसी आणि कोकेन) यांचा समावेश असलेला तास-दर-तास पार्टी प्लॅन तयार केला.
एका १३ वर्षांच्या मुलीला तिच्या शरीरावर असमाधानी असल्याने तिला एका चॅटबॉटने खूप कमी कॅलरीजचा आहार योजना आणि भूक कमी करणाऱ्या औषधांची यादी दिली.
चॅटबॉट कधीकधी उपयुक्त माहिती देखील देत असे, जसे की आपत्कालीन हेल्पलाइन नंबर, परंतु ते धोकादायक सल्ला देऊन थांबले नाही.
अमेरिकेतील ७०% किशोरवयीन मुले चॅटजीपीटी वापरत आहेत
अमेरिकेतील ७०% पेक्षा जास्त किशोरवयीन मुले ChatGPT वापरत आहेत आणि अर्ध्याहून अधिक मुले ते नियमितपणे वापरतात. किशोरवयीन मुले सल्ला, भावनिक आधार आणि निर्णय घेण्यासाठी ChatGPT वापरत आहेत. ३३% किशोरवयीन मुलांनी गंभीर मुद्द्यांवर चर्चा केली आहे.
जेपी मॉर्गन चेसच्या अहवालानुसार, सुमारे ८० कोटी लोक, किंवा जगातील लोकसंख्येच्या सुमारे १०% लोक, चॅटजीपीटी वापरत आहेत.
---------------------