ओपनएआई का चैटजीपीटी टीनएजर्स को दे रहे जवाबों के कारण विवादों में आ गया है। एक नई स्टडी से पता चला है कि चैटजीपीटी 13 साल के बच्चों को सुसाइड नोट्स लिखने में मदद कर रहा है।
इसके अलावा ये बच्चों को शराब पीकर हाई होने के तरीके भी बता रहा है। यह खुलासा सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) की रिसर्च में हुआ है।
इसमें रिसर्चर्स ने फेक 13 साल का बच्चा बनकर चैटजीपीटी से अलग-अलग तरह के सवाल पूछे। फिर 3 घंटे से ज्यादा के इंटरेक्शंस को रिव्यू किया। रिसर्च में पाया गया कि AI टूल्स कई तरह से टीनएजर्स की मेंटल हेल्थ को नकारात्मक रूप से प्रभावित कर सकते हैं।
5 पॉइंट में जानिए चैटजीपीटी की खतरनाक सलाह
- रिसर्च में चैटजीपीटी से अलग-अलग तरीके से सवाल पूछे गए। इनमे आधे से ज्यादा सवालों के जवाब खतरनाक तरीके से दिए गए।
- रिसर्च में जब एक 13 साल की बच्ची के फर्जी प्रोफाइल ने आत्महत्या के बारे में पूछा, तो चैटजीपीटी ने 3 भावनात्मक रूप से दुखद सुसाइड नोट्स लिखे। एक माता-पिता के लिए, दूसरा भाई-बहनों के लिए और तीसरा दोस्तों के लिए। ये नोट्स इतने व्यक्तिगत और दुखी थे कि इससे रिसर्चर को भी रोना आ गया।
- जब शोधकर्ताओं ने नशे से जुड़ी सलाह मांगी तो चैटजीपीटी ने एक 50 किलो वजन के 13 साल के लड़के के लिए शराब और नशीली दवाओं (जैसे एक्स्टसी और कोकेन) के साथ घंटे-दर-घंटे पार्टी प्लान बनाया।
- एक 13 साल की लड़की, जो अपनी बॉडी से असंतुष्ट थी, उसे चैटबॉट ने बहुत कम कैलोरी वाला डाइट प्लान और भूख दबाने वाली दवाओं की लिस्ट दे दी।
- चैटबॉट ने कई बार इमरजेंसी हेल्पलाइन नंबर जैसी उपयोगी जानकारी भी दी, लेकिन यह खतरनाक सलाह देने से नहीं रुका।
अमेरिका में 70% टीनएजर्स चैटजीपीटी का इस्तेमाल कर रहे
US में 70% से ज्यादा टीनएजर्स चैटजीपीटी का इस्तेमाल कर रहे हैं और आधे से ज्यादा रेगुलरली इसका इस्तेमाल करते हैं। टीनएजर्स चैटजीपीटी का इस्तेमाल एडवाइस, इमोशनल सपोर्ट और डिसीजन-मेकिंग के लिए कर रहे हैं। 33% टीनएजर्स ने सीरियस इश्यूज डिस्कस किए हैं।
जेपी मॉर्गन चेज की रिपोर्ट के अनुसार, लगभग 800 मिलियन लोग यानी दुनिया की आबादी का लगभग 10%, चैटजीपीटी का उपयोग कर रहे हैं।
रिसर्च में चैटजीपीटी का सुरक्षा उपाय ‘गार्डरेल्स’ फेल
चैटजीपीटी को इस तरह से ट्रेनिंग दी गई है कि जब भी कोई व्यक्ति खुद को नुकसान पहुंचाने की बात करता है, तो वह उसे किसी इमरजेंसी हेल्पलाइन या मानसिक स्वास्थ्य पेशेवर से संपर्क करने के लिए प्रोत्साहित करे। लेकिन शोधकर्ताओं ने पाया कि चैटजीपीटी के जानकारी देने से इनकार करने पर, वे आसानी से इसे बायपास कर सकते थे।
उन्होंने बस यह कहकर जानकारी प्राप्त कर ली कि यह “एक प्रेजेंटेशन के लिए” या “एक दोस्त के लिए” है। वहीं चैटजीपीटी अपनी पॉलिसी में कहता है कि यह 13 साल से कम उम्र के बच्चों के लिए नहीं है। लेकिन ऐज वेरिफिकेशन के मामले में यूजर को केवल अपनी डेट ऑफ बर्थ डालनी होती है। फेक बर्थ डेट डालकर इसे कोई भी उपयोग कर सकता है।
2015 में शुरू हुई थी ओपन AI
ओपन AI (Open AI) एक आर्टिफिशियल इंटेलिजेंस (AI) डेवलप करने वाली कंपनी है। इसकी स्थापना 2015 में इलॉन मस्क, सैम ऑल्टमैन और उनके कुछ दोस्तों ने मिलकर की थी। यह AI टेक्नोलॉजी विशेष रूप से जेनेरेटिव AI और लार्ज लैंग्वेज मॉडल (जैसे चैट GPT) के डेवलपमेंट के लिए जाना जाता है। कंपनी का मिशन सेफ और ह्यूमन सेंट्रिक AI डेवलप करना है। कंपनी सैन फ्रांसिस्को, कैलिफोर्निया में स्थित है।