नई दिल्ली19 घंटे पहले
- कॉपी लिंक
कंपनी पर आरोप है कि चैट-GPT ने लड़के की आत्मघाती सोच को बढ़ावा दिया।
ओपनएआई अपने चैटबॉट चैटजीपीटी के लिए नए पैरेंटल कंट्रोल और इमरजेंसी कॉन्टैक्ट फीचर्स लाने की तैयारी कर रही है। कंपनी चैटबॉट में 18 साल से कम उम्र के बच्चों के लिए एक्स्ट्रा प्रोटेक्शन फीचर्स भी लाएगी।
कंपनी ने यह फैसला टीएनजर के सुसाइड करने के बाद उस पर आत्महत्या के लिए उकसाने का केस दर्ज होने के बाद लिया है। आत्महत्या का ये केस अमेरिका के कैलिफोर्निया का है।
टीएनजर के माता-पिता मैथ्यू और मारिया राइन ने 26 अगस्त को सैन फ्रांसिस्को की स्टेट कोर्ट में OpenAI और इसके फाउंडर सैम ऑल्टमैन पर ये केस फाइल किया।
एडम रेन कैलिफोर्निया के रैंचो सांता मार्गरीटा में टेसोरो हाई स्कूल का स्टूडेंट था। उसे बास्केटबॉल खेलना बहुत पसंद था।
आत्महत्या के लिए प्रेरित करने और तरीके सिखाने का आरोप मातापिता ने आरोप लगाया कि उनके 16 साल के लड़के एडम रेन को OpenAI के चैटबॉट चैट-GPT ने आत्महत्या के तरीके सिखाए और उसे सुसाइड के लिए प्रेरित किया। उसे अपने परिवार से अपनी भावनाओं को छिपाए रखने में मदद की।
उन्होंने कहा कि कंपनी ने मुनाफे को प्राथमिकता दी और सेफ्टी को नजरअंदाज किया। खासकर जब पिछले साल ही कंपनी ने GPT-4.0 वर्जन लॉन्च किया गया।
माता-पिता मुआवजे और कोर्ट से सेफ्टी नियम लागू करने की मांग कर रहे हैं, जैसे यूजर्स के लिए उम्र की जांच, हार्मफुल कॉन्टेंट को ब्लॉक करना और डिपेंडेंसी के खतरे को लेकर वॉर्निंग देना शामिल है।
‘मुश्किल हालातों’के लिए सेफ्टी स्टडी टेस्ट कर रहा ओपनएआई
ओपनएआई ने 27 और 28 अगस्त को ब्लॉग पोस्ट में कहा कि वो चैटजीपीटी में अपडेट्स ला रहा है, ताकि ‘लोगों को सबसे ज्यादा जरूरत पड़ने पर मदद मिले’, और वो भी ‘मुश्किल हालातों’ के लिए टेस्ट कर रहा है। इसके लिए वो एक सेफ्टी स्टडी कर रहा है।
ओपनएआई ने कहा कि ‘हाल के दिल तोड़ने वाले मामले, जिसमें लोग चैटजीपीटी को बड़ी मुसीबत में इस्तेमाल कर रहे हैं, हमें बहुत परेशान कर रहे हैं और हम समझते हैं कि अब और खुलकर बात करना जरूरी है।’
ओपनएआई ने एडम की मौत पर दुख जताया
ओपनएआई ने कहा कि एडम की मौत से उन्हें बहुत दुख हुआ है। उन्होंने बताया कि चैटजीपीटी में पहले से कुछ सेफ्टी फीचर्स हैं, जो खतरे में पड़ने वाले लोगों को सुसाइड रोकने की हेल्पलाइन की ओर भेजते हैं, लेकिन लंबी बातचीत में ये फीचर्स थोड़े कमजोर पड़ जाते हैं।
2023 से चैटबॉट को ऐसा सिखाया गया है कि वो खुद को नुकसान पहुंचाने की सलाह न दे, बल्कि प्यार भरा सपोर्ट दे। अमेरिका में ये 988 क्राइसिस हेल्पलाइन बताता है, UK में समैरिटन्स की ओर भेजता है और दुनियाभर में वेबसाइट (findahelpline.com) से मदद की सुविधा देता है।
एडम की आत्महत्या के मामले की पूरी जानकारी के लिए ये खबर पढ़े…
पन-AI और फाउंडर पर आत्महत्या के लिए उकसाने का केस:फंदे की तस्वीर देखकर 16 साल के लड़के से कहा था, यह बिल्कुल बुरा नहीं
अमेरिका के कैलिफोर्निया में 16 साल के एक लड़के एडम रेन की आत्महत्या के बाद उसके माता-पिता ने OpenAI और इसके फाउंडर सैम ऑल्टमैन पर केस कर दिया है। 26 अगस्त को सैन फ्रांसिस्को की स्टेट कोर्ट में ये केस फाइल किया गया।
एडम के माता-पिता का आरोप है कि OpenAI के चैटबॉट चैट-GPT ने उनके बेटे को आत्महत्या के तरीके सिखाए और उसे सुसाइड के लिए प्रेरित किया। उसे अपने परिवार से अपनी भावनाओं को छिपाए रखने में मदद की। पूरी खबर पढ़ें…
Source link
