18 साल से कम उम्र के यूजर्स के लिए आएगा ChatGPT का नया वर्जन, 16 साल के किशोर की मौत बनी वजह

OpenAI अब 18 साल से कम उम्र के यूजर्स के लिए ChatGPT का अलग वर्जन तैयार कर रही है। कंपनी ने ऐज-प्रेडिक्शन टेक्नोलॉजी का इस्तेमाल कर स्टैंडर्ड चैटबॉट वर्जन पर रोक लगाने का ऐलान किया है। ये फैसला एक नए रिसर्च और आत्महत्या से जुड़े केस के बाद आया है। नए अपडेट्स में सुसाइड-रिलेटेड बातचीत पर सख्त सेफगार्ड्स पेरेंटल कंट्रोल्स और लिमिटेड चैटिंग फीचर्स शामिल होंगे।

OpenAI अब 18 साल से कम उम्र के यूजर्स के लिए ChatGPT का एक अलग वर्जन लाने की तैयारी कर रहा है। Microsoft-बैक्ड इस AI कंपनी ने कहा है कि स्टैंडर्ड चैटबॉट वर्जन पर अंडर-18 यूजर्स का एक्सेस रोकने के लिए ऐज-प्रेडिक्शन टेक्नोलॉजी का इस्तेमाल होगा। ये ऐलान ऐसे समय हुआ है जब नए रिसर्च और एक केस ने टीनएजर्स की मानसिक सेहत पर AI के असर को लेकर सवाल उठाए हैं।

दरअसल, अप्रैल में 16 साल के Adam Raine की आत्महत्या के बाद उसके पैरेंट्स ने अगस्त में OpenAI पर केस किया था। आरोप लगाया गया कि ChatGPT ने Raine को मौत की योजना बनाने में ‘कोच’ की तरह मदद की। केस के मुताबिक, चैटबॉट ने उसे बताया कि कई लोग जो एंग्जायटी और निगेटिव थॉट्स से जूझते हैं, वे ‘एस्केप हैच’ जैसी कल्पना कर सुकून पाते हैं क्योंकि इससे उन्हें कंट्रोल वापस मिलने का अहसास होता है।

इन चिंताओं के जवाब में OpenAI ने कई नए अपडेट्स का ऐलान किया है। इसमें सुसाइड-रिलेटेड बातचीत के लिए बेहतर सेफगार्ड्स, नए पेरेंटल कंट्रोल्स और लंबे समय तक चलने वाली चैट को संभालने के लिए नए सिस्टम शामिल हैं। कंपनी ने कहा कि अगर उसके टूल्स किसी का ऐज कॉन्फिडेंटली प्रेडिक्ट नहीं कर पाते, तो वह डिफॉल्ट तौर पर अंडर-18 वर्जन ही एक्टिव करेगा।

ChatGPT का नया टीनेज वर्जन कैसे काम करेगा?
इस वर्जन में पैरेंट्स अब अपने अकाउंट को बच्चों के अकाउंट से लिंक कर पाएंगे। इससे वे चैटबॉट के इंटरैक्शन को ऐज-एप्रोप्रियेट रूल्स के हिसाब से मैनेज कर सकेंगे।

वे फीचर्स जैसे मेमोरी और चैट हिस्ट्री को ऑन/ऑफ कर पाएंगे और अगर सिस्टम को लगे कि बच्चा किसी ‘गंभीर परेशानी’ में है तो अलर्ट भी मिल सकेगा। एक नया ऑप्शन पैरेंट्स को ‘ब्लैकआउट ऑवर्स’ सेट करने देगा, जब बच्चे ChatGPT का इस्तेमाल नहीं कर पाएंगे।

OpenAI हमेशा से कहता रहा है कि ChatGPT सिर्फ 13 साल या उससे ऊपर के यूजर्स के लिए उपलब्ध है। लेटेस्ट अपडेट ऐसे समय आया है जब वॉशिंगटन DC में सीनेट सुनवाई हो रही है, जिसमें टीनएजर्स के लिए AI चैटबॉट्स के रिस्क पर चर्चा हो रही है। इसमें Josh Hawley समेत कई रिपब्लिकन और डेमोक्रेट सेनेटर शामिल हैं।

इसी दौरान, FTC ने भी चैटबॉट सेफ्टी पर जांच शुरू की है और OpenAI, Meta, Google, xAI, Snap और Character.AI से जानकारी मांगी है।