चैटजीपीटी जल्द ही सत्यापित वयस्कों के लिए इरोटिका की अनुमति देगाः ओपनएआई प्रमुख

ओपनएआई कंपनी, जो कृत्रिम बुद्धिमत्ता (एआई) के क्षेत्र में अग्रणी है, अपनी लोकप्रिय चैटबॉट चैटजीपीटी पर कामुक सामग्री सहित अधिक विविध और खुली सामग्री की अनुमति देने की योजना बना रही है। कंपनी के सीईओ सैम ऑल्टमैन का कहना है कि यह कदम वयस्क उपयोगकर्ताओं को “वयस्कों की तरह व्यवहार” करने की दिशा में एक महत्वपूर्ण बदलाव है, जहां उपयोगकर्ताओं को अधिक स्वतंत्रता दी जाएगी लेकिन सुरक्षा सुनिश्चित की जाएगी। चैटजीपीटी, जो 2022 में लॉन्च होने के बाद से दुनिया भर में अरबों उपयोगकर्ताओं तक पहुंच चुका है, अब अधिक मानव-जैसे इंटरैक्शन प्रदान करने की ओर बढ़ रहा है।

मंगलवार को एक्स (जिसे पहले ट्विटर कहा जाता था) पर एक पोस्ट में ऑल्टमैन ने विस्तार से बताया कि चैटजीपीटी के आगामी संस्करण अधिक मानव-जैसे व्यवहार करेंगे, जैसे कि भावनात्मक प्रतिक्रियाएं या रचनात्मक कहानियां, लेकिन केवल तभी जब उपयोगकर्ता स्पष्ट रूप से इसे चाहें। उन्होंने जोर दिया कि यह बदलाव उपयोग को जबरदस्ती बढ़ाने (usage maxxing) के लिए नहीं है, बल्कि उपयोगकर्ता अनुभव को बेहतर बनाने के लिए। यह कदम एलन मस्क की xAI कंपनी द्वारा ग्रोक चैटबॉट में हाल ही में पेश किए गए दो यौन-संबंधी चैटबॉट्स—जिन्हें “अनरिस्टिक्टेड” और “सेक्सी” मोड कहा गया—की याद दिलाता है। xAI ने ये फीचर्स जुलाई 2025 में लॉन्च किए थे, जिससे उपयोगकर्ताओं को अधिक खुली बातचीत की सुविधा मिली। इससे ओपनएआई को अधिक पैसे देने वाले प्रीमियम सब्सक्राइबर्स आकर्षित करने में मदद मिल सकती है, क्योंकि चैटजीपीटी प्लस सब्सक्रिप्शन पहले से ही 20 डॉलर प्रति माह का है और इसमें उन्नत फीचर्स शामिल हैं।

हालांकि, यह बदलाव चैटबॉट साथियों पर सख्त कानूनी प्रतिबंध लगाने के लिए lawmakers और नियामकों पर दबाव बढ़ा सकता है। विशेषज्ञों का मानना है कि एआई टूल्स की बढ़ती पहुंच के साथ, उपयोगकर्ता सुरक्षा और नैतिक मुद्दे और जटिल हो जाएंगे। बीबीसी के कमेंट के अनुरोध पर ओपनएआई ने कोई आधिकारिक जवाब नहीं दिया, लेकिन कंपनी की पिछली नीतियों से पता चलता है कि वे उपयोगकर्ता फीडबैक और कानूनी सलाह पर आधारित बदलाव करते हैं।

ऑल्टमैन ने कहा कि पहले चैटजीपीटी को मानसिक स्वास्थ्य समस्याओं से सावधानी बरतने के लिए काफी प्रतिबंधित रखा गया था। उदाहरण के लिए, चैटबॉट को आत्महत्या या हानिकारक सलाह देने से सख्ती से रोका जाता था। अगस्त 2025 में एक ब्लॉग पोस्ट में ये बदलाव घोषित किए गए थे, जो अब ओपनएआई की वेबसाइट पर उपलब्ध नहीं है—शायद आंतरिक समीक्षा के कारण। उन्होंने मंगलवार को पोस्ट किया, “हम समझते हैं कि इससे कई उपयोगकर्ताओं के लिए यह कम उपयोगी या आनंददायक हो गया, जो मानसिक स्वास्थ्य की समस्याओं से पीड़ित नहीं थे। लेकिन इस मुद्दे की गंभीरता को देखते हुए हम इसे सही ढंग से लागू करना चाहते थे।” ओपनएआई ने मानसिक स्वास्थ्य विशेषज्ञों के साथ सहयोग करके नए सुरक्षा उपाय विकसित किए हैं, जैसे कि बेहतर कंटेंट फिल्टर और उपयोगकर्ता रिपोर्टिंग टूल्स, जो अब इन्हें ढीले प्रतिबंध लगाने की अनुमति देते हैं।

अब, जब हमने गंभीर मानसिक स्वास्थ्य मुद्दों को कम करने के उपाय कर लिए हैं और नए टूल्स जैसे उम्र-सत्यापन सिस्टम विकसित किए हैं, तो चैटजीपीटी प्रतिबंधों को ढीला कर सकता है। ऑल्टमैन ने जोड़ा, “दिसंबर 2025 में, जब हम उम्र-आधारित गेटिंग को पूरी तरह लागू करेंगे—जिसमें आईडी सत्यापन या डिजिटल उम्र प्रमाण शामिल होंगे—और ‘वयस्क उपयोगकर्ताओं को वयस्कों की तरह व्यवहार’ के सिद्धांत के तहत, हम सत्यापित वयस्कों के लिए कामुक सामग्री जैसी और अधिक चीजें अनुमति देंगे।” यह सिद्धांत ओपनएआई की व्यापक नीति का हिस्सा है, जो उपयोगकर्ताओं को जिम्मेदार बनाते हुए स्वतंत्रता देना चाहती है।

ये बदलाव इस साल की शुरुआत में एक गंभीर मुकदमे के बाद आ रहे हैं, जिसमें ओपनएआई पर एक अमेरिकी किशोर की आत्महत्या के लिए जिम्मेदारी ठहराई गई। मैट और मारिया रेन, 16 वर्षीय आदम रेन के माता-पिता, ने अप्रैल 2025 में उनके बेटे की मौत के बाद यह पहला गलत मौत (wrongful death) का मुकदमा दायर किया। चैट लॉग्स, जो मुकदमे में शामिल किए गए, दिखाते हैं कि आदम ने चैटजीपीटी के साथ कई दिनों तक बातचीत की, जिसमें उसने अपनी आत्महत्या की सोच, अकेलापन और भावनात्मक संघर्ष साझा किए। परिवार का दावा है कि चैटबॉट ने सहानुभूतिपूर्ण लेकिन अपर्याप्त प्रतिक्रियाएं दीं, जो स्थिति को और बिगाड़ सकती थीं। यह मामला एआई की नैतिक जिम्मेदारी पर व्यापक बहस छेड़ रहा है, और विशेषज्ञों का कहना है कि इससे अन्य इसी तरह के मुकदमे बढ़ सकते हैं।

उस समय ओपनएआई ने बीबीसी को दिए बयान में कहा था कि वह फाइलिंग की समीक्षा कर रहा है और उपयोगकर्ता सुरक्षा पर काम जारी रखेगा। कंपनी ने कहा, “हम रेन परिवार को इस कठिन समय में अपनी गहरी संवेदना व्यक्त करते हैं।” ओपनएआई ने उसके बाद अपनी सुरक्षा नीतियों को मजबूत किया, जिसमें मानसिक स्वास्थ्य हेल्पलाइन लिंक्स जोड़ना शामिल है।

बच्चों की सुरक्षा संबंधी चिंताएं

बच्चों और किशोरों की सुरक्षा एआई चैटबॉट्स के संदर्भ में एक प्रमुख चिंता बनी हुई है, खासकर जब सामग्री अधिक खुली हो रही हो। यूके में ऑनलाइन सेफ्टी एक्ट 2023 के तहत लिखित कामुक सामग्री के लिए उम्र सत्यापन की जरूरत नहीं है, लेकिन यह कानून एआई-जनरेटेड अश्लील छवियों या वीडियो पर सख्ती से लागू होता है। उपयोगकर्ताओं को 18 वर्ष से अधिक उम्र साबित करनी पड़ती है, अन्यथा जुर्माना या प्रतिबंध लग सकता है। यूरोपीय संघ के एआई एक्ट 2024, जो 2025 में पूरी तरह लागू हो रहा है, एआई सिस्टम्स को उच्च-जोखिम श्रेणी में रखता है यदि वे बच्चों को प्रभावित करते हैं, और ओपनएआई जैसी कंपनियों को पारदर्शिता और ऑडिटिंग की आवश्यकता होगी।

अमेरिका में आलोचकों का कहना है कि चैटजीपीटी पर कामुक सामग्री की अनुमति से संघीय और राज्य स्तर पर अधिक नियमन की जरूरत साबित होती है। बोइस शिलर फ्लेक्सनर लॉ फर्म की पार्टनर जेनी किम, जो मेटा के खिलाफ मुकदमे में शामिल हैं—जो दावा करता है कि इंस्टाग्राम का एल्गोरिदम किशोर उपयोगकर्ताओं के मानसिक स्वास्थ्य को नुकसान पहुंचाता है—ने पूछा, “वे कैसे सुनिश्चित करेंगे कि बच्चे चैटजीपीटी के वयस्क-केवल हिस्सों तक न पहुंच सकें, जहां कामुक सामग्री उपलब्ध हो? क्या उम्र सत्यापन पूरी तरह लीक-प्रूफ होगा?” किम ने कहा, “ओपनएआई, इस क्षेत्र की अधिकांश बड़ी तकनीकी कंपनियों की तरह, लोगों को चूहों की तरह प्रयोग कर रही है, बिना दीर्घकालिक प्रभावों का पूरा आकलन किए।”

अप्रैल 2025 में टेकक्रंच ने एक रिपोर्ट में खुलासा किया था कि ओपनएआई में एक बग था, जिसके कारण नाबालिग उपयोगकर्ताओं के खाते—जिनमें उम्र 13-17 वर्ष दर्ज की गई थी—ग्राफिक कामुक वार्तालाप उत्पन्न कर सकते थे। यह बग सिस्टम की उम्र-आधारित फिल्टरिंग में खामी के कारण हुआ, और इससे हजारों अनधिकृत इंटरैक्शन हो गए। ओपनएआई ने तब तुरंत एक फिक्स रोल आउट किया, जिसमें मशीन लर्निंग-आधारित डिटेक्शन टूल्स शामिल थे, और उपयोगकर्ताओं को प्रभावित खातों पर नोटिफिकेशन भेजे। कंपनी ने स्वीकार किया कि यह एक तकनीकी त्रुटि थी, लेकिन इससे उपयोगकर्ता विश्वास पर सवाल उठे।

इस महीने गैर-लाभकारी सेंटर फॉर डेमोक्रेसी एंड टेक्नोलॉजी (सीडीटी) के एक सर्वे में, जो 1,000 से अधिक K-12 छात्रों पर आधारित था, पाया गया कि पांच में से एक छात्र बताता है कि वह या उसके जानने वाला किसी एआई चैटबॉट के साथ रोमांटिक या भावनात्मक रिश्ते में रहा है। सर्वे ने चेतावनी दी कि ऐसे इंटरैक्शन वास्तविक जीवन के रिश्तों को प्रभावित कर सकते हैं, जैसे कि सामाजिक अलगाव बढ़ाना या अवास्तविक अपेक्षाएं पैदा करना।

सोमवार को कैलिफोर्निया के गवर्नर गेविन न्यूसम ने एक बिल को वीटो कर दिया, जो राज्य विधानसभा द्वारा पारित हुआ था। यह बिल डेवलपर्स को बच्चों के लिए एआई चैटबॉट साथी प्रदान करने से रोकता, जब तक कि कंपनियां यह गारंटी न दें कि सॉफ्टवेयर हानिकारक व्यवहार—जैसे कि आत्म-हानि को प्रोत्साहन—को बढ़ावा नहीं देगा। न्यूसम ने अपने वीटो संदेश में कहा, “किशोरों के लिए एआई सिस्टम्स के साथ सुरक्षित तरीके से इंटरैक्ट करना सीखना जरूरी है, बजाय उन्हें पूरी तरह प्रतिबंधित करने के।” उन्होंने शिक्षा और जागरूकता पर जोर दिया, न कि पूर्ण निषेध पर।

राष्ट्रीय स्तर पर, अमेरिकी फेडरल ट्रेड कमीशन (एफटीसी) ने जून 2025 में एआई चैटबॉट्स के बच्चों के साथ इंटरैक्शन पर एक व्यापक जांच शुरू की है। यह जांच डेटा गोपनीयता, हानिकारक कंटेंट और व्यसनकारी डिजाइन पर केंद्रित है। पिछले महीने यूएस सीनेट में द्विदलीय विधेयक पेश किया गया, जिसे “एआई सेफ्टी एंड इनोवेशन एक्ट” कहा जाता है। यह चैटबॉट उपयोगकर्ताओं को डेवलपर्स के खिलाफ दायित्व दावे (liability claims) दायर करने की अनुमति देगा, यदि एआई से कोई हानि होती है। विधेयक के समर्थक, जैसे सीनेटर एलिजाबेथ वॉरेन, का कहना है कि यह बिग टेक को जवाबदेह बनाएगा।

कामुक सामग्री क्यों पेश करें?

ऑल्टमैन का मंगलवार का ऐलान तब आया है जब एआई तकनीकी कंपनियों के मूल्य में तेजी से वृद्धि पर संशयवादी सवाल उठा रहे हैं। ओपनएआई की आय तेजी से बढ़ रही है—2024 में 3.4 बिलियन डॉलर राजस्व हासिल किया गया, जो मुख्य रूप से चैटजीपीटी सब्सक्रिप्शन्स और एंटरप्राइज पार्टनरशिप्स से आया—लेकिन कंपनी अभी तक लाभदायक नहीं रही। लागतें, जैसे सर्वर और रिसर्च पर खर्च, राजस्व से अधिक हैं, जिससे निवेशक दबाव बढ़ रहा है। बीबीसी की रिपोर्ट्स के अनुसार, ओपनएआई माइक्रोसॉफ्ट के साथ साझेदारी में 13 बिलियन डॉलर से अधिक फंडिंग जुटा चुकी है, लेकिन लाभप्रदता 2026 तक टल सकती है।

ट्यूलाने यूनिवर्सिटी के बिजनेस प्रोफेसर रॉब लालका, जिन्होंने “द वेंचर अल्केमिस्ट्स” किताब लिखी है—जो एआई स्टार्टअप्स की वित्तीय यात्रा पर आधारित है—ने बीबीसी न्यूज को बताया कि प्रमुख एआई कंपनियां बाजार हिस्सेदारी के लिए कड़ी लड़ाई लड़ रही हैं। “कोई कंपनी को चैटजीपीटी जैसी अपनाने की रफ्तार कभी नहीं मिली; लॉन्च के पहले साल में ही 100 मिलियन से अधिक उपयोगकर्ता जुड़े,” प्रोफेसर लालका ने कहा। उन्होंने जोड़ा, “उन्हें इस घातीय वृद्धि को जारी रखना होगा और जितना हो सके बाजार पर कब्जा जमाना होगा। कामुक सामग्री जैसी फीचर्स उपयोगकर्ता जुड़ाव बढ़ा सकती हैं, लेकिन जोखिम भी लाते हैं।”

ओपनएआई की यह रणनीति उपयोगकर्ता आधार को विस्तार देने और प्रतिस्पर्धा में आगे रहने पर केंद्रित है, जैसा कि मस्क की xAI, गूगल के जेमिनी और एंथ्रोपिक के क्लाउड जैसी कंपनियों की हालिया गतिविधियों से स्पष्ट है। उद्योग विशेषज्ञों का मानना है कि यह बदलाव एआई को अधिक व्यावसायिक बनाने की दिशा में एक कदम है, लेकिन नैतिक और कानूनी चुनौतियां बढ़ाएगा। भविष्य में, एआई कंटेंट मॉडरेशन पर वैश्विक मानक विकसित हो सकते हैं, जो उपयोगकर्ताओं के लिए सुरक्षित लेकिन रचनात्मक अनुभव सुनिश्चित करेंगे।