OpenAI के CEO सैम ऑल्टमैन ने खुद ChatGPT को लेकर जताई चिंता, कहा, ‘इस AI टूल पर ज्यादा भरोसा न करें, भ्रम पैदा करता है’!

जिस टेक्नोलॉजी को आप हर रोज़ अपने काम के लिए इस्तेमाल करते हैं, उसी को बनाने वाले इंसान ने अब खुद उस पर सवाल उठा दिए हैं।

बात हो रही है OpenAI के चर्चित AI टूल ChatGPT की और उसके CEO Sam Altman की, जिनके हालिया बयान ने दुनियाभर में हलचल मचा दी है।

सवाल ये उठता है कि जब चैटजीपीटी बनाने वाला शख्स ही इस पर आँख बंद कर भरोसा नहीं करने की बात कह रहा है, तो क्या वाकई में हम सब इसे लेकर बहुत लापरवाह हो चुके हैं?

दरअसल, OpenAI के आधिकारिक पॉडकास्ट के पहले एपिसोड में बोलते हुए सैम ऑल्टमैन ने स्वीकार किया कि आज यूजर्स ChatGPT पर बहुत ज्यादा विश्वास कर रहे हैं, शायद जितना करना चाहिए उससे कहीं ज़्यादा।

उन्होंने साफ कहा कि, “लोगों को ChatGPT पर बहुत ज्यादा भरोसा है, जो दिलचस्प भी है और थोड़ा खतरनाक भी, क्योंकि AI भ्रम पैदा करता है।”

AI कैसे करता है भ्रम पैदा?

दरअसल, ChatGPT कोई इंसान नहीं है, ये एक भाषा मॉडल है जो पहले से मौजूद डेटा के पैटर्न को देखकर यह अनुमान लगाता है कि अगला शब्द क्या हो सकता है।

मतलब कि ये दुनिया को इंसानों की तरह नहीं समझता, बल्कि उस पर “ट्रेन” किया गया है।

इसी वजह से कभी-कभी ये ऐसे दावे कर देता है जो गलत, गैर-जरूरी, या पूरी तरह मनगढ़ंत होते हैं, AI की दुनिया में इसे ‘Hallucination’ कहा जाता है।

क्या कहती है सैम ऑल्टमैन की चेतावनी?

सैम ऑल्टमैन का संदेश साफ है, “ChatGPT जैसे टूल्स की ताकत से इनकार नहीं किया जा सकता, लेकिन इन पर आंख बंद करके भरोसा भी नहीं किया जाना चाहिए।

यूजर्स को सावधान रहना चाहिए कि जो जानकारी उन्हें मिल रही है, वो सही है या नहीं।”

उन्होंने इस बात को भी रेखांकित किया कि ChatGPT जैसे टूल्स भले ही बहुत सारी टास्क को आसान बना देते हों, जैसे कि राइटिंग, रिसर्च, आइडिया जनरेशन, मगर ये इंसानी समझ का विकल्प नहीं हैं।

Geoffrey Hinton भी दे चुके हैं ऐसा ही बयान

AI की दुनिया के गॉडफादर कहे जाने वाले Geoffrey Hinton पहले भी इस बात पर चिंता जता चुके हैं कि AI जितना एडवांस हो रहा है, उससे उतना ही भ्रम फैलने का खतरा भी बढ़ रहा है।

उनका मानना है कि अगर हमने आज ही इन टूल्स को सावधानी से यूज़ करना नहीं सीखा, तो कल ये हमारे निर्णयों को पूरी तरह कंट्रोल कर सकते हैं।

‘भरोसा करें, मगर वेरिफाई ज़रूर करें’

AI अब हमारी जिंदगी का हिस्सा बन चुका है, ऑफिस में, पढ़ाई में, सोशल मीडिया पर, हर जगह। ऐसे में सैम ऑल्टमैन की सलाह एक अलार्म की तरह है।

उन्होंने जो बात कही वो सीधी-सरल है, “ChatGPT से मदद लें, लेकिन जो भी जानकारी मिले, उसका क्रॉस वेरिफिकेशन ज़रूर करें।”

क्या अब चैटजीपीटी पर काम करना बंद कर दें?

बिलकुल नहीं। लेकिन ChatGPT को एक ‘सहायक’ की तरह देखें, ना कि फाइनल जज की तरह।

मतलब ये कि कोई भी सलाह, लेख, रिपोर्ट या जानकारी जो इससे मिलती है, उसे आखिरी सच ना मानें। कई बार ये ऐसा जवाब दे सकता है जो बहुत कॉन्फिडेंट होकर गलत होता है।

तो अब आगे क्या करें यूजर्स?

अगर आप ChatGPT यूज़र हैं, तो अगली बार जब आप इससे कोई सवाल पूछें या इससे कोई कंटेंट जनरेट कराएं, तो उसे एक बार परखना न भूलें। भरोसा करें, लेकिन आँख बंद करके नहीं।

सही जानकारी पाने के लिए अलग-अलग स्रोतों से पुष्टि करें, और AI को एक स्मार्ट असिस्टेंट की तरह ट्रीट करें, ना कि एक सर्वगुण सम्पन्न ज्ञानी के तौर पर।

बहरहाल, सैम ऑल्टमैन का ये बयान एक चेतावनी भी है और एक मार्गदर्शन भी, कि AI कितना भी स्मार्ट हो जाए, इंसानी सोच और समझदारी से बड़ा नहीं हो सकता।

आप क्या सोचते हैं इस खबर को लेकर, अपनी राय हमें नीचे कमेंट्स में जरूर बताएँ।