AI चैटबॉट बातें क्यों गढ़ते हैं, और किसी भी AI जवाब की जाँच कैसे करें

AI चैटबॉट बातें इसलिए गढ़ते हैं क्योंकि उन्हें अगला सबसे संभावित टेक्स्ट बनाने के लिए तैयार किया गया है, जाँचे हुए तथ्य खोजकर लाने के लिए नहीं। लैंग्वेज मॉडल के भीतर कोई डेटाबेस नहीं होता जिसमें वह चीज़ें खोजे, और कोई ऐसी व्यवस्था नहीं जो “मैं यह जानता हूँ” और “यह ऐसी बात लगती है जो सच हो सकती है” में फ़र्क़ करे। जब संभावित जवाब संयोग से सही होता है, तो आपको तथ्य मिलता है। जब नहीं होता, तो आपको आत्मविश्वास भरा, धाराप्रवाह और पूरी तरह गढ़ा हुआ जवाब मिलता है। दोनों हालात में आउटपुट एक जैसा दिखता है, और पूरी समस्या यही है।

इंडस्ट्री इसे हैलुसिनेशन कहती है, जो ख़राब नाम है — यह किसी ख़राबी का आभास देता है। असल में यह मॉडलों के ठीक वैसे काम करने के क़रीब है जैसा उन्हें डिज़ाइन किया गया। इस फ़र्क़ को समझना AI को उस चीज़ से, जिस पर आप या तो आँख मूँदकर भरोसा करते हैं या पूरी तरह अविश्वास, एक ऐसा औज़ार बना देता है जिसे आप विवेक से इस्तेमाल कर सकें।

यह लेख बताता है कि यह क्यों होता है, किस तरह के सवाल इसे भरोसे से ट्रिगर करते हैं, चैट छोड़े बिना गढ़ा हुआ जवाब कैसे पहचानें, और जाँच की इतनी छोटी प्रक्रिया कि आप सचमुच उसका इस्तेमाल करें।

जब AI कोई तथ्य गढ़ता है तब असल में क्या हो रहा होता है?

लैंग्वेज मॉडल टेक्स्ट एक-एक टुकड़े में अनुमानित करता है, और हर अगला टुकड़ा विशाल लेखन से सीखे पैटर्न के आधार पर चुनता है। उससे किसी असली किताब का लेखक पूछिए, तो “यह शीर्षक → यह लेखक” का पैटर्न ट्रेनिंग के दौरान इतनी बार देखा गया कि अनुमान भरोसेमंद है। उससे ऐसी किताब का लेखक पूछिए जो मौजूद ही नहीं है, तो मॉडल दीवार से टकराकर रुकता नहीं। वह ऐसा नाम बना देता है जो संभावित रूप से आगे आता, क्योंकि संभावित आगे का टेक्स्ट बनाना ही वह एकमात्र काम है जो वह करता है।

यह हैलुसिनेशन की सबसे बेचैन करने वाली ख़ासियत भी समझाता है: आत्मविश्वास का सटीकता से कोई संबंध नहीं है। मॉडल का धाराप्रवाह, भरोसे वाला लहजा इस बात की सीखी हुई विशेषता है कि समझाने वाला लेखन कैसा सुनाई देता है, इस बात का संकेत नहीं कि उसने कुछ जाँचा है। ग़लत जवाब ठीक उसी आवाज़ में आता है जिसमें सही जवाब आता है, इसीलिए “वह पक्का लग रहा था” सबूत के तौर पर बेकार है।

कौन-से सवाल भरोसे से गढ़े हुए जवाब देते हैं?

हैलुसिनेशन बेतरतीब नहीं बँटे होते। वे अनुमानित तरह के सवालों के आसपास जुटते हैं, और इन समूहों को जान लेना ज़्यादातर हुनर है। अगर आपका सवाल इनमें से किसी में आता है, तो मान लें कि इस्तेमाल से पहले जवाब की जाँच ज़रूरी है।

आख़िरी पंक्ति पर ज़ोर देना ज़रूरी है क्योंकि इसे लोग ख़ुद पैदा करते हैं। “रिज़र्व बैंक ने 2024 में X पर रोक क्यों लगाई?” पूछिए, तो मॉडल अक्सर कारण समझा देगा, तर्क समेत, चाहे ऐसी कोई रोक लगी हो या नहीं। सवाल ने तथ्य पहले से मान लिया था, और मॉडल ने उस मान्यता को सही मान लिया। वही सवाल “क्या रिज़र्व बैंक ने 2024 में X पर रोक लगाई, और अगर हाँ तो कब?” पूछने पर बेहतर व्यवहार मिलता है, क्योंकि इसमें जवाब “नहीं” होने की गुंजाइश रहती है।

गढ़े हुए उद्धरण व्यवहार में सबसे गंभीर श्रेणी हैं, क्योंकि उन्हें पकड़ना सबसे मुश्किल है। संदर्भ सूची जिसमें हर प्रविष्टि सही फ़ॉर्मैट में हो, पत्रिकाएँ असली हों और लेखक सचमुच उस क्षेत्र में प्रकाशित करते हों, एक नज़र में पास हो जाएगी। फिर भी कुछ प्रविष्टियाँ गढ़ी हुई होंगी। छात्र और पेशेवर ठीक इसी से फँसे हैं, और एकमात्र बचाव हर लिंक खोलना है।

क्या सर्च से जुड़ा AI समस्या ठीक कर देता है?

यह इसे काफ़ी घटाता है, पर ख़त्म नहीं करता। जब मॉडल लाइव पेज लाकर उनसे जवाब देता है — ChatGPT के सर्च मोड, Perplexity और Google के AI Overviews के पीछे यही तरीक़ा है — तो वह अपना जवाब सीखे हुए पैटर्न की जगह असली टेक्स्ट पर टिकाता है, जिससे गढ़े हुए स्रोतों की पूरी श्रेणी हट जाती है। उद्धरण असली होते हैं क्योंकि वे लाए गए थे।

हालाँकि पुरानी विफलता की जगह तीन नई विफलताएँ आ जाती हैं। मॉडल पेज में असल में जो लिखा है उसे ग़लत पढ़ सकता है। वह किसी असली पेज का हवाला दे सकता है जो ख़ुद ग़लत है, जो बस ग़लती को धो देता है। और वह पेज लाकर अपनी तरफ़ से एक ऐसा वाक्य जोड़ सकता है जो किसी स्रोत में नहीं था — सारांश सबूत से आगे बह जाता है। इसलिए हवाले वाला जवाब बिना हवाले वाले जवाब से बेहतर सबूत है, पर हवाला जाँचने का संकेत है, गारंटी नहीं।

गढ़ा हुआ जवाब कैसे पहचानें?

कुछ संकेत होते हैं। कोई अकेला निर्णायक नहीं, पर दो-तीन साथ मिलकर मज़बूत संकेत देते हैं कि आप याददाश्त नहीं, कल्पना पढ़ रहे हैं।

• संदिग्ध रूप से गोल या सुघड़ संख्याएँ। असली डेटा बेतरतीब होता है। बिना स्रोत के “लगभग 70% बिज़नेस” आमतौर पर पैटर्न है, खोज नहीं।
• ज़रूरत से ज़्यादा विशिष्टता। अगर मॉडल किसी अस्पष्ट चीज़ के लिए सटीक पेज नंबर, धारा का हवाला और तारीख़ देता है, तो पूछिए कि यह कहाँ से आया। उस ब्योरे की असली याद की संभावना, उसके धाराप्रवाह निर्माण से कम है।
• सामान्य स्रोत। “एक अग्रणी विश्वविद्यालय के शोधकर्ताओं के अध्ययन के अनुसार” उद्धरण का वह आकार है जिसमें से उद्धरण हटा लिया गया है।
• पलटकर पूछने पर तुरंत सहमति। मॉडल जब सही हो तब कहें कि वह ग़लत था और देखें क्या होता है। जो मॉडल हर चुनौती पर तुरंत पलट जाए, वह शुरू से सबूत से जुड़ा नहीं था।
• आंतरिक असंगति। वही सवाल दो अलग चैट में पूछें। स्थिर तथ्य स्थिर लौटते हैं; गढ़े हुए जवाबों के बीच बहाव आता है।

यह आख़िरी जाँच इस लेख की सबसे काम की एकमात्र तरकीब है। दो नए सेशन खोलें, एक ही सवाल पूछें, और तुलना करें। किसी तथ्य पर मतभेद इस बात का मज़बूत सबूत है कि दोनों में से कोई जवाब किसी चीज़ पर टिका नहीं है।

60 सेकंड की जाँच प्रक्रिया क्या है?

व्यवहार में जाँच इसलिए नाकाम होती है कि लोग सोचते हैं इसका मतलब सब कुछ दोबारा शोध करना है। ऐसा नहीं है। इसका मतलब है उन गिने-चुने दावों को जाँचना जो ग़लत निकलें तो आपको सचमुच नुकसान पहुँचाएँगे।

समय की बचत पहले चरण में है। 600 शब्दों के AI ड्राफ़्ट में तीन दावे हो सकते हैं जो मायने रखते हैं और 580 शब्द जोड़ने वाली व्याख्या। तीन जाँचने में एक मिनट लगता है। सब जाँचने में एक घंटा, इसीलिए कोई नहीं करता और सब कुछ बिना जाँचे बाहर चला जाता है।

चौथे चरण में एक चेतावनी ज़रूरी है: एक-दूसरे से मिलते डेटा पर प्रशिक्षित अलग मॉडल एक ही ग़लत धारणा साझा कर सकते हैं, इसलिए सहमति सही होने का प्रमाण नहीं है। असमानता ही इस परीक्षण को चलाने लायक बनाती है — सहमति कम बताती है, असहमति बहुत कुछ।

गढ़ंत घटाने के लिए प्रॉम्प्ट कैसे लिखें?

आप प्रॉम्प्ट से हैलुसिनेशन को मिटा नहीं सकते, पर उन्हें कम संभावित और पकड़ने में काफ़ी आसान बना सकते हैं। चार आदतें ज़्यादातर काम कर देती हैं।

1. न जानने की इजाज़त दें। प्रॉम्प्ट में जोड़ें “अगर तुम्हें भरोसा नहीं है तो अंदाज़ा लगाने के बजाय बताओ”। यह जादू नहीं है, पर इससे मापने लायक ढंग से बढ़ता है कि आपको गढ़ंत के बजाय स्वीकारोक्ति मिले।
2. स्रोत ख़ुद दें। दस्तावेज़, रिपोर्ट या पेज पेस्ट करें और मॉडल से कहें कि सिर्फ़ उसी से जवाब दे। यह सबसे असरदार बदलाव है, क्योंकि यह याद करने के काम को पढ़ने के काम में बदल देता है।
3. तर्क माँगें, फिर तर्क जाँचें। गढ़े हुए निष्कर्ष अक्सर ऐसे चरण पर टिके होते हैं जो साफ़ कहे जाने पर ढह जाता है।
4. प्रमुख (लीडिंग) सवालों से बचें। यह पूछने से पहले कि कोई बात क्यों सच है, पूछें कि क्या वह सच है।

दूसरे बिंदु के आसपास आदत बनाना सार्थक है। AI के लगभग हर ऊँचे दाँव वाले इस्तेमाल — किसी कॉन्ट्रैक्ट का सारांश, रिपोर्ट से आँकड़े निकालना, किसी नीति के सवाल का जवाब — को इस तरह ढाला जा सकता है कि मॉडल याददाश्त से नहीं, आपके दिए टेक्स्ट से काम करे। हमारी गाइड बेहतर AI प्रॉम्प्ट कैसे लिखें तरीक़ा बताती है, और अगर दस्तावेज़ गोपनीय है, तो उसे कहीं भी पेस्ट करने से पहले क्या ChatGPT के साथ बिज़नेस डेटा साझा करना सुरक्षित है पढ़ें।

कौन-से काम सुरक्षित हैं, और कौन-से नहीं?

उस तालिका का पैटर्न सीधा है: AI तब भरोसेमंद है जब आप तथ्य देते हैं और उससे भाषा के साथ काम करवाते हैं, और तब अविश्वसनीय जब आप उससे तथ्य देने को कहते हैं। लगभग हर तबाही की कहानी — वह वकील जिसने गढ़े हुए केस दाख़िल किए, वह छात्र जिसकी ग्रंथसूची गढ़ी थी, वह लेख जिसने ऐसे अध्ययन का हवाला दिया जो किसी ने लिखा नहीं — अलग पोशाक में वही ग़लती है।

इस सीमा को ध्यान में रखकर इस्तेमाल करने पर ये टूल सचमुच उपयोगी हैं और हैलुसिनेशन की समस्या इनसे बचने की वजह नहीं, संभाली जा सकने वाली कीमत बन जाती है। अगर आप असिस्टेंट चुन रहे हैं, तो ChatGPT, Gemini और Claude की हमारी तुलना बताती है कि कौन-सा किस काम में बेहतर है। सवाल के प्रकाशन वाले पक्ष के लिए — जब AI-लिखा बिना जाँचे बाहर जाए तो क्या होता है — AI-जनित कंटेंट की हमारी गाइड और AI-जनित टेक्स्ट कैसे पहचानें देखें। और भी टेक्नोलॉजी सेक्शन में है।