LLM एक model है, जो text पढ़कर उसके आगे का text लिखता है, एक बार में एक token। हर अगला token वो probabilities देखकर चुनता है, और ये probabilities उसके parameters और आपके दिए text से बनती हैं।
Lecture एक सवाल से शुरू होता है: Which office hour this week is least crowded? इस course के TAs, यानी पढ़ाने में मदद करने वाले senior students, हफ़्ते में दो बार office hours रखते हैं: Tuesday 4pm और Thursday 9am। Office hours वो तय घंटे हैं, जिनमें कोई भी student आकर सवाल पूछ सकता है। अकेले LLM से ये सवाल पूछिए, तो वो भरोसे से कहता है: Try the Wednesday afternoon session - midweek hours are usually quietest.
Course एक queue log रखता है, यानी हर office hour पर line में कितने students थे, उसका record। पिछले 3 हफ़्तों में Tuesday 4pm पर औसतन 14 students थे, और Thursday 9am पर सिर्फ़ 3। तो सही जवाब Thursday 9am है, और Wednesday को office hour होता ही नहीं। LLM ने ये log कभी नहीं देखा, फिर भी वो एक पल नहीं अटका। ये lesson बताता है कि ऐसा क्यों होता है।
इस lesson की सीढ़ी
सीढ़ी में 5 पड़ाव हैं। हर पड़ाव के नीचे लिखा है कि उसके बाद आप क्या कर पाएँगे।
पहले से क्या चाहिए: कुछ नहीं, school का गणित काफ़ी है। जो पड़ाव आपको पहले से आता है, उसे छोड़कर अगले पर जाइए।
1Tokens: model text के टुकड़े पढ़ता है
Token text का एक छोटा टुकड़ा है: कभी पूरा शब्द, कभी शब्द का हिस्सा, कभी एक punctuation mark। LLM text को tokens में तोड़कर पढ़ता है, और जवाब भी tokens में लिखता है।
Tokens की ज़रूरत इसलिए है, क्योंकि computer सिर्फ़ numbers पर हिसाब करता है। Model के पास tokens की एक तय list होती है, जिसमें हर token का एक ID number है। इस list को vocabulary कहते हैं, और text को इसके tokens में तोड़ने वाले program को tokenizer।
आम शब्द अक्सर एक token होता है, और कम दिखने वाला शब्द कुछ टुकड़ों में टूटता है। जैसे Office hours are crowded on Tuesday में 6 शब्द हैं, लेकिन 7 tokens: split मेरा बनाया है
Office hours are crowded on Tuesday
यहाँ crowded दो tokens में टूटा: crowd और ed। इसी तरह vocabulary में Wednesdayy जैसी गलत spelling न हो, तब भी tokenizer उसे Wednesday और y में तोड़ देता है। असली split हर model के अपने tokenizer पर depend करता है।
Model tokens ही पढ़ता और लिखता है, इसलिए ये lecture हर length tokens में नापता है, शब्दों में नहीं।
2Next-token prediction: हर step पर एक token
जवाब लिखते वक्त LLM हर step पर हर token को एक probability देता है, फिर एक token चुनकर text में जोड़ता है। फिर वो नए text पर यही दोहराता है। इस loop को next-token prediction कहते हैं, और पूरा जवाब इसी loop से बनता है।
Probability 0 से 1 के बीच का number है, जो किसी बात का chance बताता है: 0 यानी कभी नहीं, और 1 यानी पक्का। जैसे पिछले 20 lectures में से 5 में quiz हुआ, तो अगले में quiz की probability 5 ÷ 20 = 0.25 है। Quiz न होने की probability 15 ÷ 20 = 0.75 है, और सारे options का जोड़ हमेशा 1 होता है।
अब model को ये text मिला: The least crowded office hour this week is। अगले token की probabilities कुछ ऐसी हो सकती हैं: numbers मेरे बनाए हैं
अगला token
Probability
" Wednesday"
0.34
" Thursday"
0.21
" Tuesday"
0.18
" Friday"
0.15
" Monday"
?
जोड़
1.00
असल में बाकी हज़ारों tokens को भी बहुत छोटी probabilities मिलती हैं। यहाँ हिसाब छोटा रखने के लिए मान लीजिए कि सिर्फ़ ये 5 tokens हैं।
Monday वाली row आप निकालिए
पाँचों probabilities का जोड़ 1 होना चाहिए। Monday की probability कितनी है?
जवाब देखिए
बाकी चार का जोड़ 0.34 + 0.21 + 0.18 + 0.15 = 0.88 है। तो Monday = 1 − 0.88 = 0.12।
अब मान लीजिए model हर step पर सबसे ऊँची probability वाला token लेता है। पहले step पर वो Wednesday लेगा, और फिर उसके बाद के token की probabilities देखेगा। नीचे के widget में “सबसे ज़्यादा वाला चुनिए” तीन बार दबाइए। आगे के steps के numbers भी मेरे बनाए हैं
खुद जवाब बनवाइए
किसी token पर click कीजिए, या “सबसे ज़्यादा वाला चुनिए” तीन बार दबाइए।
तीन steps के बाद model वही लिखता है, जो lesson की शुरुआत में था: Wednesday afternoon। किसी भी step पर उसने queue log नहीं देखा। Wednesday को 0.34 इसलिए मिला, क्योंकि “midweek is quiet” जैसी बातें लोग अक्सर लिखते हैं। मतलब probability बताती है कि इस text के बाद कौन सा token आम है, ये नहीं कि कौन सा सच है।
असली models अक्सर probability के हिसाब से random चुनते हैं। तब 0.34 वाला token करीब 34% बार आता है, और एक ही सवाल पर अलग-अलग जवाब आ सकते हैं।
पहले सोचिए
Widget में आपने Thursday, morning और full stop चुने, यानी 0.21, 0.31 और 0.71 वाले tokens। Queue log के हिसाब से Thursday 9am सच में सबसे खाली है। तो क्या इस बार model को जवाब पता था?
जवाब देखिए
नहीं। जवाब किस्मत से सही निकला। Model ने log देखा ही नहीं, और उसने Thursday को Wednesday से कम probability दी थी।
3Parameters और training: model की जानकारी कहाँ रहती है
Parameters model के अंदर के numbers हैं। Input के tokens इन numbers के साथ एक तय हिसाब से मिलते हैं, और उसी हिसाब से हर अगले token की probability निकलती है। Parameters का दूसरा नाम weights है, और ये बहुत सारे होते हैं। जैसे Stanford की slides वाले T5-11B model में करीब 11 billion parameters हैं। paper से
इन parameters की values training तय करती है। शुरू में parameters random होते हैं। फिर model बहुत सारा text पढ़ता है, और training हर जगह देखती है कि असली अगले token को model ने कितनी probability दी। फिर वो parameters को थोड़ा बदलती है, ताकि वो probability बढ़े।
एक step करके देखिए। Training के text में ये line है: Office hours are on Thursday. Model Office hours are on पढ़कर अगले token Thursday को 0.10 देता है। Training parameters को थोड़ा बदलती है, और अब वही text पढ़ने पर Thursday को 0.12 मिलता है। मेरा example जोड़ 1 ही रहता है, इसलिए बाकी tokens का कुल हिस्सा 0.90 से घटकर 0.88 हो गया।
इस तरह model जो कुछ “जानता” है, वो parameters की values में बँटा हुआ है, किसी अलग file या database में नहीं। ऐसी जानकारी को parametric knowledge कहते हैं। Training किसी एक तारीख पर रुकती है, और उसके बाद parameters नहीं बदलते। उस तारीख को knowledge cutoff कहते हैं।
Queue log इस course का अपना data है, इसलिए वो किसी model की training में कभी गया ही नहीं। उसके 14 और 3 किसी parameter में नहीं हैं। इसी से parametric knowledge की दो दिक्कतें दिखती हैं:
नई बात अंदर नहीं जाती। Knowledge cutoff के बाद की बात, या आपका private data, डालने के लिए model को फिर से train करना पड़ेगा।
Model source नहीं बता सकता। जानकारी अरबों numbers में घुली है, इसलिए model नहीं बता सकता कि कोई बात किस document से आई।
4Prompt और context window
Prompt वो text है, जो आप model को अभी देते हैं: सवाल, instructions, और साथ में कोई document। Next-token prediction हर step पर अब तक का पूरा text देखता है, और उसमें prompt भी है। इसलिए prompt का text हर probability बदल सकता है, जबकि parameters वही रहते हैं।
अब सवाल से पहले prompt में queue log की वो line रखिए, जिसमें Tuesday 4pm पर 14 और Thursday 9am पर 3 लिखा है।
पहले सोचिए: Parameters वही हैं, सिर्फ़ prompt बदला है। Thursday की 0.21 और Wednesday की 0.34 ऊपर जाएँगी या नीचे? अंदाज़ा लगाकर नीचे का box on कीजिए।
Prompt बदलिए, probabilities देखिए
Parameters वही हैं, सिर्फ़ prompt बदल रहा है। numbers मेरे बनाए हैं
Log जोड़ते ही Thursday की probability 0.21 से 0.81 हो गई, और Wednesday की 0.34 से 0.05, जबकि parameters वही रहे। जो जानकारी parameters में नहीं है, उसे prompt में रखिए, तो model उसका इस्तेमाल करता है। पूरा lecture इसी बात पर बना है।
Prompt की भी एक हद है। Model एक बार में गिने हुए tokens ही पढ़ सकता है, और इस limit को context window कहते हैं। इसमें prompt और model का लिखा जवाब, दोनों आते हैं। जैसे window 8,000 tokens की हो, और prompt 7,500 का, तो जवाब के लिए सिर्फ़ 500 tokens बचते हैं।
Course के सारे documents मिलाकर इस window से कहीं बड़े हो सकते हैं। इसलिए हर सवाल पर चुनना पड़ता है कि कौन से टुकड़े prompt में जाएँ, और lesson 2 इसी चुनाव से शुरू होता है।
पहले सोचिए
Context window 8,000 tokens का है। सवाल और instructions 300 tokens के हैं, और जवाब के लिए 700 चाहिए। हर passage, यानी document का एक टुकड़ा, 500 tokens का है। Prompt में ज़्यादा से ज़्यादा कितने passages आएँगे?
जवाब देखिए
Passages के लिए 8,000 − 300 − 700 = 7,000 tokens बचते हैं, और 7,000 ÷ 500 = 14 passages।
5Hallucination: data के बिना भरोसे वाला जवाब
Hallucination ऐसा जवाब है, जो पढ़ने में ठीक और भरोसे वाला लगे, लेकिन गलत हो, या किसी source पर टिका न हो। Wednesday afternoon वाला जवाब ऐसा ही है, और उसकी वजह पिछले तीन पड़ावों को जोड़ने से मिलती है।
Queue log parameters में नहीं था, क्योंकि वो कभी training में गया ही नहीं (पड़ाव 3)। वो prompt में भी नहीं था (पड़ाव 4)। फिर भी next-token prediction हर step पर कोई न कोई token चुनता है, और सबसे आम token Wednesday था (पड़ाव 2)।
Next-token prediction में ऐसा कोई step नहीं है, जो data न होने पर रुक जाए। इसलिए गलत जवाब भी उतने ही भरोसे से लिखा होता है, जितना सही जवाब, और पढ़ने वाला फ़र्क नहीं पकड़ पाता।
Stanford की Why Retrieval वाली slide। बाईं तरफ़ अकेला LLM है, जिसने Wednesday लिखा। दाईं तरफ़ prompt में queue log की line है, और जवाब Thursday 9am है। Image पर click करने से वो पूरे size में खुलती है।
Slide के दाएँ हिस्से में retrieval है, यानी सवाल के वक्त सही text ढूँढकर prompt में रखना। वहाँ जवाब का 3 सीधे log की line से आया है, इसलिए पढ़ने वाला उसे check कर सकता है। Lesson 2 यहीं से शुरू होता है।
पहले सोचिए
किस prompt में hallucination का chance सबसे कम है? (a) सिर्फ़ सवाल। (b) सवाल और queue log। (c) सवाल और 2024 का एक पुराना forum post, जिसमें लिखा है midweek afternoons are usually quiet।
जवाब देखिए
(b)। (c) में model पुराने post के भरोसे फिर Wednesday लिख सकता है, यानी prompt में गलत text भी नुकसान करता है। ये बात lesson 2 में फिर आएगी।
गहरे version में और क्या है
गहरे version में ये पूरा lesson है, और उसके बाद 4 पड़ाव और, जो Stanford की slides के level तक ले जाते हैं:
पड़ाव 6: slide की notation p(y | x, z) और θ, पूरे जवाब की probability, और greedy decoding और sampling।
पड़ाव 7: सिर्फ़ parameters से जवाब: T5 के चार sizes, SSM, Exact Match, और RAG से तुलना।
पड़ाव 8: Papers के experiments: hallucination को नापना, और documents बदलकर नई जानकारी डालना।
पड़ाव 9: Stanford की चारों slides, जिन्हें आप खुद पढ़ते हैं।
LLM एक बार में एक token लिखता है। हर step पर वो हर token को probability देता है, और एक token चुनता है।
उसकी जानकारी दो जगह से आती है: training से बने parameters, और अभी दिया गया prompt। Prompt की जगह context window तक सीमित है।
Probability बताती है कि क्या आम है, ये नहीं कि क्या सच है। इसलिए data न हो, तब भी model भरोसे से जवाब लिख देता है।
इस lesson के नए शब्द
LLM
Large language model: text पढ़कर आगे का text, एक बार में एक token, लिखने वाला model। जैसे Wednesday afternoon लिखने वाला model।
Token
Text का छोटा टुकड़ा: शब्द, शब्द का हिस्सा, या punctuation। Model इन्हीं को पढ़ता और लिखता है। जैसे crowded के दो tokens: crowd और ed।
Vocabulary
Model के सारे tokens की तय list, जिसमें हर token का एक ID number है। जैसे उसमें Wednesday है, लेकिन Wednesdayy नहीं।
Tokenizer
Text को vocabulary के tokens में तोड़ने वाला program। जैसे Wednesdayy को Wednesday और y में।
Probability
0 से 1 के बीच का number, जो किसी बात का chance बताता है। सारे options का जोड़ 1 होता है। जैसे 20 में से 5 lectures में quiz हुआ, तो 5 ÷ 20 = 0.25।
Next-token prediction
अब तक का text देखकर हर token को probability देना, एक चुनना, जोड़ना, और दोहराना। जैसे Wednesday, फिर afternoon, फिर full stop।
Parameters (weights)
Model के अंदर के numbers, जिनसे हर अगले token की probability निकलती है। जैसे T5-11B में करीब 11 billion parameters हैं।
Training
Parameters को थोड़ा-थोड़ा बदलना, ताकि text के असली अगले token की probability बढ़े। जैसे Office hours are on के बाद Thursday 0.10 से 0.12।
Parametric knowledge
Parameters में बँटी हुई जानकारी। Model इसका source नहीं बता सकता, और नई बात के लिए फिर से training चाहिए।
Knowledge cutoff
वो तारीख, जिस पर training रुकी। उसके बाद की बातें, और आपका private data, model में नहीं हैं। जैसे March 2026 की cutoff हो, तो Oct 2026 की announcement model में नहीं है।
Prompt
वो text, जो आप model को अभी देते हैं: सवाल, instructions, और साथ के documents। जैसे queue log की line, जिससे Thursday 0.21 से 0.81 हुआ।
Context window
Model एक बार में ज़्यादा से ज़्यादा कितने tokens पढ़ सकता है। Prompt और जवाब, दोनों इसमें आते हैं। जैसे 8,000 की window में 7,500 का prompt हो, तो जवाब के लिए 500 बचते हैं।
Hallucination
भरोसे वाला, लेकिन गलत या बिना source वाला जवाब। जैसे log देखे बिना लिखा Wednesday afternoon।