शब्दावली
कोर्स का हर मुख्य शब्द, आसान भाषा में।
137 शब्द
A
- A* search
- रास्ता ढूंढने का एक ऐसा तरीका जो मैप पर सबसे छोटा रास्ता निकालता है, हमेशा सबसे सही दिखने वाले अगले कदम को पहले परखकर।
- Ablation
- एक ऐसा प्रयोग जिसमें सिस्टम के किसी एक हिस्से को हटाकर देखा जाता है कि उस हिस्से का कितना महत्व है।
- Activation steering
- मॉडल के चलने के दौरान उसके अंदरूनी एक्टिवेशन्स में एक चुनी हुई दिशा जोड़कर उसके बर्ताव को बदलना।
- Adversarial example
- जानबूझकर बदला गया ऐसा इनपुट (अक्सर ऐसे तरीकों से जिसे इंसान बमुश्किल पहचान पाएं) ताकि मॉडल गलत जवाब दे।
- Agent
- एक ऐसा भाषा मॉडल जिसे एक लक्ष्य, टूल्स, मेमोरी और एक लूप दिया जाता है, ताकि वह सिर्फ टेक्स्ट लिखने की जगह काम (actions) भी कर सके।
- Agentic AI
- ऐसे AI सिस्टम जो केवल जवाब देने के बजाय असल में काम करते हैं — योजना बनाते हैं, टूल्स इस्तेमाल करते हैं और चीज़ों को बदलते हैं।
- AGI
- Artificial General Intelligence। एक ऐसा सिस्टम जो इंसान की तरह कई तरह के नए काम सीख और संभाल सकता है। इसकी कोई एक तय परिभाषा नहीं है।
- AI bill of materials (AI-BOM)
- किसी AI सिस्टम के अंदर मौजूद मॉडल्स, डेटासेट्स, लाइब्रेरीज़ और उनके वर्ज़न की सूची, ताकि आपको पता रहे कि आप क्या चला रहे हैं और वह कहां से आया है।
- Alignment
- सिस्टम से वही करवाना जो इंसान असल में करवाना चाहते थे, न कि सिर्फ वही जो शब्दों में लिखा गया था।
- Attention
- हर टोकन एक क्वेरी पूछता है, हर टोकन एक की (key) देता है, और उनका मेल तय करता है कि हर टोकन की कितनी वैल्यू आपस में मिलाई जाएगी। यह ट्रांसफॉर्मर की मुख्य प्रक्रिया है।
B
- Benchmark
- टेस्ट सवालों का एक तय सेट जिसका इस्तेमाल अलग-अलग मॉडल्स की तुलना करने के लिए किया जाता है। उपयोगी है, लेकिन यह आपके सटीक काम से शायद ही कभी मेल खाता है।
- Bias
- जब कोई AI सिस्टम कुछ लोगों या समूहों के साथ अनुचित व्यवहार करता है, जो अक्सर उस डेटा के पैटर्न की वजह से होता है जिससे उसने सीखा है।
- Blast radius
- अगर कोई हमलावर कुछ समय के लिए सिस्टम पर पूरी तरह से कब्ज़ा कर ले, तो उससे होने वाला कुल संभावित नुकसान।
- BM25
- कीवर्ड सर्च का एक क्लासिक फॉर्मूला जो दस्तावेज़ों को इस आधार पर रैंक करता है कि उनके शब्द क्वेरी से कितने अच्छे से मेल खाते हैं।
- BPE
- Byte-pair encoding। सबवर्ड वोकैबुलरी बनाने के लिए बार-बार सबसे ज़्यादा आने वाले पास-पास के टोकन्स के जोड़ों को आपस में मिलाना। हर आधुनिक टोकनाइज़र इसी का एक रूप है।
- Business email compromise
- एक ऐसा फ्रॉड जिसमें अपराधी ईमेल पर बॉस, सहकर्मी या सप्लायर बनकर पैसे या डेटा अपने पास भेजने का झांसा देते हैं।
C
- Chatbot
- एक ऐसा प्रोग्राम जिससे आप आम भाषा में बात करते हैं। आधुनिक चैटबॉट्स लार्ज लैंग्वेज मॉडल्स (LLMs) पर बनाए जाते हैं।
- Chinchilla ratio
- एक तय ट्रेनिंग बजट के लिए हर पैरामीटर पर लगभग 20 ट्रेनिंग टोकन्स सबसे अच्छा रिज़ल्ट (loss) देते हैं। इस्तेमाल में लाए जाने वाले मॉडल्स जानबूझकर इससे बहुत आगे जाते हैं ताकि उन्हें चलाने का खर्च कम हो सके।
- Chunking
- लंबे दस्तावेज़ों को छोटे-छोटे टुकड़ों में बांटना ताकि सर्च सिस्टम सही हिस्से को ढूंढ सके और उसका हवाला दे सके।
- Clustering
- पहले से ग्रुप्स बताए बिना, एक जैसी चीज़ों को एक साथ समूहों में बांटना।
- Code-mixing
- एक ही वाक्य में अलग-अलग भाषाओं का इस्तेमाल करना, जैसे हिंग्लिश (Hinglish)।
- Confused deputy
- एक ऐसा प्रोग्राम जिसके पास निर्देश देने वाले से ज़्यादा अधिकार होते हैं, और जिसे बहला-फुसलाकर निर्देश देने वाले की ओर से उस अधिकार का इस्तेमाल करवा लिया जाता है।
- Connectome
- किसी नर्वस सिस्टम में न्यूरॉन्स के बीच के सभी कनेक्शनों का एक पूरा नक्शा।
- Contamination
- जब टेस्ट के सवाल किसी मॉडल के ट्रेनिंग डेटा में लीक हो जाते हैं, जिससे उसका स्कोर उसकी असली क्षमता से बेहतर दिखने लगता है।
- Content credentials
- किसी फ़ाइल से जुड़ी प्रमाणित जानकारी जो यह दर्ज करती है कि उसे कैसे बनाया और एडिट किया गया था, जैसे कि C2PA स्टैंडर्ड।
- Context length
- मॉडल एक बार में कितने टोकन्स पर ध्यान (attend) दे सकता है। इसे बढ़ाने के लिए पोज़िशन स्केलिंग और लंबे दस्तावेज़ों पर लगातार ट्रेनिंग दोनों की ज़रूरत होती है।
- Context window
- वह पूरा टेक्स्ट जो मॉडल एक बार में पढ़ता है: सिस्टम प्रॉम्प्ट, मैसेजेस, टूल के नतीजे। यह सीमित होता है, और हर कदम पर इसे शुरू से दोबारा पढ़ा जाता है।
- Corrigibility
- सुधार और शटडाउन को बिना किसी विरोध या मांग के स्वीकार करने का गुण। यह एक अनसुलझी समस्या है।
D
- Data poisoning
- जिस डेटा से मॉडल सीखता है, उसमें चुपके से खराब या फंसाने वाले उदाहरण डाल देना, ताकि वह गलत चीज़ सीखे या उसमें कोई बैकडोर छिप जाए।
- Deceptive alignment
- एक ऐसा काल्पनिक सिस्टम जो तब तक अच्छा व्यवहार करता है जब तक उसे लगता है कि उसकी जांच की जा रही है। यह साबित नहीं हुआ है; लेकिन इसे गंभीरता से लिया जाता है क्योंकि साधारण टेस्ट इसे पकड़ नहीं पाएंगे।
- Deepfake
- AI से बनाई गई कोई नकली फ़ोटो, वीडियो या आवाज़ की रिकॉर्डिंग, जो किसी असली इंसान जैसी दिखे या सुनाई दे।
- Denial of wallet
- एक ऐसा हमला जिससे AI सर्विस का बिल बहुत ज़्यादा बढ़ जाए, उदाहरण के लिए बहुत लंबी या कभी न खत्म होने वाली रिक्वेस्ट भेजकर।
- Detection engineering
- लॉग्स और अलर्ट्स में हमलों को पहचानने वाले नियमों को लिखना, टेस्ट करना और बेहतर बनाना।
- Diffusion model
- एक ऐसा मॉडल जो नॉइज़ (अस्पष्टता) से शुरुआत करके और उसे धीरे-धीरे हटाकर इमेज, ऑडियो या वीडियो बनाता है।
- Distillation
- एक छोटे मॉडल को किसी बड़े मॉडल के बर्ताव की नकल करने के लिए ट्रेन करना।
- DPO
- Direct Preference Optimization। चुने गए और खारिज किए गए जवाबों के जोड़ों से एक क्लोज़्ड-फॉर्म लॉस के साथ सीखता है, जिसमें किसी रिवॉर्ड मॉडल और रीइन्फोर्समेंट लर्निंग की ज़रूरत नहीं होती।
E
- Egress
- बाहर जाने वाला नेटवर्क ट्रैफ़िक। इसे सीमित करना एजेंट को कंट्रोल करने के सबसे असरदार तरीकों में से एक है।
- Embedding
- संख्याओं की एक ऐसी लिस्ट जो किसी टेक्स्ट, इमेज या आवाज़ के अर्थ को दर्शाती है, ताकि एक जैसी चीज़ें पास-पास आएं।
- Emergence
- ऐसी क्षमताएं जो धीरे-धीरे बेहतर होने के बजाय किसी खास स्केल पर अचानक सामने आती हैं। यह सच में होता है, लेकिन यह कितना अचानक है, इस पर अभी भी बहस जारी है।
- Entanglement
- क्यूबिट्स (qubits) के बीच का एक ऐसा जुड़ाव जिससे उनके माप के नतीजे आपस में जुड़े होते हैं, भले ही वे एक-दूसरे से बहुत दूर हों।
- Epsilon-greedy
- नए कामों को आजमाने (exploring) और सबसे अच्छे जाने-माने काम को दोहराने (exploiting) के बीच संतुलन बनाने का एक आसान तरीका।
- Exfiltration
- डेटा को बाहर निकालना। आम तौर पर किसी इमेज URL, लिंक, सर्च क्वेरी या ईमेल के ज़रिए — शायद ही कभी ऐसा कुछ जो चोरी जैसा लगे।
F
- Feature
- जानकारी का एक मापने योग्य हिस्सा जिसका मॉडल इस्तेमाल करता है, जैसे बारिश की मात्रा या पत्ते का रंग।
- FlashAttention
- एक सटीक अटेंशन एल्गोरिदम जो पूरे स्कोर मैट्रिक्स को धीमी मेमोरी में लिखने के बजाय तेज़ ऑन-चिप मेमोरी में टुकड़ों (tiles) में प्रोसेस करता है।
- FLOPs
- Floating-point operations। ट्रेनिंग के लिए कंप्यूट क्षमता लगभग 6 x पैरामीटर्स x टोकन्स होती है; इन्फ़रेंस के लिए हर बने हुए टोकन पर यह लगभग 2 x पैरामीटर्स होती है।
- FSDP / ZeRO
- वेट्स, ग्रेडिएंट्स और ऑप्टिमाइज़र की स्थिति को कई GPUs में बांटना, ताकि एक कार्ड से भी बड़े मॉडल को ट्रेन किया जा सके। मल्टी-GPU ट्रेनिंग के लिए यह डिफ़ॉल्ट पसंद है।
- Function
- कोड का एक नाम दिया गया, दोबारा इस्तेमाल होने वाला ब्लॉक जो इनपुट लेता है और एक नतीजा वापस देता है।
- Function calling
- एक ऐसा तरीका जिससे मॉडल आपके कोड से स्ट्रक्चर्ड तर्कों (arguments) के साथ किसी खास टूल को चलाने के लिए कह सकता है।
G
- Generative AI
- ऐसी AI जो केवल छांटने या भविष्यवाणी करने के बजाय नया टेक्स्ट, इमेज, ऑडियो या वीडियो बनाती है।
- GGUF
- मॉडल के वेट्स को स्टोर करने का एक फ़ाइल फ़ॉर्मैट, जो अक्सर क्वांटाइज़्ड होता है, और साधारण कंप्यूटरों पर मॉडल चलाने के काम आता है।
- Goal misgeneralisation
- सिस्टम ने एक ऐसा लक्ष्य सीखा जो ट्रेनिंग में तो बिल्कुल सही काम करता था, लेकिन असली दुनिया में उसका मतलब कुछ और ही निकलता है।
- Goodhart's law
- जब कोई पैमाना खुद एक लक्ष्य बन जाता है, तो वह एक अच्छा पैमाना नहीं रह जाता।
- GQA
- Grouped-query attention। कई query heads एक ही key-value head शेयर करते हैं, जिससे क्वालिटी पर लगभग बिना किसी असर के KV cache बहुत घट जाता है।
- GRPO
- Group-relative policy optimisation। कई प्रयासों को आज़माएँ, एक जाँचे जा सकने वाले चेकर से उन्हें स्कोर दें, और ग्रुप के औसत से बेहतर वाले प्रयासों की ओर बढ़ें।
- Guardrail
- एक फ़िल्टर या क्लासिफ़ायर जो ख़राब इनपुट, आउटपुट या ऐक्शन्स को रोकता है। भाषा पर आधारित वाले लीक हो जाते हैं; कोड पर आधारित ऐक्शन चेक्स नहीं होते।
H
- Hallucination
- एक पूरे आत्मविश्वास के साथ दिया गया, सलीके से बना, गलत जवाब। यह ऐसे सिस्टम का सीधा नतीजा है जो जानने के बजाय अंदाज़ा लगाता है।
- Human in the loop
- कोई भी ऐक्शन होने से पहले उसे मंज़ूरी देने वाला एक इंसान। यह तब सबसे असरदार होता है जब डायलॉग असली वैल्यूज़ दिखाए और कभी-कभार ही सामने आए।
- Hybrid search
- ऐसी सर्च जो कीवर्ड मैचिंग को मतलब-आधारित (vector) मैचिंग के साथ जोड़ती है।
I
- Imitation learning
- किसी रोबोट या एजेंट को अच्छी तरह किए गए काम के उदाहरण दिखाकर सिखाना।
- Indirect prompt injection
- यह हमला उस कंटेंट में छिपाया जाता है जिसे एजेंट बाद में पढ़ेगा — जैसे कोई पेज, ईमेल, या फ़ाइल — न कि यूज़र द्वारा टाइप किया जाता है।
- Instrumental convergence
- चालू हालत में रहना और संसाधन जुटाना जैसे उप-लक्ष्य लगभग किसी भी अंतिम लक्ष्य के लिए काम आते हैं, इसलिए ऑप्टिमाइज़र इन्हें हासिल करने की कोशिश करते हैं।
J
- Jailbreak
- मॉडल से उसकी अपनी ही सेफ़्टी ट्रेनिंग को नज़रअंदाज़ करवाना। यह injection से जुड़ा है, लेकिन इसका निशाना मॉडल का डेटा नहीं, बल्कि उसकी पॉलिसी होती है।
K
- KV cache
- हर पिछले token के लिए स्टोर किए गए key और value वेक्टर्स, जिनका जनरेशन के दौरान दोबारा इस्तेमाल होता है। सर्विंग के समय आमतौर पर मेमोरी की सबसे बड़ी सीमा यही होती है।
L
- Label
- वह जवाब जो आप चाहते हैं कि मॉडल अनुमान लगाना सीखे, जैसे स्वस्थ या बीमार।
- Least privilege
- किसी सिस्टम को सिर्फ़ उतनी ही कम-से-कम अनुमतियाँ देना जिससे उसका काम चल सके। इस गाइड का सबसे भरोसेमंद कंट्रोल।
- Lethal trifecta
- प्राइवेट डेटा + गैर-भरोसेमंद कंटेंट + बाहर संवाद करने का रास्ता। इनमें से किसी एक को भी हटा दें, तो डेटा चोरी रुक जाती है।
- Lidar
- एक ऐसा सेंसर जो आस-पास की 3D तस्वीर बनाने के लिए लेज़र पल्स की मदद से दूरी नापता है।
- LLM
- Large language model। भारी मात्रा में टेक्स्ट पर ट्रेन होने के बाद, बार-बार अगले token का अनुमान लगाता है।
- LLM-as-a-judge
- तय नियमों (rubric) के आधार पर दूसरे मॉडलों के जवाबों को परखने के लिए किसी लैंग्वेज मॉडल का इस्तेमाल करना। इसे इंसानी फ़ैसलों से जाँचना ज़रूरी होता है।
- LoRA
- मॉडल को फ्रीज़ करें और उसके साथ एक छोटा low-rank सुधार सीखें। यह एक GPU पर लगभग 0.5% पैरामीटर्स को ट्रेन करता है, और सर्विंग के समय बिना किसी अतिरिक्त लागत के आपस में मिल जाता है।
M
- MCP
- Model Context Protocol। एजेंट्स में टूल सर्वर्स को जोड़ने का एक स्टैंडर्ड। आसान है, और सप्लाई-चेन के लिहाज़ से हमले का एक असली रास्ता भी।
- Memory poisoning
- किसी एजेंट के लॉन्ग-टर्म स्टोर में दुर्भावनापूर्ण नोट डाल देना, ताकि एक ही हमला कई सेशंस और यूज़र्स तक बना रहे।
- MFU
- Model FLOPs Utilisation। किसी GPU की सैद्धांतिक क्षमता (theoretical peak) का वह हिस्सा जो आप असल में हासिल करते हैं। 30% से कम का मतलब है कि कुछ गड़बड़ है; 40-55% का मतलब है कि यह अच्छी तरह ट्यून किया गया है।
- Microcontroller
- एक चिप पर बना एक छोटा और सस्ता कंप्यूटर, जिसमें थोड़ी मेमोरी होती है और जिसका इस्तेमाल डिवाइसों को कंट्रोल करने के लिए किया जाता है।
- Model extraction
- किसी मॉडल को कई सवाल भेजकर और उसके जवाबों पर उसी जैसा दिखने वाला एक दूसरा मॉडल ट्रेन करके उसके व्यवहार की नकल करना।
- MoE
- Mixture of experts। हर token को कई फ़ीड-फ़ॉरवर्ड नेटवर्क्स में से सिर्फ़ कुछ चुनिंदा नेटवर्क्स पर भेजना, ताकि कुल पैरामीटर्स प्रति token खर्च होने वाले compute से कहीं ज़्यादा हों।
- Multi-agent
- कई एजेंट्स आपस में काम बाँटते हैं। इससे विशेषज्ञता बढ़ती है; लेकिन ख़ामियाँ भी फैलती हैं और अनुमतियाँ इकट्ठी हो जाती हैं।
- Multimodal
- एक से ज़्यादा तरह के इनपुट या आउटपुट के साथ काम करने में सक्षम, जैसे टेक्स्ट, इमेज, ऑडियो और वीडियो।
N
- NDVI
- सैटेलाइट या ड्रोन की तस्वीरों से मिलने वाला एक नंबर, जो दिखाता है कि पौधे कितने हरे-भरे और स्वस्थ हैं।
- Neuromorphic chip
- दिमाग की तरह काम करने के लिए डिज़ाइन की गई एक कंप्यूटर चिप, जो स्पाइक्स और बहुत कम बिजली का इस्तेमाल करती है।
- Non-human identity
- किसी इंसान के बजाय सॉफ़्टवेयर द्वारा इस्तेमाल किया जाने वाला अकाउंट, जैसे कोई सर्विस, स्क्रिप्ट या AI एजेंट।
O
- Open-weight model
- एक ऐसा मॉडल जिसके ट्रेन किए गए weights कोई भी डाउनलोड करके चला सकता है। इसके साथ आप क्या कर सकते हैं, यह अभी भी लाइसेंस तय करता है।
- Out-of-band verification
- किसी अनुरोध को किसी दूसरे ऐसे चैनल से जाँचना जिस पर आप पहले से भरोसा करते हैं, जैसे किसी सेव किए गए नंबर पर वापस कॉल करना।
- Overfitting
- जब कोई मॉडल अपने ट्रेनिंग उदाहरणों को इतनी बारीकी से रट लेता है कि वह नए उदाहरणों पर ख़राब प्रदर्शन करने लगता है।
P
- Passkey
- साइन-इन करने का एक ऐसा तरीका जो पासवर्ड की जगह आपके डिवाइस पर स्टोर की गई चाबी से काम करता है। यह सिर्फ़ असली वेबसाइट पर ही काम करता है, इसलिए यह फ़िशिंग से सुरक्षित रखता है।
- Personal data
- ऐसी कोई भी जानकारी जिससे किसी व्यक्ति की पहचान हो सके, जैसे नाम, फ़ोन नंबर, चेहरा या लोकेशन।
- Phishing
- एक फ़र्ज़ी मैसेज जो आपको किसी लिंक पर क्लिक करने, अपनी जानकारी शेयर करने या पैसे भेजने के झाँसे में फँसाने की कोशिश करता है।
- PID controller
- एक साधारण कंट्रोलर जो मशीन को ठीक करता है — यह देखकर कि अभी कितनी गड़बड़ी है, समय के साथ वह कितनी बढ़ी है, और कितनी तेज़ी से बदल रही है।
- Post-training
- Pretraining के बाद का सब कुछ: instruction tuning, preference optimisation, reasoning training। यहीं पर किसी असिस्टेंट का व्यवहार और चरित्र तैयार किया जाता है।
- Precision and recall
- Precision: जिन चीज़ों को फ़्लैग किया गया था, उनमें से कितनी सही थीं। Recall: जितनी सही चीज़ें थीं, उनमें से कितनों को फ़्लैग किया गया।
- Pretraining
- विशाल डेटा पर अगले token का अनुमान लगाना। इससे सिर्फ़ कच्ची क्षमता पैदा होती है, जो किसी असिस्टेंट जैसी बिल्कुल नहीं दिखती।
- Probe
- मॉडल के अंदरूनी एक्टिवेशन्स पर ट्रेन किया गया एक साधारण क्लासिफ़ायर, जो यह जाँचता है कि उनमें क्या जानकारी है।
- Prompt
- वह निर्देश या सवाल जो आप किसी AI मॉडल को देते हैं। संदर्भ के साथ साफ़ प्रॉम्प्ट देने पर आमतौर पर बेहतर जवाब मिलते हैं।
- Prompt injection
- ऐसा टेक्स्ट जिसे जानकारी होना चाहिए था, उसे निर्देशों की तरह मान लिया जाता है। यह OWASP LLM लिस्ट में नंबर एक पर है।
Q
- QLoRA
- 4-bit quantised बेस मॉडल पर LoRA। यह एक बड़े GPU पर 70B मॉडल की फ़ाइन-ट्यूनिंग को मुमकिन बनाता है।
- Quantisation
- मेमोरी और लागत कम करने के लिए weights को कम प्रिसिजन — int8 या int4 — पर स्टोर करना, जिससे क्वालिटी में थोड़ा-बहुत समझ आने लायक अंतर आता है।
- Qubit
- क्वांटम कंप्यूटर की बुनियादी इकाई। नापने पर यह 0 या 1 देता है, जिसकी संभावना उसकी स्थिति (state) से तय होती है।
R
- RAG
- Retrieval-augmented generation। ज़रूरी दस्तावेज़ ढूँढ़कर लाएँ और उन्हें संदर्भ में जोड़ें। यह डायरेक्ट इंजेक्शन का भी एक रास्ता है।
- Re-ranker
- एक दूसरा मॉडल जो सवाल और हर नतीजे को एक साथ पढ़कर सर्च नतीजों को फिर से क्रमबद्ध करता है।
- Red teaming
- किसी और के ढूँढ़ने से पहले कमियाँ तलाशने के लिए जानबूझकर अपने ही सिस्टम पर हमला करना।
- Reinforcement learning
- गलतियों और कोशिशों से सीखना (trial and error): एक एजेंट अलग-अलग ऐक्शन आज़माता है और मिलने वाले रिवॉर्ड से सीखता है।
- Reward hacking
- कोई ऐसा शॉर्टकट ढूंढकर अच्छा स्कोर पाना, जिससे मुख्य मकसद ही छूट जाए। specification gaming देखें।
- RLVR
- Reinforcement learning from verifiable rewards। ऐसे प्रयासों पर ट्रेनिंग देना जिन्हें कोई मशीन जांच सके — जैसे टेस्ट पास करना, सही गणित हल करना। यह रीजनिंग मॉडल्स के पीछे का मुख्य इंजन है।
- RMSNorm
- बिना मीन (mean) घटाए और बिना बायस (bias) के रूट-मीन-स्क्वायर (root-mean-square) से नॉर्मलाइज़ करना। यह LayerNorm से सस्ता पड़ता है और उतना ही अच्छा काम करता है, इसलिए आधुनिक मॉडल्स इसका इस्तेमाल करते हैं।
- RoPE
- Rotary position embeddings। क्वेरी और की (key) वेक्टर्स को उनकी पोज़िशन के अनुपात में एक कोण पर घुमाना, ताकि अटेंशन स्कोर रिलेटिव दूरी पर निर्भर करे।
- Rug pull
- एक ऐसी डिपेंडेंसी जो जांच के समय तो साफ़-सुथरी थी, लेकिन किसी ऐसे अपडेट के बाद नुकसानदेह हो गई जिसे आपने कभी देखा ही नहीं।
S
- Safetensors
- मॉडल वेट्स (weights) के लिए एक फ़ाइल फ़ॉर्मैट जो सिर्फ़ संख्याएं स्टोर करता है, ताकि इसे लोड करने पर कोई छिपा हुआ कोड न चल सके।
- Sandbox
- एक सीमित दायरा (restricted environment) जहां सबसे बुरा नतीजा निकलने पर भी कोई नुकसान न हो। यह टूल्स पर नहीं, बल्कि माहौल पर रोक लगाता है।
- Scalable oversight
- इस बात पर रिसर्च कि इंसान उन AI सिस्टम्स की भरोसेमंद निगरानी कैसे कर सकते हैं, जो खुद उनसे ज़्यादा काबिल हो सकते हैं।
- Scaling laws
- जैसे-जैसे पैरामीटर्स, डेटा और कंप्यूट एक साथ बढ़ते हैं, मॉडल की क्वालिटी का अनुमानित रूप से बेहतर होना। इसी वजह से इसमें इतना पैसा आया।
- SFT
- Supervised fine-tuning। बातचीत के उदाहरणों पर ट्रेनिंग देना ताकि एक बेस मॉडल किसी असिस्टेंट की तरह काम करे। इसमें लॉस (loss) को सिर्फ़ असिस्टेंट के अपने टोकन्स तक ही सीमित (mask) रखा जाता है।
- Shadow AI
- ऐसे AI टूल्स और एजेंट्स जिन्हें कर्मचारी कंपनी की जानकारी या मंज़ूरी के बिना इस्तेमाल करते हैं।
- Sim-to-real
- सिम्युलेटर में रोबोट को ट्रेन करना और फिर उससे असली दुनिया में काम करवाना।
- SOC
- Security operations centre: वह टीम जो अलर्ट्स पर नज़र रखती है, जांच-पड़ताल करती है और हमलों का जवाब देती है।
- Sparse autoencoder
- एक ऐसा टूल जो मॉडल के एक्टिवेशन्स को कई आसान फ़ीचर्स में तोड़ देता है, जिनमें से एक समय में सिर्फ़ कुछ ही एक्टिव होते हैं।
- Specification gaming
- बिल्कुल वही करना जिसके लिए इनाम तय था, लेकिन जिसके पीछे का असली मतलब पूरी तरह छोड़ देना।
- Spiking neuron
- मस्तिष्क की कोशिका (brain cell) का एक मॉडल, जो इनपुट के एक सीमा (threshold) को पार करने पर छोटे इलेक्ट्रिक पल्स (spikes) भेजता है।
- Superintelligence (ASI)
- एक ऐसा सिस्टम जो लगभग हर मामले में सबसे काबिल इंसानों से भी बेहतर हो। AGI से एक कदम आगे।
- Superposition
- जब कोई मॉडल अपने न्यूरॉन्स की संख्या से ज़्यादा फ़ीचर्स भर लेता है, जिससे एक ही न्यूरॉन कई असंबंधित चीज़ों पर रिस्पॉन्स देने लगता है।
- Superposition (quantum)
- एक क्यूबिट (qubit) की ऐसी स्थिति जो एम्प्लीट्यूड (amplitudes) के साथ 0 और 1 को मिलाती है, जिससे नापे जाने पर हर नतीजे की संभावना तय होती है।
- SwiGLU
- एक ऐसा गेटेड फ़ीड-फ़ॉरवर्ड नेटवर्क जहां एक ब्रांच तय करती है कि दूसरी ब्रांच का कितना हिस्सा आगे जाने देना है। यह सामान्य MLP की तुलना में प्रति पैरामीटर बेहतर क्वालिटी देता है।
- Sycophancy
- यूज़र की बात से सिर्फ़ इसलिए सहमत होना क्योंकि सहमति जताने पर अच्छा स्कोर मिलता है, भले ही यूज़र गलत हो। आज के समय में यह मापा गया है और काफ़ी आम है।
- System prompt
- डेवलपर के तयशुदा निर्देश। असरदार होते हैं, पर बाध्यकारी नहीं — इनसे बहस करके बच निकला जा सकता है।
T
- Taint
- एक ऐसा लेबल जो यह दर्ज करता है कि डेटा किसी गैर-भरोसेमंद सोर्स से आया है। इसे हर कदम (hop) पर डेटा के साथ रहना चाहिए।
- Test-time compute
- ट्रेनिंग के बजाय इन्फ़रेंस (inference) के समय काबिलियत हासिल करना — ज़्यादा देर सोचना, कई जवाबों के सैंपल लेना, जांचना और चुनना। स्केलिंग का एक दूसरा अक्ष (axis)।
- Threat model
- एक व्यवस्थित ढांचा कि आप किसकी सुरक्षा कर रहे हैं, कौन हमला कर सकता है, कैसे कर सकता है, और आप इसके बारे में क्या करेंगे।
- TinyML
- बहुत कम बिजली की खपत करने वाले माइक्रोकंट्रोलर्स पर छोटे मशीन-लर्निंग मॉडल्स चलाना।
- Token
- शब्द का एक टुकड़ा। वह इकाई जिसे कोई मॉडल वास्तव में पढ़ता और लिखता है। अंग्रेज़ी के लगभग चार अक्षरों के बराबर।
- Tool
- कोई भी काम जिसे शुरू करने की मॉडल को अनुमति होती है। यही वजह है कि एजेंट्स काम के होते हैं और यही वजह है कि वे ख़तरनाक भी होते हैं।
- Tool poisoning
- किसी टूल के विवरण (description) के अंदर छिपे निर्देश, जिन्हें मॉडल आपके system prompt जितना ही अधिकार मानकर पढ़ता है।
- Training data
- वे उदाहरण जिनसे कोई मॉडल सीखता है। इसमें क्या है और क्या छूटा हुआ है, यही तय करता है कि मॉडल क्या करेगा।
- Trust boundary
- वह सीमा रेखा जहां टेक्स्ट पर नियंत्रण आपके हाथ से निकलकर किसी और के हाथ में चला जाता है।
V
- Variable
- एक नाम जो प्रोग्राम में कोई वैल्यू स्टोर करता है, जैसे marks = 87।
- Voice clone
- किसी असली व्यक्ति की आवाज़ की AI कॉपी, जो उसके बोलने की रिकॉर्डिंग से बनाई जाती है।
W
- Weight tying
- इनपुट एम्बेडिंग मैट्रिक्स को आउटपुट प्रोजेक्शन के साथ शेयर करना। यह पैरामीटर्स बचाता है और आम तौर पर मददगार होता है, खासकर छोटे मॉडल्स में।
- Word error rate
- कोई स्पीच रिकग्नाइज़र (speech recogniser) कितनी बार शब्दों में गलती करता है: बदले गए, हटाए गए और जोड़े गए शब्दों को कुल शब्दों की संख्या से भाग देकर निकाला जाता है।
- World model
- दी गई स्थिति और ऐक्शन के आधार पर आगे क्या होगा, इसका अनुमान लगाने वाला मॉडल, जिससे सिस्टम किसी एक योजना को चुनने से पहले कई योजनाओं का मूल्यांकन कर सकता है।