AI सिस्टम्स का मूल्यांकन (Evaluation)मध्यमपाठ 2225 मिनट का पाठ

इंसानों द्वारा मूल्यांकन (Human evaluation) सही तरीके से कैसे करें

इंसानी परख सबसे बेहतरीन पैमाना तभी बनती है जब इसे बहुत सावधानी से किया जाए: साफ़-सुथरे नियम (rubrics), एक से ज़्यादा मूल्यांकनकर्ता (raters), आपसी सहमति की जाँच, और पहचान छिपाकर तुलना (blind comparisons)।

✦ ट्यूटर से पूछें🧪 लैब · 40 min📝 पाठ का टेस्ट
पाठ वीडियो में

60 सेकंड में

इंसानों द्वारा मूल्यांकन (Human evaluation) सही तरीके से कैसे करें

इंसानी परख सबसे बेहतरीन पैमाना तभी बनती है जब इसे बहुत सावधानी से किया जाए: साफ़-सुथरे नियम (rubrics), एक से ज़्यादा मूल्यांकनकर्ता (raters), आपसी सहमति की जाँच, और पहचान छिपाकर…

1/5
आसान शब्दों में
क्रिकेट मैच में एक अंपायर से गलती हो सकती है, इसलिए मैदान पर दो अंपायर होते हैं और तीसरा रीप्ले देखता है। जब लोग AI के जवाबों को परखते हैं, तब भी हम एक से ज़्यादा जजों का इस्तेमाल करते हैं और देखते हैं कि क्या वे आपस में सहमत हैं।
इंसान उन चीज़ों को परख सकते हैं जहाँ नियम और मॉडल अटक जाते हैं: जैसे कि क्या सलाह वाकई काम की है, क्या अनुवाद स्वाभाविक लग रहा है, क्या बात करने का अंदाज़ सम्मानजनक है। लेकिन इंसान हमेशा एक जैसे नहीं रहते। वे थक जाते हैं, निर्देशों को अलग-अलग तरह से समझ सकते हैं और उनकी अपनी पसंद-नापसंद होती है। अच्छा ह्यूमन इवैल्यूएशन इन्हीं समस्याओं को कम करने के लिए बनाया जाता है।

अच्छे ह्यूमन इवैल्यूएशन की चार आदतें

  1. 1

    साफ़-सुथरा रूब्रिक (Rubric)

    हर स्तर के उदाहरणों के साथ सटीक सवाल, और हर मूल्यांकनकर्ता के लिए एक जैसा ही रूब्रिक।
  2. 2

    सही मूल्यांकनकर्ता

    वे लोग जो उस विषय और भाषा को अच्छी तरह जानते हों; पहले उन्हें उदाहरण दिखाकर ट्रेन करें।
  3. 3

    एक से ज़्यादा मूल्यांकनकर्ता

    कम से कम कुछ सैंपल पर ज़रूर, ताकि आप उनकी आपसी सहमति को माप सकें।
  4. 4

    पहचान छिपाकर तुलना (Blind comparisons)

    मूल्यांकनकर्ताओं को यह न पता हो कि कौन-सा जवाब किस मॉडल या वर्शन ने दिया है, और जवाबों का क्रम भी आगे-पीछे (shuffle) किया गया हो।

सहमति मापना: कोहेन का कप्पा (Cohen's kappa)

अगर दो मूल्यांकनकर्ता 80% बार सहमत होते हैं, तो क्या यह अच्छा है? यह इस बात पर निर्भर करता है। अगर लगभग हर जवाब "अच्छा" ही है, तो वे महज़ तुक्के से भी कई बार सहमत हो जाएँगे। Cohen's kappa इसी तुक्के को हटाकर सही हिसाब लगाता है। यह असल में देखी गई सहमति की तुलना उस सहमति से करता है जो महज़ तुक्के या संयोग से हो सकती थी, यह देखते हुए कि हर मूल्यांकनकर्ता ने किस लेबल का कितनी बार इस्तेमाल किया।
कप्पा = (देखी गई सहमति − तुक्के से सहमति) ÷ (1 − तुक्के से सहमति)। कप्पा का मान 1 होने का मतलब है पूरी सहमति। 0 का मतलब है महज़ तुक्का, उससे बेहतर कुछ नहीं। 0 से कम का मतलब है तुक्के से भी बदतर।
Python: Cohen's kappa for two raters (standard library only)python
from collections import Counter

def cohens_kappa(a, b):
    """Cohen's kappa for two raters who labelled the same items."""
    if len(a) != len(b) or not a:
        raise ValueError("need two non-empty lists of the same length")
    n = len(a)
    observed = sum(x == y for x, y in zip(a, b)) / n
    count_a, count_b = Counter(a), Counter(b)
    labels = set(count_a) | set(count_b)
    chance = sum(count_a[k] * count_b[k] for k in labels) / (n * n)
    if chance == 1:
        return float("nan")  # both raters used one identical label: kappa is undefined
    return (observed - chance) / (1 - chance)

rater_1 = ["good", "good", "good", "good", "good", "good", "bad", "bad", "bad", "bad"]
rater_2 = ["good", "good", "good", "good", "good", "bad", "bad", "bad", "bad", "good"]
print(round(cohens_kappa(rater_1, rater_2), 2))  # 0.58
इसे खुद हल करके देखें। 10 में से 8 चीज़ों पर मूल्यांकनकर्ता सहमत हैं, इसलिए देखी गई सहमति 0.8 है। दोनों मूल्यांकनकर्ताओं ने 6 बार "अच्छा" और 4 बार "बुरा" कहा, इसलिए तुक्के से सहमति (6×6 + 4×4) ÷ 100 = 0.52 है। कप्पा = (0.8 − 0.52) ÷ (1 − 0.52) ≈ 0.58 हुआ। तो तुक्के का असर हटाने के बाद 80% की सीधी सहमति असल में सिर्फ़ मध्यम स्तर की ही निकलती है।
नोट
लोग अक्सर इसके मोटे तौर पर कुछ दायरे तय कर लेते हैं, उदाहरण के लिए 0.6 से ऊपर के मान को काफ़ी अच्छी सहमति माना जाता है। ये दायरे सिर्फ़ आम समझ के लिए हैं, कोई पक्के नियम नहीं। क्या चीज़ "काफ़ी" है, यह काम पर निर्भर करता है। Cohen's kappa दो मूल्यांकनकर्ताओं के लिए होता है; दो से ज़्यादा मूल्यांकनकर्ताओं के लिए Fleiss' kappa या Krippendorff's alpha जैसे तरीके देखे जाते हैं।

जब मूल्यांकनकर्ता आपस में असहमत हों

कम सहमति का मतलब असफलता नहीं, बल्कि एक काम की जानकारी है। उन चीज़ों को पढ़ें जहाँ मूल्यांकनकर्ता असहमत हुए। आम तौर पर रूब्रिक साफ़ नहीं होता ("क्या गलत भाषा में दिया गया सही जवाब अच्छा है या बुरा?"), या फिर वह सवाल ही उलझा हुआ होता है। रूब्रिक को सुधारें, हल किया हुआ उदाहरण जोड़ें, और फिर से मापें। एक बार जब सहमति अच्छी हो जाए, तो हर सवाल के लिए एक अकेला मूल्यांकनकर्ता भी काफ़ी हो सकता है, बस समय-समय पर कुछ सैंपल की जाँच दूसरे मूल्यांकनकर्ता से कराते रहें।
कमज़ोर ह्यूमन इवैल्यूएशन
  • एक ही व्यक्ति सब कुछ परखता है, और उसे पता होता है कि कौन-सा जवाब नए मॉडल का है
  • बिना किसी उदाहरण के बस यह कह देना: "कुल गुणवत्ता को 1 से 5 तक रेट करें"
  • जिस टीम ने मॉडल बनाया है, वही खुद सारी रेटिंग कर रही है
मज़बूत ह्यूमन इवैल्यूएशन
  • सैंपल पर दो मूल्यांकनकर्ता, जवाबों का क्रम आगे-पीछे और मॉडल के नाम छिपे हुए
  • हर स्तर के लिए हल किए गए उदाहरणों के साथ सटीक सवाल
  • विषय के जानकार और यूज़र्स की भाषा बोलने वाले लोग
सावधान रहें
मूल्यांकनकर्ताओं के साथ सही बर्ताव करें। उन्हें सही मेहनताना दें, साफ़ निर्देश दें और काम का बोझ हद में रखें, और कोई परेशान करने वाली सामग्री दिखाने से पहले उन्हें आगाह करें (जैसे कि सेफ़्टी इवैल्यूएशन में)। थके हुए या जल्दबाज़ी में काम कर रहे लोग सही रेटिंग नहीं दे पाते।
इसे आज़माएँ। किसी दोस्त के साथ मिलकर, चैटबॉट के उन्हीं 10 जवाबों को बिना आपस में बात किए 'अच्छा' या 'बुरा' मार्क करें। गिनें कि आप दोनों कितने जवाबों पर सहमत हैं, फिर ऊपर दिए गए फ़ंक्शन से कप्पा का हिसाब लगाएँ।

और देखें और पढ़ें

लैब

उन्हीं चीज़ों पर लेबल्स के दो सेट, एक कप्पा मान, और एक सुधरा हुआ रूब्रिक।

~40 min

समस्या

  1. अपने टेस्ट सेट से 20 जवाब लें (या कोई भी 20 चैटबॉट जवाब जिनका आप इस्तेमाल कर रहे हों)। उनमें से यह पहचान हटा दें कि वे किस मॉडल से आए हैं और उनका क्रम आगे-पीछे कर दें।
  2. अच्छा, ठीक-ठाक और बुरा लेबल्स के साथ एक छोटा रूब्रिक लिखें, जिसमें हर एक का एक उदाहरण हो।
  3. आप और आपका दोस्त बिना आपस में बात किए सभी 20 को अलग-अलग लेबल करें।
  4. सीधी सहमति और कप्पा निकालने के लिए स्टार्टर स्क्रिप्ट चलाएँ।
  5. हर असहमति पर चर्चा करें। रूब्रिक को अपडेट करें, फिर दोनों मिलकर असहमत वाली चीज़ों को फिर से लेबल करें और दोबारा कप्पा का हिसाब लगाएँ।

प्रैक्टिस लैब

कोड में बदलाव करें और इसे रन करें। Python आपके ब्राउज़र में चलता है — हमारे सर्वर पर कुछ नहीं भेजा जाता।

आउटपुट

कोई आउटपुट नहीं। वैल्यूज़ देखने के लिए print(...) जोड़ें।

आपका काम तब पूरा होगा जब

कठिन सवाल

उत्तर देखने से पहले ख़ुद जवाब देने की कोशिश करें। अगर आप इनके जवाब दे सकते हैं, तो आप पाठ समझ गए हैं।

Q1सीधी सहमति ज़्यादा होने पर भी कप्पा कम क्यों हो सकता है?दिखाएं

कप्पा उस सहमति को घटा देता है जिसकी उम्मीद तुक्के से की जा सकती थी। अगर दोनों मूल्यांकनकर्ता ज़्यादातर चीज़ों को "अच्छा" ही कहते हैं, तो तुक्के से होने वाली सहमति पहले से ही बहुत ज़्यादा होती है, इसलिए तुक्के से ऊपर जाने की गुंजाइश बहुत कम बचती है। ऐसे में कभी-कभार आने वाले "बुरे" जवाबों पर थोड़ी-सी असहमति भी कप्पा को काफ़ी नीचे गिरा देती है। यह इसकी एक खूबी है: यह दिखाता है कि सबसे अहम मामलों में मूल्यांकनकर्ता अच्छी तरह सहमत नहीं हैं।

Q2रूब्रिक सुधारने के बाद कप्पा बढ़ गया। आपको सिर्फ़ उन्हीं चीज़ों पर इसका हिसाब लगाने से क्यों बचना चाहिए जिन पर आपने चर्चा की थी?दिखाएं

अब आप और आपका दोस्त उन खास चीज़ों पर एक-दूसरे की राय जान चुके हैं, इसलिए उन पर सहमति अब स्वतंत्र नहीं रह गई है। एक निष्पक्ष जाँच के लिए नई चीज़ों का इस्तेमाल करना चाहिए जिन पर आप में से किसी ने भी चर्चा न की हो। दूसरे राउंड के लिए कुछ बिल्कुल नए सवाल अलग बचाकर रखें।

जारी रखने के लिए कृपया साइन इन करें।

अक्सर पूछे जाने वाले सवाल

यह छिपाना क्यों ज़रूरी है कि कौन-सा जवाब किस मॉडल ने दिया है?

क्योंकि लोग अपनी उम्मीदों और पूर्वाग्रहों के प्रभाव में आ जाते हैं। अगर मूल्यांकनकर्ताओं को पता हो कि कोई जवाब नए और महंगे मॉडल से आया है, तो वे उसे ज़्यादा रियायत देकर अच्छी रेटिंग दे सकते हैं। पहचान छिपाकर और क्रम बदलकर की गई तुलना इस प्रभाव को खत्म कर देती है।

क्या इंसानों का मूल्यांकन हमेशा LLM जज से बेहतर होता है?

सही जानकारों द्वारा सावधानी से किया गया इंसानी मूल्यांकन आमतौर पर सबसे बेहतरीन पैमाना माना जाता है। लेकिन बिना ट्रेनिंग वाले, जल्दबाज़ी में रहने वाले या गैर-जानकार मूल्यांकनकर्ता एक अच्छे से सेट किए गए LLM जज से भी बदतर हो सकते हैं। काम की गुणवत्ता सिर्फ़ इंसान होने से नहीं, बल्कि सही प्रक्रिया अपनाने से आती है।

क्या हो अगर मेरे पास दो से ज़्यादा विकल्प हों, जैसे अच्छा, ठीक-ठाक, बुरा?

Cohen's kappa कितनी भी श्रेणियों के साथ काम करता है, और ऊपर दिया गया फ़ंक्शन उन्हें संभाल लेता है। क्रमबद्ध पैमानों के लिए जहाँ "अच्छा बनाम ठीक-ठाक" की असहमति "अच्छा बनाम बुरा" की तुलना में छोटी मानी जाती है, वहाँ वेटेड कप्पा (weighted kappa) मामूली अंतर के लिए भी कुछ क्रेडिट देता है।

दो मूल्यांकनकर्ताओं को कम से कम कितने जवाबों को परखना चाहिए?

इतने कि असहमतियों का पैटर्न साफ़ दिखने लगे, और इतने कि किसी एक जवाब से पूरे नतीजे पर बहुत बड़ा असर न पड़े। एक सैंपल से शुरुआत करें, कप्पा निकालें, असहमतियों को पढ़ें, और अगर नतीजा साफ़ न हो तो दोनों से कुछ और जवाबों को परखने के लिए कहें।

पाठ का टेस्ट

5 सवाल। पास होने और इस पाठ को पूरा करने के लिए 3 सही होने चाहिए (60%)।

टेस्ट देने और अपनी प्रोग्रेस सेव करने के लिए साइन इन करें