निम्नलिखित में से कौन-सा कृत्रिम बुद्धिमत्ता (आर्टिफिशियल इंटेलिजेंस) के पक्षपात का स्रोत नहीं है ?
- (a)डेटा
- (b)एल्गोरिद्म
- (c)लोग
- (d)क्षमता
सही उत्तर — (D) क्षमता। AI प्रणालियों में पक्षपात के व्यापक रूप से मान्यता-प्राप्त स्रोत हैं: डेटा (पक्षपाती या अप्रतिनिधिक प्रशिक्षण डेटा), एल्गोरिद्म (मॉडल-डिज़ाइन या अनुकूलन-विकल्पों में पक्षपात), तथा लोग (डेवलपर, लेबलर या उपयोगकर्ताओं द्वारा लाया गया मानवीय पक्षपात)। 'क्षमता' AI-पक्षपात के इस मानक वर्गीकरण का हिस्सा नहीं है।
- (a)डेटा — पक्षपाती, अपूर्ण, या अप्रतिनिधिक प्रशिक्षण डेटा AI पक्षपात के सबसे सामान्य स्रोतों में से एक है — जैसे कुछ समूहों का कम-प्रतिनिधित्व।
- (b)एल्गोरिद्म — मॉडल को डिज़ाइन, भारांकित (weighted), या अनुकूलित करने का तरीका, डेटा से स्वतंत्र रूप से, स्वयं व्यवस्थित पक्षपात ला सकता है।
- (c)लोग — जो मनुष्य डेटा एकत्र, लेबल व व्याख्यायित करते हैं — और जो AI के आउटपुट का उपयोग करते हैं — वे अपना सचेत या अचेतन पक्षपात ला सकते हैं।
AI पक्षपात किसी AI प्रणाली के आउटपुट में एक व्यवस्थित, अनुचित झुकाव को कहते हैं। इसे सामान्यतः तीन स्रोतों से जोड़ा जाता है: पक्षपाती प्रशिक्षण डेटा, पक्षपाती एल्गोरिद्म डिज़ाइन, तथा पक्षपाती लोग (सिस्टम बनाने व संचालित करने में शामिल डेवलपर, लेबलर, या उपयोगकर्ता)। तीनों को पहचानना अधिक निष्पक्ष, जवाबदेह AI डिज़ाइन के केंद्र में है।
परीक्षा-जाल यह परखता है कि क्या उम्मीदवार AI पक्षपात के वास्तविक, सामान्यतः उद्धृत स्रोतों (डेटा/एल्गोरिद्म/लोग) को एक असंबद्ध परन्तु प्रशंसनीय-लगने वाले शब्द ('क्षमता') से अलग कर सकता है, जो मानक ढाँचे का हिस्सा नहीं है।
- AI पक्षपात के तीन सामान्यतः उद्धृत स्रोत: डेटा, एल्गोरिद्म, लोग
- डेटा पक्षपात — प्रशिक्षण डेटा जो कुछ समूहों या परिदृश्यों का कम- या अधिक-प्रतिनिधित्व करता है
- एल्गोरिदमिक पक्षपात — मॉडल-डिज़ाइन या अनुकूलन-विकल्पों के ज़रिए लाया गया पक्षपात
- लोग/मानवीय पक्षपात — डेवलपर, लेबलर, या अंतिम-उपयोगकर्ताओं द्वारा लाया गया पक्षपात
डेटा, एल्गोरिद्म व लोग AI पक्षपात के मान्यता-प्राप्त स्रोत हैं — क्षमता नहीं है।
- सांख्यिकीय 'बायस-वेरियंस ट्रेडऑफ' (एक तकनीकी ML शब्द) को 'AI पक्षपात' (एक निष्पक्षता/नैतिकता शब्द) के साथ भ्रमित करना — ये भिन्न अवधारणाएँ हैं
- 'क्षमता' जैसे प्रशंसनीय-लगने परन्तु गैर-मानक शब्द को मानो वह एक मान्यता-प्राप्त पक्षपात-स्रोत हो, चुन लेना
AI-नैतिकता की बुनियादी बातों पर एक विषम-एक-बाहर प्रश्न — MPPSC व अन्य राज्य PCS पत्रों में 'तकनीक से जुड़े समसामयिक विषय' का बढ़ता हुआ प्रचलित प्रश्न-प्रकार।
इस प्रश्न से सीधे संबंधित कोई पूर्व PYQ उपलब्ध नहीं।
- अभ्यास — वास्तविक PYQ नहीं
AI प्रणाली में उस प्रशिक्षण डेटा से उत्पन्न पक्षपात, जो कुछ समूहों का कम-प्रतिनिधित्व करता है, क्या कहलाता है:
- (a)एल्गोरिदमिक पक्षपात
- (b)डेटा पक्षपात
- (c)पुष्टिकरण पक्षपात
- (d)नमूना विचरण
उत्तर(b) डेटा पक्षपात — अप्रतिनिधिक या तिरछे प्रशिक्षण डेटा से उत्पन्न होता है।
- अभ्यास — वास्तविक PYQ नहीं
AI पक्षपात कम करने के मान्यता-प्राप्त उपायों में से कौन-सा है?
- (a)विविध व प्रतिनिधिक प्रशिक्षण डेटासेट का उपयोग करना
- (b)मॉडल का आकार घटाना
- (c)प्रसंस्करण गति बढ़ाना
- (d)सम्पूर्ण मानवीय निगरानी हटाना
उत्तर(a) विविध व प्रतिनिधिक प्रशिक्षण डेटासेट का उपयोग करना — सीधे डेटा-स्रोत पक्षपात को संबोधित करता है।