मनुष्यों और AI के बीच अनदेखे रह जाने वाले क्षण — ग्यारह भागों में एक श्रृंखला
यह पृष्ठ एक अनुवाद है। अंग्रेजी संस्करण ही प्रामाणिक है।
कृत्रिम बुद्धिमत्ता से बने मसौदों को अंतिम स्वीकृति देने वाला हर व्यक्ति ऐसे क्षणों को जानता है जिनके लिए अब तक शब्द नहीं थे: बहुत जल्दी हो जाने वाला भरोसा, संयोग से मिली पहली त्रुटि के बाद भरोसे में दरार, अंतिम क्लिक की शांति। यह श्रृंखला उन क्षणों को स्पष्ट नाम देती है और उदाहरणों से समझाती है। ग्यारह भागों में से आठ शब्दकोश के शब्द हैं और इस भाषा में उपलब्ध हैं।
- 1. आपका उपकरण क्या नहीं ढूँढ़ पाता
जाँच प्रोग्रामों के दो वर्ग, एक कार्य: गणना पर वे सहमत हैं। जो अनुपस्थित है, उस पर उनके नतीजे अलग हैं।
2. दूसरा आँकड़ा
बचाया गया समय मापन का आधा हिस्सा है। उसके साथ एक दूसरा आँकड़ा होना चाहिए: क्या कर्मचारी ज्ञात त्रुटियों को अब भी भरोसेमंद ढंग से ढूँढ़ पाते हैं?
- 3. अग्रिम-विश्वास-बेचैनी
अग्रिम-विश्वास-बेचैनी — वह शांत चेतावनी जो उसी क्षण जाग उठती है जब मैं किसी आकलन पर उसके प्रमाणों की पहुँच से ज़्यादा तेज़ी से विश्वास कर लेता हूँ; एक ऐसा भरोसा जो अपनी ही गति पर भरोसा नहीं करता।
कभी-कभी हम AI के उत्तर के पीछे के प्रमाणों की जाँच करने से पहले ही उस पर भरोसा कर लेते हैं।
4. जाँचकर्ता को क्या नहीं दिखता
एक ही त्रुटि-दर वाली दो प्रणालियों के जोखिम अलग हो सकते हैं, यदि जाँचकर्ता प्रवाहपूर्ण भाषा में लिखी त्रुटियों को अधिक बार चूक जाते हैं।
- 5. भरोसे में दरार
भरोसे में दरार वह खामोश एहसास है जिसमें किसी एक महत्वपूर्ण कथन के गलत साबित होते ही सहेजे गए सभी उत्तर अचानक कम भरोसेमंद लगने लगते हैं। मन में बनी रहने वाली बात गलती स्वयं नहीं, बल्कि यह है कि मुझे उसका पता महज संयोग से चला।
एक गलत संख्या, जो संयोग से मिली — और अचानक आपको पूरे दस्तावेज़ पर संदेह होने लगता है।
- 6. विश्वास पाश
विश्वास पाश — एक स्व-मजबूत करने वाला चक्र: ईमानदार मेट्रिक्स से अधिक विश्वास पैदा होता है, अधिक विश्वास से उच्च स्वीकृति, उच्च स्वीकृति से कम पूछताछ, कम पूछताछ से अंधी स्वीकृति — ठीक उसी समय जब मेट्रिक्स सबसे खतरनाक होते हैं।
AI ईमानदार लगता है, इसलिए आप उस पर अधिक भरोसा करते हैं। अधिक भरोसा करते हैं, इसलिए कम जाँच करते हैं।
- 7. अंतिम-पकड़ की शांति
अंतिम-पकड़ की शांति — अंतिम स्वीकृति अभी भी अपने हाथ में होने का आश्वस्त करने वाला यक़ीन, भले ही मैं वास्तव में इसका शायद ही कभी उपयोग करता हूँ: अपनी ही पकड़ का मात्र ज्ञान ही बाकी की चीज़ों को छोड़ने को सहने योग्य बनाता है।
आप सुरक्षित महसूस करते हैं, क्योंकि आपके क्लिक से पहले कुछ भी बाहर नहीं जाता।
- 8. चिकनाई-निगरानी
चिकनाई-निगरानी — वह संदेह जो तब जागता है जब कोई परिणाम संदिग्ध रूप से सहज और बिना किसी खुरदरेपन के लौटता है: 'यह बहुत आसान था' की भावना, जो दृश्य अनिश्चितता वाले परिणाम से उत्पन्न होने वाली भावना से अधिक ज़ोरदार होती है।
परिणाम एकदम सही दिखता है। न कोई खुरदरापन, न कोई अनसुलझा प्रश्न। ठीक तभी मन में एक हल्का संदेह उठ सकता है।
- 9. दूसरा नेत्र
द्वितीय नेत्र — अपने सिर में एक दूसरी आँख जो वहाँ देखती है जहाँ मैं अभी नहीं देख रहा: उसकी खोज पराई टिप्पणी की तरह नहीं, अपनी दृष्टि की तरह आती है, जिसने बस एक चक्कर लगाया।
जाँच करने वाला प्रोग्राम ठीक उसी चीज़ को ढूँढ़ लेता है जिस पर आपका ध्यान नहीं था।
- 10. पथ-विश्वास
वह विश्वास जो परिणाम से नहीं, बल्कि वहाँ तक जाते दृश्य पथ से बढ़ता है; दिखाई गई तर्क-प्रक्रिया एक बढ़ाया हुआ हाथ है, नंगा परिणाम एक बंद दरवाज़ा।
सिफ़ारिश के साथ दिया गया स्पष्टीकरण आश्वस्त करता है। ठीक इसी में उसका जोखिम है।
- 11. ज़िम्मेदारी तय करने की कशमकश
ज़िम्मेदारी तय करने की कशमकश मन में चलने वाली वह खींचतान है जो उस समूह में कुछ गलत होने पर पैदा होती है जिसकी अंतिम ज़िम्मेदारी मेरी है। मेरा ध्यान कभी गलती करने वाले पर, कभी काम सौंपने वाले पर और कभी खुद पर जाता है, पर कहीं ठहरता नहीं।
एक गलत उत्तर बाहर चले जाने के बाद दोष किसका है, यह सवाल इधर-उधर झूलने लगता है।