لحظات مغفلة بين الإنسان والذكاء الاصطناعي — سلسلة من أحد عشر جزءاً
هذه الصفحة مترجمة. يُعتد بالنسخة الإنجليزية كمرجع أصلي.
كل من يمنح الموافقة النهائية على مسودات الذكاء الاصطناعي يعرف لحظات لم تكن لها كلمات حتى الآن: ثقة تأتي أسرع مما ينبغي، والتصدع بعد أول خطأ يُكتشف مصادفة، وطمأنينة النقرة الأخيرة. تمنح هذه السلسلة تلك اللحظات أسماء واضحة وتشرحها بأمثلة. ثمانية من الأجزاء الأحد عشر مصطلحات من المعجم، وهي متاحة بهذه اللغة.
- 1. ما لا تكتشفه أداتك
فئتان من برامج التدقيق، ومهمة واحدة: تتفقان في الحساب. وتختلفان في اكتشاف ما هو غائب.
2. الرقم الثاني
الوقت الموفَّر هو نصف القياس. وينبغي أن يوضع إلى جانبه رقم ثانٍ: هل لا يزال الموظفون يكتشفون الأخطاء المعروفة بصورة موثوقة؟
- 3. توجس الثقة المسبقة
توجس الثقة المسبقة — ذلك الإنذار الهادئ الذي ينطلق في اللحظة التي أُصدِّق فيها تقييماً بسرعة تفوق ما تدعمه الأدلة؛ إنها ثقة لا تثق بسرعتها.
أحياناً نثق بإجابة الذكاء الاصطناعي بسرعة تفوق سرعتنا في التحقق من الأدلة التي تستند إليها.
4. ما لا يراه المراجع
قد يختلف نظامان لهما معدل الأخطاء نفسه في مدى خطورتهما، إذا كان المراجعون يغفلون الأخطاء المصاغة بسلاسة بوتيرة أكبر.
- 5. تصدع الأساس
تصدع الأساس — الإحساس الخفي بأن جميع الإجابات المخزنة تبدو فجأة أقل يقينية عندما يتبين خطأ معلومة محورية واحدة؛ فالأثر الباقي ليس ناتجاً عن الخطأ ذاته، بل عن إدراكي بأنني لم أكتشفه إلا بمحض الصدفة.
رقم واحد خاطئ، تعثر عليه مصادفة — وفجأة تشك في الوثيقة كلها.
- 6. حلقة الثقة
دورة ذاتية التعزيز تبدأ بمؤشرات صادقة تفضي إلى تنامي الثقة، مما يؤدي لزيادة القبول، الذي يقلص بدوره من دافع التقصي، لينتهي الأمر بقبول أعمى؛ وذلك في اللحظة التي تبلغ فيها المؤشرات أقصى درجات خطورتها.
لأن الذكاء الاصطناعي يبدو صادقاً، تزداد ثقتك به. ولأن ثقتك به تزداد، يقل تدقيقك.
- 7. طمأنينة القرار الأخير
طمأنينة القرار الأخير — اليقين المريح بأن الموافقة النهائية لا تزال بيدي، حتى وإن كنت لا أمارس هذا الحق فعلياً إلا نادراً: فمجرد إدراك أن الكلمة الأخيرة لي يجعل بقية التنازلات محتملة.
تشعر بالأمان لأن شيئاً لا يُرسَل قبل نقرتك.
- 8. هاجس الانسيابية
هاجس الانسيابية — الشك الذي يستيقظ حين تظهر نتيجة بانسيابية مريبة وخالية من أية عقبات: إنه يتجلى في إحساس بأن الأمر كان أسهل مما ينبغي، وهو إحساس يعلو صوته على القلق الذي تثيره نتيجة تشوبها شكوك ظاهرة.
تبدو النتيجة مثالية. لا شيء يشوبها، ولا سؤال عالق. في تلك اللحظة بالذات قد يستيقظ شك هادئ.
- 9. العين الثانية
العين الثانية — عين إضافية تسكن داخل رأسي، وتُوجه بصرها نحو الزوايا التي لا ألتفت إليها في اللحظة الراهنة. ما تكتشفه هذه العين لا يَرِد إليّ كملاحظة خارجية غريبة، بل كرؤية ذاتية سلكت مساراً غير مباشر.
يكتشف برنامج تدقيق بالضبط ما لم تكن تنظر إليه.
- 10. الثقة في المسار
الثقة في المسار — الثقة التي لا تنبع من النتيجة، بل من المسار المرئي المؤدي إليها؛ فالتعليل المعروض بمثابة يد ممدودة، في حين أن النتيجة المجردة باب مغلق.
التفسير المصاحب للتوصية يبعث على الطمأنينة. وهذا تحديداً مكمن خطره.
- 11. بندول المسؤولية
بندول المسؤولية — حالة التذبذب الداخلي التي تنتابني حين يقع خطأ ضمن مجموعة أتحمل مسؤوليتها النهائية؛ حيث تتأرجح بؤرة التركيز بين من ارتكب الخطأ، ومن أوكل إليه المهمة، وبيني أنا، دون أن تستقر في نقطة محددة.
ما إن تُرسَل إجابة خاطئة حتى تبدأ مسألة اللوم بالتأرجح.