هل تكفي دقة الخوارزمية كي تكون عادلة؟

ملف لم يصل إلى الطاولة

في هذا المشهد المتخيل، تتقدم نورة إلى برنامج تدريبي صغير. تقرأ الشروط، تجمع أعمالها، وترسل الطلب قبل الموعد. يصلها اعتذار آلي مهذب. وحين تسأل عن السبب، يجيب الموظف بأن النظام يرتب الطلبات بدقة عالية. لا تتهم نورة أحدًا بسوء النية؛ لكنها تريد أن تعرف ماذا قيس في ملفها، وهل يستطيع إنسان مراجعته. الرقم الذي يطمئن المؤسسة لا يجيب بعد عن السؤال الذي يخصها.

نتخيل، في المقابل، فريقًا أنهكته مئات الطلبات. كان الفرز اليدوي بطيئًا ومتفاوتًا، وربما دخلته المحاباة. يرى الفريق في الخوارزمية فرصة لتحسين العمل، لا ذريعة لظلم الناس. كلا الطرفين يملك سؤالًا مشروعًا: كيف نزيد جودة الاختيار؟ وكيف نضمن ألا يدفع بعض المتقدمين ثمن التحسين من دون أن يظهروا في النتيجة العامة؟ لا يكفي أن نضع الإنسان والآلة في معسكرين؛ فالأداة تعمل داخل ترتيب بشري يختار الهدف والبيانات وطريقة الاعتراض.

تتناول هذه المقالة عدالة القرارات التي تستعين بالخوارزميات. لا تختبر منتجًا حاليًا، ولا تصدر حكمًا قانونيًا على مؤسسة. إنها تشرح لماذا تحتاج عبارة «دقة مرتفعة» إلى أسئلة إضافية: دقة في توقع ماذا؟ وعلى أي مجموعة؟ وأي خطأ نعدّه أشد ضررًا؟ ومن يتحمل مسؤولية النتيجة؟ وحين نستعين بدراسات تاريخية، نبقي نتائجها مرتبطة بعينات الاختبار وأنظمة ذلك الوقت.

أسئلة نبدأ بها:

• هل يخفي متوسط الأداء اختلافًا كبيرًا في أخطاء المجموعات؟
• هل يقيس النظام الصفة التي نريدها أم علامة يسهل الحصول عليها؟
• ماذا نفعل عندما تتعارض معايير مختلفة للإنصاف؟
• هل يملك الشخص المتأثر طريقًا مفهومًا لتصحيح الخطأ؟

1. حين يكون المتوسط صحيحًا لكنه غير كافٍ

لنبدأ بمثال حسابي متخيل، لا بنتيجة دراسة. لدينا مئة طلب، موزعة إلى تسعين طلبًا من مجموعة وعشرة من أخرى. يصنف النظام تسعة وثمانين من المجموعة الأولى تصنيفًا صحيحًا، ويخطئ في الطلبات العشرة للمجموعة الثانية كلها. تبلغ دقته الإجمالية تسعة وثمانين في المئة. هذه العبارة صحيحة حسابيًا، لكنها لا تخبرنا بأن المجموعة الصغيرة لم تحصل على قرار صحيح واحد. لا توجد خدعة في الجمع؛ النقص في السؤال الذي اكتفينا به.

ولو تحسن النظام حتى أصاب في الطلب التسعين للمجموعة الأولى، يرتفع المتوسط إلى تسعين في المئة، مع بقاء حال المجموعة الثانية كما هو. يستطيع صاحب العرض أن يتحدث بصدق عن تحسن الأداء، بينما لا يجد بعض المستخدمين أي تحسن في تجربتهم. الدرس ليس أن المتوسط بلا قيمة، بل أنه يجيب عن سؤال عام. حين يكون توزيع الأخطاء مهمًا، نحتاج إلى النظر خلفه، وإلى معرفة أحجام المجموعات حتى لا نخلط بين نسبة مبنية على حالات قليلة ونتيجة أوسع.

قد تبدو هذه المسألة واضحة عندما نكتب الأعداد على ورقة، لكنها تضيع حين تعرض لوحة الأداء رقمًا واحدًا كبيرًا. والواجهة المختصرة ليست مذنبة في ذاتها؛ فالاختصار ضروري. إنما الخطر أن يحل الاختصار محل التقرير الذي يفسره. من يراجع نظامًا يؤثر في الفرص يحتاج إلى معرفة ما غاب عن الشاشة: فئات الاستخدام، والبيئات التي اختُبر فيها، والحالات التي لم تتوفر عنها بيانات كافية.

تقدم دراسة «Gender Shades» لجوي بولامويني وتيمنت غيبرو، المنشورة عام 2018، مثالًا تجريبيًا محددًا. اختبرت ثلاث خدمات تجارية لتصنيف الجنس من صور الوجوه، ووجدت تفاوتًا في الخطأ بحسب تقاطع الجنس ولون البشرة؛ وصلت أخطاء الإناث ذوات البشرة الداكنة في أحد الأنظمة إلى 34.7%، بينما كان أعلى معدل خطأ للذكور ذوي البشرة الفاتحة 0.8%. هذه مقارنة داخل اختبار تاريخي لتصنيف الجنس، وليست حكمًا على دقة التعرف على الهوية أو على كل الأنظمة المتاحة اليوم.

قيمة هذا المثال أنه يجعل سؤال «لمن يعمل النظام؟» جزءًا من تقييمه. لكنه لا يسمح لنا بالقفز من اختلاف الأداء إلى معرفة السبب الكامل أو نية المصمم. قد تكشف المراجعة مشكلة تستلزم الإصلاح من دون أن تكون قد فسرت جميع جذورها. والبحث المسؤول يميز بين رصد التفاوت، وتفسيره، والحكم على استخدام بعينه؛ فهذه خطوات مترابطة، لكنها ليست خطوة واحدة.

ومن جهة المتأثر بالقرار، لا يحمل المتوسط قدرة سحرية على إنصاف الحالة الفردية. حتى نظام ممتاز إجمالًا يمكن أن يخطئ في شخص محدد. لذلك يبقى السؤال عن المراجعة قائمًا مهما ارتفع رقم الدقة. لا يناقض هذا الثقة في القياس؛ بل يحدد ما يستطيع القياس إثباته، وما يحتاج إلى إجراء آخر كي يصل الحق إلى صاحبه.

2. من يختار ما تتعلم الآلة أن تسميه نجاحًا؟

قبل سؤال الدقة يأتي سؤال الهدف. لنعد إلى البرنامج التدريبي المتخيل. قد تريد المؤسسة اختيار من سيستفيدون من التدريب، لكنها لا تملك قياسًا مباشرًا لذلك قبل قبولهم. فتستعمل علامة أخرى، كدرجات سابقة أو تقييمات تاريخية أو إتمام نموذج إلكتروني. قد تكون العلامة نافعة، وقد تكون قاصرة. إن أصاب النظام في توقعها، نكون قد تعلمنا أنه يتنبأ بهذه العلامة، لا أننا حللنا تلقائيًا مشكلة اختيار من يستحق الفرصة.

لنفترض أن «النجاح» عُرّف بأنه إكمال جميع الأنشطة في أوقاتها. شخص قادر على التعلم قد يتعثر لأن الجدول يتعارض مع مسؤولية رعاية. إذا خلطنا بين القدرة وبين سهولة الالتزام بترتيب واحد، سنجيب عن سؤال مختلف عما أعلناه. هذا مثال تفسيري، لا وصف لمؤسسة معينة. وهو يبين لماذا يحتاج تعريف النتيجة إلى نقاش مع من يفهمون المجال، ومع من ستقع عليهم آثار الاختيار.

وليست كل معلومة متاحة مناسبة لكل غرض. قد تعرف المؤسسة عدد مرات الدخول إلى المنصة، لكن هذا لا يجعله مرادفًا للفهم. وقد تعرف نمط كتابة الطلب، لكنه لا يختصر صلاحية صاحبه للتدريب. سهولة القياس إغراء إداري مفهوم: ما نستطيع عده يبدو أحيانًا أصلب مما نحتاج إلى تفسيره. غير أن الدقة في عدّ الشيء الخطأ لا تمنحنا معرفة بالشيء الذي نريده.

ولا يكفي حذف اسم مجموعة أو صفتها الحساسة كي نضمن زوال التفاوت. يناقش هارت وبرايس وسريبرو في بحثهم عن تكافؤ الفرص، الصادر عام 2016، أن صفات أخرى قد تحمل معلومات بديلة عن الصفة المحذوفة. ويقترحون معيارًا إحصائيًا ينظر إلى فرص الحصول على نتيجة إيجابية بين من تنطبق عليهم النتيجة الإيجابية الفعلية، مع توضيح حدود الاختبارات القائمة على الإحصاءات وحدها. هذا تعريف تقني محدد، وليس تعريفًا شاملًا للعدل.

قد تبدو العبارة صغيرة، لكنها تمنع وعدًا واسعًا غير مستحق. حين يقول باحث إنه حقق الإنصاف وفق معيار معين، لا يصح أن نحذف القيد ونقول إن النظام عادل في جميع معاني الكلمة. يشبه ذلك أن ينجح مبنى في اختبار إضاءة ثم نعلن أنه مناسب لكل مستخدم من كل وجه. الاختبار مهم، لكن قيمته تتحدد بما اختبره فعلًا.

يتطلب العمل المسؤول كتابة الهدف بعبارة يستطيع غير المختص مساءلتها. هل نريد توقع الأداء أم توسيع فرصة التعلم؟ هل نقيّم الماضي أم نحاول اكتشاف قابلية لم تتح لها فرصة الظهور؟ وقد تحتاج المؤسسة إلى أكثر من هدف، فتصرح بما تقدمه وما تؤخره. لا تتولى الخوارزمية هذا النقاش نيابة عنا؛ إنها تنفذ اختيارًا أو تتعلم من أمثلة سبق أن جسدت اختيارات بشرية.

3. لماذا قد يختلف اختباران جادان للإنصاف؟

تخيل لجنة تريد نظامًا يضع درجات احتمالية للنجاح في مهمة، ثم تستخدم هذه الدرجات في قرار القبول. أحد الأعضاء يسأل: هل الدرجة نفسها تعني احتمالًا متقاربًا لدى المجموعات؟ عضو آخر يسأل: كم شخصًا قادرًا استبعدنا خطأ من كل مجموعة؟ وثالث يسأل: هل نسب القبول متساوية؟ لا يسأل الثلاثة السؤال نفسه. وقد يكون لكل سؤال مبرر أخلاقي أو عملي، لكن تشابه كلمة الإنصاف في حديثهم لا يجعل نتائج اختباراتهم مترادفة.

في مثال حسابي مبسط، إذا أعطينا عشرين شخصًا درجة احتمال مقدارها النصف، ثم نجح عشرة منهم، يكون هذا متسقًا مع معنى الدرجة في تلك المجموعة الصغيرة. لكنه لا يخبرنا أي عشرة سينجحون، ولا يحدد من ينبغي قبوله، ولا يثبت أن الاختبار مناسب أصلًا. المثال يشرح فكرة المعايرة فقط، ولا يصلح لإثبات معايرة نموذج من مشاهدة واحدة أو من عدد قليل من الحالات.

في المقابل، قد نريد التأكد من أننا لا نفوّت أصحاب القدرة بمعدلات مختلفة. هنا ننظر إلى الذين كانوا سيحققون النتيجة المطلوبة، ونسأل كم واحدًا منحناه القرار الإيجابي. هذا يشبه سؤال باب الدخول أكثر مما يشبه سؤال صدق الدرجة الاحتمالية. وتحديد القدرة الفعلية نفسه قد يكون صعبًا إذا لم نعط المرفوضين فرصة التجربة؛ لذلك ينبغي بيان ما نعرفه من البيانات وما نفترضه.

أثبت كلاينبرغ ومولايناثان وراغافان في ورقة أتيحت عام 2016 ونُشرت في مؤتمر ITCS عام 2017 تعارضًا بين ثلاثة شروط محددة لدرجات المخاطر: المعايرة داخل المجموعات، وتساوي متوسط الدرجات بين المجموعات داخل الفئة السلبية، ومثله داخل الفئة الإيجابية. لا تجتمع هذه الشروط في إطارهم إلا في حالات مقيدة، منها التنبؤ الكامل أو تساوي المعدلات الأساسية. إنها نتيجة رياضية بشروطها، وليست إعلانًا بأن تحقيق أي عدالة مستحيل.

لا يلزم القارئ حفظ المعادلات ليستفيد من الفكرة. يكفي أن يسأل من يصف نظامًا بأنه منصف: بأي معيار، ولماذا اخترتم هذا المعيار لهذا الاستخدام؟ وإذا أخفق معيار آخر، فكيف تفسرون ذلك؟ تتغير المحادثة عندئذ من البحث عن ختم مطلق إلى تقييم حجة واضحة. الحجة قد تكون قوية أو ضعيفة، لكننا نستطيع مراجعتها بدل الاكتفاء بكلمة مريحة.

والتعارض ليس رخصة لاختيار المقياس الذي يجعل صورتنا أجمل. قد نستطيع تحسين جودة البيانات أو تعريف الهدف أو طريقة تقديم الخدمة قبل قبول مفاضلة قاسية كما لو كانت قدرًا. كذلك لا تثبت مبرهنة عن مجموعة شروط أن كل خلاف أخلاقي قابل للحل بمعادلة. إنها تحدد قيدًا في نموذج معين، وتعيد إلى البشر مسؤولية تفسير ما يريدون حمايته.

ومن الخطأ أن نعامل اختلاف المعدلات المرصودة بين المجموعات كأنه تفسير طبيعي ونهائي لها. المعدل وصف لما وجد في البيانات، وقد يتأثر بفرص سابقة أو باختيار العينة أو بطريقة تسجيل النتيجة. لا نستخرج من الرقم وحده قصة سببية عن الناس. يجب أن تبقى المسافة واضحة بين وصف البيانات، وتفسير نشأتها، واختيار كيفية التصرف على أساسها.

4. القرار سلسلة مسؤولية، لا نتيجة تظهر وحدها

ينبّه تقرير المعهد الوطني الأمريكي للمعايير والتقنية NIST، الصادر عام 2022، إلى أن التحيزات قد تقود إلى نتائج ضارة حتى دون قصد. هذه ملاحظة مهمة لأنها تنقل النقاش من إثبات نية سيئة إلى فحص أثر يمكن رصده. ولا يعني غياب القصد إعفاء أحد من التصحيح، كما لا يعني وجود تفاوت أننا عرفنا تلقائيًا الدافع وراءه.

يمر قرار نورة المتخيل بمراحل كثيرة: كتابة شروط البرنامج، وجمع الطلبات، واختيار بيانات التدريب، وتصميم النموذج، وتحديد درجة القطع، ثم تحويل المخرجات إلى قبول أو رفض. وإذا أخطأ شيء في آخر السلسلة، لا يكفي أن تشير كل جهة إلى الجهة السابقة. من اختار استعمال الأداة في هذا الموقع مسؤول عن معرفة حدودها وعن توفير طريقة لمواجهة آثارها.

تخيل أن نموذجًا يعطي درجة للاستعانة بها في ترتيب المراجعة، ثم يصبح، مع ضغط الوقت، أداة استبعاد نهائي. لم تتغير معادلته بالضرورة، لكن وظيفته تغيرت. أداة تساعد الموظف على البدء بالملفات الأسهل ليست بالضرورة أداة صالحة لإغلاق ملفات الآخرين. ولهذا يجب وصف الاستخدام الفعلي، لا الاستخدام الذي كُتب في العرض الأول ثم ابتعدت عنه الممارسة.

ولا تكفي عبارة «هناك إنسان في الحلقة» وحدها. قد يكون الشخص قادرًا على الاعتراض، وقد يكون مطالبًا بتوقيع سريع لا يملك معه معلومات أو وقتًا. في الحالة الثانية يصبح وجوده شكليًا. السؤال العملي هو: ماذا يستطيع المراجع أن يفعل؟ هل يرى أسباب النتيجة والبيانات التي بنيت عليها؟ وهل يملك تعديلها وتوثيق سبب التعديل، أم لا يملك إلا نقلها إلى المتقدم؟

من جهة المستخدم، توجد فروق بين إبلاغه بأن قرارًا اتخذ وبين تمكينه من فهم ما يمكن تصحيحه. إذا كان تاريخ خبرة مسجلًا خطأ، يحتاج إلى طريق لتعديله. وإذا كان معيار المؤسسة هو موضع الاعتراض، يحتاج إلى معرفة الجهة التي تراجعه. لا يستلزم ذلك كشف بيانات الآخرين أو نشر معلومات خاصة؛ بل يستلزم تفسيرًا مناسبًا للقرار ومسارًا واضحًا للمساءلة.

وهذه مقترحات تنظيمية تستنتجها المقالة أخلاقيًا، لا قائمة التزامات قانونية ندعي انطباقها في كل بلد. قد تختلف الإجراءات باختلاف المجال وحساسية البيانات، لكن السؤال يظل صالحًا: هل يستطيع الشخص أن يصل إلى من يتحمل القرار؟ حين يصبح الرد الوحيد أن «النظام قال ذلك»، نكون قد أخفينا اختيارًا بشريًا وراء اسم أداة.

يمكن أن تصبح شكوى فردية سببًا لاكتشاف خلل عام، كما يمكن أن تكون خطأ محدودًا في سجل واحد. لا نقرر الاحتمال سلفًا. نفحص الحالة، ثم نسأل هل تتكرر، ونصلح ما ثبت. ومن الحكمة ألا يساوي الفريق بين الاعتراف بخطأ وبين الحكم بفشل المشروع كله. النظام القابل للتصحيح قد يستحق ثقة أكبر من نظام يحافظ على صورة العصمة على حساب مستخدميه.

5. في ضوء القرآن والحكمة الإسلامية

لا يقدم القرآن تعريفًا إحصائيًا لمعايرة النماذج أو تساوي معدلات الخطأ. لكنه يضع مسؤولية العدل على الإنسان، ويقاوم تحويل المصلحة والانتماء إلى ذريعة للمحاباة. يقول تعالى:

ترد الآية في الأمر بالقسط والشهادة، وتذكر الوالدين والأقربين والغنى والفقر والتحذير من اتباع الهوى. أما وصلها بمراجعة الأدوات المعاصرة فهو اجتهاد أخلاقي: أن نقبل فحص النظام الذي صنعناه أو اشتريناه، حتى عندما تكون نتيجة الفحص غير مريحة لنا. لا يصح أن ننسب إلى النص اختيارًا تقنيًا بين معايير لم يكن بصدد بيانها.

وفي سورة المائدة يمنع النص أن تكون الكراهية سببًا للعدول عن الإنصاف:

هذا يذكرنا بأن عدالة الإجراء تُختبر أيضًا حين يخص من لا نرتاح إليهم. وفي التأمل الذي تقترحه المقالة، لا يكفي أن نطالب بالتفسير عندما يضرنا القرار ثم نكتفي بصمته عندما ينفعنا. المعيار الأخلاقي أوسع من راحة الطرف الذي يملك الأداة، وأوسع كذلك من رغبته في إعلان نجاحها.

ويصف الحديث أهل القسط بقوله:

الحديث في فضل المقسطين ومسؤولية ما يتولونه. لا نستعمله شهادة جاهزة بأن نظامًا بعينه عادل، بل تذكيرًا بأن تفويض مهمة إلى أداة لا يلغي مسؤولية صاحب الولاية عليها. وتحتاج ترجمة هذه المسؤولية إلى إجراءات في كل مجال إلى معرفة وخبرة ونقاش، لا إلى الاستشهاد وحده.

6. اعتراض جاد: أليست الآلة أفضل من المحاباة البشرية؟

قد يقول مدير البرنامج: لقد كانت القرارات السابقة مزاجية وبطيئة؛ فلماذا نحمّل النظام الجديد اختبارًا لا ينجح فيه البشر؟ هذا اعتراض مهم. المقارنة العادلة لا تضع آلة واقعية بجوار إنسان مثالي. ينبغي أن نقارن البدائل المتاحة في الظروف نفسها، وأن نعترف بأي تحسن موثق في الاتساق أو السرعة أو تقليل بعض الأخطاء.

لكن تحسن البديل الجديد لا يجعل السؤال عن ضرره زائدًا. يمكن أن يقل مجموع الأخطاء وتزداد مشكلة فئة صغيرة، كما أوضح المثال الحسابي. ويمكن أن تسهّل الأداة فحص القرار، أو تجعل الاعتراض عليه أصعب، بحسب طريقة استعمالها. لذلك نحتاج إلى وصف التحسن والتكلفة معًا. لا نرفض التقنية لمجرد أنها ليست كاملة، ولا نمنحها حصانة لأنها أفضل في جانب واحد.

وقد يعترض باحث بأن الحديث الشعبي عن «تحيز الخوارزمية» يخلط بين تفاوت إحصائي وظلم أخلاقي. الاعتراض وجيه أيضًا. فليس كل فرق بين مجموعتين دليلًا كافيًا على تمييز غير مشروع، ولا كل تساوٍ بينهما دليلًا كافيًا على الإنصاف. نحتاج إلى معرفة الهدف والسياق والفرص السابقة ونوعية البيانات. الأدلة الإحصائية تساعد على طرح أسئلة أدق، ولا تختصر جميع أجوبتها.

كذلك ينبغي الحذر من تعميم اختبارات قديمة على منتجات تغيرت. عرضنا دراسة 2018 بوصفها درسًا في منهج التقييم، لا تقريرًا عن خدمات اليوم. وعرضنا أوراق المعايير بوصفها مساهمات ذات افتراضات محددة، لا اتفاقًا نهائيًا على تعريف واحد للعدل. قوة المعرفة لا تأتي من حذف هذه الحدود، بل من جعلها مرئية للقارئ.

تطبيقات عملية: أسئلة قبل اعتماد القرار

إذا كنت مسؤولًا عن أداة فرز، ابدأ بوصف قرار واحد ستؤثر فيه، والفرق بين مخرجها وبين القرار النهائي. اكتب ما تتنبأ به فعلًا، ومصدر العلامة التي تعاملها كمرجع صحيح. ثم اطلب نتائج تتجاوز المتوسط: أحجام العينات، وأنواع الأخطاء، وحدود الثقة في الفئات قليلة التمثيل. لا تجعل نسبة جميلة بديلًا عن فهم هذه التفاصيل.

بعد ذلك، عيّن من يراجع الخطأ وكيف يصل إليه المستخدم. اختبر المسار بنفسك: قدّم تصحيحًا افتراضيًا لبيان غير صحيح، وتحقق من وصوله إلى صاحب الصلاحية. وحدد ما الذي يستدعي تعليق الاستخدام أو تضييق نطاقه أو إعادة فحصه. هذه خطوات مقترحة للمساءلة، وليست معيار اعتماد رسميًا أو بديلًا عن الخبرة المتخصصة.

وإذا كنت متأثرًا بقرار، فابدأ بسؤال محدد عن المعلومات المستخدمة وإمكان تصحيحها، ثم عن جهة المراجعة. احتفظ بما قدمته وبالرد الذي وصل، دون نشر بيانات أشخاص آخرين. لا تفترض من الرفض وحده وجود تمييز، ولا تعتبر الرد الآلي دليلًا على استحالة المراجعة. الغرض أن تنتقل من تخمين سبب القرار إلى طلب معلومات يمكن فحصها.

ولنختبر هذه الأسئلة في اجتماع متخيل قبل إطلاق برنامج نورة. يقول المسؤول التقني إن الأداة تختصر ساعات من العمل. تسأل مسؤولة التدريب إن كانت الملفات المستبعدة ستُراجع بعينة منتظمة. ويقترح موظف الدعم أن تكون رسالة الرفض واضحة في بيان إمكان تصحيح البيانات، بدل أن تكتفي بشكر المتقدم. لا يحسم أي اقتراح العدالة وحده، لكن كلًا منها يجعل نقطة كانت خفية قابلة للملاحظة. هكذا تصبح المناقشة عملًا مشتركًا بين خبرات مختلفة، لا اختبارًا لمن يعرف أكثر المصطلحات.

قد يكتشف الفريق أن الوقت الذي وفره الفرز يسمح بمراجعة أعمق للحالات القريبة من حد القبول. وقد يكتشف أن الأداة لا توفر وقتًا أصلًا بعد حساب أعمال التصحيح. لا نعرف النتيجة مقدمًا، ولهذا يجب أن تُقاس الفائدة في العملية كاملة. نقل العبء من الموظف إلى المتقدم الذي يعيد تقديم مستنداته ليس توفيرًا بلا تكلفة؛ إنه تغيير في الشخص الذي يتحملها. تسمية هذا التغيير تساعد المؤسسة على تقرير إن كان مبررًا وكيف تخففه.

ومن المفيد كتابة حالات لا ينبغي أن تفصل فيها الأداة وحدها. في المثال نفسه، قد تكون هناك مستندات لا تستطيع قراءتها، أو خبرة مهنية لا تشبه أمثلة التدريب، أو طلب بلغة لم تُختبر عليها. لا نفترض أن هذه الحالات موجودة في كل نظام، بل نطلب من الفريق البحث عنها في نظامه. الاعتراف بحالة غير معروفة أدق من إصدار درجة تبدو واثقة ولا يملك أحد أساسًا كافيًا لتفسيرها.

وتحتاج المؤسسة إلى ذاكرة للتصحيح. إذا عُدّل قرار نورة لأن معلومة نُقلت خطأ، ينبغي أن يصل التصحيح إلى الموضع الذي أنتج الخطأ، حتى لا يتكرر مع طلبها التالي أو مع غيرها. وإذا كان سبب التعديل استثناءً معللًا، فيسجل بوصفه استثناء، لا يختلط بإصلاح البيانات. يختلف علاج كل نوع من المشكلات، وقد يؤدي جمعها كلها تحت كلمة «خطأ» إلى إصلاح الحالة وترك السبب يعمل.

وحتى من لا يبني هذه الأنظمة يستطيع ممارسة قدر من القراءة النقدية. عندما يرى إعلانًا يقول إن أداة ما عادلة، يمكنه البحث عن اسم الاختبار وتاريخه ونطاقه، لا عن النسبة وحدها. وعندما يشارك خبرًا عن تفاوت في الأداء، يستطيع الحفاظ على الفرق بين نتيجة تاريخية ووضع حالي، وبين تصنيف صفة والتعرف على شخص. الدقة في نقد التقنية جزء من العدل أيضًا؛ فلا نواجه الادعاء الواسع بادعاء واسع مقابل.

وفي الحالتين، افصل بين ثلاثة مطالب: تصحيح حالتك، وفهم معيار الاختيار، وفحص أثر النظام في مجموعات المستخدمين. قد تحتاج كل مهمة إلى إجراء مختلف. جمعها في اتهام عام قد يحجب التفاصيل، وتفريقها يساعد على تحديد ما نعرفه وما نحتاج إلى معرفته. لا يضمن ذلك نتيجة بعينها، لكنه يجعل الحوار أكثر قابلية للتحقق.

خلاصة: رقم يحتاج إلى صاحب مسؤولية

الدقة شرط مهم في كثير من الاستخدامات، لكنها لا تختصر العدالة. نحتاج إلى معرفة الهدف، وتوزيع الأخطاء، ومعنى المعيار المختار، وطريقة التعامل مع الاعتراض. ولا تصبح هذه الأسئلة أقل إنسانية لأن الإجابة تمر عبر معادلات؛ فالقرارات تعود في النهاية إلى فرص وأوقات وحيوات.

ربما يكون نظام البرنامج المتخيل مفيدًا فعلًا. ما تطلبه نورة ليس أن نعيد العمل إلى الفوضى، بل ألا يصبح نجاح النظام العام سببًا لإغلاق باب السؤال عن ملفها. العدل يبدأ حين نستطيع أن نقول من قرر، وعلى أي أساس، ومن يستطيع أن يصحح ما ثبت خطؤه.

أسئلة نغادر بها:

• حين أسمع نسبة دقة مرتفعة، ما المعلومات التي ما زالت تنقصني؟
• هل أعرف الفرق بين الهدف الذي أريده والعلامة التي يقيسها النظام؟
• أي نوع من الخطأ يستحق أولوية الحماية في الاستخدام الذي أفكر فيه؟
• هل توجد مراجعة حقيقية أم مجرد شخص يكرر نتيجة الشاشة؟