مكتبة المقالات
لماذا يجيب الذكاء الاصطناعي بثقة حين لا يعرف؟
الذكاء الاصطناعي والإنسان

لماذا يجيب الذكاء الاصطناعي بثقة حين لا يعرف؟

حين تتقدم الطلاقة على الدليل

حمّل للقراءة دون إنترنتابدأ القراءة

جواب كامل وسند مفقود

هذا مشهد متخيل: يريد محرر إعداد فقرة عن كتاب قديم، فيسأل مساعداً ذكياً عن تاريخ صدوره وأشهر اقتباس فيه. يأتيه الجواب مرتباً: سنة محددة، واسم دار نشر، وعبارة بليغة بين علامتي تنصيص. يشعر أن العمل الأصعب انتهى، ويبدأ اختيار الصورة والخط. قبل النشر بدقائق يبحث عن العبارة في نسخة الكتاب، فلا يجدها. يعود إلى المساعد فيعتذر ويقدم عبارة ثانية، بالثقة اللغوية نفسها تقريباً. السؤال الذي يزعجه الآن ليس لماذا أخطأ برنامج، بل لماذا لم يظهر نقص المعرفة على شكل الجواب؟

قد نفهم التردد حين نسمعه في صوت إنسان، ونفهم النسيان حين يقول صاحبه إنه لا يتذكر. أما النص المصقول فيترك لنا مهمة أصعب: علينا أن نفصل جودة التعبير عن صحة المحتوى من دون الاعتماد على نبرة الصوت أو ملامح الوجه. والمقالة لا تفترض أن كل جواب مولد خطأ، ولا أن كل جواب متحفظ صحيح. موضوعها المسافة بين إنتاج عبارة مقنعة وإقامة الدليل عليها، وما يمكن أن يفعله الباحث والمحرر والقارئ عند هذه المسافة.

نستخدم هنا لفظ «الثقة» بحذر. قد نقصد أسلوباً جازماً يراه القارئ، وقد نقصد تقديراً حسابياً داخل نظام، وقد نقصد نسبة يكتبها المساعد استجابة لسؤال. هذه أشياء مختلفة. كما أن عبارة «لا يعرف» في العنوان وصف مبسط لعدم توفر أساس كاف للإجابة الصحيحة، وليست حكماً على تجربة داخلية تشبه تجربة الإنسان. لا نحتاج إلى حسم سؤال وعي الآلة حتى نسأل سؤالاً عملياً: هل هذا الادعاء صحيح، وما الذي يسنده؟

  • لماذا يمكن أن يكون الجواب سلساً ومحدداً ومع ذلك خاطئاً؟
  • ما الفرق بين نبرة الثقة وبين دليل يمكن فحصه؟
  • هل يكفي تكرار السؤال أو طلب المصادر لكشف الخطأ؟
  • كيف نستفيد من المساعد دون أن نسلمه مسؤولية التحقق؟

1. الطلاقة ليست شهادة على الواقعة

تساعدنا صورة المكتبة على فهم الفرق، بشرط ألا نأخذها وصفاً حرفياً للنموذج. في المكتبة كتاب محدد وصفحة يمكن الرجوع إليها. أما توليد النص فقد ينتج صياغة جديدة تشبه ما يصلح جواباً، دون أن تكون العبارة منسوخة من موضع موثق. حين يذكر المساعد مرجعاً، تصبح الإحالة نفسها ادعاءً يحتاج فحصاً: هل يوجد الكتاب؟ هل صاحبه صحيح؟ وهل يقول ما نسب إليه؟ اكتمال شكل المرجع لا يجيب عن هذه الأسئلة.

تخيل بطاقة فهرسة تحمل اسم مؤلف وعنواناً وسنة. يمكنك كتابة بطاقة مشابهة لكتاب لم يوجد قط، لأن معرفة شكل البطاقة أسهل من إثبات وجود موضوعها. هذا مثال توضيحي من المقالة، لا تجربة تقيس نسبة المراجع المختلقة. الغرض منه إظهار أن سلامة البنية لا تستلزم سلامة الإحالة. ويمكن نقل الفكرة إلى جدول أنيق أو قائمة أسباب أو سيرة مختصرة: التنظيم يخدم القراءة، لكنه لا يخلق الوقائع التي ينظمها.

ومن المهم ألا نقلب هذا التمييز إلى إنكار شامل لقدرات النماذج. ففي ورقة لويس وزملائه عن التوليد المعزز بالاسترجاع، المنشورة في مؤتمر NeurIPS عام 2020، ينطلق الباحثون من أن النماذج المدربة مسبقاً تختزن معرفة واقعية في معاملاتها، مع بقاء صعوبات الوصول الدقيق إليها وتحديثها وتقديم أصلها. إذن المشكلة ليست أن النظام لا يستطيع تقديم معلومة صحيحة؛ المشكلة أن صحة معلومة واحدة لا تمنح كل ما يليها شهادة موثوقية تلقائية. الورقة الأصلية.


«تظل إتاحة أصل قراراتها وتحديث معرفتها بالعالم مسائل بحثية مفتوحة».
باتريك لويس وزملاؤه، ملخص ورقة التوليد المعزز بالاسترجاع، 2020؛ ترجمة عربية لمقتطف. المصدر.

للقارئ هنا اختبار بسيط: احذف جمال التنسيق مؤقتاً، ثم اكتب الادعاءات منفردة. «صدر الكتاب سنة كذا» ادعاء؛ و«هذه أشهر عبارة فيه» ادعاء آخر، أشد صعوبة لأنه يضيف وصف الشهرة. قد يكون التاريخ صحيحاً والاقتباس غير صحيح، أو يوجد الاقتباس في ترجمة لاحقة لا في النص الأصلي. فصل الادعاءات يمنع الجواب من المرور كوحدة واحدة تحمل عناصره الصحيحة عناصره الضعيفة معها.

ويظهر الفرق أيضاً بين المهمة الإبداعية والمهمة المرجعية. إذا طلبت مشهداً متخيلاً فابتكار التفاصيل جزء من النجاح. وإذا طلبت ملخص وثيقة فلا يجوز أن تضاف التفاصيل نفسها باعتبارها وقائع. لذلك تبدأ جودة الاستخدام بتسمية نوع المهمة، لا بطلب «إجابة أفضل» فحسب. وقد يحتاج النص الواحد إلى مناطق معلنة: هذا نقل من المصدر، وهذا استنتاج، وهذا مثال افتراضي يساعد على الفهم ولا يثبت شيئاً عن الواقع.

2. حين يكافئ الاختبار التخمين

تناقش ورقة آدم تاومان كالاي وأوفير ناخوم وسانتوش فيمبالا وإدوين تشانغ، المؤرخة في الرابع من سبتمبر 2025، أسباب الخطأ من التدريب الأولي إلى ما بعد التدريب. تربط الورقة توليد بعض الأخطاء بصعوبة تمييز الإجابة الصحيحة من البدائل الخاطئة، وتجادل بأن أنظمة تقييم كثيرة تكافئ التخمين قياساً إلى إعلان عدم اليقين. هذا تفسير بحثي له افتراضاته، وليس تشخيصاً كاملاً لكل إجابة خاطئة في كل منتج. النص الكامل.


«تكافئ إجراءات التدريب والتقييم التخمين أكثر من الإقرار بعدم اليقين».
كالاي وناخوم وفيمبالا وتشانغ، 2025؛ ترجمة عربية لعبارة من الملخص. المصدر.

لنقرب منطق الحافز بمثال حسابي افتراضي مستقل. في مسابقة تمنح نقطة للإجابة الصحيحة وصفراً للخاطئة ولترك السؤال، قد يكون التخمين مفيداً لمن يريد زيادة مجموع النقاط: لديه احتمال أن يربح، ولا يخسر أكثر مما يخسره بالصمت. لكن المستخدم خارج المسابقة قد يتضرر من الجواب الخاطئ أكثر بكثير من عبارة «لا أستطيع التحقق». نظام النقاط هنا يعبر عن مصلحة مختلفة عن مصلحة صاحب السؤال.

لا يعني هذا المثال أن الآلة تجلس وتقرر الغش كما يقرر طالب ذلك، ولا أن كل تقييم يعمل بالطريقة نفسها. إنه يوضح كيف يمكن أن يكافئ معيار ما سلوكاً لا نريده في الاستخدام الواقعي. فإذا ساوينا الخطأ بالامتناع، فقد نفضل ظاهرياً نظاماً يجيب عن كل شيء على نظام يتوقف في الموضع المناسب. أما عندما يصبح الخطأ مكلفاً، فتحتاج المقارنة إلى حساب ما أجاب عنه النظام وما تركه وحدود فائدته في الحالتين.

تقترح الورقة مراجعة حوافز التقييم، لكنها لا تقول إن جميع صور الخطأ ستختفي بإضافة عبارة احترازية إلى السؤال. وفي مناقشة حدودها تميز بين مسارات مختلفة للخطأ، وتبين أن البحث والاستدلال ليسا علاجاً شاملاً. لذلك لا نختصر المسألة في أن «النموذج يريد إرضاءك»، وهي عبارة قد تنقل النقاش من وصف نظام تعلم إلى افتراض نية بشرية. الأدق أن نفحص كيف دُرب النظام، وكيف اختبر، وما المهمة التي كلف بها.

من منظور المستخدم، لا يلزم انتظار تغيير جميع الاختبارات كي تتحسن طريقة العمل. يمكنك أن تحدد أن الامتناع نتيجة مقبولة، وأن تطلب تمييز المؤكد من المحتمل. لكن هذا توجيه لطريقة الجواب، وليس عقد ضمان. إذا كتب المساعد «أنا متأكد» بعد ذلك، فقد أضاف جملة جديدة إلى النص، ولم يقدم بالضرورة اختباراً مستقلاً لصحته. السؤال النافع التالي هو: ما الوثيقة أو الملاحظة التي يمكن أن تجعل قارئاً آخر يتأكد؟

3. خطأ متغير وخطأ ثابت

هناك طريقة مغرية للتحقق: أعد السؤال، وقارن الإجابات. إذا ظهرت أسماء أو تواريخ متناقضة، فقد اكتشفت مشكلة تستحق الوقوف. لكن ينبغي ألا نستنتج العكس مباشرة؛ اتفاق الإجابات لا يضمن أنها صحيحة. يمكن أن يعود النظام إلى الخطأ نفسه مراراً، ويمكن أن تكون صياغتان مختلفتان تحملان المعنى الصحيح نفسه. نحتاج إلى فحص المعنى، ثم إلى فحص صلته بالواقع، وهما مرحلتان مختلفتان.

في بحث SelfCheckGPT المنشور عام 2023، درس بوتساوي ماناكول وأديان ليوسي ومارك غيلز أسلوباً يعتمد على عينات متعددة من إجابات النموذج ومقارنة اتساقها. استخدموا نصوصاً مولدة عن أشخاص من بيانات WikiBio، مع تعليم بشري لواقعية الجمل. أظهرت الدراسة فائدة هذا المسار في مهمتها، لكنها لا تحول الضغط المتكرر على زر التوليد إلى شهادة عامة لكل لغة وموضوع ونظام. الورقة.


«من المرجح أن تتباعد الإجابات المأخوذة بعينات عشوائية وأن تناقض بعضها بعضاً».
ماناكول وليوسي وغيلز، في وصف الحقائق المهلوسة ضمن ملخص SelfCheckGPT؛ ترجمة عربية. المصدر.

وبحث فريق فاركوهار وكوسن وكوهن وغال في أكسفورد نوعاً أضيق من الأخطاء، هو الاختلاق الذي يتغير بين العينات. يشرح المؤلفون في عرضهم المصاحب لدراسة Nature لعام 2024 أنهم يجمعون الإجابات بحسب المعنى، ثم يقدرون عدم اليقين بين تلك المعاني. فعبارتا «في باريس» و«في العاصمة الفرنسية» قد تعبران عن إجابة واحدة في سياق مناسب، بينما «في روما» تحمل جواباً مختلفاً. المثال هنا توضيح من المقالة. شرح المؤلفين.

وتظل حدود هذه الطريقة أساسية. يصرح المؤلفون بأنها لا تكشف كل الحالات، ومنها تعلم حقائق خاطئة أو أسلوب استدلال غير صحيح. كما يمكن أن يخطئ تجميع الإجابات في تقرير تشابه المعاني. لذلك نستفيد من عدم الاتساق بوصفه إشارة خطر، ولا نعامل الاتساق بوصفه دليلاً نهائياً. وقد تعطي عدة أجوبة من النموذج نفسه إحساساً بكثرة الشهود، مع أنها ليست شهادات مستقلة على الواقعة.

يساعد معيار TruthfulQA، الذي قدمته ستيفاني لين وجاكوب هيلتون وأوين إيفانز في 2022، على رؤية جانب آخر: صممت أسئلته لاختبار ميل النماذج إلى تكرار تصورات بشرية خاطئة. لا نعرض نتائج نماذجه القديمة كنسب خطأ للمنتجات الحالية، لكن تصميمه يذكرنا بأن الكلام الشائع في النصوص قد يكون غير صحيح. عندئذ لا تكون إعادة العبارة بثبات مفاجئة؛ فالخطأ نفسه قابل للتكرار. البحث الأصلي.

والتطبيق العملي لهذا التمييز هو ألا تختصر التحقق في سؤال المساعد: هل أنت متأكد؟ بدلاً منه، اطلب تحديد موضع الدليل، ثم افحصه خارج سلسلة الإجابات. وإذا اختلفت الإجابات فاحفظ الاختلاف بوصفه سبباً للتوقف، لا دعوة لاختيار الجواب الذي يعجبك. أما إذا اتفقت، فاسأل عما يضيفه الاتفاق: هل جاء من مصادر مستقلة، أم من تكرار العملية نفسها بصيغ متقاربة؟

4. المصدر لا يعمل بمجرد ظهوره

تتيح أنظمة الاسترجاع إدخال مقاطع ووثائق إلى عملية الإجابة. وفي بحث التوليد المعزز بالاسترجاع جمع لويس وزملاؤه بين نموذج توليدي وفهرس خارجي، ووجدوا تحسناً في الواقعية مقارنة بخط أساس محدد في مهامهم. هذه نتيجة مهمة ومحدودة معاً: إحضار مادة ذات صلة يمكن أن يساعد، لكنه لا يلغي ضرورة فحص اختيار المادة وما استنتج منها النظام. لا نساوي وجود أداة بحث باستعمالها الصحيح في كل طلب.

يمكن تصور مسار التحقق كسلسلة أسئلة، لا كختم واحد. هل فُتح المصدر فعلاً؟ هل المصدر مناسب للادعاء؟ هل المقطع الذي نحتاجه موجود فيه؟ وهل بقيت شروطه وحدوده حاضرة في الصياغة النهائية؟ قد يكون الرابط سليماً ويقود إلى دراسة حقيقية، بينما النتيجة المنسوبة إليها تتجاوز ما اختبرته. وقد ينقل الجواب رقماً صحيحاً ثم يحذف الفترة التي يصفها، فيصبح القارئ أمام معنى جديد لم تثبته الوثيقة.

لنأخذ مثالاً تحريرياً متخيلاً آخر. تطلب فقرة عن مؤسسة، فيسترجع المساعد صفحة قديمة تعلن افتتاح فرع، ثم يكتب أن الفرع يستقبل الزوار اليوم. المصدر يثبت الإعلان في زمن معين، ولا يثبت وحده استمرار التشغيل. لا نحتاج إلى اتهام الصفحة أو المساعد بالتضليل المتعمد حتى نرى المشكلة. انتقل النص من حقيقة تاريخية إلى حالة راهنة دون دليل يغطي هذه الخطوة، وهي خطوة يمكن أن تضيع داخل جملة سلسة.

وتظهر مشكلة مشابهة في الاقتباسات. وجود اسم مفكر قرب عبارة لا يجعل العبارة له. ووجود ترجمة عربية جميلة لا يثبت مطابقتها للنص الذي ترجمت عنه. في العمل المسؤول نميز بين الاقتباس الحرفي، والترجمة، والتلخيص، والتأويل. إذا لم نستطع العثور على أصل العبارة، يمكن أن نعرض الفكرة بصفتها صياغتنا نحن متى كانت سليمة، لكن لا نحافظ على اسم مشهور ليمنحها وزناً لم نتحقق منه.

اعتراض جاد: أليس الإنسان يخطئ أيضاً؟

بلى، ولا يصح بناء المقارنة على آلة مخطئة وإنسان معصوم. المحرر والباحث والمترجم يخطئون، وقد يقدمون تبريرات واثقة. لكن الإقرار بهذا لا يحل مسألة التحقق؛ إنه يعممها. ينبغي أن نسأل عن جودة النظام الكامل الذي ينتج النص، بما فيه الإنسان والأداة والمصادر والمراجعة. قد يساعد المساعد في اكتشاف سهو بشري، وقد يضيف خطأ جديداً. القيمة تتحدد بطريقة الاستخدام والاختبار، لا باسم الطرف الذي كتب الجملة.

ومن الاعتراضات المعقولة أن فحص كل كلمة قد يلغي الوقت الذي وفرته الأداة. الرد ليس المطالبة بفحص متساو لكل شيء. اقتراح عنوان تخيلي يختلف عن نسبة قول إلى شخص، وصياغة رسالة عامة تختلف عن بيان يعتمد عليه آخرون في قرار ذي تبعات. يمكن توجيه الجهد إلى الادعاءات التي تحمل مخاطر أو تحتاج دقة عالية، مع إبقاء اللغة الإبداعية في مجالها. توزيع المراجعة قرار تحريري واع، وليس إعفاءً من المسؤولية.

كذلك لا نريد أن يصبح التحفظ زينة لغوية مكررة. جواب مليء بكلمات «ربما» و«قد» يمكن أن يظل مضللاً إذا أخفى مصدره أو خلط مستويات الدليل. والجواب المختصر الجازم قد يكون مناسباً لسؤال موثق بوضوح. الغاية أن تتناسب قوة العبارة مع ما يسندها، وأن يعرف القارئ ما تم فحصه وما لم يفحص. الحذر المنتج يوضح الحدود، ولا يترك كل شيء في ضباب واحد.

5. طريقة عمل تجعل الخطأ قابلاً للاكتشاف

قبل كتابة الطلب، حدد ما تريد من المساعد أن ينتجه: أفكاراً، أو تلخيصاً لوثيقة، أو إجابة عن واقعة، أو مراجعة لنص. ثم حدد ما لا يجوز له ملؤه بالتخمين. في العمل على كتاب، مثلاً، يمكن أن تطلب ترك رقم الصفحة فارغاً إذا لم يتوفر، بدلاً من مطالبة الأداة بإكمال كل الحقول. الفراغ المعلن قابل للإصلاح، أما التفصيل المختلق فقد يمر لأنه يبدو مكتملاً.

بعد وصول الإجابة، استخرج قائمة الادعاءات المهمة. لا تحتاج إلى تحويل كل حرف إلى ملف تحقيق؛ ابدأ بالأسماء والتواريخ والأرقام والاقتباسات والعلاقات السببية. اسأل عن كل عنصر: ماذا سيحدث لو كان خاطئاً؟ هل يعتمد عليه الاستنتاج الرئيسي؟ هل سيؤثر في سمعة شخص أو في قرار قارئ؟ هذه الأسئلة ترتب الأولويات دون أن تحول المراجعة إلى نشاط عشوائي يبدأ بأيسر ما يمكن فحصه ويترك أهمه.

افتح المصادر بنفسك أو ضمن إجراء يمكن مراقبته، واقرأ المقطع مع ما قبله وما بعده. لا يكفي أن ترى عنواناً يشبه الموضوع. اكتب بجوار كل ادعاء ما يثبته المصدر فعلاً، وما يبقى استنتاجاً. إذا وجدت خلافاً بين مصدرين، لا تختر الأكثر ملاءمة للنص قبل فهم تاريخيهما وتعريفاتهما وطبيعة الأدلة فيهما. أحياناً لا يكون الخلاف تناقضاً؛ قد يكون كل مصدر يجيب عن سؤال مختلف.

وعندما تطلب التصحيح، لا تطلب مجرد اعتذار. حدد العنصر غير المسند، واطلب حذفه أو استبداله بما يمكن توثيقه. ثم افحص النسخة الجديدة، لأن تغيير الفقرة قد ينقل الخطأ إلى موضع آخر أو يغير معنى الخلاصة. في مثال المحرر الأول، لا يكون النجاح الحصول على اقتباس بديل سريع، بل منع نشر نسبة لا أصل لها، ولو انتهت الفقرة بلا اقتباس مشهور.

يمكن أيضاً أن تستخدم المساعد في توليد أسئلة مراجعة بدلاً من استخدامه قاضياً نهائياً. اطلب منه اقتراح الافتراضات الخفية، أو تمييز الواقعة من الاستنتاج، أو تحديد ما قد يحتاج تحديثاً. ثم تعامل مع هذه الملاحظات كقائمة فحص قابلة للنقاش. هذه طريقة تمنح الأداة دوراً مفيداً دون أن تجعل مخرجاتها المصدر الوحيد للحكم على مخرجاتها. وهي توصية عملية من المقالة، لا نتيجة تجربة تثبت فاعليتها لكل مستخدم.

في المؤسسة، يفيد تحديد من يملك قرار النشر ومن يتحقق من الإحالات. عبارة «كتبها الذكاء الاصطناعي» لا تخبر القارئ من راجعها. ويمكن لسجل بسيط أن يوضح المصدر وتاريخ الاطلاع والتعديل، وأن يمنع إعادة إدخال عبارة حذفت لضعف سندها. لا يلزم نظام معقد لكل فقرة؛ يلزم مسار مفهوم يستطيع شخص آخر تتبعه عندما يظهر سؤال أو اعتراض بعد النشر.

ولا ينبغي أن تتحول معرفة حدود النماذج إلى ذريعة لعدم التعلم. فكلما فهم المستخدم موضوعه استطاع طرح أسئلة أدق ورؤية تفاصيل لا ينتبه إليها المبتدئ. لكن المعرفة السابقة نفسها تحتاج إلى استعداد للمراجعة. قد يكون اعتراضنا على جواب صحيح ناشئاً عن معلومة قديمة نحملها نحن. لذلك لا يكون المعيار أن ينتصر الإنسان على الآلة، بل أن تتحسن النتيجة عندما نعرض القول والدليل على فحص مشترك.

ومن المفيد أن نترك في نهاية العمل سؤالاً مفتوحاً واحداً على الأقل: ما الذي لو ظهر لتغيرت هذه الخلاصة؟ إذا لم نجد جواباً، فربما صغنا كلاماً يصعب اختباره أو بالغنا في عموميته. أما إذا عرفنا الوثيقة المفقودة أو المقارنة اللازمة، فقد تحول نقص المعرفة إلى خطوة بحث واضحة. بهذه الطريقة يصبح عدم اليقين معلومة تساعد على العمل، بدلاً من اعتباره عيباً يجب إخفاؤه داخل النص.

تجربة تحريرية صغيرة

يمكن للقارئ تجربة ذلك على مادة غير حساسة يعرف أصلها: اختر فقرة من كتاب متاح، واطلب تلخيصها في خمس جمل من دون إضافة معلومات خارجية. ثم ضع كل جملة مولدة أمام العبارة التي تسندها في الأصل. إذا لم تجد سنداً، اسأل هل هي استنتاج معقول أم إضافة غير مطلوبة. الهدف ليس حساب معدل خطأ علمي من مثال واحد، بل التدرب على رؤية الانتقال بين النص والتأويل.

في خطوة ثانية، اطلب من المساعد اقتراح عنوان جذاب للفقرة نفسها. ستلاحظ أن معيار المراجعة تغير: لم تعد تبحث عن تطابق كل كلمة مع المصدر، بل عن عنوان لا يوهم القارئ بما لا يقوله النص. عنوان يعد بكشف سبب قاطع، بينما الفقرة تطرح احتمالاً، يغير مستوى اليقين حتى إن لم يخترع اسماً أو رقماً. لذلك تشمل المراجعة الوعود التي تصنعها الصياغة، لا الوقائع المنفردة فقط.

احتفظ بالنسختين وبملاحظاتك، ثم حدد موضعاً واحداً حسنت فيه تعليمات المهمة النتيجة وموضعاً بقي يحتاج إلى حكمك. لا تعمم هذه التجربة على جميع الأنظمة، ولا تحول نجاحها مرة إلى إعفاء دائم من الفحص. فائدتها تعليمية: تمنحك مثالاً ملموساً على ما تقبله من الأداة وما تطلب مراجعته، وتجعل النقاش عن الثقة أقرب إلى إجراء واضح من انطباع عام.

في ضوء القرآن والحكمة الإسلامية

تنتقل المسألة هنا من وصف أداء الأداة إلى مسؤولية الإنسان الذي يستخدمها وينقل عنها. لا نقدم الآيات تفسيراً تقنياً للتدريب أو برهاناً على نموذج رياضي، ولا ننسب إلى الآلة تكليفاً أخلاقياً بشرياً. السؤال هو ما الذي يليق بنا عندما ننشر قولاً لا نعرف سنده. وفي هذا الموضع تلتقي الممارسة التحريرية مع قيمة أوسع: الأمانة في حدود ما نعلم وما نقول إننا علمناه.


القرآن الكريم، مقتطف من الإسراء: 36. نص عربي أصلي. الآية وتفسير ابن كثير.

تذكر تتمة الآية مسؤولية السمع والبصر والفؤاد، ويشرح ابن كثير النهي عن القول بلا علم. وتطبيق ذلك على المحتوى المولد اجتهاد أخلاقي في المقالة: لا أقول إنني قرأت دراسة إذا لم أقرأها، ولا أنسب عبارة إلى كتاب لم أتحقق من وجودها فيه. توفر الأداة وسيلة لإنتاج الكلام، لكنه لا يحول ما لم أتحقق منه إلى شهادة شخصية مني بأني تحققت.


القرآن الكريم، مقتطف من الحجرات: 6. نص عربي أصلي. الآية وتفسير ابن كثير.

تربط الآية التبين بتجنب إصابة قوم بجهالة والندم على الفعل. لا نستخدم وصف الفسق لتصنيف برنامج أو لإدانة كل من نقل معلومة خاطئة؛ نستلهم مسؤولية التثبت قبل بناء فعل مؤذ على خبر. وحين يكون النص متعلقاً بأشخاص حقيقيين، فإن التصحيح ليس مسألة شكلية تخص جودة الصفحة وحدها. قد تكون الدقة حقاً لمن يتحدث النص عنه، وحقاً لمن سيعتمد عليه.

وتشمل الأمانة الاعتراف بالتصحيح إذا ظهر الخطأ. لا تكفي إزالة العبارة في الخفاء دائماً عندما يكون جمهور قد تلقاها وبنى عليها حكماً؛ يقدر الناشر وسيلة تصحيح مناسبة لحجم الضرر وسياق النشر. هذه توصية أخلاقية عامة، وليست فتوى في حالة محددة. ومبدؤها أن المحافظة على صورة الكاتب العارف أقل قيمة من رد القارئ إلى معلومة أصح حين يتبين نقصها.

خلاصة: جواب نستطيع مساءلته

يعود المحرر في المشهد المتخيل إلى فقرته. يحتفظ بالفكرة التي يستطيع شرحها، ويحذف الاقتباس الذي لم يجد أصله، ويضيف رابطاً إلى الكتاب الذي فتحه فعلاً. لم يفقد المساعد قيمته؛ فقد ساعده في ترتيب السؤال وصياغة النص. لكن المحرر استعاد الفرق بين أن يحصل على مسودة وأن يمتلك مادة صالحة للنشر. هذا الفرق لا يظهر دائماً في جمال الكلمات، بل في الطريق الذي يصلها بالدليل.

قد يجيب الذكاء الاصطناعي بثقة لغوية لأن إنتاج الجواب واختبار صحته ليسا العملية نفسها، ولأن بعض حوافز التعلم والتقييم لا تكافئ التوقف بما يكفي، ولأن أخطاء مختلفة قد تتشابه في مظهرها. لا تختزل هذه الأسباب كل حالة، لكنها تمنحنا أسئلة أفضل من الاكتفاء بالدهشة. الأداة النافعة لا يلزم أن تكون معصومة؛ يلزم أن نفهم حدودها، وأن نبني طريقة تكشف الخطأ وتتيح إصلاحه.

والثقة الجديرة بالبقاء ليست أن نصدق كل ما يصلنا، ولا أن نشك في كل شيء بالتساوي. إنها أن نعرف أين نطلب دليلاً إضافياً، ومتى نقبل جواباً محدوداً، ومتى يكون الامتناع أكثر نفعاً من تفصيل جميل. يمكن لعبارة «لم أتحقق بعد» أن تحفظ مكاناً للحقيقة لا يحفظه جواب كامل. وحين يصبح هذا المكان جزءاً من العمل، تتقدم المعرفة على الرغبة في إغلاق السؤال بسرعة.

  • أي جزء من آخر جواب استخدمته تحققت منه خارج المحادثة؟
  • هل تعاملت مع تكرار الإجابة كأنه تعدد مصادر مستقلة؟
  • ما التفصيل الذي تستطيع تركه فارغاً بدلاً من ملئه بالتخمين؟
  • أين تحتاج في عملك إلى قاعدة واضحة للتوقف أو طلب دليل إضافي؟
دليل المفاهيم · 6 مفاهيم

الهلوسة

تسمية تقنية شائعة لمخرجات خاطئة أو غير مسندة؛ لا تعني تجربة إدراكية بشرية، وتضم آليات متعددة.

توسّع في المفهومالمصدر

الاتساق

توافق الإجابات في مضمونها؛ قد يساعد اختلافها في كشف الخطأ، لكن توافقها لا يثبت الصحة.

توسّع في المفهومالمصدر

الإنتروبيا الدلالية

تقدير عدم اليقين بين معاني الإجابات، بعد تجميع الصياغات التي تؤدي المعنى نفسه.

توسّع في المفهومالمصدر

التوليد المعزز بالاسترجاع

توليد يستعين بمادة مسترجعة من مصدر خارجي إلى جانب ما تعلمه النموذج؛ لا يعفي من فحص الإسناد.

توسّع في المفهومالمصدر

الامتناع عن الإجابة

ترك جواب غير مسند أو إعلان عدم اليقين بدلاً من التخمين؛ تتأثر قيمته بطريقة التقييم.

توسّع في المفهومالمصدر

التبين

فحص الخبر قبل بناء الحكم والفعل عليه؛ تطبيقه على النشر المولد اجتهاد أخلاقي، لا تفسير تقني للآية.

توسّع في المفهومالمصدر
المراجع والمصادر · 7
  1. لويس وزملاؤه، Retrieval-Augmented Generation، NeurIPS2020
  2. كالاي وناخوم وفيمبالا وتشانغ، Why Language Models Hallucinate،2025
  3. ماناكول وليوسي وغيلز، SelfCheckGPT،EMNLP2023
  4. فاركوهار وكوسن وكوهن وغال، شرح المؤلفين لبحث الإنتروبيا الدلالية، أكسفورد2024
  5. لين وهيلتون وإيفانز، TruthfulQA،ACL2022
  6. القرآن الكريم، الإسراء36 وتفسير ابن كثير — جامعة الملك سعود
  7. القرآن الكريم، الحجرات6 وتفسير ابن كثير — جامعة الملك سعود
احفظ تقدمك بحسابك
مساحة لا يراها سواك

أسئلة تبقى معك

اكتب إن رغبت. إجاباتك خاصة، ولا تدخل في التقييم أو شروط إكمال القراءة.

سجّل الدخول لحفظ التأملات
صوتك يطوّر التجربة

كيف كانت قراءتك؟

—الفائدة المعرفية / ٥
—تجربة القراءة / ٥
0 تقييمات · 0 قراءات
سجّل الدخول للمشاركة برأيك
نختلف لنتعلّم، ونسأل لنقترب

مساحة الحوار

سؤال، إضافة موثقة، أو قراءة مختلفة. نراجع التعليقات قبل ظهورها، ونحجب الإساءة والرسائل المزعجة وبيانات التواصل الشخصية.

سجّل الدخول لبدء الحوار
تستمرّ الفكرة

قراءات قريبة من سؤالك

لماذا تبدو الأخبار المتكررة أكثر صدقاً؟

متى يكون «لا أعرف» بداية المعرفة؟

من يوقّع على كلام الآلة؟