كيف تتحقق من إجابة الذكاء الاصطناعي في خمس دقائق

أخطر ما في إجابات الذكاء الاصطناعي ليس أنها غالبًا ما تكون خاطئة، بل أن الإجابة الخاطئة تأتي بالنبرة الواثقة والمنظمة نفسها تمامًا التي تأتي بها الإجابة الصحيحة.

القضية التي يعرفها الآن كل من يعمل في المجال القانوني هي Mata v. Avianca. في عام 2023، قدم محامون في قضية اتحادية بنيويورك مذكرة استشهدت بقرارات قضائية اختلقها ChatGPT، مع اقتباسات مزيفة أيضًا. وعندما سألوه عما إذا كانت القضايا حقيقية، أكد لهم ChatGPT أنها «موجودة بالفعل» ويمكن العثور عليها في قواعد البيانات القانونية. لكنها لم تكن موجودة. وفي يونيو 2023، فرض Judge P. Kevin Castel غرامة قدرها $5,000 على المحامين ومكتبهم.

تحسنت الأدوات كثيرًا منذ ذلك الحين، لكن الدرس لم يتغير: لا يمكنك أن تطلب من النموذج أن يشهد لنفسه. يعرض هذا الدليل الخطوات التي أوصي بها للتحقق من إجابة الذكاء الاصطناعي قبل الاعتماد عليها. تستغرق نحو خمس دقائق وتكشف معظم المشكلات.

لماذا تخطئ إجابات الذكاء الاصطناعي

إن معرفة كيفية حدوث الأخطاء تساعدك على تحديد مواضع البحث.

• المعقول ظاهريًا يتغلب على الصحيح. تنتج النماذج اللغوية نصوصًا تناسب الأنماط التي تعلمتها. وعندما لا تعرف شيئًا، قد تنتج كلامًا يبدو صحيحًا فحسب بدلًا من أن تقول «لا أعرف».
• المعلومات تصبح قديمة. قد لا يعرف النموذج الأحداث الأخيرة ما لم يبحث في الويب، وحتى عند البحث قد يعود إلى معلومات أقدم.
• المصادر تختلط. قد تندمج دراستان، أو شخصان متشابها الاسمين، أو نسختان من سياسة ما في جملة واحدة واثقة.
• المراجع تُختلق أو تُقرأ خطأً. قد لا يكون الرابط موجودًا، أو قد يقود إلى صفحة غير ذات صلة، أو يقول شيئًا مختلفًا عما ورد في الملخص المبني عليه.
• الأرقام تتغير. تتركز الأخطاء في النسب المئوية والتواريخ والوحدات والعملات.

أصبحت المساعدات التي تبحث في الويب وتعرض مصادرها أفضل بكثير مما كانت عليه قبل بضع سنوات. لكنها لا تزال ترتكب جميع هذه الأخطاء من حين إلى آخر.

حدد أولًا مقدار التحقق المطلوب

لا تحتاج كل إجابة إلى الدرجة نفسها من التدقيق. اجعل الجهد متناسبًا مع أهمية الأمر.

الأهمية	أمثلة	ما ينبغي فعله
منخفضة	اقتراح أسماء، أو إعادة صياغة بريد إلكتروني، أو شرح مفهوم ستدرسه على أي حال	اقرأ بعين ناقدة. لا حاجة إلى تحقق رسمي
متوسطة	حقائق في مستند عمل، أو ملخص ستشاركه، أو تعليمات ستتبعها	أجرِ التحقق الذي يستغرق خمس دقائق أدناه
عالية	قرارات الصحة أو القانون أو المال أو السلامة؛ وكل ما ستنشره	أجرِ التحقق، ثم أكد المعلومات بمصادر أولية أو لدى مختص مؤهل

التحقق في خمس دقائق

الدقيقة الأولى: أدرج الادعاءات

تصفح الإجابة سريعًا واستخرج الأمور المحددة التي يمكنك التحقق منها: الأسماء والأرقام والتواريخ والاقتباسات والمراجع وعبارات السبب والنتيجة مثل «أدى X إلى Y». تجاهل النص الرابط. تستند معظم الإجابات إلى ثلاثة إلى ستة ادعاءات، وهي ما تحتاج إلى التحقق منه.

إذا لم تجد ادعاءً واحدًا يمكن التحقق منه، فانتبه إلى ذلك أيضًا. يصعب إثبات خطأ الإجابات المبهمة، لكن يصعب الاعتماد عليها كذلك.

الدقيقة الثانية: افتح كل مصدر

إذا ذكر المساعد مصادر، فانقر على كل واحد منها. اطرح ثلاثة أسئلة عن كل مصدر: هل الصفحة موجودة؟ هل هي من نوع المصدر المعلن عنه، مثل صفحة رسمية أو دراسة أو وسيلة إعلام موثوقة، وليست مزرعة محتوى؟ وهل تقول فعلًا ما تزعم الإجابة أنها تقوله؟

يكشف السؤال الأخير معظم الأخطاء. فمن الناحية العملية، يكون اقتران مصدر حقيقي بملخص خاطئ أكثر شيوعًا بكثير من وجود رابط مزيف، كما يسهل تفويته لأن الرابط يبدو سليمًا.

إذا لم توجد مصادر، فاطلبها وتحقق منها. لكن لا تقبل قول النموذج وحده إن مصادره حقيقية. فهذا بالضبط ما حدث خطأً في Mata v. Avianca.

الدقيقة الثالثة: اقرأ قراءة جانبية

لا يحكم مدققو الحقائق على مصدر بمجرد قراءته بعناية. بل يفتحون علامة تبويب جديدة وينظرون فيما يقوله الآخرون عنه. وقد حوّل الباحث في الثقافة الرقمية Mike Caulfield ذلك إلى منهج يسمى SIFT:

• توقف قبل أن تتفاعل أو تشارك، خصوصًا إذا أثار الادعاء لديك موجة غضب أو فرح.
• تحقق من المصدر. من يقف وراءه، وبماذا يُعرف؟
• ابحث عن تغطية أفضل. هل تنقل مصادر أخرى موثوقة الخبر نفسه؟
• تتبع الادعاءات إلى سياقها الأصلي: الدراسة الفعلية، والاقتباس الكامل، والصورة الأصلية.

غالبًا ما يؤدي البحث عن العبارة الأساسية بين علامتي اقتباس، أو عن اسم مع كلمة مفتاحية، إلى العثور على الأصل في ثوانٍ.

الدقيقة الرابعة: تحقق من الأرقام والتواريخ

دقق في كل رقم.

• هل هو حديث؟ ابحث عن تاريخ يبين الفترة التي تنطبق عليها المعلومة. تتغير الأسعار والقوانين وخصائص المنتجات والإحصاءات باستمرار.
• هل هو المقياس الصحيح؟ يختلط الإيراد بالربح، وعدد المستخدمين بعدد المستخدمين النشطين شهريًا، والنسبة المئوية بالنقاط المئوية.
• هل الحساب صحيح؟ إذا قيل إن شيئًا «تضاعف» من 40 إلى 70، فهذا غير صحيح.
• هل الوحدات صحيحة؟ انتبه إلى العملات، والملايين مقابل المليارات، والنظام المتري مقابل النظام الإمبراطوري.

الدقيقة الخامسة: اسأل عما قد يغير الإجابة

اطلب من المساعد أن يبحث عن الثغرات في إجابته. مثلًا: «ما أجزاء إجابتك التي أنت أقل ثقة بها، وما الذي أحتاج إلى التحقق منه لتأكيدها؟»

يكشف هذا غالبًا نقاط الضعف بسرعة. لكن تعامل مع الرد على أنه قائمة مهام، لا تحققًا من الصحة. فالنموذج لا يزال يصحح واجبه بنفسه. في الأمور المهمة، يُعد طرح السؤال نفسه على نموذج من مزود آخر طريقة قليلة التكلفة للحصول على رأي ثانٍ؛ ويشرح دليلنا عن كيفية اختيار نموذج ذكاء اصطناعي متى يستحق الأمر الحصول على رأي ثانٍ.

علامات تحذير تستحق نظرة ثانية

علامة التحذير	لماذا تهم
أرقام شديدة الدقة بلا مصدر	يمكن اختلاق الدقة بسهولة مثل أي شيء آخر
اقتباسات لشخصيات مشهورة	تنتشر الاقتباسات المنسوبة خطأً في بيانات التدريب
مراجع بعناوين عامة أو روابط تقود إلى صفحة رئيسية	علامات شائعة على مرجع غير موجود
أوصاف مفصلة لأحداث حديثة من أداة لا تصل إلى الويب	قد تكون تسد الثغرات بمعلومات أقدم
إجابة تتغير عند إعادة توليدها	النموذج غير متأكد، حتى لو بدت كل نسخة واثقة
إجابة تقول بالضبط ما كنت تأمل سماعه	تميل النماذج إلى مجاراة طريقة صياغة السؤال

العلامة الأخيرة هي الأكثر خفاءً. إذا سألت «لماذا تُعد X فكرة جيدة؟»، فستحصل عادةً على أسباب تجعل X فكرة جيدة. اسأل بدلًا من ذلك: «ما أقوى الحجج المؤيدة لـ X والمعارضة لها؟»

حالات خاصة

الصور ولقطات الشاشة والفيديو

أصبحت الصور المولدة والمعدلة بالذكاء الاصطناعي أمرًا معتادًا، ولا يستغرق تزوير لقطة شاشة لـ«منشور» سوى ثوانٍ. أجرِ بحثًا عكسيًا عن الصورة للعثور على نسخ سابقة وسياقها الأصلي. تحقق مما إذا كان الملف يحمل Content Credentials، وهو معيار توثيق المنشأ الذي وضعه تحالف C2PA وتضيفه بعض الكاميرات وتطبيقات التحرير ومولدات الذكاء الاصطناعي إلى الصور.

بدأت القوانين تساعد في ذلك. فمنذ 2 أغسطس 2026، تلزم قواعد الشفافية في EU AI Act مزودي أنظمة الذكاء الاصطناعي التوليدي بتمييز المحتوى الاصطناعي بطريقة تقرؤها الآلات، وتلزم ناشري محتوى التزييف العميق بالإفصاح عنه. ولدى الأنظمة التي كانت مطروحة في السوق قبل 2 أغسطس مهلة حتى 2 ديسمبر 2026 لإضافة العلامة. يشرح مقالنا عن قواعد الاتحاد الأوروبي لوسم محتوى الذكاء الاصطناعي التفاصيل. وقد تظل العلامات غائبة أو تُزال، لذا اعتبر غيابها مؤشرًا على أن الأمر «غير معروف»، لا أنه «حقيقي».

الصحة والقانون والمال

استخدم الذكاء الاصطناعي لفهم وضعك وإعداد أسئلة أفضل، لا لاتخاذ القرار النهائي. أكد كل ما ستتصرف بناءً عليه بالرجوع إلى مصدر أولي، مثل صفحة حكومية رسمية أو النص الفعلي لقانون أو سياسة، أو بالاستعانة بمختص مؤهل.

الأخبار العاجلة

غالبًا ما تخطئ التقارير الأولى، وترث ملخصات الذكاء الاصطناعي تلك الأخطاء. في الأخبار سريعة التطور، انتظر التأكيد من عدة وسائل إعلام راسخة، أو ارجع إليها مباشرة.

اطلب إجابات يسهل التحقق منها

يمكنك توفير الوقت بطلب إجابة قابلة للتحقق منذ البداية:

• «اذكر مصدرًا لكل ادعاء يتعلق بحقيقة، مع رابط مباشر واقتباس قصير من الصفحة.»
• «افصل بين ما ثبت جيدًا وما هو غير مؤكد أو محل خلاف.»
• «اذكر التاريخ الذي يتعلق به كل إحصاء.»
• «إذا كنت لا تعرف، فقل ذلك بدلًا من التخمين.»

لا يضمن أي من هذه الطلبات الدقة، لكن كلًا منها يجعل اكتشاف المشكلات أسهل. وإذا كنت تلصق مستندات ليقارن النموذج إجابته بها، فاحذف منها أولًا أي معلومات حساسة. يوضح دليلنا عن استخدام الذكاء الاصطناعي في العمل دون تسريب بيانات حساسة ما ينبغي استبعاده.

العادة الأهم

إذا خرجت بفكرة واحدة من هذا الدليل، فلتكن هذه: افتح المصادر. كان من الممكن اكتشاف معظم أخطاء الذكاء الاصطناعي التي تسبب ضررًا حقيقيًا لو أن شخصًا فتح الرابط وقرأ الصفحة.

تنطبق القاعدة نفسها عندما يقدم وكيل ذكاء اصطناعي تقريرًا عن عمل أداه لك. عبارة «اكتملت المهمة» ادعاء وليست دليلًا. يشرح دليلنا عن ماهية وكيل الذكاء الاصطناعي سبب ازدياد أهمية ذلك مع تولي الوكلاء مهام أطول.

المصادر

• LawNext، Court imposes sanctions on lawyers who filed bogus cases after relying on ChatGPT for legal research، 22 يونيو 2023
• Wikipedia، Mata v. Avianca, Inc.
• Mike Caulfield، SIFT (The Four Moves)، 19 يونيو 2019
• C2PA، التحالف من أجل مصدر المحتوى وأصالته
• European Commission، Guidelines on transparency obligations for providers and deployers of certain AI systems
• Morgan Lewis، EU AI Act’s transparency rules: what went into effect on 2 August، أغسطس 2026