هل ما زالت الـ models الأحدث والأذكى تهلوس؟

نعم — بوتيرة أقل، وهذا تحديدًا ما يجعل التعامل معها أصعب. الـ model الذي يخطئ مرّة من كل عشرين يدرّبك على التوقّف عن المراجعة أكثر بكثير من الذي يخطئ مرّة من كل ثلاث. معدّل الخطأ ينخفض لكن *نمط* الخطأ لم يتغيّر: إجابة سلسة وواثقة وحسنة التنسيق، بلا أي فارق ظاهر بين الصحيحة والخاطئة. الـ models الأفضل ترفع أهمية التحقّق بدل أن تلغي الحاجة إليه.

هل الذنب ذنبي لأنني كتبت prompt سيّئًا؟

جزئيًا، وهذا خبر جيد، لأنه الجزء الذي تتحكّم فيه. الأسئلة الغامضة تدعو الـ model إلى ملء الفراغات بمادة تبدو معقولة، والأسئلة عن وقائع محدّدة لم تُعطَ له أصلًا هي أخطر ما يمكن أن تطلبه. لكن الـ prompt المثالي لا يلغي السلوك — بل يضيّق الفتحة فقط. الحل الموثوق ليس صياغة أفضل للسؤال، بل إعطاء الـ model المادة المصدرية الحقيقية ليعمل عليها.

ألا يكفي أن أسأله: هل أنت متأكّد؟

ليس كشبكة أمان. طلب درجة الثقة يعطيك درجة ثقة *مولَّدة* — رقمًا يبدو معقولًا أُنتج بالطريقة نفسها التي أُنتجت بها الإجابة، لا قياسًا لأي شيء. هو مفيد قليلًا في إظهار الغموض الحقيقي، وعديم القيمة كتحقّق. الشيء الوحيد الذي يفحص ادّعاءً فعلًا هو مصدر ذلك الادّعاء.

ما نوع العمل الآمن فعلًا لتسليمه؟

كل ما يحوّل فيه الـ model مادةً قدّمتها أنت، بدل أن يستدعي وقائع لم تعطها له: تلخيص مستند أرفقته، إعادة تنسيق بيانات، إعادة هيكلة ملاحظاتك، الصياغة من قالبك، الترجمة لنصّ أمامه، توليد خيارات لتختار بينها. وترتفع المخاطرة فور أن تعتمد الإجابة على معرفة لم تكن في الغرفة — أرقام بعينها، مراجع، تواريخ، أسعار، أو أسماء إعدادات في أداة ما.

لماذا يختلق الذكاء الاصطناعي الأشياء — وكيف تلتقط ذلك

أول مرّة يحدث فيها ذلك لشخص، تكون تقريبًا دائمًا في مرجع.

تطلب خلفية عن موضوع ما، فتعود إليك فقرة مرتّبة ومعها مرجع: ورقة بحثية، اسم مؤلف يبدو معقولًا، دورية علمية، سنة. تمامًا ما كنت ستقضي بعد ظهيرة كاملة في العثور عليه. تذهب لتبحث عنه، فلا تجده. لم ينتقل، وليس خلف اشتراك — إنه غير موجود. ولا شيء في الإجابة بدا مختلفًا عن الأشياء العشرة الصحيحة التي أخبرك بها الـ model قبل ساعة.

تلك الفجوة — بين شكل الناتج وبين صحّته — هي موضوع هذا الدليل كلّه. الصناعة تسمّيها هلوسة، وهي تسمية غير موفّقة قليلًا لأنها توحي بعطل. ليست عطلًا. إنها السلوك المتوقّع لهذا الشيء، وحين تفهم السبب تتوقّف عن أن تُفاجأ به وتبدأ في التصميم حوله.

ليست كذبًا، وليست عطلًا

الكذب يتطلّب معرفة الحقيقة واختيار قول شيء آخر. لا شيء في النظام يفعل ذلك. لا يوجد سجلّ داخلي للوقائع يُستشار ثم يُتجاوَز.

ما يفعله الـ language model — وهذه هي الآلية كاملة، بصدق — هو إنتاج القطعة النصية التالية الأكثر معقولية بالنظر إلى كل ما رآه. إنه نسخة بالغة التطوّر من هذه العملية الواحدة، مدرَّبة على مادة كافية بحيث يتداخل «المعقول» و«الصحيح» في معظم الأحيان. حين تسأل عن سنة توقيع معاهدة شهيرة، يكون التكملة المعقولة والتكملة الصحيحة هما السلسلة النصية نفسها، لأن تلك الواقعة وردت باتّساق في مادة التدريب.

لكن الآلية لا تملك أي وسيلة للتمييز بين الحالتين. حين تطلب مرجعًا يدعم ادّعاءً بعينه، فإن «ورقة بعنوان كهذا، لمؤلف باسم كهذا، في دورية كهذه، حول تلك السنة» تكملة بالغة المعقولية. بنيتها مطابقة تمامًا لعشرة آلاف مرجع حقيقي. لكنها فقط لا تقابل شيئًا.

الـ model لا يسترجع. هو يؤلّف. والصحّة أثر جانبي متكرّر لحسن التأليف، لا هدف العملية.

لماذا لا تخبرك الثقة بشيء

وهنا الخاصية التي تجعل هذا خطيرًا فعلًا في بيئة العمل، أكثر من معدّل الخطأ نفسه.

عند زميل بشري، يتسرّب عدم اليقين. يتحفّظ، يتباطأ، يقول «أظن أنها كانت حوالي 2019؟»، يذكر أنه غير متأكّد. وأنت قضيت حياتك كلها تقرأ هذه الإشارات دون وعي.

أما سلاسة الـ model فمنفصلة تمامًا عن دقّته. المرجع المختلق يصل بالتنسيق النظيف نفسه، والنبرة المتزنة نفسها، وهواء الكفاءة نفسه الذي يصل به المرجع الصحيح. لا توجد أي علامة فارقة. وحين يتحفّظ فعلًا، فذلك التحفّظ نصّ مولَّد هو الآخر — تحفّظ يبدو معقولًا، لا تقرير من مقياس ثقة داخلي.

ولهذا يفشل «سألاحظ حين يخطئ» كاستراتيجية. لن تلاحظ. والسبب الكامل في وقوع أشخاص أذكياء ومدقّقين في هذا الفخ هو أن الفشل غير مرئي من الخارج.

المواضع الخمسة الأشدّ خطرًا

المخاطرة ليست موزّعة بالتساوي. إنها تتجمّع، وتجمّعاتها متوقّعة بما يكفي لحفظها.

1. الأرقام المحدّدة. الأسعار، النسب، أحجام السوق، التواريخ، الأبعاد، أرقام الإصدارات. الرقم هو أعلى العناصر خطرًا في أي إجابة، لأن «رقمًا في الرتبة الصحيحة تقريبًا وفي الموضع الصحيح تقريبًا» معقول ببساطة وغير قابل للتحقّق بمجرّد النظر.

2. المراجع والمصادر والاقتباسات. كما سبق. وكذلك: اقتباسات منسوبة لأشخاص حقيقيين، أرقام صفحات، أرقام بنود، أسماء قضايا. وكلما كان المرجع أدقّ تنسيقًا، كان الاختلاق أشدّ إقناعًا.

3. الأسماء والنسبة. من أسّس ماذا، ومن قال ماذا، وأي شركة استحوذت على أي شركة. وهذا سيّئ بوجه خاص في كل ما هو متخصّص أو إقليمي أو حديث — كانت المادة أرقّ هناك، فصار للتأليف مساحة أوسع للانحراف.

4. الميزات والإعدادات التي يفترض أن تكون موجودة. اسأل كيف تنجز شيئًا في برنامج ما، وقد تحصل على مسار قائمة، أو اسم إعداد، أو خيار منطقي تمامًا وخيالي تمامًا. رأى الـ model ألف أداة فيها «Preferences ← Export ← Scheduled»، وسيبني لك واحدة. وهذه توقع التقنيين وغير التقنيين بالقدر نفسه.

5. أي شيء عن مادة لم تُعطَ له فعلًا. إذا سألت «ماذا يقول تقرير الربع الثالث عندنا عن الـ churn» دون إرفاق التقرير، فستحصل على إجابة عن الـ churn. ستكون إجابة بديعة الصياغة عن تقرير لا وجود له إلا في تلك الجملة.

لاحظ النمط عبر الخمسة: ترتفع المخاطرة بالضبط حين تعتمد الإجابة على شيء محدّد لم يكن في الغرفة.

الـ grounding: الحل الذي ينجح فعلًا

وهذا يشير مباشرة إلى الحل. لا تطلب من الـ model أن يتذكّر — أعطه المصدر واطلب منه أن يعمل عليه.

يُسمّى هذا grounding، والفارق في الموثوقية ليس طفيفًا. «ما أهم ثلاثة أسباب لـ churn عندنا؟» دعوة إلى التأليف. أما «إليك تقرير الـ churn — ما أهم ثلاثة أسباب يحدّدها، مع اقتباس السطر لكل واحد؟» فهي مهمة فهم مقروء، وهو أمر هذه الأنظمة بارعة فيه حقًا، ويمكنك التحقّق منه في عشر ثوانٍ لأنك طلبت الاقتباس.

النسخة العملية من هذا في العمل اليومي:

أرفِق الملف الفعلي أو افتحه بدل أن تصفه. أدوات مثل Claude Code Desktop تعمل على مجلد تشير إليه، ما يعني أن المستندات الحقيقية موجودة هناك — وأكبر ترقية دقّة متاحة لمعظم الناس هي ببساطة استخدام المصدر بدل الذاكرة.
اطلب اقتباسات ومواضع، لا استنتاجات فقط. «اقتبس الجملة» يحوّل ادّعاءً غير قابل للتحقّق إلى فحص من ثانيتين.
دعه يبحث حين تدعم الأداة البحث أو الاتصال بمصادر، بدل أن تطلب منه أن يتذكّر. الواقعة المستخرَجة لها رابط تضغط عليه؛ المستدعاة من الذاكرة لا.
قل له ماذا يفعل حين لا يعرف. جملة «إن لم يذكر المستند ذلك، فقل لي إنه لا يذكره» تغيّر الناتج فعلًا. إنها تمنح الـ model مسارًا مقبولًا غير الاختلاق.

وهناك نسخة أعمق من هذا الانضباط — تنسيق كل ما يستطيع الـ model رؤيته قبل أن يجيب — نغطّيها في هندسة السياق. والـ grounding هو أهم حركة منفردة فيها.

عادة الثلاثين ثانية

الـ grounding يخفض معدّل الفشل. لكنه لا يصل بك إلى الصفر، فتحتاج أيضًا إلى عادة مراجعة رخيصة بما يكفي لتلتزم بها فعلًا.

وها هي. قبل أن ترسل أو تشحن أو تتصرّف بناءً على شيء أنتجه model، مرّر عينك عليه واسأل سؤالًا واحدًا: أي أجزاء هذا ستكون محرجة لو كانت مختلقة؟

أنت لا تعيد العمل. أنت تفرز. في صفحة ناتج نموذجية، الإجابة ثلاثة أو أربعة أشياء — رقم، اسم، ادّعاء عمّا تفعله أداة ما، تاريخ. هذه تُراجَع مقابل مصدر. أما بقية الصفحة — البنية، والحجّة، والصياغة، وتلخيص مادة قدّمتها أنت — فلا تحمل خطر اختلاق يُذكر ولا تحتاج إلى ذلك.

وثلاث قواعد تجعل هذه العادة تصمد:

راجِع مقابل مصدر، لا مقابل الـ model. أن تطلب منه التحقّق من إجابته يعيد التوليد، ولا يتحقّق. تأليفان معقولان متتاليان ليسا تأكيدًا متبادلًا.
يجب أن تكون المراجعة رخيصة وإلا تجاوزتها. ولهذا فإن «اطلب الاقتباس» حركة جيدة إلى هذا الحد — إنها تحمّل التحقّق مسبقًا داخل الطلب الأصلي.
لا تدع الذكاء الاصطناعي يكون آخر فحص لأي شيء له عواقب. ما يذهب إلى عميل أو جهة تنظيمية أو مجلس إدارة أو فاتورة زبون يمرّ على إنسان كبوابة أخيرة. دائمًا. وهذا ليس انعدام ثقة بالأداة؛ إنه فقط المكان الذي تسكنه المسؤولية.

لماذا يزداد هذا أهمية كلما تحسّنت الأدوات

قد تتوقّع أن يتلاشى هذا مع تحسّن الـ models. وبمعنى ضيّق سيتلاشى — معدّل الخطأ يواصل الانخفاض. لكن المخاطرة لا تنخفض معه، وربما ترتفع، لسبب لا علاقة له بالتقنية.

الأداة التي تخطئ مرّة من كل ثلاث تبقيك متيقّظًا. أما التي تخطئ مرّة من كل خمسين فتدرّبك، عبر بضع مئات من الإجابات الصحيحة، على أن تكفّ عن النظر. ثم يقع الفشل النادر داخل سير عمل لم يبقَ فيه أي فحص. الموثوقية تآكل اليقظة أسرع مما تكسبها.

والـ agents ترفع الرهان مجدّدًا. حين كان الـ model ينتج فقرة لتقرأها، كانت الواقعة الخاطئة واقعة واحدة. أما حين يأخذ agent هدفًا وينفّذ اثنتي عشرة خطوة بنفسه — يقرأ ملفات، يستخرج أرقامًا، يبني المخرَج — فإن خطوة وسيطة مختلقة يمكن أن تُبنى عليها كل خطوة تليها في صمت. وهذا هو السبب نفسه الذي نحاجج به في الكتابة صارت رخيصة، والفهم لم يصر كذلك بأن المراجعة، لا التوليد، هي المهارة ذات الأثر الأكبر اليوم.

ما تأخذه من هذا

ليس «لا تثق بالذكاء الاصطناعي». هذا غير مفيد، وصار في هذه المرحلة غير تنافسي. التأطير المفيد أضيق وأكثر قابلية للتطبيق بكثير:

ثِق به تمامًا في مادة أعطيتها له. ولا تثق به إطلاقًا في تفاصيل لم تعطها.

تلخيص مستندك، إعادة هيكلة ملاحظاتك، الصياغة من قالبك، ترجمة ما هو أمامه، توليد خمسة خيارات لتختار بينها — كل ذلك موثوق، والمكسب في الإنتاجية حقيقي. أما استدعاء رقم أو مصدر أو اسم أو إعداد من الذاكرة، فتلك آلة التأليف تعمل بلا إشراف، وتحتاج إلى مصدر قبل أن تغادر يدك.

اجعل هذا الخط واضحًا في ذهنك وتتوقّف الهلوسة عن كونها سببًا لعدم الثقة بالفئة كلها. تصير ما هي عليه فعلًا: خاصية معروفة في أداة، لها حلّ معروف، وتكلّفك ثلاثين ثانية لكل صفحة.