مذكرة تحليلية
يمكن أن يكون النص الذي ينتجه مساعد للذكاء الاصطناعي سلسا ومنظما وخاطئا. لذلك ليس التحقق احتياطا مبدئيا، بل هو شرط لاستعمال المحتوى. وتتوقف حدة التحقق على هذا الاستعمال، كما تقوم منهجيته على بضع عمليات مراقبة قابلة للتكرار، من الواقعة المؤرخة إلى المرجع القانوني.

المعاينة: نص متقن في ظاهره يستلزم التحقق
تنتج النماذج اللغوية النص الأكثر احتمالا بالنظر إلى التعليمة والوثائق المقدَّمة، لكنها لا تتحقق مما تؤكده. وفي هذا السياق يصنف المرجع الأمني لـOWASP الخاص بالتطبيقات القائمة على هذه النماذج المعلومات المضلِّلة ضمن المخاطر العشرة الرئيسية. كما يصف أربعة مظاهر لها: معلومات غير دقيقة من حيث الوقائع، وادعاءات غير مسنَدة، وخبرة ظاهرية لا يمتلكها النموذج، واقتراحات برمجية غير آمنة أو تستعين بمكتبات غير موجودة.
ويتفاقم الخطر بسبب الثقة المفرطة للمستعمل، الذي يأخذ محتوى دون مراقبته لأنه يبدو متقَنا. وتعد المراجع القانونية والأرقام والاقتباسات العناصر الأكثر عرضة لذلك. إذ يمكن اختلاق رقم قانون أو تاريخ أو مادة بالثقة نفسها التي تُقدَّم بها واقعة صحيحة.
التحليل: تناسب مستوى التحقق مع الاستعمال
تكفي ثلاثة مستويات من التحقق لتغطية أغلب الوضعيات:
- N1 – إعادة القراءة: استعمال داخلي دون التزام (مسودة، أو إعادة صياغة، أو تصميم)؛ قراءة نقدية للاتساق والنبرة.
- N2 – مراقبة الوقائع: محتوى يشكل أساسا لعمل أو لقرار؛ التحقق من الوقائع والأرقام والتواريخ والأسماء والمراجع لدى مصادر محددة.
- N3 – المصادقة من قِبل شخص مختص: نشر خارجي، أو التزام للمنظمة، أو قرار يخص شخصا ما؛ فحص من قِبل شخص مؤهل، مخوَّل تعديل المحتوى.
ويُحدَّد مستوى التحقق قبل الاستعمال، لا بعده. لذلك فإن المحتوى المنتَج لاستعمال داخلي والذي ينتهي به الأمر إلى النشر يتغير مستواه.
التحليل: خمس عمليات مراقبة
- الوقائع والأرقام: الرجوع إلى المصدر الأولي (نص رسمي، أو تقرير المؤسسة المصدِرة، أو قاعدة إحصائية) ورصد تاريخه؛ ولا يكفي مصدر ثانوي بالنسبة إلى رقم يُنقَل كما هو.
- المراجع القانونية: التحقق من وجود النص، ورقمه، وتاريخه، ونشره في الجريدة الرسمية أو في الجريدة الرسمية للاتحاد الأوروبي، والمادة المستشهد بها وصيغتها السارية في تاريخ الاستعمال.
- الاقتباسات: العثور على المقطع المضبوط في الوثيقة الأصلية؛ ويُسحَب كل اقتباس يتعذر العثور عليه.
- الاستدلال: إعادة إجراء الحسابات، والتأكد من أن الخلاصة تنبثق عن المقدمات ومن أن الفرضيات مصرَّح بها.
- الإغفالات: تحديد ما ينقص (استثناء، أو شرط، أو أجل، أو رأي مخالف)؛ فقد يكون الجواب صحيحا فيما يقوله ومضلِّلا فيما يسكت عنه.
بالإضافة إلى ذلك، تجرى قبل أي نشر مراقبة للسرية. إذ يجب ألا يتضمن المحتوى أي معطى شخصي ولا أي معلومة داخلية قد تكون وردت في الوثائق المقدَّمة إلى الأداة.
التحليل: الإشارة إلى مصدر المحتوى
أصبحت الشفافية بشأن استعمال الذكاء الاصطناعي مطلبا. إذ تفرض اللائحة الأوروبية بشأن الذكاء الاصطناعي على الناشرين الذين ينشرون نصا وُلِّد أو عولج بواسطة الذكاء الاصطناعي، بغرض إخبار العموم بمسائل تهم المصلحة العامة، الإشارةَ إلى ذلك. غير أن هذا الالتزام يسقط إذا خضع النص لمراقبة بشرية أو تحريرية وتحمَّل شخص ما المسؤولية التحريرية عنه (الفقرة 4 من المادة 50).
كما طلبت اللجنة الوطنية لمراقبة حماية المعطيات ذات الطابع الشخصي، في سياق العمليات الانتخابية، الإشارة إلى كل محتوى أنتجه الذكاء الاصطناعي. كذلك ستشترط سياسة الاستعمال لدى Anthropic المطبقة ابتداء من 12 نونبر 2026 الفحصَ من قِبل شخص مؤهل وإخبارَ الأشخاص المعنيين. وسيسري هذا الشرط على التوصيات المندرجة في مجالات عالية المخاطر.
الانعكاسات: توثيق التحقق وأثره
يُوثَّق التحقق بتدوين المصادر التي اطُّلع عليها، والتاريخ، والشخص الذي قام بالتحقق، والمستوى المعتمد. ويحمي هذا الأثر المنظمة، حيث تظل مسؤولة عن المحتوى الذي تنشره، أيا كانت الأداة التي أنتجته. وأخيرا يمكن للتعليمات الموجهة إلى الأداة أن تيسِّر المراقبة (طلب المصادر، والإشارة إلى مواطن عدم اليقين). لكنها لا تحل محل التحقق أبدا.
نقاط اليقظة
- تحديد مستوى التحقق قبل استعمال المحتوى.
- التحقق من كل مرجع قانوني في النص الرسمي، في صيغته السارية.
- سحب كل اقتباس أو مرجع يتعذر العثور عليه.
- إعادة إجراء الحسابات ومراقبة التواريخ.
- التأكد من عدم وجود معطيات شخصية أو معلومات داخلية قبل النشر.
- حفظ أثر المصادر التي اطُّلع عليها والشخص الذي قام بالتحقق.
المراجع
- OWASP، «LLM09:2025 Misinformation»، OWASP Top 10 for LLM Applications 2025، https://genai.owasp.org/llmrisk/llm092025-misinformation/ (صفحة اطُّلع عليها في 21 أكتوبر 2026).
- اللائحة (الاتحاد الأوروبي) 2024/1689 الصادرة عن البرلمان الأوروبي والمجلس بتاريخ 13 يونيو 2024 بشأن وضع قواعد منسَّقة تتعلق بالذكاء الاصطناعي وبتعديل اللوائح (المجموعة الأوروبية) رقم 300/2008 و(الاتحاد الأوروبي) رقم 167/2013 و(الاتحاد الأوروبي) رقم 168/2013 و(الاتحاد الأوروبي) 2018/858 و(الاتحاد الأوروبي) 2018/1139 و(الاتحاد الأوروبي) 2019/2144 والتوجيهات 2014/90/UE و(الاتحاد الأوروبي) 2016/797 و(الاتحاد الأوروبي) 2020/1828 (لائحة الذكاء الاصطناعي)، الجريدة الرسمية للاتحاد الأوروبي، السلسلة L، 2024/1689، 12 يوليوز 2024، الفقرة 4 من المادة 50.
- اللجنة الوطنية لمراقبة حماية المعطيات ذات الطابع الشخصي، «Les dix impératifs à respecter durant les opérations et les consultations électorales»، الرباط، 3 غشت 2026، https://www.cndp.ma/wp-content/uploads/2026/08/CNDP-Les-dix-imperatifs-a-respecter-durant-les-operations-electorales-Fr-20260803-1.pdf (صفحة اطُّلع عليها في 21 أكتوبر 2026).
- Anthropic، Usage Policy، الصيغة المطبقة ابتداء من 12 نونبر 2026، https://www.anthropic.com/legal/aup (صفحة اطُّلع عليها في 21 أكتوبر 2026).
انظر أيضاً: دليل – الممارسات الجيدة والسيئة للذكاء الاصطناعي التوليدي في العمل؛ مكتبة – نماذج الأوامر النصية حسب الوظيفة؛ نماذج – ميثاق استعمال الذكاء الاصطناعي (المقاولة، الجمعية، الهيئة العمومية). قسم نظم المعلومات والتحول الرقمي.
وثيقة إعلامية عامة، لا تشكل استشارة قانونية ولا رأيًا بشأن وضعية خاصة. ويتعين التحقق من المراجع القانونية في صيغتها السارية في تاريخ الاستعمال.
مكتب استشارة غير مسجَّل في جدول هيئة المحامين؛ لا تمثيل أمام المحاكم ولا أي عمل مخصَّص للمهن القانونية المنظَّمة.
