مذكرة تحليلية
تتكاثر عروض «وكلاء الذكاء الاصطناعي» الموجهة إلى المقاولات الصغيرة. إلا أن أغلبها يقوم على نموذج لغوي تؤطره تعليمات ويرتبط ببضع أدوات، وفق تسلسل محدد مسبقا. وليس التمييز بين مسار مؤتمت ووكيل يقرر بنفسه أفعاله نقاشا اصطلاحيا: إذ إنه يحدد المخاطر، ومستوى المراقبة، والسعر المبرَّر.

المعاينة: ما يشمله مصطلح وكلاء الذكاء الاصطناعي
يشمل مصطلح «الوكيل» حقائق مختلفة. فقد يتعلق الأمر بمساعد محادثة مزوَّد بتعليمات، أو بتسلسل مؤتمت لمهام (قراءة رسالة إلكترونية، واستخراج معلومات منها، وتحرير جواب). كما قد يتعلق بنظام قادر على أن يختار بنفسه المراحل والأدوات لبلوغ هدف ما. غير أن العروض التجارية كثيرا ما تستعمل الكلمة نفسها للحالات الثلاث.
وتعرِّف اللائحة الأوروبية بشأن الذكاء الاصطناعي نظام الذكاء الاصطناعي بأنه نظام مؤتمت مصمَّم للاشتغال بمستويات مختلفة من الاستقلالية. ويمكن أن يُبدي هذا النظام قدرة على التكيف بعد نشره. كما يستنتج هذا النظام، لأهداف صريحة أو ضمنية، من المُدخَلات التي يتلقاها كيفية توليد مُخرَجات، من قبيل التوقعات أو المحتوى أو التوصيات أو القرارات. ويمكن أن تؤثر هذه المُخرَجات في البيئات المادية أو الافتراضية (المادة 3، البند 1). والاستقلالية فيه إذن مسألة درجة، لا صنف قائم بذاته.
التحليل: وكلاء الذكاء الاصطناعي والمسارات المحددة مسبقا
يميز مطوِّر نماذج، في منشور تقني صادر في دجنبر 2024، بين مسارات العمل والوكلاء. ففي مسارات العمل، تُنسَّق النماذج والأدوات وفق مسارات برمجية محددة مسبقا، في حين يوجِّه النموذج بنفسه لدى الوكلاء مساره واستعمال الأدوات. ويوصي باعتماد الحل الأبسط الذي يستجيب للحاجة وعدم إضافة الاستقلالية إلا عندما لا تكفي حلول أبسط.
وبالنسبة إلى المقاولات الصغيرة جدا والصغرى والمتوسطة، تندرج أغلب الحاجيات المعبَّر عنها ضمن المسار المحدد مسبقا. ومن هذه الحاجيات مثلا فرز البريد، وإعداد عروض الأسعار، والرد على الأسئلة المتكررة، والنشر على شبكات التواصل الاجتماعي. ولا يشكل ذلك نقطة ضعف، إذ إن المسار المحدد مسبقا أكثر قابلية للتوقع، وأسهل في التحقق، وأقل كلفة من وكيل مستقل.
التحليل: المخاطر الخاصة بالاستقلالية
يطلق المرجع الأمني لـOWASP الخاص بالتطبيقات القائمة على النماذج اللغوية اسم «الوكالة المفرطة» على الثغرة التي تتيح أفعالا ضارة. وتنشأ هذه الأفعال انطلاقا من مُخرَجات غير متوقعة أو ملتبسة أو متلاعَب بها. كما يحدد لها ثلاثة أسباب: وظائف مفرطة، وصلاحيات مفرطة، واستقلالية مفرطة، بسبب غياب المصادقة على الأفعال ذات الأثر الكبير.
ويمكن مثلا للوكيل الذي يقرأ رسائل إلكترونية أو وثائق أن يتلقى، ضمن هذه المحتويات، تعليمات مخفية تهدف إلى تحويل وجهته. فإذا كان يتوفر على صلاحية إرسال رسائل أو تعديل ملفات أو إصدار طلبيات، لم يعد الضرر جوابا خاطئا، بل فعلا منفَّذا باسم المقاولة.
الانعكاسات: قراءة عرض ما من عروض وكلاء الذكاء الاصطناعي
تتيح خمسة أسئلة تكييف عرض ما من عروض وكلاء الذكاء الاصطناعي قبل أي التزام:
- ما الأفعال التي يمكن للنظام تنفيذها دون مصادقة بشرية، وعلى أي أنظمة؟
- هل التسلسل محدد مسبقا أم أن النموذج يختار بنفسه مراحله؟
- ما المعطيات التي تُرسَل، وإلى أي مطوِّر نماذج، وأين تُعالَج؟
- ما الآثار التي تُحفظ عن الأفعال وأسبابها؟
- كيف يُوقَف النظام أو يُصحَّح أو يُحيَّن عندما تتغير التعليمات أو النموذج؟
وعليه فإن العرض الذي لا يتيح الإجابة عن هذه الأسئلة يبيع وعدا لا خدمة. كما يُبرَّر السعر بعمل التأطير (التعليمات، والنطاق، والمراقبات، والآثار)، لا بكلمة «وكيل».
نقاط اليقظة
- اشتراط لائحة الأفعال القابلة للتنفيذ دون مصادقة بشرية.
- حصر صلاحيات النظام في الوظائف الضرورية وحدها.
- إخضاع كل فعل ذي أثر خارجي لمصادقة بشرية: الإرسال، والأداء، والنشر، والحذف.
- التحقق من مكان معالجة المعطيات المرسَلة إلى النموذج.
- حفظ أثر للأفعال المنفَّذة وللتعليمات المطبَّقة.
المراجع
- اللائحة (الاتحاد الأوروبي) 2024/1689 الصادرة عن البرلمان الأوروبي والمجلس بتاريخ 13 يونيو 2024 بشأن وضع قواعد منسَّقة تتعلق بالذكاء الاصطناعي وبتعديل اللوائح (المجموعة الأوروبية) رقم 300/2008 و(الاتحاد الأوروبي) رقم 167/2013 و(الاتحاد الأوروبي) رقم 168/2013 و(الاتحاد الأوروبي) 2018/858 و(الاتحاد الأوروبي) 2018/1139 و(الاتحاد الأوروبي) 2019/2144 والتوجيهات 2014/90/UE و(الاتحاد الأوروبي) 2016/797 و(الاتحاد الأوروبي) 2020/1828 (لائحة الذكاء الاصطناعي)، الجريدة الرسمية للاتحاد الأوروبي، السلسلة L، 2024/1689، 12 يوليوز 2024، المادة 3، البند 1.
- Anthropic، «Building effective agents»، 19 دجنبر 2024، https://www.anthropic.com/engineering/building-effective-agents (صفحة اطُّلع عليها في 21 أكتوبر 2026).
- OWASP، «LLM06:2025 Excessive Agency»، OWASP Top 10 for LLM Applications 2025، https://genai.owasp.org/llmrisk/llm062025-excessive-agency/ (صفحة اطُّلع عليها في 21 أكتوبر 2026).
انظر أيضاً: دليل – إعداد مساعد للذكاء الاصطناعي؛ قائمة تحقق – أمن استعمالات الذكاء الاصطناعي؛ شبكة – تقييم مزوِّد للذكاء الاصطناعي. قسم نظم المعلومات والتحول الرقمي.
وثيقة إعلامية عامة، لا تشكل استشارة قانونية ولا رأيًا بشأن وضعية خاصة. ويتعين التحقق من المراجع القانونية في صيغتها السارية في تاريخ الاستعمال.
مكتب استشارة غير مسجَّل في جدول هيئة المحامين؛ لا تمثيل أمام المحاكم ولا أي عمل مخصَّص للمهن القانونية المنظَّمة.
