أمن استعمالات الذكاء الاصطناعي

عمليات المراقبة في قائمة تحقق أمن استعمالات الذكاء الاصطناعي

• الحسابات والولوج: لا سيما الجرد، والتحقق من الهوية بعاملين، وسحب صلاحيات الولوج عند المغادرة.
• المعطيات: على وجه الخصوص المعطيات الممنوع إدخالها، وشروط كل أداة، وعقد المعالجة.
• الوثائق والتعليمات المخفية: لا سيما المحتويات الخارجية المعامَلة كمادة للتحليل.
• الإضافات والموصلات: على وجه الخصوص الترخيص المسبق وحصر صلاحيات الولوج في الضروري.
• الإجراءات المؤتمتة: مصادقة بشرية قبل أي إرسال أو أداء أو حذف؛ قابلية التتبع.
• الحوادث: شخص معيَّن، وسجل، والتزامات القانونين رقم 09.08 ورقم 05.20.
• وأخيراً، المراجع المغربية وبطاقات OWASP حول حقن التعليمات.

متى تُطبَّق قائمة تحقق أمن استعمالات الذكاء الاصطناعي

تُستعمل قائمة التحقق أولاً قبل فتح أداة للذكاء الاصطناعي أمام الفرق. ويتعيّن استعمالها كذلك عند تثبيت إضافة أو موصل. علاوة على ذلك، ترافق افتحاصاً أمنياً أو معالجة حادث.

ومن أبرز المستهدفين بها مسؤولو المعلوميات ومسؤولو أمن نظم المعلومات. كما يعني الأمر مندوبي حماية المعطيات. وهكذا تكمّل قائمة التحقق دليل الممارسات الجيدة الموجه إلى المستعملين.

البطاقة التقنية

الحدود

لا تحل قائمة التحقق محل سياسة الأمن الخاصة بالمنظمة. وبالمثل، لا تغني عن تحليل للمخاطر خاص بكل أداة.

للتعمق: الذكاء الاصطناعي والمعطيات الشخصية في المغرب؛ بطاقة OWASP حول حقن التعليمات.