وكلاء الذكاء الاصطناعي يواجهون دعوات لتقييد صلاحياتهم

ناقش خبراء الأمن السيبراني، خلال جلسة بمعرض ومؤتمر القاهرة الدولي للتكنولوجيا Cairo ICT 2026، مخاطر استخدام الذكاء الاصطناعي في الهجمات، وسبل تأمين الأنظمة الذكية. ودعوا إلى ضبط صلاحيات الوكلاء الرقميين، ووضع قواعد للحوكمة والتحقق المستمر من الهوية، مع الإبقاء على الرقابة البشرية.

أبرز النقاط

• دعا خبراء الأمن السيبراني في معرض Cairo ICT 2026 إلى تقييد صلاحيات وكلاء الذكاء الاصطناعي ومنح كل وكيل هوية مستقلة والتحقق منها باستمرار.
• شدد الخبراء على تصنيف البيانات وتحديد المعلومات التي تستخدمها الأنظمة والجهات التي يمكنها الوصول إليها.
• أكدوا ضرورة وضع قواعد للحوكمة ومراجعة بشرية لنتائج الأنظمة ومتابعة أعمالها.
• قال خبراء إن أدوات الذكاء الاصطناعي جعلت الهجمات أسرع وأقل تكلفة، وصعبت اكتشاف بعض التهديدات.

وتتزايد أهمية هذه الإجراءات مع اتساع قدرات الأنظمة على الوصول إلى البيانات والتفاعل مع أنظمة متعددة وتنفيذ المهام بصورة مستقلة. ويعني ذلك أن المؤسسات مطالبة بتحديد المعلومات التي تستخدمها هذه الأنظمة والجهات التي يمكنها الوصول إليها، إلى جانب حماية البيانات من التسريب أو الاستخدام غير الآمن.

أخبار ذات صلة

جهاز شئون البيئة يناقش مع البنك الدولي تقدم مشروع تلوث الهواءراندة المنشاوي تؤكد فرص توسيع الاستثمار العقاري بين مصر وعمان

تصنيف البيانات والحوكمة

قال سامح إمام، مدير هندسة النظم في أفريقيا بشركة Forcepoint، إن مشروع قانون تصنيف البيانات قيد المناقشة في البرلمان المصري، ويستهدف تحديد أنواع المعلومات ووضع ضوابط لاستخدامها داخل أنظمة الذكاء الاصطناعي. وأكد أن التشريع لا يكفي وحده، إذ يتطلب الأمر توعية بأهمية تصنيف البيانات والتعامل معها بصورة آمنة.

وتستند أهمية التصنيف إلى اعتماد أنظمة الذكاء الاصطناعي على كميات كبيرة من المعلومات؛ فمعرفة طبيعة البيانات ومصادرها وطرق استخدامها تساعد على الحد من مخاطر تداولها على نحو غير آمن. وتصبح هذه المسألة أكثر تعقيدا مع انتقال الأنظمة من تقديم الإجابات إلى تنفيذ إجراءات والتعامل مع أدوات مختلفة.

صلاحيات وكلاء الذكاء الاصطناعي

أكد كريس كي، المدير التقني ونائب الرئيس للمملكة المتحدة والاتحاد الأوروبي بشركة CYBERTEQ، أن إدارة الوكلاء الذكيين تستلزم أساليب تتناسب مع سرعة عملهم وتعقيد المهام التي ينفذونها. وشدد على تقييد الصلاحيات، ومنح كل وكيل هوية مستقلة والتحقق منها، بما يحدد الجهة التي يعمل لحسابها والمهام المسموح بها.

ويرتبط ذلك بمفهوم الثقة الصفرية، الذي لا يمنح المستخدم أو النظام صلاحية تلقائية، بل يشترط فحص الهوية ومستوى الوصول باستمرار قبل إتاحة البيانات والأنظمة. ويطرح هذا النهج إطارا للتعامل مع الوكلاء الرقميين بدلا من افتراض موثوقيتهم بمجرد تشغيلهم.

الرقابة ومواجهة الهجمات

وأوضح شريف مختار، مدير ما قبل البيع بشركة Raya Information Technology، أن حوكمة الذكاء الاصطناعي تبدأ بتحديد المسؤوليات ووضع قواعد واضحة للاستخدام. وأشار إلى ضرورة مراجعة بشرية لنتائج الأنظمة ومتابعة أعمالها، وأن تكون حمايتها جزءا من منظومة الأمن السيبراني للمؤسسة.

وقال محمد حمدي، مدير خدمات الأمن السيبراني الموحدة بشركة Group-IB، إن أدوات الذكاء الاصطناعي جعلت الهجمات أسرع وأقل تكلفة، كما أتاحت إنتاج أنظمة ومحتويات تبدو طبيعية، ما يصعب اكتشاف التهديدات. وأضاف أن المواجهة بين المهاجمين والمدافعين لم تحسم، وأن قدرات الطرفين وطريقة تنظيم عملياتهما تؤثر في فرص النجاح.

وأشار طارق فؤاد، المدير القطري لشركة Trellix، إلى أن تطور الأنظمة وقدرتها على تحسين أدائها وتنفيذ الإجراءات يعزز الحاجة إلى تطبيق الثقة الصفرية. وتدفع هذه التحولات المؤسسات إلى مواصلة تطوير ضوابط إدارة الأنظمة الذكية بالتوازي مع تأمين البيانات ومراجعة الصلاحيات.

ماذا يعني هذا الخبر؟

بالنسبة للمؤسسات في مصر، يعني ذلك ضرورة تحديد البيانات والمهام التي يمكن لكل وكيل الوصول إليها قبل تشغيله. كما يتطلب الأمر التحقق المستمر من هويته ومراجعة أعماله بشريا.

خلفية الخبر

أشارت دراسة سابقة إلى أن 4 مؤسسات فقط اختبرت أو تدربت على حوادث وكلاء الذكاء الاصطناعي، مع محدودية رصد سلوكهم وتتبع ما ينفذونه، وأوصت باختبار سيناريوهات واقعية قبل منحهم استقلالية أكبر.

• دراسة تكشف ضعف اختبار الشركات لأخطاء وكلاء الذكاء الاصطناعي

أسئلة وأجوبة

ما الإجراءات التي دعا إليها الخبراء لإدارة وكلاء الذكاء الاصطناعي؟

دعوا إلى تقييد الصلاحيات، ومنح كل وكيل هوية مستقلة والتحقق منها، مع الإبقاء على الرقابة البشرية.

ما أهمية تصنيف البيانات؟

يساعد تحديد طبيعة البيانات ومصادرها وطرق استخدامها على الحد من مخاطر تداولها على نحو غير آمن.

كيف أثرت أدوات الذكاء الاصطناعي في الهجمات؟

جعلت الهجمات أسرع وأقل تكلفة، وأتاحت إنتاج أنظمة ومحتويات تبدو طبيعية، ما يصعب اكتشاف التهديدات.