المغرب يدعو لمساءلة أنظمة الذكاء الاصطناعي

دعت الوزيرة المنتدبة المكلفة بالانتقال الرقمي وإصلاح الإدارة، أمل الفلاح السغروشني، اليوم الثلاثاء خلال مشاركتها في جلسة رفيعة المستوى بجنيف ضمن الحوار العالمي حول حكامة الذكاء الاصطناعي، إلى إرساء نموذج جديد لمساءلة الأنظمة الوكيلة للذكاء الاصطناعي، معتبرة أن مسؤوليتها تمثل أحد أكبر التحديات القانونية في هذا العقد.

وأوضحت أن هذه الأنظمة تعمل عبر شبكة من وكلاء مستقلين، ما يجعل من الصعب تحديد المسؤولية عند حدوث خلل أو توزيعها بين الأطراف المعنية. وأشارت إلى أن المغرب يعالج نحو 52 مليون معاملة إدارية سنوياً، وهو ما يبرز حجم التحدي في تحديد مصدر الأخطاء بدقة.

واقترحت اعتماد مقاربة تقوم على “فك الارتباط” لإعادة بناء رسم بياني سببي غير حتمي، مع الالتزام بثلاثة محاور أساسية: توثيق سلاسل الوكلاء، تعيين مسؤول بشري واضح عن كل قرار يمس حقوق الأشخاص، وضمان الحق في انتصاف فعلي يتناسب مع سرعة الأنظمة.

وأكدت أن استقلالية الخوارزميات يجب ألا تتحول إلى استقلالية عن القانون، داعية إلى حكامة استباقية قائمة على حقوق الإنسان، وتطوير آليات عملية لتقييم المخاطر، التتبع، التدقيق، والإشراف البشري.