قال كريم باينة، عميد المدرسة العليا للمعلوميات والرقمنة (ESIN) بجامعة الرباط الدولية، إن أنظمة الذكاء الاصطناعي يمكن أن يتم نشرها دون فهم كامل للعمليات، حيث يتم تطوير نماذج وبرمجيات وإدخالها إلى الإنتاج، بينما لا يتحكم حتى المصمم أو المستخدم في كل ما يجري داخلها، وهو ما يخلق مخاطر كبيرة.

وأشار باينة، في ندوة وطنية نظمها المركز الوطني للتوثيق حول "من المعلومة إلى الأثر: الذكاء الاصطناعي والبيانات المفتوحة كرافعة استراتيجية" اليوم الخميس بالرباط، إلى  ضرورة التمييز بين المخاوف النفسية والمخاطر القابلة للقياس والحوادث الواقعية، مبرزا أن بعض القلق المرتبط بالذكاء الاصطناعي أصبح موضوعا لدى مختصين نفسيين.

كما توقف عند ما سماه "الجمود الثقافي"، مبرزا أن الأجيال الجديدة التي تعتمد بشكل كامل على الأدوات الرقمية قد لا تكون قادرة على التمييز بين الصحيح والخاطئ، عكس الأجيال التي تعلمت على معطيات وأساليب كلاسيكية، ما يفرض المزج بين التعليم التقليدي والتعليم الرقمي .

وتطرق أيضا إلى مخاوف سيطرة الآلة، خاصة في مجالات مثل الدفاع، حيث يصبح الخطر قائما في حال ترك الأنظمة تحدد الأهداف أو تتخذ قرارات بشكل مستقل، معتبرا أن أكبر خطر هو تفويض القرار الدفاعي للآلة بشكل كامل .

وأضاف أن التخوف من التكنولوجيا ليس جديدا، مستحضرا مواقف ظهرت مع اختراع القطار، حيث اعتقد البعض أن سرعته قد تشكل خطرا، مسجلا أن هذه المواقف تعكس ما وصفه بالنزعة الكارثية تجاه الابتكار .

ولفت إلى أن الذكاء الاصطناعي لا يتحمل المسؤولية القانونية، بل إن الإنسان هو من يتحملها، مستحضرا مثال الطيران، حيث تظل المسؤولية على الطيار رغم وجود الطيار الآلي .

كما أثار مسألة الشفافية، متسائلا عن مدى معرفة كيفية اشتغال النماذج من حيث البيانات والخوارزميات وطرق التصميم، في ظل توجهات نحو السيادة الرقمية .

وفي ما يتعلق بالأخلاقيات، دعا باينة إلى ضرورة ضمان الفاعلية البشرية والإشراف البشري، موضحا أن الإنسان يجب أن يظل صاحب القرار، وأن كل قرار للآلة يجب أن يعود إليه، مع التشديد على عدم تفويض المسؤولية للآلة .

وأوضح أن الذكاء الاصطناعي لا يصنع الانحيازات بل يضخمها، لأنها موجودة أصلا في البيانات والقرارات البشرية، مشددا على ضرورة ضمان العدالة والشفافية وبقاء الإنسان في موقع القرار .

وفي الشق القانوني، توقف عند حماية المعطيات الشخصية، مبرزا أن القانون رقم 09.08 المتعلق بحماية الأشخاص الذاتيين تجاه معالجة المعطيات ذات الطابع الشخصي يميز بين المعطيات العادية والمعطيات الحساسة، التي تشمل المعطيات الصحية والسياسية والدينية والبيومترية، مشيرا إلى أن الصوت وطريقة المشي وسلوكيات أخرى تعد معطيات بيومترية يمكن استغلالها، خاصة في تقنيات التزييف .

كما حذر من مخاطر "تسميم البيانات"، حيث يمكن إدخال تغييرات طفيفة غير مرئية تؤدي إلى نتائج خاطئة، خصوصا في المجالات الحساسة مثل الطب، لافتا إلى أن الهجمات الحديثة لم تعد تستهدف سرقة البيانات فقط، بل تعديلها للتأثير على قرارات الخوارزميات .

وخلص باينة إلى أنه يجب على الإنسان أن يظل في موقع التحكم، من خلال التدخل المباشر أو عند الحاجة أو عبر وضع الاستراتيجيات، مع القدرة على إيقاف الأنظمة في أي لحظة.