تستمر فعاليات "رالي الذكاء الاصطناعي – مختبر المستقبل" بمرزوكة، في حدث يجعل من قلب الصحراء المغربية مختبرا مفتوحا على المستقبل، ومنصة لتلاقي الخبرات والكفاءات والطموحات، حول سؤال محوري: كيف يمكن للذكاء الاصطناعي أن يرسم ملامح مغرب الغد؟

وفي هذا الفضاء الاستثنائي، يلتقي أكثر من ألف مشارك من باحثين وخبراء ومبتكرين وشباب حاملين للمشاريع، لصياغة تصورات جديدة حول التكنولوجيا والابتكار، في تجسيد عملي لطموح وطني يسعى إلى تحويل الذكاء الاصطناعي من أداة تقنية إلى رافعة للسيادة الرقمية والتنمية المستدامة والتنافسية الدولية.

حماية المعطيات ليست عائقا أمام الابتكار 

في هذا السياق، ومع تزايد الرهانات المرتبطة بالتحول الرقمي والذكاء الاصطناعي، أكد عمر السغروشني، رئيس اللجنة الوطنية لمراقبة حماية المعطيات ذات الطابع الشخصي، من مرزوكة، أن حماية المعطيات الشخصية لم تعد مجرد مسألة قانونية أو تقنية، بل أصبحت ركيزة أساسية لبناء الثقة الرقمية وضمان نجاح التحول الرقمي والذكاء الاصطناعي والاقتصاد الرقمي.

وفي مداخلة تفاعلية استقطبت اهتمام المشاركين، أوضح عمر السغروشني، رئيس اللجنة الوطنية لمراقبة حماية المعطيات ذات الطابع الشخصي، أن القانون يشكل الإطار المنظم للعلاقات داخل المجتمع، باعتباره محددا للحقوق والواجبات، مشيراً إلى أن حماية المعطيات الشخصية يمكن تشبيهها بقواعد السير التي تضمن سلامة مستعملي الطريق.

وأضاف أن معالجة المعطيات الشخصية تستوجب بالأساس معرفة القواعد واحترامها، مؤكدا أن الهدف لا يتمثل في منع المخاطر بشكل مطلق، بل في الحد منها وضمان استعمال مسؤول وآمن للتكنولوجيا، بما يحقق التوازن بين الابتكار وحماية الحقوق.

وفي هذا الإطار، أشار رئيس اللجنة الوطنية لمراقبة حماية المعطيات ذات الطابع الشخصي إلى أن الرقمنة، مثلها مثل مختلف الابتكارات الكبرى، تفرز تحديات ومخاطر جديدة، موضحا أن احتمال وقوع حوادث رقمية، من قبيل تسريب المعطيات أو سوء استخدامها، يظل واردا في العصر الرقمي.

غير أن تكرار هذه الحوادث بشكل واسع وغير مضبوط، يضيف المتحدث، يعكس ضعف ثقافة حماية المعطيات وعدم احترام الضوابط القانونية والتنظيمية المؤطرة لها.

وأضاف أن احترام القانون يسهم في ترسيخ ثقافة جماعية قائمة على احترام الآخر وتفادي المخاطر، مؤكدا أن حماية المعطيات الشخصية لا ينبغي أن تُختزل في بعدها القانوني أو التقني فقط، بل يجب أن تُفهم باعتبارها ثقافة مجتمعية تقوم على صون حقوق الأفراد وحرياتهم داخل الفضاء الرقمي.

كما دعا رئيس اللجنة الوطنية لمراقبة حماية المعطيات ذات الطابع الشخصي إلى التعامل مع حماية المعطيات باعتبارها ركيزة للتربية الرقمية، ومدخلاً لبناء وعي جماعي يقوم على المسؤولية والثقة، موضحا أن مسألة احترام المعطيات لم تعد شأناً فردياً فقط، بل قضية مجتمعية في ظل الانتشار الواسع لاستخدامات الذكاء الاصطناعي والتقنيات الرقمية الحديثة.

وأشار إلى أن النقاش المرتبط بحماية المعطيات يظل متصلا بشكل مباشر بمستقبل الذكاء الاصطناعي، إذ إن تطوير أنظمة ذكية موثوقة ومسؤولة يمر عبر إرساء أطر قانونية وأخلاقية واضحة تضمن حماية الحقوق والحريات وتعزز ثقة المستخدمين في التكنولوجيا.

وأكد السغروشني أن احترام القوانين المنظمة لهذا المجال لا يقيد الابتكار ولا يحد من دينامية التطور الرقمي، بل يساهم في ترسيخ الثقة وتوضيح القواعد، بما يتيح بناء فضاء رقمي آمن وفعال يخدم المواطن ويواكب متطلبات التنمية.

الذكاء الاصطناعي بين الربح والأخلاق

وفي امتداد للنقاشات التي تعرفها فعاليات التظاهرة حول مستقبل الذكاء الاصطناعي وأبعاده الأخلاقية، قدم باسم بناني، المدير التنفيذي للتسويق بشمال إفريقيا لدى نوكيا، مداخلة أبرز فيها أن تقييم نجاح الذكاء الاصطناعي في المستقبل لن يقتصر على مؤشرات التطور التقني أو العائد الاقتصادي، بل سيشمل أساسا مدى التزامه بالإنسان والبيئة والقيم الأخلاقية للمجتمعات.

وجاءت هذه التصريحات خلال محاضرة رئيسية بعنوان "الذكاء الاصطناعي الواعي: بناء ذكاء أخلاقي ومستدام"، ضمن فعاليات النسخة الأولى من "رالي الذكاء الاصطناعي – مختبر المستقبل" (Rally IA Future Lab)، وأكد بناني أن التسارع الكبير في تطوير تقنيات الذكاء الاصطناعي يفرض رفع مستوى الوعي بالتحديات الأخلاقية والتنظيمية المصاحبة له، مبرزا أن المعطيات تشكل أساس هذه الأنظمة، وأن طرق جمعها ومعالجتها تطرح إشكالات متزايدة مرتبطة بالخصوصية وبناء الثقة الرقمية.

وأشار إلى أن بعض الممارسات قد تتضمن استخدام بيانات شخصية دون موافقة صريحة أو توظيفها خارج الأغراض التي جمعت من أجلها، وهو ما يستدعي، حسب قوله، تعزيز الضوابط القانونية والأخلاقية وتكثيف آليات المراقبة والحكامة.

وفيما يتعلق بالجوانب التطبيقية لهذه الإشكالات، لفت إلى أن هذه الممارسات لا تقتصر على القطاع الخاص فقط، بل طالت في بعض الحالات مجالات حساسة مثل الصحة، حيث تم في بعض التجارب الدولية تدريب أنظمة ذكاء اصطناعي على بيانات مرضى دون ضمانات كافية لحماية الخصوصية أو إخفاء هوياتهم بشكل كامل.

وشدد المتحدث على أن الشفافية تمثل إحدى الركائز الأساسية للذكاء الاصطناعي المسؤول، موضحا أن المستخدم يجب أن يكون قادراً على فهم كيفية عمل الأنظمة الذكية، وأن تكون المؤسسات قادرة على تتبع القرارات التي تتخذها هذه الأنظمة وتفسيرها وتصحيحها عند الحاجة.

وأضاف أن أحد التحديات الكبرى يتمثل في ما يعرف بـ"الصندوق الأسود"، حيث يصعب في بعض الأحيان فهم الأسباب التي دفعت النظام إلى اتخاذ قرار معين أو الوصول إلى نتيجة محددة.

واستحضر في هذا السياق حالة شركة أمازون التي اعتمدت نظاما ذكيا لتدبير جداول العمل وتقليص التكاليف، قبل أن تتبين آثار غير متوقعة تمثلت في تقليص ساعات عمل بعض الموظفين دون مبررات واضحة، وهو ما دفع الشركة إلى إيقاف العمل بهذا النظام.

وفي ما يتعلق بالبعد البيئي، توقف بناني مطولا عند مسألة الاستدامة، معتبرا أنها باتت من أبرز التحديات التي يطرحها التطور المتسارع للذكاء الاصطناعي. وأوضح أن تشغيل النماذج المتقدمة يتطلب استهلاكا مرتفعا للطاقة الكهربائية وكميات كبيرة من الموارد المائية، خصوصا داخل مراكز البيانات التي تعتمد على أنظمة تبريد كثيفة الاستهلاك للمياه.

وأضاف أن عددا من الدول شرعت بالفعل في فرض قيود على إنشاء مراكز بيانات جديدة، نتيجة الضغوط المتزايدة على مواردها الطاقية والمائية، داعياً في المقابل إلى ضرورة ترشيد استخدام النماذج الذكية والعمل على تحسين كفاءتها التقنية بما يحد من بصمتها البيئية.

وفي سياق متصل، أشار إلى أن الذكاء الاصطناعي يفرض تحولات عميقة على سوق الشغل، موضحاً أن بعض الوظائف مرشحة للتأثر بشكل مباشر بهذه التحولات التكنولوجية. وشدد على أن المسؤولية تقع على عاتق الحكومات والمؤسسات الاقتصادية في مواكبة هذا التحول عبر تأهيل وإعادة تدريب الموارد البشرية، وتمكينها من اكتساب المهارات الجديدة التي يتطلبها الاقتصاد الرقمي.

وأكد أن الرهان الأساسي يتمثل في الحد من الآثار السلبية على التشغيل، مقابل تعظيم الفرص التي يتيحها الذكاء الاصطناعي من خلال خلق وظائف جديدة ومهن مستقبلية واعدة.

وفي محور آخر، أثار بناني إشكالية المسؤولية والمساءلة القانونية في عصر الذكاء الاصطناعي، متسائلا عن الجهة التي ينبغي أن تتحمل تبعات الأخطاء في حال تسبب نظام ذكي أو مركبة ذاتية القيادة في حادث أو ضرر جسيم.

وبالنسبة لموضوع المسؤولية والمساءلة، أوضح أن هذا السؤال يزداد أهمية مع توسع استخدام الأنظمة الذكية في مختلف القطاعات، ما يستدعي تطوير الأطر القانونية والتنظيمية بما يواكب التحولات المتسارعة التي يعرفها المجال.

واستحضر في هذا السياق قضية معروفة في كندا، حيث قدم روبوت محادثة تابع لإحدى شركات الطيران معلومة غير صحيحة لأحد الزبناء بخصوص تخفيض على تذكرة سفر. ورغم أن الخطأ كان ناتجاً عما يُعرف بـ"هلوسة" النظام، فإن القضاء اعتبر الشركة مسؤولة عن المحتوى الصادر عن روبوتها، وأصدر حكماً لصالح الزبون.

واعتبر المتحدث أن هذه الواقعة تجسد بوضوح أهمية مبدأ المساءلة، وتؤكد أن المؤسسات تبقى مسؤولة عن الأنظمة التي تطورها أو تعتمدها، حتى في الحالات التي تكون فيها الأخطاء صادرة عن الذكاء الاصطناعي نفسه.

وأكد بناني أن الركائز الأساسية للذكاء الاصطناعي المسؤول تقوم على احترام الخصوصية، وضمان الشفافية، وتحقيق العدالة، وترسيخ الاستدامة، وتحديد المسؤوليات، مع وضع الإنسان في صلب كل عملية تطوير أو ابتكار.

ودعا المطورين والباحثين ورواد الأعمال إلى اعتماد مقاربة تُراعي الأثر المجتمعي والإنساني للحلول التكنولوجية، وعدم الاقتصار على البحث عن الإنجاز التقني أو العائد الاقتصادي فقط.

وفي ختام مداخلته، شدد المدير التنفيذي للتسويق بشمال إفريقيا لدى نوكيا على أن مستقبل الذكاء الاصطناعي ينبغي أن يُبنى حول الإنسان، باعتبار أن نجاح هذه التكنولوجيا يرتبط بقدرتها على خدمة التنمية، وتحسين جودة حياة الأفراد، والمساهمة في حماية الكوكب، مؤكداً أن الذكاء الاصطناعي المسؤول لم يعد خيارا، بل شرطا أساسيا لبناء مستقبل رقمي مستدام.

كما أوضح أن نجاح أي مشروع في مجال الذكاء الاصطناعي يبدأ من تحديد الإشكالية المراد معالجتها، وليس من البحث المباشر عن البيانات أو الخوارزميات، مبرزا أن فهم حاجيات المستخدمين وتحديد القرار أو الإجراء المطلوب تحسينه يسبق اختيار الأدوات التقنية والبيانات المناسبة.