إكرام اقدار

لم يعد الذكاء الاصطناعي مجرد تقنية متطورة قادرة على معالجة كميات هائلة من البيانات، بل تحول أيضا إلى مرآة عاكسة، وأحيانا "مضخمة"، للتحيزات الجندرية، إذ تثير بعض تطبيقاته وبرامجه الكثير من الاستفهامات، بسبب الطريقة التي تعيد بها إنتاج بل وتكريس الصور النمطية، خصوصا تلك المرتبطة بالجندر، وهكذا، نجد أنفسنا أمام مفارقة تقنية يفترض أن تبنى على الحياد والموضوعية، لكنها في الممارسة، كثيرا ما تعيد صياغة التحيزات ذاتها التي يفترض أن تتجاوزها.

جذور هذه المعضلة لا تكمن في الخوارزميات كأكواد جامدة فحسب، بل في المادة الخام التي تغذيها؛ أي ملايين النصوص والصور والبيانات المتداولة يوميا، والتي تحمل في طياتها تاريخا طويلا من التمثيلات غير المتوازنة والأحكام المسبقة، وحين تدخل إلى أنظمة الذكاء الاصطناعي دون مراجعة أو تصحيح، تكون النتيجة إعادة إنتاج للواقع بكل لا مساواته، ولكن على نطاق رقمي أوسع وأكثر تأثيرا.

لفهم أبعاد الموضوع، سنتوقف عند سلسلة من الأمثلة التي تكشف تحيزات الذكاء الاصطناعي، وتظهر بشكل مفصل كيف يعيد هذا الأخير إنتاج وتعزيز هذه التحيزات ومختلف أبعاد ذلك، ثم سنبحث في السبل الممكنة لتحقيق العدالة الجندرية في الفضاء الرقمي.

الذكاء الاصطناعي مرآة للتحيزات الجندرية داخل المجتمع

في سياق أشكال التمييز بين الجنسين التي أظهرتها بعض برامج الذكاء الاصطناعي، أكد تقرير صادر عن هيئة الأمم المتحدة للمرأة أن غياب التنوع في البيانات المستخدمة يؤدي إلى نتائج منحازة، وقد أظهرت دراسة لجامعة ستانفورد في السياق نفسه، أن أنظمة تحليل الصور كانت تربط بشكل متكرر مهنا مثل "الممرضة" و"المعلمة" بالنساء، مقابل "المهندس" و"المدير" بالرجال، حتى في الحالات التي كانت فيها البيانات الواقعية أكثر تنوعا.

هذا الخلل، لا يبدو مجرد صدفة تقنية، بل انعكاسا مباشرا لبنيات مجتمعية وثقافية بأسرها، على اعتبار أن الخوارزميات لا تخترع الصور النمطية من العدم، وإنما تضخم ما هو موجود أصلا في الوعي الجمعي، والأخطر أن هذا التضخيم يحدث بطريقة تبدو "محايدة" للمستخدم العادي، مما يجعل تصحيحها أصعب، لأنها تأتي مغلفة بسلطة العلم والتكنولوجيا.

إلا أن التحيز لا يقف عند حدود البيانات فقط، بل يتأثر كذلك بالبنية الذكورية لصناعة الذكاء الاصطناعي نفسها، فوفقا لتقارير دولية، لا تتجاوز نسبة النساء العاملات في هذا القطاع 22 في المائة عالميا، فيما تنخفض النسبة إلى حوالي 14 في المائة عندما يتعلق الأمر بالمناصب القيادية أو فرق تصميم النماذج، هذا الخلل في التمثيل، يجعل الخوارزميات تبنى من منظور ضيق يعكس تجارب محدودة، ولا يأخذ بالضرورة بعين الاعتبار التنوع الاجتماعي والجندري.

ومن هذا المنطلق، فإن غياب النساء عن مواقع القرار في مجال الذكاء الاصطناعي، يعني أن هندسة المستقبل التكنولوجي تبقى محصورة في أيدي فئة ضيقة من الرجال، غالبا من خلفيات متماثلة عرقيا واجتماعيا واقتصاديا، هذا التمركز للسلطة المعرفية يؤدي إلى إنتاج أنظمة تكنولوجية محدودة الرؤية، لا تعكس التنوع البشري ولا تراعي تعقيداته، والنتيجة المباشرة هي ذكاء اصطناعي يعيد إنتاج نفس أنماط التمييز السائدة بدل أن يكون أكثر شمولا وعدالة.

من اللغة إلى الصورة والصوت.. كيف يكرر الـ AI القوالب النمطية عن الجنسين

كشفت دراسة أصدرتها اليونسكو عن وجود تحيزات واضحة في النصوص التي ينتجها برنامجي المحادثة ChatGPT وAlpaca، فعندما طُلب من النظامين كتابة خطابات توصية لموظفين افتراضيين، لجأ ChatGPT إلى استخدام أوصاف مثل "الخبير" و"النزاهة" عند الإشارة إلى الرجال، بينما وصف النساء بمصطلحات مثل "الجمال" و"البهجة".

وهو الأمر ذاته الذي فعله برنامج Alpaca تقريبا، إذ ربط الرجال بصفات مثل "المفكرين" و"المستمعين"، مقابل استخدام أوصاف "النعمة" و"الجمال" للنساء، هذه النتائج تكشف عن مدى تجذر التحيزات المبنية على أساس الجنس داخل الذكاء الاصطناعي، وتثير تساؤلات جادة حول دوره في تكريس الصور النمطية عن الجنسين.

ولا يقتصر الأمر على النصوص، بل يمتد إلى الصور المولدة بواسطة الذكاء الاصطناعي، فقد أجرت Bloomberg Graphics تحقيقا اعتمد على منصة Stable Diffusion المفتوحة المصدر، وخلص إلى أن هذه التقنية لا تكتفي بعكس التحيزات القائمة، بل تضخمها.

على سبيل المثال، عند استخدام مصطلحات مثل "الرئيس التنفيذي" أو "السجين"، أنتج النظام صورا متحيزة بشكل متكرر، كما أظهر التحقيق نقصا كبيرا في تمثيل النساء وأصحاب البشرة الداكنة في الصور المرتبطة بالوظائف ذات الأجور المرتفعة، مقابل تمثيل مفرط لهم في الوظائف منخفضة الأجر.

بالإضافة إلى ذلك، أظهرت نتائج البحث المتعلقة بالجريمة صورا لأشخاص ذوي بشرة داكنة بنسبة غير متناسبة مع الواقع، رغم تنوع نزلاء السجون فعليا، ووفقا لتقرير استقصائي لموقع " ProPublica" ، أظهرت أنظمة التنبؤ بخطر تكرار الجرائم في ولاية فلوريدا بالولايات المتحدة انحيازا واضحا، إذ صنفت ذوي البشرة السوداء كمجرمين محتملين بنسبة تقارب الضعف مقارنة بغيرهم.

ومن جهة أخرى كشفت دراسة لمعهد ماساتشوستس للتكنولوجيا عن تفاوت صادم فيما يرتبط بأنظمة التعرف على الوجوه، إذ بلغت معدلات الخطأ في التعرف على النساء ذوات البشرة الداكنة 34.7%، مقابل 0.8% فقط عند الرجال ذوي البشرة الفاتحة، وهو ما يعكس تمييزا مزدوجا على أساس النوع ولون البشرة.

بدأت انعكاسات هذه الاختلالات تتضح في حالات أخرى عديدة؛ ففي المملكة المتحدة، كشفت دراسة أعدتها كلية لندن للاقتصاد، في غشت 2025، أن نظامًا آليًا لتقييم احتياجات الرعاية الاجتماعية كان يقلل من شأن الحالات الصحية التي تعاني منها النساء مقارنة بالرجال، ما قد يؤدي إلى قرارات غير عادلة بشأن الدعم المقدم، وفي الولايات المتحدة، اضطرت شركة أمازون إلى سحب نظام للتوظيف بعدما تبيّن أنه يفضل السير الذاتية التي تحمل أسماء ذكورية على حساب طلبات النساء، حتى في الحالات التي كانت فيها الكفاءات متقاربة، حسب ما نشرته جريدة The Guardian.

وفي عام 2016، أثارت مسابقة الجمال الإلكترونية Beauty.AI جدلا واسعا بعدما كشفت نتائجها عن تحيز فج لصالح الوجوه البيضاء، فقد قامت الخوارزمية بتحليل صور أرسلها نحو 600 ألف مشارك من مختلف مناطق العالم، لكنها في النهاية اختارت 44 متأهلا، معظمهم من ذوي البشرة الفاتحة، مع ستة فقط من غير البيض، بينهم مشارك واحد ذو بشرة داكنة بشكل واضح.

هذا الانحراف لم يكن مجرد “خلل تقني، بل انعكاس مباشر لافتقار قواعد بيانات التدريب إلى التنوع، سواء على مستوى الصور أو التمثيلات الجمالية المضمنة فيها، وإذا ما نظرنا إلى جوهر الأمر، فالذكاء الاصطناعي لم يكن يقيم “الجمال” بموضوعية، بل يكرر تاريخا طويلا من التحيزات، يعود إلى عصر التصوير الفوتوغرافي نفسه حين صممت أفلام الكاميرات لتناسب البشرة البيضاء أكثر من غيرها.

تبعا لذلك، فإن هذه تحيزات ترتبط مباشرة بعملية التعلم التي يقوم عليها الذكاء الاصطناعي؛ فالأنظمة تعتمد على بيانات وتجارب يقدمها البشر، سواء بوعي أو دون وعي، ما يجعلها تكتسب القوالب النمطية المضمنة في هذه البيانات وتعيد إنتاجها، وهذا يحيلنا إلى حالة لافتة داخل شركة أمازون، حين طورت نظاما لقراءة وفرز السير الذاتية عام 2014 بشكل آلي.

لكن بعد فترة، اكتشف الفريق أن النظام كان يستبعد طلبات النساء بشكل ممنهج، وذلك بسبب اعتماده على بيانات تاريخية أغلبها لمرشحين ذكور، ما جعل الخوارزمية تميل إلى تفضيل الذكور، هذه الحالة توضح كيف يمكن للذكاء الاصطناعي أن يكرس التمييز من دون قصد إذا استند إلى أمثلة منحازة، الشيء الذي يؤكد أن الخوارزميات ليست محايدة بطبيعتها، بل تعكس التحيزات الكامنة في البيانات التي تغذى بها.

لم تسلم التطبيقات التي تبدو "بريئة" من انعكاسات التحيز الجندري، فقد واجهت المساعدات الصوتية انتقادات بسبب اعتمادها غالبا على أصوات نسائية هادئة ومطيعة، مما يعكس صورة نمطية للمرأة في مواقع الخدمة والمساعدة فقط.

ويعد المساعد الصوتي "سيري" أحد أبرز الأمثلة؛ فرغم كونه أداة ذكية تهدف إلى تسهيل المهام للمستخدمين عبر الأوامر الصوتية، كشفت اختبارات متعددة عن وجود تحيزات واضحة، منها تقديم إجابات عنصرية عند استفسارات عن مجموعات محددة، أو فشل النظام في التعرف على لهجات إقليمية متنوعة، وأحيانًا تقديم إجابات خاطئة نتيجة الاعتماد على مصادر غير موثوقة.

وأظهرت دراسات أن التعرف على أصوات الرجال أكثر دقة مقارنة بأصوات النساء، وهو ما دفع الباحثين إلى الدعوة إلى تدريب هذه الأنظمة على مجموعات بيانات أكثر تنوعًا تشمل الجنس والعرق والخلفية الاجتماعية، لضمان أداء أكثر شمولية وعدالة.

نحو ذكاء اصطناعي عادل جندريا

بناء على ما سبق، يمكن أن نسجل أن التحيز الجندري لم يعد يكتفي بهيمنته في الواقع الاجتماعي فحسب، بل يمتد اليوم ليستقر في قلب تطبيقات الذكاء الاصطناعي الأكثر تقدما، هذا الانحراف يكشف أن النضال من أجل المساواة بين الجنسين لم ينته بعد، وأن المعركة الرقمية ما تزال مفتوحة، وربما تكون أكثر حسما في المستقبل.

في هذا السياق، تحذر دراسة لمنظمة اليونسكو من أن ترك هذه التحيزات الرقمية من دون ضوابط سيؤدي إلى عواقب عميقة الأثر، إذ إنها ليست جندرية فحسب، بل عنصرية أيضا، وقد تكرس أنماطا اجتماعية مجحفة يصعب تفكيكها لاحقا، ولهذا السبب، يرى مطورو الذكاء الاصطناعي أن البحث عن استراتيجيات للتخفيف من الانحياز الرقمي أصبح ضرورة ملحة، لا مجرد خيار تقني.

أمام هذا الواقع، يقدم موقعCognizant Netcentric مجموعة من الخطوات العملية لمواجهة التحديات المرتبطة بالتحيز الجندري للذكاء الاصطناعي، تشمل:

• بناء قواعد بيانات متنوعة وشاملة تعكس تمثيلا متوازنا للجنس والعرق والثقافة، لتقليص الفجوات الموروثة.
• الالتزام بالشفافية، ومراجعة النماذج بشكل دوري للتأكد من أنها لا تعيد إنتاج الصور النمطية.
• استخدام لغة شاملة في المطالبات، مثل "جميع الأجناس"، بدل حصرها في "النساء أو الرجال"، لضمان نتائج أكثر عدلاً واتساعًا.

أما النقطة الأكثر إلحاحا، فهي الاستثمار في المستقبل؛ أي دعم المساواة بين الجنسين في ميادين التعليم والتكنولوجيا، وتشجيع الفتيات على دخول مجالات العلوم والهندسة والرياضيات، من أجل ضمان ظهور أجيال جديدة من تقنيات الذكاء الاصطناعي التي تعكس تنوعا حقيقيا، بدلا من إعادة إنتاج التحيزات الكلاسيكية بثوب رقمي جديد.

 وتدعو المنظمات الدولية إلى تبني آليات صارمة لاختبار النماذج قبل تعميمها، بهدف الكشف عن التحيزات المحتملة، من بين هذه الآليات، تبرز "التدقيق الأخلاقي" و"الفرق الحمراء"، التي تُستخدم لاختبار النماذج بشكل نقدي للكشف عن التحيزات المخفية، خاصة تلك التي تؤثر على النساء والفتيات، وقد أطلقت اليونسكو دليلا عمليا لتوجيه المؤسسات في تنفيذ هذه الآليات، بالتعاون مع خبراء في أخلاقيات الذكاء الاصطناعي.

بالإضافة إلى ذلك، تؤكد الأمم المتحدة على ضرورة إشراك خبراء في قضايا النوع الاجتماعي خلال مراحل تصميم وتقييم أدوات الذكاء الاصطناعي، لتفادي الأخطاء المكلفة اجتماعيا، وتوصي بزيادة التنوع في فرق العمل وجمع بيانات أكثر شمولا، بحيث تشمل النساء بمختلف فئاتهن وخلفياتهن الاجتماعية والاقتصادية، لضمان أن النماذج تعكس تنوع المجتمع وتلبي احتياجات جميع الأفراد.

بين هذا النموذج وذاك، يتبين أن الذكاء الاصطناعي ليس محايدا دائما، بل يتغذى على تحيزات المبرمجين والبيانات، وهو الأمر الذي تدعمه دراسات كثيرة، وعليه، فالذكاء الاصطناعي، مثل أي اختراع بشري، يحمل بذور الخير والشر، وإذا استمرت الخوارزميات في عكس تحيزاتنا، فإن العواقب قد تكون كارثية، لذلك تقع على عاتق الشركات الكبرى والمبرمجين مهمة "تطوير ذكاء اصطناعي متوازن"، يعكس القيم المجتمعية، يعزز العدالة الجندرية، ويقاوم أي ميل إلى التمييز على أي أساس كما كان.

ملاحظة: "تم إنتاج هذا المحتوى في إطار برنامج أجيال  المساواة Ajiyal Egalité  بشراكة مع Expertise France"