دردشة مقهى اللغات العبرية والعربية والعداوة ثالثهما - أدوات للاستعلام وتيسير وصول المعوقين للمعلومات

راما صلاحات، ضيفتنا في هذه الجلسة من مقهى اللغات، موظفة في قسم تكنولوجيا المعلومات لدى “حملة - المركز العربي لتطوير الإعلام الاجتماعي”. “حملة” منظمة غير حكومية وغير ربحية فلسطينية تسعى لخلق مساحة رقمية أمنة ومنصفة ومجانية للفلسطينيين أم لأي كان. يغطي عمل “حملة” مجالات واسعة من نشر الوعي عبر الحملات التوعوية والإعلامية وعقد جلسات وفعاليات تشبيكية وإعداد أدلة متاحة للجميع. تصبّ مساعي وجهود “حملة” في خانة جمع معلومات كثيرة حول الانتهاكات الحاصلة للحقوق الرقمية في محاولة لجعل المساحات والفضاءات الرقمية أكثر انصافاً. تتنج “حملة” عدد كبير من التقارير سنوياً وربع سنوياً وشهرياً وأسبوعياً، توثق كل خطوة لنا في سبيل تحقيق هذه الرسالة.

لنستهل دردشتنا بالحديث عن الدور (إيجابياً كان أم سلبي) الذي لعبه الذكاء الاصطناعي / الخوارزميات إزاء ما يحصل في فلسطين حالياً. على سبيل المثال، كيف استخدم الذكاء الاصطناعي لفرض رقابة على الأصوات التي تتحدث عن غزة وإسكاتها.

يمثل الذكاء الاصطناعي والخوارازميات أداةً متعددة الاستخدامات سواء كان ذلك بشكلٍ نافع أم ضار. ينطبق ذلك بوجهٍ خاص على ما تمرّ به فلسطين في الوقت الراهن.

يمكن لسوء استخدام الذكاء الاصطناعي أن يورث تبعات وخيمة واسعة المدى. أما المشكلة الكبرى، فتكمن في انتشار أو تطبّع أفكار متحيّزة متأصلة في العديد من أنظمة الذكاء الاصطناعي الشائعة الاستخدام حالياً. يعتمد الذكاء الاصطناعي إلى حدٍّ كبير على البيانات بحيث أن نسبة كيرة منها مستمدّة من الانترنت الذي لطالما عكس أصوات المجموعات النافذة وما وسائل الإعلام إلا مثالٌ على ذلك. يمكن لهذا التحيّز عند جمع البيانات إلى تحريف نتائج البحث ويرسّخ ديناميكيات القوة القائمة؛ كما له أن يُسفر عن نظام جديد منحرف وماكر يصدر قراراتٍ هامة، خاصة في ظلّ الاعتماد المتزايد على البيانات وعلى الأتمتة. أحد الجوانب الإشكالية الأخرى لاستخدام الذكاء الاصطناعي يتمثل في تفاوت الدعم التقني بين اللغات المختلفة. في سياقنا، تحظى اللغة العبرية بدعم محدود مقارنةً باللغة العربية، ما يمثل تحدياً أمام باحثينا ومطوّرينا ممن يدرسون أنماط النص العربي. يولّد ذلك عدم توازن لجهة قدرة الذكاء الاصطناعي على الإحاطة باللغة ويصعب من عملية اتخاذ قرارات ورفع توصيات قائمة على أبحاث. في تجربتي مع “مركز حملة”، رأيت أن هذا الحاجز اللغوي استحث تطوير نموذج لغوي خاصة لدرء الفجوة وضمان تمثيلاً وتحليلاً أكثر إنصافاً للمحتوى العربي والعبري على حدٍّ سواء.

بالإضافة، تجاوز تأثير الذكاء الاصطناعي على الأزمة الفلسطينية التحيزات اللغوية. في هذا السياق، يسلّط تقرير لمنظمة العفو الدولية بعنوان “الأبارتهايد الرقمي: تكنولوجيات التعرف على الوجه وترسيخ الهيمنة الإسرائيلية” الضوء على استخدام التعرّف على الوجه لفرض الرقابة والسيطرة في فلسطين، ما يثير دواعي وقضايا أخلاقية خطيرة، لكونها تشرذم المجتمعات وتفرّق بينها وبالتالي تعزز نظام سيطرة صارم محكم على الناس.

هل بإمكانك مشاركة أمثلة عن استخدام الذكاء الاصطناعي / الخوارزميات لمعالجة مشاكل اجتماعية معقّدة أو النهوض بعمليات صنع القرار. وهل من رصد جاري لخطاب الكراهية منذ اندلاع الهجمات؟

تُعتبر الاستعانة بالذكاء الاصطناعي للتعامل مع القضايا المجتمعية محدوداً نسبياً في فلسطين؛ بحيث يبدو أنه مُعتمد أغلب الأمر في مجال التجارة عوضاً عن حقوق الإنسان. بالتالي، يبرز “مركز حملة” بوصفه منظمة رائدة فيما يخصّ الذكاء الاصطناعي لمعالجة قضايا محلّة في فلسطين. أطلقنا في “مركز حملة” مبادرة تركّز على محاربة خطاب الكراهية والعنّف على وسائل التواصل الاجتماعية بحيث عملنا بتطوير (وما زلنا نحسّن فيه) نموذج لغوي مُصمم لتحليل وتصنيف خطاب الكراهية في اللغتين العبرية والعربية مع الإشارة إلى أن نموذجنا العبري حقق قدراً عالياً من النجاح مع مقاييس شديدة الدقة. فعّلنا هذه الأداة في آذار/ مارس من العام 2023 أثناء الهجومات على بلدة حوارة حيث رصدت وبفعالية حالات من خطاب كراهية وعنف. مواصلة لالتزامنا بتعزيز السلامة الرقمية، شرعنا باستخدام حل الذكاء الاصطناعي هذا للكشف عن خطاب الكراهية والعنف الناشئ منذ 7 تشرين الأول / أكتوبر ومراقبته. “مؤشر العنف” متاح هنا ويجري تحديثه في الوقت الحقيقي.

يمثل استخدام “مركز حملة” المبتكر للذكاء الاصطناعي خطوة محورية تجاه تسخير التكنولوجيا لمعالجة تحديات مجتمعية خاصة في مجال حقوق الإنسان. في حين لا يزال استخدام الذكاء الاصطناعي في فلسطين يتطوّر، تظهر مبادرات مثل أداتنا قدرة التكنولوجيا على المساهمة بشكلٍ إيجابي في تناول قضايا ملحّة في المنطقة.

ما هي تأثيرات الذكاء الاصطناعي، سلبية كانت أم إيجابية على الأشخاص من ذوي الإعاقة؟

سوف أركز في إجابتي على الجانب التقني. يطرح تأثير الذكاء الاصطناعي في وسائل التواصل الاجتماعي على الأفراد المعوقين، شواغل واعتبارات؛ يتمحور أحدها حول التحيّز المتجّذر في الذكاء الاصطناعي والذي قد يؤثر على دقة وأمانة وفعالية “التكنولوجيات المساعدة” المصممة لعون هؤلاء الناس.

في ضوء الأحداث الأخيرة، أي منذ 7 تشرين الأول / أكتوبر، لحظنا طفرةً في المحتوى الرقمي المتمحور حول الوضع الراهن من صور وفيديوهات ونصوص. تلجأ الناس لجملة من التقنيات لتجاوز الرقابة على الإنترنت والتملّص من الخوارزميات المؤتمتة ومنها تعديل أساليب الكتابة أو التلاعب بالصور وغيرها. في حين تساهم هذه الاستراتيجيات في الحدّ من الرقابة ونشر الوعي حول ما يجري، إلا أنها تشكّل تحدياً لل “تكنولوجيات المساعدة” التي تتلو نصوصاً بصوتٍ عالي مثلاً أو تصف صور ما يقلل في نهاية المطاف من فعاليتها.

نقطة آخرى ينبغي النظر فيها وهي الخوارزميات المصممة لوصف صور للمعوقين والمعوقات بصرياً. لكونه من المعروف أن الذكاء الاصطناعي متحيّز، نتساءل بالتالي حول دقة هذه الخوارزميات في توصيف صور من دون رقابة وحول موثوقيتها إزاء ضمان تمثيل دقيق للمحتوى الرقمي. يزيد ذلك من أهمية أن يتمكن الأفراد المعوقون من الوصول بشكلٍ متساوي لبيانات غير خاضعة للرقابة.

كيف يمكننا مساءلة شركات التكنولوجيا الكبرى مثل فيسبوك (ميتا) وتويتر (X) و تكتوك عن تصميم الذكاء الاصطناعي / الخوارزميات؟

تستلزم مساءلة هذه الشركات مقاربات متعددة الأوجه. في هذا الإطار، تكتسي الشفافية أهمية بالغة، بحيث يتحتم على الشركات الإفصاح عن نظمها الداخلية الخاصة بالذكاء الاصطناعي بما في ذلك مجموعات البيانات التي جرى تغذية الخوارزميات بها. هذا ومن شأن تكليف هيئات مشهودّ لها باستقلاليتها تولّي عملية التدقيق، ضمان نزاهة ودقة هذه المجموعات والكشف عن البيانات المتحيّزة أو المغالطات التي قد تكرّس وتديم التمييز. علاوةً على ذلك، من شأن تنفيذ مبادئ توجيهية أخلاقية للاسترشاد بها عند تطوير واستخدام الذكاء الاصطناعي، خلق إطار عمل للحد من الخوارزميات المتحيّزة. هذا وتكتسي عمليات تقييم ومراجعة وتطوير نماذج الذكاء الاصطناعي بشكلٍ مستمر أهمية خاصة لجهة تحديد وتصحيح التحيزات. قد يكون من الضروري أيضاً وضع أطر قانونية وتشريعات خاصة بالمساءلة الخوارزمية / الحسابية لضمان أن تكون الشركات مسؤولة أمام القانون عن المخرجات التمييزية لنظم الذكاء الاصطناعي الخاصة بها. أخيراً، يمكن لعملية تدعيم واستحداث فرق متنوعة ضالعة في تطوير الذكاء الاصطناعي، الحد من التحيزات في مجموعات البيانات والخوارزميات وذلك بتضمين مروحة أوسع من وجهات النظر والتجارب.

شكراً جزيلاً على مشاركتك تجاربك ومساهماتك القيّمة. كيف يمكن لمقهى اللغات ومجتمع الحقوق الرقمية دعم “مركز حملة”؟

شكراً على منحنا الفرصة لعرض مشاريعنا ومبادراتنا ! تكمن أكثر الوسائل تأثيراً لدعم “مركز حملة” في نشر الوعي حول مبادرتنا عبر مختلف المنصات والوسائل الإعلامية؛ فالحديث عن عملنا يزيد من مدى انتشاره و يوصله لشرائح واسعة من الناس ما يساهم في توطيد فهم للتحديات التي تواجه الفلسطينيين.

بالإضافة إلى نشر الوعي، يثمن فريق عملنا أي تعاون مع طرف آخر لكون ذلك يخولنا حشد خبرات عديدة ومتنوعة وبالتالي تحقيق تأثير أقوى لعملنا.

هذا ونرحّب بأي أفكار واقتراحات بشأن التحسين من عملنا وتوسيع نطاقه، لذلك لا تترددوا/ددن في التواصل معنا إذا كانت لديكم أفكار مبتكرة أو تعقدون أنه ثمة سبل للتعويل على جهودنا.

أما بالنسبة لأصحاب وصاحبات المهارات الفنية والتقنية منكم، سنكون مسرورين لو تعاوننا في سبيل تحسين مبادراتنا والإبتكار فيه بهدف المساهمة في زيادة فعاليتها.

الدعم المالي مهم أيضاً لكوننا منظمة غير ربحية ونعوّل على التمويل الخارجي. توفّر التبرّعات عبر موقعنا الإلكتروني لنا الموارد الأساسية لإدامة وتوسيع جهودنا فيما يخص معالجة القضايا التي تطال الحقوق الرقمية.

قراءة المقال السابق باللغات العربية والإنكليزية والفرنسية والإسبانية الترجمة تجمعنا: دردشة مقهى اللغات