الذكاء الاصطناعي في خدمة "الأخ الأكبر"

بريطانيا والاتحاد الأوروبي يحولان نبوءات أورويل إلى واقع.
الجمعة 2022/08/12
"الأخ الأكبر" يراقبكم أينما كنتم

في عام 1949 تحدث الكاتب الإنجليزي جورج أورويل في روايته الكابوسية الشهيرة “1984” عن شاشات تلفيزيون وكاميرات مراقبة ذكية منتشرة في كل مكان تحصي على الناس حركاتهم وأنفاسهم. واليوم بوجود التكنولوجيا الذكية، ليس فقط الحكومة البريطانية من سيوظف نبوءات أورويل بعد سبعين عاما من نشر الرواية، بل الاتحاد الأوروبي أيضا.

لندن - “الأخ الأكبر” هنا، يراقبكم ويتدخل بأدق تفاصيل حياتكم من خلال الأدوات الذكية التي أغرقت حياتكم، ومن خلال وسائل التواصل الاجتماعي التي يتسلل المعلنون من خلالها إلى حياتكم الخاصة ويجمعون بيانات شخصية تغيب عنكم أحيانا.

أخيرا ستنفذ الحكومة البريطانية نبوءات مواطنها أورويل، وستكون البداية بالمهاجرين المدانين قضائيا. تجبرهم على ارتداء ساعات ذكية مزوّدة بتقنيات التعرف على الوجه، لينظروا فيها خمس مرات يوميا.

صحيفة الغارديان البريطانية تحدثت عن وثائق جاء فيها نقلا عن الداخلية أن تلك الخطوة ستشمل “المراقبة اليومية للأفراد الخاضعين لمراقبة الهجرة”، مع شرط ارتداء إما أساور إلكترونية على الكاحل أو ساعة ذكية ترافقهم في جميع الأوقات.

ضرورات تبيح المحظورات

أودري أوزلاي: كيف يمكننا التأكد من أن الخوارزميات لا تنتهك حقوق الإنسان

توظيف التكنولوجيا والذكاء الاصطناعي في مراقبة الهجرة والمهاجرين لن يقتصر على الحكومة البريطانية، هذا ما تسعى أوروبا إلى تحقيقه أيضا، للحد من محاولات الهجرة وتعزيز الحصن الأوروبي. وهو ما أثار مخاوف خبراء وجهات حقوقية من إمكانية سوء استخدام النتائج بشكل ينتهك حقوق اللاجئين، وطرح تساؤلات حول الثقة بالذكاء الاصطناعي في المجال الإنساني.

الضرورات يقول الاتحاد الأوروبي تبيح المحظورات. استباق موجات الهجرة إلى أوروبا حتى قبل حدوثها “ضرورة”، يعتبرها الاتحاد الأوروبي من التحديات الرئيسية التي تواجهه، حسب الوصف الرسمي لتطبيق تعمل معاهد بحثية وشركة “تيراكوم” الخاصة على تطويره تحت اسم “Itflows” لتوقع موجات الهجرة.

ويهدف الاتحاد الأوروبي من خلال استخدام التطبيق إلى توفير تنبؤات دقيقة وحلول إدارية مناسبة لتدفقات الهجرة في الاتحاد الأوروبي في مراحل استقبال الهجرة ونقلها وتوطينها ودمجها، وفقا لمجموعة واسعة من العوامل البشرية وباستخدام مصادر متعددة للمعلومات.

ويتم توفير هذه الرؤى من خلال حل قائم على الأدلة يدعم تكنولوجيا المعلومات والاتصالات. وستكون جميع الحلول ملائمة للغرض ويتم التحقق منها باستمرار من قبل واضعي السياسات.

من المفترض أن يصبح التطبيق قابلا للاستخدام بحلول العام 2023، ويندرج تحت المشروع الأوروبي “هورايزون 2020”.

ويقول مسؤولون إن التنبؤ الموثوق به بالمهاجرين أمر بالغ الأهمية لتحسين تخصيص الموارد على الحدود، وفي نهاية المطاف، من وجهة نظر إنسانية، لتجربة المهاجرين. ومع ذلك، حتى الآن، لا توجد دراسات دقيقة واسعة النطاق يمكنها التنبؤ بشكل موثوق بالمهاجرين الجدد الذين يصلون إلى أوروبا. وقد ركزت غالبية المناهج القائمة على البيانات للتنبؤ حتى الآن فقط على بلد منشأ أو وجهة واحدة محددة في كل دراسة.

وتستخدم بعض الدول الأعضاء في الاتحاد الأوروبي، نماذجها الفردية الخاصة للتنبؤ بعدد المهاجرين الذين يصلون إلى أراضيها، ولكن كل منها يستخدم مصادر بيانات وأطر زمنية مختلفة للتنبؤ. وبالمثل، تمكنت بعض نماذج الإنذار المبكر من التنبؤ بالبلدان التي لديها القدرة على خلق تدفقات اللاجئين إلى الخارج، لكنها لم تشمل التحرّكات التي تحركها في المقام الأول أسباب بيئية، مثل الكوارث الطبيعية أو التغيرات المناخية أو غيرها من الظروف غير المتوقعة.

وفي محاولة لتهدئة مخاوف خبراء وجهات حقوقية حول إمكانية الوثوق بالذكاء الاصطناعي في المجالات الإنسانية، اعتبر الاتحاد الأوروبي أن سياسات الهجرة الحالية “تفتقر إلى البصيرة”، رغم البيانات المتاحة التي تجمعها مختلف المنظمات والجهات الوطنية والدولية في مجال الهجرة، والإشكالية تكمن في عدم وجود قاعدة بيانات مشتركة وأدوات من شأنها أن توحّد الجهود في مجال التنبؤ بموجات الهجرة.

“يُعد التنبؤ الموثوق بـ(قدوم) المهاجرين أمرا حاسما لتحسين تخصيص الموارد على الحدود، ومن وجهة نظر إنسانية، لتجربة المهاجرين أنفسهم”، حسبما جاء في شرح الأهداف من التطبيق.

لكن إلى أي مدى يمكن الوثوق في الذكاء الاصطناعي، لاسيما في المجالات الإنسانية؟

الاتحاد الأوروبي يهدف من خلال استخدام التطبيق إلى توفير تنبؤات دقيقة وحلول إدارية مناسبة لتدفقات الهجرة في الاتحاد الأوروبي في مراحل استقبال الهجرة ونقلها وتوطينها ودمجها

ربيع أمهز، مسؤول قسم المعلوماتية في جامعة “إيكام” ستراسبورغ وباحث في مجال الذكاء الاصطناعي الموثوق، لا يخف تخوّفه من النتائج التي يمكن أن تصدر عن هذا البرنامج أو النظام كتوصيف دقيق، ورغم أنه يرى أن الثقة العامة في مجال الذكاء الاصطناعي “كبيرة وتزداد”، لكن “في الأمور المرتبطة بالتغيرات الجيوسياسية أو البيئية أو حركات النزوح أو في العلوم الاجتماعية عموما، لا يزال الذكاء الاصطناعي بعيدا عن تقدير الواقع لأن التفكير الإنساني والمجتمعات معقّدة ومتغيّرة، لذلك يلجأ إلى التقديرات الاحتمالية واستخدام النسب وبذلك يبقى القرار النهائي هو للمهندس أو الباحث بتحديد القرار النهائي”.

ووفق أمهز “تتوصل بعض البرامج أو الخوارزميات إلى إعطاء المستخدم النتيجة النهائية (أي التقدير المتوقع في حالة ما) لكن دون أن يكون البرنامج قادرا على شرح الطريقة التي اعتمد عليها للتوصل إلى تلك النتيجة، مثلما يفعل باحث في علم الاجتماع. أي لا توجد إمكانية للنقاش مع البرنامج  بعد التوصل إلى النتيجة النهائية”.

ولا تزال معظم البرامج الفعالة في مجال الذكاء الاصطناعي تفتقر إلى الشفافية، بحسب أمهز، إذ لا تزال هناك دراسات بحثية لتفسير عملها وآليتها، “فتعطي مثل هذه البرامج التوقعات بناء على خوارزمية معينة ومعلومات أدخلت إليها في تمرينها الأول، لكنها لا تزال غير قادرة على توضيح سبب النتيجة النهائية. ولا ننسى أن هذه البرامج تحتاج لكمٍّ كبير من المعلومات، وفي ما يتعلق بالنزوح تحديدا، ذلك غير منطقي لأن هناك عوامل كثيرة متشابهة ومتراكمة وذات خصائص متنوعة”.

فمثلا، إذا افترضنا أن البرنامج يعتبر أن بلدا ما آمن، لنقل سوريا على سبيل المثال، وهناك شخص هارب من مؤسسة أو نظام أو جماعة ما، أي أنه يواجه خطرا معيّنا بناء على حالة فردية، بالتالي، قد يعتبره البرنامج هنا غير معرض للخطر، بالاعتماد على المعلومات العامة المدخلة إليه.

مخاوف مشروعة

المراقمة مستمرة
المراقبة مستمرة

كانت المديرة العامة لمنظمة اليونسكو التابعة للأمم المتحدة أودري أوزلاي، قد تناولت موضوع استخدام الذكاء الاصطناعي في حياتنا اليومية واستخدامه لرسم السياسات المستقبلية، وطرحت أسئلة أخلاقية جاء فيها “كيف يمكننا التأكد من أن الخوارزميات لا تنتهك حقوق الإنسان الأساسية من الخصوصية وسرية البيانات إلى حرية الاختيار وحرية الضمير؟ كيف يمكننا ضمان عدم تكرار الصور النمطية الاجتماعية والثقافية في برامج الذكاء الاصطناعي، لاسيما عندما يتعلق الأمر بالتمييز بين الجنسين؟ كيف يمكننا ضمان المساءلة عندما تكون القرارات والإجراءات مؤتمتة بالكامل؟ كيف يمكننا ضمان تطوير الذكاء الاصطناعي بطريقة شفافة بحيث يكون للمواطنين العالميين الذين تتأثر حياتهم به رأي في تطويره؟”.

يمكن القول إن الذكاء الاصطناعي سلاح ذو حدين، “مثل القنبلة الذرية” حسب وصف أمهز “يمكن استخدامه بطريقة تساعد على فهم النزوح لكن يمكن أيضا استخدامه بطريقة سلبية من قبل حكومات ليبرالية أو اليمين المتطرف على سبيل المثال، الذي من الممكن في حالة امتلاكه لمثل هذه التوقعات أن يتخذ إجراءات من جعلها أن تنتهك حقوق طالبي اللجوء”.

وهذا ما يضفي الشرعية على المخاوف التي تبديها منظمات المجتمع المدني من أن تستخدم نتائج تلك التوقعات بطريقة تسيء إلى اللاجئين وتزيد من تحصين الحدود.

وتحذر مبادرة تنشط من خلالها جمعيات مدنية باسم “تيكنوبوليس”، من ممارسات الدول في هذا المجال وتنبه إلى أن شروط تمويل مشروع هوريزون 2020، أن تظل التقنيات المطورة في الاستخدام المدني ولا يمكن استخدامها لأغراض عسكرية. لكن “في الواقع، لا يزال التمييز بين الاستخدام المدني والعسكري بعيدا عن التحديد الواضح”.

ويوضح الباحث والخبير ستيفن غراهام أن التقنيات التي تكون على أساس عسكري “غالبا ما يتم إدخالها في مجال الأمن، لاسيما على الحدود حيث يتم تجريم الهجرة”، مضيفا “يمكننا أيضا اعتبار المراقبة وتقنية اكتشاف الأشخاص والقمع على الحدود تجسيدا للعسكرة الأوروبية على الحدود”.

وحتى على المستوى الداخلي ضمن فريق عمل تطوير البرنامج، فقد كشفت تقارير داخلية للجنة الأخلاقيات في المشروع عن “الآثار المحتملة على حقوق الإنسان” في مجال الهجرة.

خطاب كراهية

كريستينا بلاسي: البرنامج سيساهم في تسهيل دخول المهاجرين للاتحاد

توصلت اللجنة في تقريرها إلى أنه “يمكن للدول الأعضاء استخدام البيانات المقدمة لإنشاء أحياء للمهاجرين”، أي عزلهم عن المجتمع. ونبّهت من خطر ازدياد “التعرف المادي على المهاجرين والتمييز على أساس العرق أو الجنس أو الدين أو التوجه الجنسي أو الإعاقة أو العمر”.

وحذرت أيضا من تصاعد “خطاب الكراهية” الذي يمكن أن يؤدي إلى نشر محتمل لتنبؤات البرنامج في المناطق المتوقع أن ينزح إليها الأشخاص.

رغم أن هذه النقطة الأخيرة تناولتها الحملة الترويجية للبرنامج، لكن حسب الرواية الرسمية، هذه التوقعات تهدف إلى حماية المهاجرين من الحوادث العنصرية التي من الممكن أن تواجههم في المجتمعات المضيفة.

يعتقد ألكسندر كييروم المحلل في المجلس الدنماركي للاجئين وعضو مجلس الإشراف، أن هناك “خطرا كبيرا يتمثل في أن المعلومات ستنتهي في أيدي الدول أو الحكومات التي ستستخدمها لتثبيت المزيد من الأسلاك الشائكة على طول الحدود”، لكن منسقة البرنامج كريستينا بلاسي كاساغران أكدت لمنظمة “ديسكلوس”، أنه “لن تتم إساءة استخدام البرنامج”. ووفقا لها، فإن البرنامج سيساهم حتى في “تسهيل دخول المهاجرين إلى الاتحاد الأوروبي من خلال السماح بتخصيص أفضل للموارد المستخدمة في الاستقبال”.

الأمر الذي يعزز من شكوك الجهات الحقوقية بإمكانية استخدام هذه النتائج لتحصين الحدود الخارجية للاتحاد الأوروبي، هو الدعم الذي توفره وكالة حرس الحدود الأوروبية “فرونتكس” للبرنامج. إذ كشفت الوثائق الداخلية عن مشاركة الوكالة في البرنامج عبر توفير بيانات تجمعها من خلال أنشطتها على الحدود المختلفة لدول الاتحاد الأوروبي.

ويأتي التعاون مع وكالة فرونتكس رغم الشبهات المثارة حول ممارساتها في صد المهاجرين على الحدود، والتقارير العديدة التي تتهم العناصر الأوروبيين باستخدام العنف ضد المهاجرين أثناء محاولتهم عبور بحر إيجة من تركيا إلى اليونان.

ووفقا لبحث أجرته منظمة الخصوصية الدولية، تزود شركات خاصة فرونتكس والوكالات الحدودية الأخرى، بأقمار اصطناعية قادرة على تتبع الإشارات من هواتف الأقمار الاصطناعية وأجهزة البث الأخرى، بهدف تتبع حركة المهاجرين المتوجهين إلى أوروبا والتصدي لهم.

12