The Development of Artificial Intelligence and Its Ethical Implications

وقد انتقلت المعلومات الاستخبارية الفنية من الخيال العلمي المضارب إلى واقع يومي يقترب من كل زاوية من مراحل الحياة الحديثة، ومن خوارزميات التوصية التي تشكل تجاربنا على الإنترنت إلى أدوات التشخيص التي تساعد علماء الأشعة على كشف السرطان، تعمل نظم المعلومات الآن في سياقات تتطلب الموثوقية والإنصاف والشفافية، وقد شهد العقد الماضي وحده تسرعا في القدرات التي كان يمكن أن يتوقعها القليلون، ويقودها اختراق البيانات الضخمة.

تطور الاستخبارات الفنية

وقد ولدت منظمة العفو الدولية كتخصص رسمي في صيف عام ١٩٥٦، عندما كانت مجموعة من الرياضيين، والعلماء الحاسوب، وعلماء النفس المعرفيين الذين تم جمعهم في كلية دارتماوث لاستكشاف إمكانية استخدام آلات " اللغة، وشكلت خلاصات ومفاهيم، وحل أنواع المشاكل التي أصبحت الآن محجوزة للبشر، وتحسين نفسها " ، وقد أدى التفاؤل المبكر إلى تقليص حقائق القدرة على التكــل والتعقيد.

أهم ميليستون في تطوير AI

  • 1956]: يُستخدم مصطلح " الاستخبارات الأثرية " رسمياً في مؤتمر دارتموث، وهو ما يمثل بداية بحوث منظمة العفو الدولية.
  • 1960s-1970s]: تظهر نظم الخبراء المبكرة مثل DENDRAL و MYCIN الوعود في مجالات ضيقة، ولكن النضال الرمزي في مجال AI مع التوسع.
  • 1997]: IBM’s Deep Blue] defeats world chess champion Garry Kasparov, demonstrating that machines can outperform humans in constrained strategic games.
  • 2006-2012]: بروز التعلم العميق، مع عمل جيفري هينتون في مجال التلقيح الرجعي ونجاح أليكسنيت في مسابقة ImageNet 2012 التي أثارت موجة جديدة من التقدم.
  • 2016]: Google DeepMind’s AlphaGo]] beats top Go players Lee Sedol, showcasing advanced pattern recognition and reinforcement learning.
  • 20s]: نماذج اللغات الكبيرة مثل GPT-3, DALLE, and their successors demonstrate generative capabilities, from writing coherent essays to creating reality images. The release of ChatGPT in late 2022 brought conversational AI to the masses, sparking both excitement and regulatory alarm.

وكثيرا ما تبنى نظم المعلومات المسبقة عن علم اليوم على شبكات عصبية عميقة مدربة بملايين أو بلايين من البارامترات، وهي تتفوق على مهام محددة - تصنيف الصور، وترجمة اللغة الطبيعية، ولعب اللعبة - ولكنها تظل ضيقة بمعنى أنها لا تستطيع نقل التفاهم عبر المجالات دون إعادة التدريب، والفجوة بين " الذكاء العام الضيق " التي يمكن أن تضاهي أو تتجاوز في الوقت نفسه القدرات المعرفية البشرية على نطاق واسع.

الهروب المتزايد من الأراضي الأخلاقية

ونظراً لأن نظم التنفيذ المتجهة إلى الخارج تنتشر في أماكن ذاتية عالية - من الموافقة على القروض والتعاقد مع جهات مستقلة - فقد انتقلت الشواغل الأخلاقية من مناقشات مختصرة إلى مشاكل عملية عاجلة، وقد تكون عواقب سوء تصميمها أو سوء تطبيقها شديدة، مما يؤثر على سبل عيش الأفراد وحرياتهم وحتى حياتهم، وما زلنا ندرس المجالات الأخلاقية الأكثر إلحاحاً، بما في ذلك عدة مجالات لم تبرز إلا في السنوات القليلة الماضية.

الخصوصية وأمن البيانات

إن شهية البيانات التي تقدمها اللجنة الاستشارية لشؤون الإدارة والميزانية هائلة، إذ أن نماذج التدريب على أحدث التقنيات تتطلب مسحا واسعا من النصوص والصور وسجلات سلوك المستعملين - ومعظمها مستخرج من الشبكة الدولية دون موافقة صريحة، مما يثير تساؤلات أساسية بشأن حدود جمع البيانات المقبولة، فقد تم نشر نظم الاعتراف بالوجه في أماكن عامة دون أطر قانونية قوية، مما يؤدي إلى وجود شواغل بشأن المراقبة الجماعية وتآكل أساليب الحفظ.

Algorithmic Bias and Justice

أما نماذج التعلم الآلاتي فتتعلم من البيانات التاريخية التي كثيرا ما تُنَسِّق التحيزات المجتمعية حول العرق ونوع الجنس والعمر والوضع الاجتماعي - الاقتصادي، وعندما يستخدم نظام " آي " لتقييم طلبات القروض أو التنبؤ بالتكرار، فإن هذا النظام يمكن أن يديم أو يضخم تلك التحيزات، فعلى سبيل المثال، كشفت دراسة أجريت في عام 2019 بواسطة " بروبليكا " أن نظاماشف للتنافس على نطاق واسع يستخدم في المحاكم الأمريكية لتقييم مخاطر أكبر.

الأثر على العمالة وعدم المساواة الاقتصادية

وعلاوة على ذلك، فإن القدرة على استبدال المهام المعرفية وكذلك المزيجات المادية لم يسبق لها مثيل، إذ أن أدوار الأسلاك البيضاء في خدمة العملاء، واستعراض الوثائق القانونية، والمحاسبة، بل والصحافة، قد تعزز أو تُخطط لها بصورة متزايدة من قبل منظمة العفو الدولية. وقد قدر تقرير عام 2023 من McKinsey Global Institute() الآثار المترتبة على ذلك

المساءلة والشفافية

فعندما يتسبب نظام " آي " في ضرر - سواء من خلال حادث سيارة ذاتي الدفع، أو تشخيص طبي معيب، أو انتهاك واضح للخطاب الحر - كثيرا ما يكون تحديد المسؤولية أمرا صعبا، ويجعل طابع " الصندوق الأسود " للشبكات العصبية العميقة من الصعب شرح سبب اتخاذ قرار معين، وهذا الافتقار إلى الترجمة الشفوية يمكن أن يؤدي إلى تقويض الثقة العامة والمسؤولية القانونية المعقدة، ويضع الباحثون تقنيات البحث " AI " (XAI) التي تثبت أنها لا تزال

Autonomous Systems and Moral Agency

ونظراً لأن منظمة العفو الدولية مدمجة في الأسلحة والمركبات والأجهزة الطبية، فإن مسائل الوكالة المعنوية تصبح حادة، وإذا ما أعطت آلية مستقلة الأولوية لسلامة المحتلين على المشاة؟ وهل يمكن برمجة طائرة عسكرية لجعل قرارات الاستهداف مدى الحياة والموت؟ فهذه ليست مجرد مشاكل تقنية - فهي أحجية أخلاقية تتطلب مناقشة عامة وفحصاً ديمقراطياً.

الأثر البيئي

وتستهلك نماذج الطاقة الكبيرة الحجم كميات هائلة من الكهرباء والمياه، وتشير تقديرات الدراسة التي أجريت في عام 2022 إلى أن التدريب على استخدام الطاقة في إنتاج نحو 500 طن متري من مكافئ ثاني أكسيد الكربون - مقارنة بانبعاثات عشرات السيارات في عمرها، ومع تزايد عدد النماذج، وكذلك الأثر الإيكولوجي لهذه المركبات، فإن مراكز البيانات المزودة بالكلاود تمثل بالفعل نحو 1 في المائة من الطلب العالمي على الكهرباء، وعبء العمل في مجال الطاقة يتسارع النمو.

الاتجاهات والمسؤوليات في المستقبل

الابتكار المسؤول عن طريق التصميم

وبدلاً من معالجة الأخلاق كاعتراف لاحق، فإن كبار الممارسين يدعون إلى إدراج الاعتبارات الأخلاقية في دورة الحياة بأكملها - من جمع البيانات والتدريب النموذجي إلى النشر والرصد، ويشمل ذلك إجراء عمليات مراجعة للتحيز، ووضع سياسات استخدام واضحة، وتوفير رقابة مجدية للمستعملين على بياناتهم، وقد نشرت شركات مثل غوغل وميكروسوفت ومؤسسة " أوب آي " مبادئ متزايدة تتعلق بالحركة المستقلة، رغم أن الانتقادات تشير إلى أن نظم الرقابة الذاتية قد أصبحت ضرورية.

الحوكمة العالمية والتنسيق

إن تطوير نظام المعلومات الإدارية المتكامل هو مسعى عالمي، ومع ذلك فإن الحكم لا يزال مجزأ، وفي حين يمضي الاتحاد الأوروبي قدماً بقانونه المتعلق بالتصنيف الصناعي، فإن الولايات المتحدة تعتمد على مجموعة من الأنظمة والمعايير الطوعية الخاصة بقطاع معين، وقد اقترحت الصين مبادئها التوجيهية التي تؤكد أمن الدولة والنمو الاقتصادي، والتي تتعارض أحياناً مع قواعد الخصوصية الغربية، وربما تكون آليات للتعاون الدولي قد وضعت مبادئ بشأن عدم الرجوع إلى معاهدة عدم الانتشار النووي.

التعليم والمشاركة العامة

وبالإضافة إلى ذلك، يظل الفهم العام للمعارف غير الواقعية منخفضاً، مما يمكن أن يغذي المخاوف غير الواقعية أو الثقة غير المبررة، فالكليات والجامعات ووسائط الإعلام لها دور في تعزيز محو الأمية في مجال مكافحة الأمية - ليس فقط في الترميز بل في التفكير النقدي بشأن الآثار الاجتماعية المترتبة على التكنولوجيا، وينبغي للحكومات أن تمول بحوث المصلحة العامة وأن تهيئ حيزاً للمواطنين لكي يثقوا في النشرات المحلية للمبادرة، مثل الاعتراف بالوجه في المدارس أو أدوات المراقبة التوقعة.

"الرؤية الطويلة"

إن مسار العمل غير محدد مسبقا، ويمكن أن تصاغ التكنولوجيا بالخيارات التي نتخذها اليوم - في تمويل البحوث، والتصميم التنظيمي، وممارسات الشركات، والمشاركة المدنية، والوعد الذي قطعته منظمة العفو الدولية على نفسها في الطب (تحقيق اكتشاف المخدرات، والمعاملة الشخصية)، وعلم المناخ (تحقيق التنبؤ بالطقس، وتحقيق شبكات الطاقة المثلى)، والتعليم (توحيد مسارات التعلم) أمر واقع.

ويجب على العلماء والمهندسين وواضعي السياسات والجمهور التعاون لوضع مبادئ توجيهية أخلاقية قوية ومؤسسات مسؤولة، وبذلك يمكننا توجيه منظمة العفو الدولية نحو مستقبل ليس متقدما تكنولوجيا فحسب، بل أيضا سليما أخلاقيا، فالأسئلة الأخلاقية المحيطة بالإناث ليست منفصلة عن التكنولوجيا - وهي مدمجة في كل خط من قواعد القانون، وكل مجموعة بيانات، وكل قرار نشر، ومواجهتها علنا وملحا هي المسار الوحيد المسؤول.