الأكاذيب .. الأكاذيب اللعينة والذكاء الاصطناعي


الأكاذيب .. الأكاذيب اللعينة والذكاء الاصطناعي

ديان كويل

مع انتشار عملية اتخاذ القرار الخوارزمية عبر نطاق واسع من مجالات السياسة العامة ، فإنها بدأت في فضح أوجه عدم المساواة الاجتماعية والاقتصادية التي كانت مخبأة منذ فترة طويلة وراء البيانات "الرسمية". السؤال الآن هو ما إذا كنا سنستخدم هذه الرؤى لإيجاد مجتمع أكثر عدلاً.

 - تكون الخوارزميات متحيزة مثل البيانات التي تتغذى عليها. وجميع البيانات متحيزة. حتى الإحصاءات "الرسمية" لا يمكن الافتراض بأنها ترمز إلى "حقائق" أبدية موضوعية. إن الأرقام التي تنشرها الحكومات تمثل المجتمع كما هي عليه الآن ، من خلال عدسة ما يعتبره هؤلاء الذين يجمعون البيانات ذات صلة وهامة. الفئات والتصنيفات المستخدمة لفهم البيانات ليست محايدة. مثلما نقيس ما نراه ، فإننا نميل إلى رؤية ما نقيسه فقط.

ومع انتشار عملية اتخاذ القرار الخوارزمية إلى نطاق أوسع من مجالات صنع السياسة ، فإنها تسلط ضوءًا قاسًا على التحيزات الاجتماعية التي كانت تكمن في ظلال البيانات التي نجمعها. إن استخدام الذكاء الاصطناعي (AI) عن طريق أخذ الهياكل والعمليات القائمة إلى أقصى الحدود المنطقية ، يجبرنا على مواجهة نوع المجتمع الذي أنشأناه.

المشكلة ليست فقط أن أجهزة الكمبيوتر مصممة للتفكير مثل الشركات ، كما قال زميلي جامعة كامبريدج جون بين. كما أن أجهزة الكمبيوتر تفكر مثل الاقتصاديين. إن الذكاء الاصطناعي ، بعد كل شيء ، هو نسخة معصومة من الاقتصاد المنزلي كما يمكن للمرء أن يتصور. إنه عامل منطقي وحساس منطقيًا ومتسق منطقيًا قادر على تحقيق النتائج المرجوة من خلال موارد حسابية محدودة. عندما يتعلق الأمر بـ "تعظيم المنفعة" ، فهي أكثر فعالية من أي إنسان.

يستخدم الاقتصاديون مفهوم المنفعة لشرح سبب اتخاذ الناس للاختيارات التي يقومون بها - ماذا يشترون ، مكان الاستثمار ، مدى صعوبة العمل: كل شخص يحاول تعظيم المنفعة وفقًا لتفضيلاته ومعتقداته حول العالم ، وضمن الحدود يطرحها الدخل أو الموارد النادرة. على الرغم من عدم وجودها ، تعد المرافق أداة قوية. يبدو من الطبيعي أن نفترض أن الجميع يحاول أن يفعل ما بوسعهم لأنفسهم.

علاوة على ذلك ، يولد مفهوم المنفعة الاقتصادية لدى الاقتصاديين من النفعية الكلاسيكية ، التي تهدف إلى تأمين أكبر قدر من الخير لأكبر عدد من الناس. وكما هو الحال مع الاقتصاديين المعاصرين الذين يسيرون على خطى جون ستيوارت ميل ، فإن معظم هؤلاء الذين يصممون الخوارزميات هم من النفعية الذين يعتقدون أنه إذا كان "الخير" معروفًا ، فإنه يمكن تعظيمه.

لكن هذا الافتراض يمكن أن يؤدي إلى نتائج مثيرة للقلق. على سبيل المثال ، فكر في كيفية استخدام الخوارزميات لتحديد ما إذا كان السجناء يستحقون الإفراج المشروط. توصلت دراسة مهمة أجريت عام 2017 إلى أن الخوارزميات تتفوق بكثير على البشر في التنبؤ بمعدلات الإعادة إلى الإجرام ، ويمكن استخدامها لتخفيض "معدل السجن" بأكثر من 40٪ "دون زيادة في معدلات الجريمة". في الولايات المتحدة ، عندئذ ، يمكن تستخدم لخفض عدد نزلاء السجون السود بشكل غير متناسب. ولكن ما الذي يحدث عندما تتولى منظمات العفو الدولية عملية الإفراج المشروط ، وما زال الأمريكيون الأفارقة يُحكم عليهم بالسجن بمعدل أعلى من البيض؟

لقد أدت عملية اتخاذ القرار الخوارزمية عالية الكفاءة إلى طرح مثل هذه الأسئلة في المقدمة ، مما اضطرنا إلى أن نقرر بدقة أي النتائج ينبغي تعظيمها. هل نريد فقط تقليل عدد نزلاء السجون ، أم يجب أن نهتم أيضاً بالعدالة؟ في حين أن السياسة تسمح بالخلل والتنازلات لتخفي مثل هذه المقايضات ، فإن قانون الكمبيوتر يتطلب الوضوح.

هذا الطلب على الوضوح يجعل من الصعب تجاهل المصادر الهيكلية لعدم المساواة الاجتماعية. في عصر الذكاء الاصطناعي ، ستجبرنا الخوارزميات على إدراك الكيفية التي استقرت بها نتائج الصراعات الاجتماعية والسياسية الماضية في الحاضر من خلال استخدامنا للبيانات.

بفضل مجموعات مثل مبادرة الأخلاقيات لمنظمة العفو الدولية والشراكة حول منظمة العفو الدولية ، بدأ نقاش أوسع حول أخلاقيات الذكاء الاصطناعي في الظهور. لكن خوارزميات الذكاء الاصطناعي بالطبع تفعل فقط ما يتم ترميزه للقيام به. تمتد القضية الحقيقية إلى ما وراء استخدام اتخاذ القرارات الخوارزمية في الحوكمة المؤسسية والسياسية ، وتضرب بالأسس الأخلاقية لمجتمعاتنا.

وبينما نحتاج بالتأكيد إلى مناقشة المقايضات العملية والفلسفية لتعظيم "المنفعة" من خلال الذكاء الاصطناعي ، فإننا نحتاج أيضًا إلى الانخراط في التفكير الذاتي. تطرح الخوارزميات أسئلة أساسية حول كيفية تنظيم العلاقات الاجتماعية والسياسية والاقتصادية حتى الآن. يجب علينا الآن أن نقرر ما إذا كنا نريد حقا ترميز الترتيبات الاجتماعية الحالية في هياكل صنع القرار في المستقبل. بالنظر إلى التصدع السياسي الذي يحدث حاليًا حول العالم ، يبدو هذا بمثابة لحظة جيدة لكتابة نص جديد.


بروجيكت

11 ديسمبر 2018  

ديان كويل أستاذة السياسة العامة في جامعة كامبردج.