عندما تفشل الخوارزميات
6:39 م خبير 0 تعاليق تسميات : ذكاء صنعي
عندما تفشل الخوارزميات
الخوارزميات هي عصب البرمجة الأساسي واللبنة الرئيسية التي تعطي الذكاء الصنعي قدراته الخارقة. صحيح أننا وصلنا إلى مراحل متقدمة جداً فيها وفي استخدامها لبرمجة التطبيقات وحل المشاكل إلا أن هناك تأثيرات سلبية كثيرة بدأت تظهر في الحياة اليومية عند الاعتماد على هذه الخوارزميات. مواضيع تطرق لها لوك دورميل Luke Dormehl في كتاب The Formula: How Algorithms Solve All Our Problems- And Create More المعادلة: كيف تحل الخوارزميات كل مشاكلنا – وتخلق المزيد. إليكم هذا المقتطف المميز من الكتاب.
في 5 أبريل 2011، تلقى جون غاس John Gass، البالغ من العمر 41 عاما رسالة من الهيئة المسؤولة عن تسجيل السيارات في ولاية ماساتشوستس Massachusetts Registry of Motor Vehicles. أبلغت الرسالة غاس بأن رخصة القيادة خاصته قد ألغيت ويجب عليه التوقف عن القيادة على الفور. كانت المشكلة الوحيدة هي أن السائق لم يتلق أية مخالفة مرورية منذ سنوات، ولم يعلم غاس ماسبب إرسال الرسالة.
بعد عدة مكالمات هاتفية محمومة، متبوعة بجلسة استماع مع المسؤولين علم السبب: تم اختيار صورته بواسطة خوارزمية للتعرف على الوجوه تهدف إلى عمل مسح في قاعدة بيانات تحوي الملايين من رخص القيادة وتبحث عن احتمالات لهويات مزيفة يمكن أن ترتكب جريمة. قررت الخوارزمية بأن غاس يشبه سائقاً أخراً في ماساتشوستس وقد كان متورطاً في أمر ما، وبالتالي كانت الرسالة هي النتيجة.لا يعد جون غاس وحيداً في كونه ضحية للخوارزميات الخاطئة. في عام 2007، حدث خلل في نظام الحاسوب في دائرة كاليفورنيا للخدمات الصحية California Department of Health Services حيث تم “إنهاء عوائد الآلاف من كبار السن ذوي الدخل المنخفض ومن ذوي الاحتياجات الخاصة. وتم إلغاء التأمين الصحي لهؤلاء المواطنين.”
بينما كان النظام السابق يخبر الذين لا يحق لها الحصول على إعانات عن طريق إرسال بريد إلكتروني، تم تصميم البرنامج البديل CalWIN لعزلهم دون سابق إنذار إلا إذا اكتشفوا ذلك بنفسهم من خلال الدخول إلى النظام. ونتيجة لذلك، فإن عدداً كبيراً من الأشخاص الذين تم توقيف مساعداتهم لم يدركوا ما حدث حتى بدؤوا بتلقي الفواتير الطبية باهظة الثمن. هناك مشكلة أخرى وهي بأن العديد من هؤلاء يفتقرون مهارات اللغة الإنجليزية ليكونوا قادرين على التنقل في نظام الرعاية الصحية على الانترنت لمعرفة الخطأ.
هناك الكثير من الحوادث المشابهة والتي كانت الأنظمة الحاسوبية التي تعمل وفقاً لخوارزميات معينة مسؤولة عنها. اتهم الميكانيكي والتر فولمر Walter Vollmer البالغ من العمر 56 عاماً من قبل النظام الفدرالي لرعاية الأطفال بفاتورة إهمال إعالة ابنه وبلغت فاتورة هذه التهمة حوالي 206,000$. كانت تداعيات هذه القضية كبيرة على حياة فولمر إذا بدأ يعاني اضطرابات بعد شكه بوجود حياة سرية لزوجته طيلة فترة زواجهما.
إن كانت الخوارزميات غير قادرة على التمييز بين الأفراد بشكل صحيح فلا مانع من اختيارها لأحد المواطنين واتهامه بكونه إرهابياً، وهذا الخطأ يحصل بالفعل إذ يتهم حوالي الـ 1500 مواطن أمريكي أسبوعياً بهذه التهمة أثناء قيامهم برحلات على الأراضي الأمريكية. تشمل هذه الأخطاء التي تحصل نتيجة تطابق البيانات مع أفراد آخرين عاملين في القوات المسلحة الأمريكية، طفلاً بعمر أربع سنوات، طياراً لإحدى شركات الطيران الأمريكية ــ والذي اعتقل في إحدى الحالات حوالي 80 مرة في عام واحد.
تحصل معظم هذه الأخطاء بسبب الدور الذي تأخذه الخوارزميات اليوم في تطبيق القانون. انتقلت الأنظمة المؤتمتة في الآونة الأخيرة من مجرد كونها أدوات تستخدم لأغراض إدارية إلى أدوات أساسية في اتخاذ القرار. في بعض الحالات تكون المسألة أكثر تعقيداً من مجرد إيجاد الخوارزمية المناسبة لأداء وظيفة ما، حيث تتعلق المسألة بالطبيعة الخاطئة للثقة التامة بأن أي عمل يمكن أتمتته. ففي حالة استخدام تحليل البيانات للكشف عن الخطط الإرهابية، يضطر المواطنون للتخلي عن جزء كبير من خصوصيتهم لخوارزميات تحليل البيانات اليت تكشف في النهاية عن حالات يكون قسم لا بأس به منها خاطئاً، يقول الخبير في أمن المعلومات بروس شناير Bruce Schneier:
إن البحث عن الخطط الإرهابية أشبه بالبحث عن إبرة في كومة قش، ولا تحل المشكلة على الإطلاق بإضافة المزيد من القش إلى الكومة. سيكون من الأفضل لو جعلنا مجموعة مختصة تحقق في احتمال حدوث الأعمال الإرهابية وتوجه الحواسيب في هذه العملية، بدلاً من تسليم زمام الأمور للحواسيب وتركها تقرر من يجب استجوابه.
المعضلة الأكبر التي نواجهها اليوم هي الثقة الزائدة بالخوارزميات والقدرات التي تمتلكها الحواسيب والتي تفوق الثقة بالأفعال والطبيعة البشرية.
يقول البروفسور في جامعة ماريلاند في الولايات المتحدة دانييل سيترون Danielle Citron ” إننا نولي ثقة زائدة باللخوارزميات لأننا نراها وظيفية وغرضية، والحقيقة أننانحن البشر من يقوم بصياغة هذه الخوارزميات ونقوم بالتحكم بوظيفتها والمنظور الذي تعمل وفقه. يقول دانييل سيترون” إذا أردنا أن نقولها بطريقة أخرى، تعمل الخوارزميات الحاسوبية بشكل موضوعي غير منحاز، لكن هذا لا يعني أنه لا يمكن برمجة هذه الخوارزميات لتكون منحازة وغير حيادية.”
يمكن أن تخضع الخوارزميات لانحياز المبرمج الذي برمجها، ففي الماضي وجد أن خوارزميات التعرف على الوجوه تعرفت على وجوه الرجال أكثر من تعرفها على وجوه النساء، كما تعرفت على الأفراد الذين لا يملكون بشرة بيضاء أكثر من تعرفها على الأشخاص الذين يملكون بشرة بيضاء.
قد لا تستهدف الخوارزميات المسؤولة عن التعرف الأفراد ذوي البشرة السوداء خشية التعرض للنقد والمساءلة، لكن الحقيقة التي تقتضي قيامها بذلك أكثر من قيامها بالتعرف على النساء تعني أن النتيجة النهائية نفسها. يمكن للانحياز أن يتبع أنماطاً كثيرة تختبئ في قواعد البيانات التي تتسم بالفوضى والحجم الكبير.
عندما بحثت البروفسورة لاتانيا سويني Latantya Sweeney الأفريقية الأصل من جامعة هارفارد عن اسمها في جوجل في أحد الأيام، صعقت عندما لاحظت أن نتائج البحث ترافقت مع إعلانات تقول ” هل سبق لك واعتقلت؟” لم تظهر هذه الأسئلة لأي من زملائها البيض. بدأت سويني بدراسة تثبت أنه يتم التلاعب بأدوات تعليم الآلة التي تستخدمها جوجل في تطوير عمليات البحث على أساس عنصري، بربط الأسماء التي يستخدمها السود بشكل أكبر بإعلانات تتعلّق بسجلات الاعتقال.
لا يمكننا أن نفترض في هذه الحالة أن الخوارزمية ارتكبت خطأً، بل أنها قامت بما برمجت لأجله تماماً. تكشف الخوارزمية التي عرضت الإعلان على سويني عن ربط بين الأشخاص السود والسلوك الإجرامي.
بغض النظر عن السبب، وبغض النظر عن الفائدة التي نحققها من استخدام الخوارزميات. لا يمكن للفرد المنحاز أن يؤثر سوى على عدد محدود من البشر. بينما تؤثر الخوارزمية على حياة الكثير من الأشخاص، أقله عدداً أكبر من الذي يمكن أن يؤثر به شخص واحد.

