- الرابط المشترك بين المتهمين بالخطأ أنهم أصحاب بشرة سمراء.. وأمر اعتقالهم بناء على أوامر الذكاء الاصطناعى
موضوعات مقترحة
- تقنيات الذكاء الاصطناعى باتت تعتمد عليها العديد من الأجهزة الأمنية فى ضبط المجرمين.. ويأخذ بها القضاء كأدلة اتهام
- مايكل أوليفر متهم بسرقة موبايل فى نفس الوقت الذى كان فيه مع زوجته بمستشفى بعيد عن مسرح الجريمة
- روبرت ويليامز تعرض للاعتقال بتهمة سرقة ساعة وقت أن كان جالسا مع ابنتيه الصغيرتين فى المنزل
- أنتون روبنسون المدافع العام السابق: بيانات تقنية التعرف على الوجه بها عنصرية فجة.. ولها أبعاد خطيرة فى القضايا الجنائية
ماذا تفعل عندما تصبح متهمًا بارتكاب جريمة وأنت بالأساس لم تكن موجودا فى مسرحها أو فى المدينة التى وقعت بها؟ من المؤكد أنك ستنفى وتقول إن هناك خطأ ما قد حدث، فلديك من الأدلة والشهود ما يثبت براءتك، وهذا أمر سهل وبسيط عندما يكون من اتهمك إنسان مثلك.. لكن عندما يكون من رماك فى قلب الجريمة والاتهام برنامج ذكاء اصطناعيا، فالأمر جد خطير، وليس سهلا أن تنفى عنك تلك الجريمة التى لم ترتكبها.
أنت متهم من قبل تقنية «التعرف على الوجه»، بأدلة يعجز بل يستحيل أعتى المحامين معها دحضها. وماذا يفعل محاموك بعد أن يعرض عليهم الشرطى صورتك التى التقطتها كاميرات المراقبة وأنت فى مسرح الجريمة، تظهر فيها ملامح وجهك وسماتك الجسدية. ماذا يفيد إنكارك أمام إحدى خوارزميات العصر «تقنية التعرف على الوجه» التى قادت قبلك العديد من الأبرياء إلى السجن، ووضعتهم محل الاتهام الصريح قبل الشك.
فى هذا التحقيق ندق نافوس الخطر أمام هيئات الشرطة وجهات التحقيقات حول العالم، والتى تعتمد فى أدلة اتهامها على تقنيات الذكاء الاصطناعى فقط.. فليس كل ما يلمع ذهباً.. والأمر جد خطير ويجعل ميزان العدالة فى خطر.
لم يكن يتوقع مايكل أوليفر - 28 عامًا، أن واحدة من أسعد لحظات حياته، سترتبط بذكرى واحدة من أسوأ لحظات حياته، تلك اللحظة السعيدة من شهر يوليو من عام 2019، التى كان فيها بجوار زوجته فى مستشفى بمدنية ميتشجان، ينتظر قدوم مولده الأول. أما الذكرى السيئة المرتبطة بهذا الحدث السعيد، فهى اتهامه فى نفس التوقيت بسرقة هاتف محمول.
كذلك لم يتوقع نجير باركس - 34 عامًا، أن يتم اتهامه بسرقة وجبات خفيفة وحلوى من متجر هدايا فى مدينة نيو جيرسى فى يناير 2019، رغم أنه وقت حدوث تلك السرقة كان برفقة زوجته خارج المدينة. والأمر الأشد ألما، ما حدث لروبرت ويليامز - 43 عامًا، الذى تعرض للاعتقال فى يناير 2020، فى حديقة منزله أمام أعين ابنتيه الصغيرتين، بتهمة سرقة 5 ساعات من متجر شينولا بديترويت، بينما كان على بعد 50 ميلاً من مسرح الجريمة وقت وقوعها.. والسؤال كيف حدث ذلك؟ والمتهمون فى تلك القضايا كانوا جميعا بعيدين كل البعد عن مسرح تلك الجرائم وقت ارتكابها؟
الرابط المشترك بين هؤلاء المتهمين واحد، وهو أنهم أصحاب بشرة سمراء، ومن قام باتهامهم وجعل الشرطة تلقى القبض عليهم وتضع القيود فى أيديهم واحد أيضا، وهو برنامج الذكاء الاصطناعى "تقنية التعرف على الوجه". هكذا قادت تلك التقنية حسبما جاء فى تحقيق نشرتها أخيرًا مجلة ""Wired الأمريكية العديد من الأبرياء إلى السجن.. خصوصا السود، وسلطت المجلة المتخصصة فى متابعة تقنيات الذكاء الاصطناعى وتأثيرها على الحياة الاجتماعية، الضوء على التأثيرات السلبية الخطيرة لخوارزميات تقنية التعرف على الوجوه فى ضبط المشتبه بهم.
عنصرية فجة
أحب كثيرًا إدخال التقنيات فى حل المشكلات المعقدة، لكن خوارزميات التعرف على الوجه ليست مثالية وبها عواقب كارثية. هذا ما يقوله خارى جونسون، كبير محررى المجلة، مشددًا على ضرورة أن تكون هناك حدود فى استخدام الشرطة لهذه التقنية، إنه أمر مزعج عندما تعرف أن البيانات المزود بها تلك التقنية بها عنصرية فجة، تضع الأشخاص ذوى البشرة السوداء محل شك فى المقام الأول، وأصحاب البشرة البيضاء فى المقام الأخير. وهذا ما حدث فى الاتهامات التى تم توجيهها فى الحالات السابقة، فمن قام بارتكاب الجرائم بالفعل أصحاب بشرة سمراء، وعندما تمت الاستعانة بتقنية التعرف على الوجوه للتعرف على المجرمين، قامت التقنية بجلب صور لأشخاص مشابهين لهم فى اللون والبنية الجسدية.
جلسة استماع
البشر يبنون الذكاء الاصطناعى، والبشر هم من يضعون سياسة استخدامه فى تحقيقات الشرطة، هكذا تقول المحامية الأمريكية برونكس جاكسون، التى تولت الدفاع عن موكلها، مايكل أوليفر، فى اتهامه بسرقة هاتف محمول من أحد المتاجر، وقت أن كان برفقة زوجته بالمستشفى، وهى تضع مولدهما الأول، ووسط الأدلة التى قدمته للمحكمة لتثبت براءة موكلها، مقطع فيديو من كاميرا المستشفى يؤكد وجوده داخل المستشفى برفقة زوجته لحظة وقوع الجريمة.
لم تستطع المحامية جاكسون فهم كيف تأكدت الشرطة من اتهام موكلها بكل هذه الدرجة من اليقين، وإبقائه 8 أشهر محتجزا رهن القضية، وأخبرها المدعى العام أن الشرطة تعرفت إلى موكلها من خلال استخدام تقنية التعرف على الوجه.وأمام الأدلة التى قدمتها المحامية، أمر القاضى بجلسة استماع لتحديد ما إذا كانت عملية تحديد الهوية عبر تقنية التعرف على الوجه مؤكد بسنة 100% وليس بها شك أو خطأ.
اعتراف مقابل البراءة
فى جلسة الاستماع لمعرفة آلية عمل تلك التقنية، قال المدعى العام، الذى أخبر جاكسون كيف تم التعرف على موكلها، إنه لا يُطلب من الشرطة ولا النيابة الكشف عن وقت استخدام تلك التقنية لتحديد المشتبه فيه، وأنه لا يمكن لرجال الشرطة تحدى المشاكل المحتملة مع تقنية التعرف على الوجه، ومن المرجح أن تخطئ تلك التقنية أيضا فى التعرف على الأشخاص غير البيض. بعد جلسة الاستماع عرض المدعون على المحامية جاكسون وموكلها صفقة: "اعترف بالذنب فى السرقة الصغيرة مقابل عقوبة الاحتجاز التى قضاها رهن القضية". وفى نهاية المطاف تم إسقاط جميع القضايا الثلاث، لكن فى قضية نجير باركس، استغرق الأمر ما يقرب من عام.
يقول أنتون روبنسون، المدافع العام السابق فى "منظمة البراءة"، وهى منظمة غير ربحية مكرسة للدفاع عن الأشخاص الذين أدينوا بالخطأً: "تاريخياً نجد فى بعض القضايا خطأ فى تحديد هوية المتهمين بارتكاب جرائم وعليه يتم إرسال العديد من الأبرياء إلى السجن.. إنها مشكلة كبيرة وخطيرة وخصوصا فى القضايا الجنائية.. وهنا ينبغى على الشرطة ألا تعتمد فقط على استخدام تقنية التعرف على الوجه فى تحديد هوية المتهمين. فقد كشفت "منظمة البراءة" أن أكثر من ثلثى المتهمين الذين تمت إدانتهم عن طريق الشهود، تمت تبرئتهم من خلال أدلة الحمض النووى التى أصبحت دليل إدانة لا يقبل الشك، بعكس الاعتماد فقط على الشهود، فقد يجد بعض شهود العيان صعوبة فى تحديد هوية المتهمين الذين لا يعرفونهم، خصوصا عندما يكون هؤلاء المتهمون من خلفيات عرقية أو إثنية مختلفة، ولا نريد أن تصبح تقنية التعرف على الوجوه محل شك فى توجيه الاتهام.
معدلات خطأ كبير
تكتسب القواعد المنظمة لاستخدام التعرف على الوجه أهمية خطيرة مع الاعتماد المتزايد عليها من قبل الشرطة، حسبما جاء فى تقرير حديث لـ"مركز جورج تاون للخصوصية والتكنولوجيا"، ومكمن الخطورة فى أن صور نصف عدد البالغين فى الولايات المتحدة الأمريكية موجود فى قاعدة بيانات التعرف على الوجوه. ويحذر التقرير من أن الاعتماد على تلك التقية وحدها فى تحديد هوية المتهمين، سيضر بشكل أكبر بأصحاب البشرة السمراء، أكثر من نظرائهم أصحاب البشرة البيضاء، وذلك بسبب معدلات الخطأ الكبيرة فى تحديد هوية ذوى البشرة السوداء.
فى تقرير صدر عام 2019، قال مركز جورج تاون: إن شرطة نيويورك قامت بأكثر من 2800 عملية اعتقال بعد عمليات البحث عن التعرف على الوجوه بين عامى 2011 و2017، كان من بينهم مدانون بالخطأ. ومنذ ذلك الحين، تبنى عدد قليل من أقسام الشرطة الأمريكية، سياسات تحكم وتضبط استخدام تقنية التعرف على الوجه فى الإدانة، بعدما تأكدت أن الاعتماد عليها وحدها لا يمكن استخدامه كسبب محتمل لتنفيذ أمر تفتيش أو اعتقال.
وتقول كلير جارفى، بمركز الخصوصية والتكنولوجيا بجامعة جورج تاون، إنها أمضت 10 سنوات فى تتبع استخدام الشرطة للتعرف على الوجه، ودربت أكثر من 2000 محامى دفاع على كيفية اكتشاف أخطاء استخدام التكنولوجيا، وتنصحهم بالبحث فى مذكرات الاعتقال، عن أسماء الشركات التى تصنع تقنية التعرف على الوجه، أو وحدات أقسام الشرطة مثل قسم التعرف على الوجه فى مدينة نيويورك، أو أسماء ضباط شرطة معينين.
وتضيف جارفى: غالبًا ما تبدأ عمليات البحث باستخدام تقنية التعرف على الوجوه التى تؤدى إلى توجيه تهم جنائية اعتمادا على الصورة، من خلال كاميرات المراقبة، حيث يتم ربط تلك الكاميرات بنظام يقارن الصورة التى تم التقاطها للمشتبه به، بتلك الصور الموجودة فى قاعدة بيانات كبيرة، واختيار الصور الأكثر تطابقا معها، وتقديمها بعد ذلك للمحققين مع جميع البيانات المطلوبة عن صاحبها. ونظرًا لأنه يتم حل العديد من قضايا الاتهام بالخطأ من خلال صفقات الإقرار بالذنب، أعتقد أن ما ننتظره أسوأ.. ربما تكون قضية قتل أو اغتصاب، حيث لا يكون الادعاء على استعداد للترافع أو إسقاط التهم مقابل الاعتراف بالذنب.
جودة الصورة
ويقول خبراء المعهد الوطنى الأمريكى للمعايير واختبار الأنظمة التكنولوجية: تتحسن تقنية التعرف على الوجه، لكنها لا تزال معيبة.. صحيح أن نسبة الخطأ انخفضت بنسبة 80%، لكن النسبة المتبقية من عدم الدقة تضع أبرياء محل اتهام، وهو ما يؤكده أحد خبراء المعهد باتريك جروثر، قائلا: "تظل جودة الصورة مشكلة وحتى مع أفضل الخوارزميات يمكن أن تكون خاطئة أكثر من 20%". وبناء على تلك النتائج تبنت سبع ولايات ومدن أمريكية، بما فى ذلك بوسطن وسان فرانسيسكو، حظراً كاملاً أو جزئياً للتعرف على الوجه من قبل الوكالات الحكومية.
وفى أواخر العام الماضى، دعت مجموعة تمثل قادة الشرطة من المدن الأمريكية الكبرى، بما فيها شرطة نيويورك، جهات المراقبة إلى الكشف عن متى يتم استخدام تقنية التعرف على الوجه للمساعدة فى التعرف على المشتبه به. وقال كريستيان كوين، وهو رائد سابق فى قسم شرطة مقاطعة فيرفاكس فى فيرجينيا، إن انتشار تقنية التعرف على الوجه دفعت المحققين إلى الاعتقاد بأنه سيكون هناك دليل رقمى مناسب فى كل حالة، على غرار الحمض النووى أو دليل الطب الشرعى المادى، لكن الواقع أثبت أن صور الكاميرات منخفضة الجودة ومن زوايا غريبة، وتعانى من مشكلات الإضاءة التى تعيق إلى حد كبير التوافق الجيد فى تحديد هوية المشتبه به.
أمر لا مفر
أمام الشكوك التى طالت تقنية التعرف على الوجه فى تحديد هوية المتهمين بارتكاب جرائم- كما يقول كريستيان كوين - انتشر انعدام الثقة فى الشرطة فى كثير من المناطق، فى الوقت الذى نحتاج فيه حقًا إلى نشرها والمساعدة فى تثقيف مجتمعاتنا بشأن قيمتها وكيفية استخدامها لتحقيق أعلى قدر من الأمان والعدالة، وأعتقد أن انتشارها والاعتماد عليها أمر لا مفر منه، لكن يجب أن تكون هناك شفافية حول كيفية استخدامها فى التحقيقات الجنائية. وفى الخريف الماضى، أيد قادة السياسة العلمية والتكنولوجية فى البيت الأبيض المزيد من الإفصاح عن استخدام الذكاء الاصطناعى كجزء من قانون حقوق الذكاء الاصطناعى، كما حظيت تقنية التعرف على الوجه بدعم من الحزبين فى الكونجرس الأمريكى، رغم ما يثار حولها بشأن انتهاك الخصوصية، كونها وسيلة مراقبة تتم دون علم أو موافقة الأشخاص.