حوكمة استخدام الذكاء الاصطناعي في العمل القضائي– قراءة قانونية في الميثاق الأخلاقي الأوروبي
بشأن استخدام الذكاء الاصطناعي (AI) في النظم القضائية وبيئتها (CEPEJ)
أ.د. ايناس خلف الخالدي([*])
ملخص البحث:
هدفت الدراسة إلى محاولة تسليط الضوء على دور الميثاق الأخلاقي الأوروبي بشأن استخدام الذكاء الاصطناعي (AI) في النظم القضائية وبيئتها (CEPEJ) من واقع تجربتي القضائية بمحاكم المملكة الاردنية الهاشمية, وذلك من خلال ربط المبادئ الاخلاقية التي ركز عليها الميثاق, وواقع استخدام الذكاء الاصطناعي في البيئة القضائية, بهدف حوكمة هذا الاستخدام وابراز الاشكاليات القانونية التي تمكن ان تظهر من وراء الاستخدام المفرط للذكاء الاصطناعي في العمل القضائي دون وضع ضوابط العدالة والمساواة واحترام حقوق المتقاضين في محاولة لتأطير استخدام الذكاء الاصطناعي في العملية القضائية
كلمات مفتاحية: الحوكمة، الذكاء الاصطناعي, النظم القضائية, الميثاق الأخلاقي, المفوضية الأوروبية لكفاءة العدالة
(Artificial Intelligence Governance In the judicial work) Legal reading in the European
Ethical Charter on the Use of Artificial Intelligence (AI)
in Judicial Systems and their Environment (CEPEJ)
Abstract
The study aimed to try to shed light on the role of the European Ethical Charter on the Use of Artificial Intelligence (AI) in Judicial Systems and their Environment (CEPEJ) from the reality of my judicial experience with the courts of the Hashemite Kingdom of Jordan by linking the ethical principles that the Charter focused on, and the reality of the use of artificial intelligence in the environment Judicial aiming to govern this use and highlight the legal problems that can arise from the excessive use of artificial intelligence in the judicial work without setting the rules of justice, equality and respect for the rights of litigants in an attempt to frame the use of artificial intelligence in the judicial process
Key words: Governance, Artificial Intelligence, Judicial Systems, Ethical Code, European Commission for Efficiency Justice
المقدمة:
الحمد لله المتفرد بالجلال والكمال, له الفضل, وله الثناء وإليه المآل, أحمده – سبحانه وتعالى– حمد الشاكرين المقرين بنعمه ﴿وَمَا بِكُم مِّن نِّعْمَةٍ فَمِنَ اللّهِ﴾, فلله الحمد ملء السموات, وملء الأرض, وملء ما بينهما وملء ما شاء من شيء بعد وأصلي وأسلم على خير خلق الله أجمعين نبينا وحبيبنا محمد خاتم الأنبياء, وسيد الفقهاء، وإمام الأتقياء، النبي الأمي الذي دانت له العلماء, صلى الله عليه وعلى آله وصحبه وسلم تسليماً كثيراً إلى يوم الدين .. أما بعد:
فنوضح مقدمة بحثنا هذا، من خلال الفقرات الست الآتية:
أولاً: مدخل تعريفي بالموضوع:
لا تزال موجة التحول الرقمي متفاوتة التأثير على النظم القضائية للدول. فكثير من الدول المتقدمة وضعت نهجا لاستخدام التطبيقات العملية من حيث التكنولوجيا القانونية, بينما دول اخرى لا تزال تنظر الى هذه القضية على انها مجرد قضية ناشئة فلا يتم التركيز من خلالها سوى على الإدارة الفعالة لتكنولوجيا المعلومات.
يعتبر الذكاء الاصطناعي من بين التقنيات التي تعمل في هذا التحول الرقمي ويعتبر محامي الروبوت” في الولايات المتحدة من اكثر أدوات الذكاء الاصطناعي في البيئة القضائية تداولا حيث يعمل بالفعل ويتحدث باللغة الطبيعية مع البشر، بالمقابل تقف زياوفا روبوت. في محكمة الشعب المتوسطة الأولى في بكين، تقدّم المشورة القانونية وتساعد الجمهور على فهم المصطلحات القانونيّة، إذ تعرف الإجابة عن أكثر من 40 ألف سؤال في مجال النزاعات القضائيّة وتستطيع التعامل مع 30 ألف مشكلة قانونيّة اذ تملك الصين أكثر من 100 روبوت مثل زياوفا روبوت موزعة في المحاكم في جميع أنحاء البلاد، بإمكانها أن تسترجع بيانات القضايا والأحكام الماضية، لتُساهم بذلك في الحد من الأعباء على الموظفين. حتّى أنّ بعض هذه الروبوتات متخصصة في القانون التجاري أو النزاعات المرتبطة بالعمل على سبيل المثال
وفي الامارات توفر محاكم دبي مجموعة من الخدمات والتطبيقات الذكية من أبرزها نظام “الزواج الالكتروني” الذي يتم به عقد القرآن عن بعد اذ نجحت محاكم دبي عام 2017 في توثيق أول عقد قران –حسب الشريعة الإسلامية على مستوى العالم عن بعد, عن طريق روبوت يربط بين القاضي وأهل العروسين لعقد زواج عن بعد[1].
وفي خطوة استثنائية خطاها الاتحاد الأوروبي باتجاه معالجة آفة موجودة في غالبية المرافق القضائية بالعالم، وهي الفساد، أقر ميثاقا يسمح باستخدام الروبوت القضائي بدلاً من القاضي البشري وأقر مجلس النواب الأوروبي أول ميثاق رسمي لبدء استخدام الذكاء الاصطناعي في بعض الإجراءات القضائية في دول الاتحاد[2].
ووفقا لما ورد في بيان أصدره المجلس،”, تؤدي التكنولوجيا المتطورة الدور الكبير في تعزيز العدل وتحليل المعلومات وتسهيل اتخاذ القرارات القضائية.
إن من شأن تطبيقات الذكاء الاصطناعي في المجال القضائي أن تزود القضاة بموارد مذهلة بل يمكن ان تكون بديلا عن القاضي في اصدار قراراته لكن على الرغم من هذه المزايا الواضحة ما زال من غير الواضح من يتولى الدور الإشرافي على خوارزميات الذكاء الاصطناعي للتأكّد من خلو القرارات التي يصدرها القضاة الربوت من العيوب
يتخوَّف حقوقيون كثر في العالم من تقويض شرعية المحاكم إذا ما بدأ “القضاة الروبوت” يتخذون قرارات مغايرة لتلك التي تصدر عن القضاة البشر فالتقنية لا تأخذ بعين الاعتبار العوامل والظروف الشخصية للمتهم، كالمستوى التعليمي ومكان الإقامة والبيئة الاجتماعية التي نشأ فيها وهذا يعني ان القرارات الصادرة عن القضاة الربوت لا بد ان تخضع للمراقبة تحقيقا للعدالة.
وأدراكا من المفوضية الاوروبية لكفاءة العدالة (CEPEJ) التابعة لمجلس أوروبا, اهمية الاعتبارات الاخلاقية عند تصميم تطبيقات الذكاء الاصطناعي واستخدامها في النظم القضائية, أقرت الميثاق الأخلاقي بشأن استخدام الذكاء الاصطناعي (AI) في النظم القضائية وبيئتها وحددت خمسة مبادئ أساسية ومنهجية تنطبق على المعالجة الآلية للقرارات والبيانات القضائية, بناءً على تقنيات الذكاء الاصطناعي
ثانياً: تحديد فرضيات البحث:
إن موضوع البحث ينصب على قراءة متانية ودقيقة للميثاق الأخلاقي
الأوروبي بشأن استخدام الذكاء الاصطناعي في النظم القضائية وبيئتها” (CEPEJ)، وصولا لحوكمة استخدام الذكاء الاصطناعي في البيئة القضائية بعدالة فالبحث يهتم بإيجاد الأجوبة المناسبة للأسئلة الآتية:
1- ما هي حدود استخدام الذكاء الاصطناعي في النظم القضائية ؟.
2- كيف يمكن أن نضمن عند استخدام تطبيقات الذكاء الاصطناعي مراعاة قواعد العدالة بين المتقاضين.
3- هل يتم استخدام الذكاء الاصطناعي في النظم القضائية دون مراقبة قانونية او تقنية او اخلاقية ؟.
4- هل تكفي الضوابط التي وضعها الميثاق الأخلاقي الأوروبي لضمان استخدام امن وعادل للذكاء الاصطناعي في البيئة القضائية.
إن المشكلة وراء اختيار هذا الموضوع، تكمن في إيجاد الأجوبة المناسبة للتساؤلات التي ذكرناها سابقاً، وهذا ما سنحاول العمل عليه في هذه الدراسة – إن شاء الله تعالى.
ثالثاً: أهمية موضوع البحث:
للبحث في هذا الموضوع أهمية علمية كبيرة، نظرية وعملية، وتكمن الأسباب التي دفعتنا إلى اختيار موضوع البحث الآتي:
أ- ان حوكمة استخدام الذكاء الاصطناعي في البيئة القضائية يتيح التوسع باستخدام الذكاء الاصطناعي في النظم القضائية بدون قلق او خوف امام وصول المتقاضين الى حقوقهم والى زيادة الشفافية والمساءلة في المعالجة الآلية للقرارات القضائية باستخدام الذكاء الاصطناعي.
ب- الحاجة العملية المتزايدة إلى استخدام الذكاء الاصطناعي في النظم القضائية لتوفير الوقت والجهد والتكلفة اذ ان استخدام الذكاء الاصطناعي يزيد كفاءة العمل القضائي في المحاكم بمختلف تخصصاتها، ويحسن مستوى الخدمات المقدمة كما يخفض النفقات والكلف التشغيلية.
- معرفة الاشكاليات القانونية التي تمنع من تحقيق استخدام امن وعادل للذكاء الاصطناعي في البيئة القضائية.
- ومن جانب آخر، فإن الأهمية النظرية لموضوع البحث تكمن أيضاً في أنه يعتبر مدخلاً نظرياً للبحث في العديد من المسائل القانونية المثارة بشأن استخدام الذكاء الاصطناعي في النظم القضائية, والتي لا يمكن الخوض فيها دون تحديد قواعد الشفافية والعدالة والامن والحقوق الاساسية, وغيرها من المسائل القانونية المرتبطة بموضوع بحثنا، وقد أشرنا إليها ضمن الفقرة الخاصة بتحديد فرضيات البحث.
ه- في الوقت الذي سيرشد هذا البحث بأهدافه ونتائجه وتوصياته ومقترحاته، المعنيين في هذا الموضوع لتفهم خطورته، فإنه سيضيف للمعنيين في مجال القانون دراسات خصبة في الأسباب والعوامل المؤدية إلى التشديد من جهة والتخفيف من جهة أخرى في استخدام الذكاء الاصطناعي في النظم القضائية.
كما أن الأهمية العملية لموضوع البحث تكمن في خلو المكتبة القانونية من اي دراسات تتناول بعض المسائل المتعلقة بموضوع بحثنا. ومثل هذا الوضع يجعل للبحث أهمية عملية تكمن في تقديم اضافة لبعض المسائل المتعلقة بالموضوع.
رابعاً: الأهداف المتوخاة من البحث:
يهدف البحث إلى تحقيق الأهداف الأساسية الآتية:
- تحديد ماهية الذكاء الاصطناعي ومجالات استخدامه في النظم القضائية.
- تحديد ضوابط حوكمة استخدام الذكاء الاصطناعي في البيئة القضائية تحقيقا للعدالة.
- تسليط الضوء على الميثاق الأخلاقي الأوروبي بشأن استخدام الذكاء الاصطناعي في النظم القضائية باعتباره أول أداة أوروبية تحدد خمسة مبادئ أساسية ومنهجية تنطبق على المعالجة الآلية للقرارات والبيانات القضائية.
- امكانية تعميم نموذج الميثاق الأخلاقي الأوروبي بشأن استخدام الذكاء الاصطناعي في النظم القضائية المختلفة.
خامساً: المنهجية المتبعة في البحث:
اعتمدنا في هذا البحث منهجا تحليليا يقوم بالأساس على تحليل الميثاق الأخلاقي الأوروبي بشأن استخدام الذكاء الاصطناعي في النظم القضائية وبيئتها وصولا لحوكمة استخدام الذكاء الاصطناعي في البيئة القضائية وتحديد ضوابط استخدام الذكاء الاصطناعي في البيئة القضائية تحقيقا للعدالة.
سادسا: منهج البحث:
يسعى هذا البحث إلى تسليط الضوء على المبادئ الاخلاقية المنظمة لاستخدام الذكاء الاصطناعي في النظم القضائية التي صدرت عن المفوضية الأوروبية لكفاءة العدالة من خلال التقسيم التالي:
المبحث الأول: مفهوم استخدام الذكاء الاصطناعي في النظم القضائية.
المبحث الثاني: التعريف بالميثاق الأخلاقي الأوروبي بشأن استخدام الذكاء الاصطناعي في النظم القضائية.
المبحث الثالث: نماذج عالمية واماراتية في استخدام الذكاء الاصطناعي في النظم القضائية.
المبحث الرابع: الاشكاليات القانونية لاستخدام الذكاء الاصطناعي في النظم القضائية.
المبحث الخامس: حوكمة استخدام الذكاء الاصطناعي في البيئة القضائية.
الخاتمة: وتتضمن أهم نتائج البحث.
وأخيراً أسال الله السّداد والرشاد، وأن يجعل هذا العمل خالصاً لوجهه الكريم، إنه ولي ّ ذلك والقادر عليه، وصلى الله على خير خلقه محمد، وآله وصحبه أجمعين.
المبحث الاول
مفهوم استخدام الذكاء الاصطناعي في النظم القضائية
تمهيد وتقسيم
لمعرفة اهمية الذكاء الاصطناعي والدور الذي ينبغي ان يتوسع في ادائه في المجال القانوني ينبغي تقسيم هذا المبحث الى مطلبين نبحث في المطلب الاول مفهوم الذكاء الاصطناعي ونبحث في المطلب الثاني المقصود باستخدام الذكاء الاصطناعي في النظم القضائية.
المطلب الاول: مفهوم الذكاء الاصطناعي
ظهرت عبارة “الذكاء الاصطناعي” أولاً في بحث عام 1956، اقترح فيه كاتبه عالم الحاسوب جون مكارثي أن تقدُّماً كبيراً يُمكن تحقيقه، لو أمكن للآلات “أن تحلّ المسائل التي لا يحلّها الآن سوى البشر” وعرف في بحثه “الذكاء الاصطناعي بأنه “علم وهندسة صنع الآلات الذكية[3] .
بقصد بالذكاء الاصطناعي بمعناه الأساسي قدرة الكمبيوتر على أداء المهام المرتبطة عادة بالبشر. يتضمن ذلك “القدرة على التفكير واكتشاف المعنى أو التعميم أو التعلم من التجربة السابقة” [4] وبالتالي العثور على أنماط وعلاقات للاستجابة بشكل حيوي للمواقف المتغيرة. ويتضح من التعريف انه يمكن استنتاج ثلاثة جوانب رئيسية في أنظمة الذكاء الاصطناعي (أو أنظمة الحوسبة الإدراكية): القدرة على العثور على المعلومات وجمعها؛ القدرة على تحليل المعلومات التي تم جمعها وفهمها؛ وبعد ذلك, الإنشاء واتخاذ القرارات.[5]
في مجال أنظمة الذكاء الاصطناعى, هناك العديد من التقنيات. يتضمن ذلك معالجة اللغة الطبيعية, حيث تكون أنظمة الكمبيوتر قادرة على تحليل النص لإنشاء محتوى وتصنيف المعلومات وحتى الإجابة على الأسئلة [6], والتعلم الآلي حيث تستطيع أنظمة الكمبيوتر من خلال العمل مع كمية كبيرة من البيانات اكتشاف أنماط دون تعليمات برمجية دقيقة وواضحة[7] والتعرف على الكلام, والذي يتضمن تحويل الكلام إلى وظائف النص والعكس؛ وأنظمة الخبراء التي لديها القدرة على أداء المهام التي تحتاج إلى نوع من الخبرة التي يمتلكها البشر فقط حتى الآن؛ والرؤية, والتي تشمل القدرة على التعرف على الصور المختلفة وتحليلها.[8]
باعتقادي ان تعريف الذكاء الاصطناعي الذي ورد في الميثاق الأخلاقي الأوروبي بشأن استخدام الذكاء الاصطناعي في النظم القضائية شمل هذه المفاهيم الفنية حيث عرف الذكاء الاصطناعي بانه مجموعة من الأساليب العلمية والنظريات والتقنيات التي تهدف إلى إعادة إنتاج القدرات المعرفية من البشر بواسطة الالات, حيث تسعى الآلات الى اداء المهام المعقدة التي نفذت سابقا من قبل البشر[9]
المطلب الثاني
المقصود باستخدام الذكاء الاصطناعي في النظم القضائية
يقصد باستخدام الذكاء الاصطناعي في النظم القضائية (الذكاء القضائي): استخدام قدرات التنبؤات المستقبلية وتحليلات انظمة الكمبيوتر ومحاكاة السلوك البشري في تحليل البيانات القضائية المتاحة في الأنظمة التشغيلية في النظم القضائية.
يقول تشو كيانج، رئيس محكمة الشعب العليا الصينية: “من شأن تطبيق تقنيات الذكاء الاصطناعي في المجال القضائي أن يزود القضاة بموارد مذهلة، إلّا أنّه غير قادرٍ على الحلول مكان’خبرة‘ القضاة”. وهذا يدفعنا لسؤال مهم ما مجالات استخدام الذكاء الاصطناعي في النظم القضائية؟ يختلف تدخل الذكاء الاصطناعى في البيئة القضائية اختلافا كبيرا وفقا للتطبيقات. ولعل ابرز الفئات الرئيسية العاملة في البيئة القضائية ما يلي:
– محركات بحث السوابق القضائية / القانون.
– تسوية المنازعات عبر الإنترنت.
– المساعدة في صياغة القرارات.
– التحليل (التنبئي, المقاييس.
– تصنيف العقود وفقا لمعايير مختلفة والكشف لبنود تعاقدية متباينة أو غير متوافقة.
– ابلاغ الخصوم أو دعمهم في إجراءاتهم القانونية.
– الوصول إلى المعلومات القضائية وتحليلها والتعمق بها حيث تعمل هذه التكنولوجياعلى التنبؤ بقرارات القضاة باستخدام أدوات “العدالة التنبؤية”[10]
– تحديد خطورة الأشخاص والمتهمين في المحاكم، من خلال قدرتها على تحليل نوع القرارات التي يتخذها شخص ما، واستنتاج مدى احتمال “انحرافه” في المجتمع.
– حلّ الجرائم قبل فترة طويلة من تدخل القاضي، إذ يقوم نظام “فالكري” على سبيل المثال، بتنفيذ الجوانب التي تتطلب الكثير من العمل من المحلّل الجنائي، وذلك عبر البحث في الرسائل وتقارير المختبر ومستندات الشرطة، لتسليط الضوء على النواحي التي تستحقّ المزيد من التحقيق وعلى الروابط المحتملة التي قد يُغفلها الإنسان.
– دعم التدابير البديلة لتسوية المنازعات في المسائل المدنية اذ يتم استخدام أدوات “العدالة التنبؤية لتقييم فرص نجاح النزاع وتوجيه الخصوم نحو طريقة أخرى لتسوية المنازعات عندما يكون هناك شعور بأن هناك فرصة ضئيلة للنجاح امام المحكمة.
المبحث الثاني
الميثاق الاوروبي لاستخدام الذكاء الاصطناعي
في النظم القضائية
تمهيد وتقسيم
يشكل الميثاق الأخلاقي الأوروبي بشأن استخدام الذكاء الاصطناعى في النظم القضائية وبيئتها أول أداة أوروبية تحدد مبادئ يجب مراعاتها عند المعالجة الآلية للقرارات والبيانات القضائية
للحديث عن هذا الموضوع نقسم هذا المبحث الى مطلبين, الاول: مبررات الميثاق الاوروبي لاستخدام الذكاء الاصطناعي في النظم القضائية والثاني: مبادئ الميثاق المرجعية لاستخدام الذكاء الاصطناعي في النظم القضائية.
المطلب الاول
مبررات الميثاق الاوروبي لاستخدام الذكاء الاصطناعي
في النظم القضائية
انطلاقا من الأهمية المتزايدة للذكاء الاصطناعي في المجتمعات الحديثة, والفوائد المتوقعة عندما يتم استخدام الذكاء الاصطناعي بالكامل في خدمة كفاءة وجودة العدالة, تبنت المفوضية الأوروبية لكفاءة العدالة [11](CEPEJ) “الميثاق الأخلاقي الأوروبي بشأن استخدام الذكاء الاصطناعى في النظم القضائية وبيئتها”. ويعد الميثاق “أول أداة أوروبية تحدد خمسة مبادئ أساسية ومنهجية تنطبق على المعالجة الآلية للقرارات والبيانات القضائية, بناءً على تقنيات الذكاء الاصطناعي. وقد تم تطويره من قِبل المفوضية الأوروبية لكفاءة العدالة (CEPEJ) التابعة لمجلس أوروبا, وهذا الميثاق يستهدف الشركات الخاصة (الناشئة في سوق التكنولوجيات الجديدة المطبقة على الخدمات القانونية -التقنيات القانونية), والجهات الفاعلة العامة المسؤولة عن تصميم ونشر أدوات وخدمات الذكاء الاصطناعي (AI) في هذا المجال, وصناع القرار العام المسؤولون عن الإطار التشريعي أو التنظيمي, وتطوير وتدقيق أو استخدام هذه الأدوات والخدمات, وكذلك المهنيين القانونيين.
وتأمل المفوضية الأوروبية لكفاءة العدالة (CEPEJ) في أن تصبح هذه المبادئ نقطة مرجعية ملموسة للعاملين في مجال العدالة والمؤسسات والجهات الفاعلة السياسية التي تواجه تحدي دمج التقنيات الجديدة القائمة على الذكاء الاصطناعي في السياسات العامة أو في عملها اليومي. بالإضافة إلى ذلك, من الناحية العملية, توفر هذه المبادئ أساسًا مهمًا للمقارنة في تقييم خصائص التطبيقات المختلفة للذكاء الاصطناعي (AI) التي يتم الآن دمجها في النظام القضائي أو على مستوى المحكمة بشكل كبير.
المطلب الثاني
مبادئ الميثاق المرجعية لاستخدام الذكاء الاصطناعي
في النظم القضائية في الميثاق الاوروبي
عالج الميثاق الاوروبي خمسة مبادئ مرجعية لاستخدام الذكاء الاصطناعي في النظم القضائية وبيئتها على النحو التالي:
الفرع الاول: احترام الحقوق الأساسية
يجب ان يتم تصميم وتنفيذ أدوات الذكاء الاصطناعي بطريقة متوافقة مع الحقوق الأساسية للمتقاضين. وأن تخدم معالجة القرارات القضائية والبيانات (خوارزميات الذكاء الاصطناعي) أغراض واضحة في الامتثال الكامل للحقوق الأساسية التي تضمنتها الاتفاقية الأوروبية لحقوق الإنسان واللائحة الأوروبية لحماية البيانات الشخصية وهذا يعني:
1-عندما تستخدم أدوات الذكاء الاصطناعي في اجراءات المحاكمة فلا بد من مراعاة حق المتقاضين في محاكمة عادلة والمساواة بين الخصوم
2-عند استخدام أدوات الذكاء الاصطناعي يجب مراعاة استقلالية القضاة في اصدار الحكم.
المبدا الثاني: “تحت سيطرة المستخدم”: وهو حق المستخدم –الخصوم ووكلاؤهم- في معرفة الاجراءات المستخدمة من الذكاء الاصطناعي في الدعوى, وأن له خيار العودة الى مباشرة الإجراءات التقليدية امام المحاكم وهذا يعني:
1- زيادة استقلالية المستخدم –الخصوم ووكلاؤهم- وعدم تقييدها من خلال استخدام أدوات وخدمات الذكاء الاصطناعي
2-يجب أن يكون القضاة في النظام القضائي قادرين في أي وقت وحسب التنظيم الاجراائي لجلسات المحاكمات من مراجعة القرارات القضائية والبيانات المستخدمة والتعديل عليها
3-يجب إبلاغ المستخدم –الخصوم ووكلاؤهم- بلغة واضحة ومفهومة ان الحلول التي تقدمها أدوات الذكاء الاصطناعي غير ملزمة, وانها احد الخيارات المتاحة وأن لديه الحق في مراجعة المحكمة كما يجب أن يكون المستخدم على علم واضح مسبقا قبل أو أثناء العملية القضائية بان له الحق في الاعتراض, بحيث يمكن سماع دعواه مباشرة امام المحكمة التقليدية اذ لا يجوز ان ينافي استخدام الذكاء الاصطناعي الحق الدستوري للمستخدم من حق التقاضي امام المحكمة وحضور جلسات المحاكمة شخصيا بالمعنى المقصود في ضوء متطلبات المواد 6, 13 من الاتفاقية الأوروبية لحقوق الإنسان
المبدأ الثالث: مبدأ عدم التمييز: حظر الميثاق على وجه التحديد تطوير أي تمييز بين الأفراد أو المجموعات.
1- بالنظر إلى قدرة أساليب المعالجة هذه على الكشف عن التمييز الحالي, من خلال تجميع أو تصنيف البيانات المتعلقة بالأفراد أو المجموعات من الأفراد وأصحاب المصلحة العامة والخاصة.
2- يجب التأكد من أن الأساليب لا تتكاثر أو تزيد من حدة هذا التمييز ولا تؤدي لتحليلات حتمية.
3- يجب توخي الحذر بشكل خاص في كل مراحل التطوير والنشر خاصة عندما تكون المعالجة مباشرة أو غير مباشرة على أساس “بيانات حساسة”. ويمكن أن يشمل ذلك الأصل العرقي أو الإثني المزعوم, الاجتماعي-الاقتصادي الخلفية, الآراء السياسية, المعتقدات الدينية أو الفلسفية, النقابات العمالية العضوية, البيانات الجينية, البيانات الحيوية, البيانات المتعلقة بالصحة أو البيانات المتعلقة الحياة الجنسية أو التوجه الجنسي. عندما يكون هذا التمييز المحددة, يجب إيلاء الاعتبار للتدابير التصحيحية للحد إذا أمكن تحييد هذه المخاطر وكذلك لزيادة الوعي بين أصحاب المصلحة.
4- ومع ذلك, فإن بنبغي استخدام التعلم الآلي والخوارزميات على تشجيع التحليلات لمكافحة هذا التمييز
المبدأ الرابع: الخصوصية والسرية وحقوق الملكية الفكرية:
لضمان تحقيق أهداف تبادل البيانات مع وجوب احترام حقوق الأفراد والمؤسسات، يتوجب على وزارة العدل/ المحاكم حماية خصوصية المراجعين وسرية المؤسسات والحقوق القانونية لأصحاب الملكية الفكرية في كافة الأوقات. وهذا يعني:
1-وجوب الأخذ بعين الإعتبار احترام خصوصية الفرد، بوجه عام في حال رغبة وزارة العدل/المحاكم في تصنيف مجموعة محددة من البيانات على انها بيانات مفتوحة.
2-وجوب احترام سرية المعلومات المتعلقة بالخصوم, والحفاظ على سريتها بوجه عام في حالة رغبة وزارة العدل/المحاكم في تصنيف مجموعة محددة من البيانات على انها بيانات مفتوحة.
3-وجوب احترام حقوق الملكية الفكرية، وأخذها بعين الإعتبار في حالة الرغبة في تصنيف مجموعة محددة من البيانات على انها بيانات مفتوحة.
4- وجوب مراعاة الشفافية”: ويقصد بها ان طرق معالجة البيانات يجب ان يكون الوصول إليها بطريقة بسيطة ومفهومة
5-وجوب إقامة توازن بين الملكية الفكرية والحاجة إلى الشفافية والنزاهه
المبدأ الخامس جودة وامن البيانات
بغرض تمكين وزارة العدل/ المحاكم من تقديم الخدمات للمتعاملين بكفاءة وفاعلية، وتحسين دقة القرارات التي يتم اتخاذها بناءً على الأدلة، وتعزيز الثقة في كليهما، يجب على وزارة العدل/المحاكم العمل على إدارة وتحسين جودة وامن البيانات بشكل مستمر. وهذا يعني أن البيانات يجب ان تتمتع بالخصائص التالية:
1-يجب ان تكون البيانات دقيقة ومتكاملة,وانه باستطاعة المحكمة اتخاذ القرارات بناءً على تلك البيانات دون الحاجة الى مزيد من عمليات المراجعة والتحقق .
2-يجب ان يكون لدى المحاكم من التجهيزات ما يضمن تحقيقها لأهدافها التشغيلية والاستراتيجية، بالإضافة إلى تحقيق العدالة للمتقاضين
3-يجب ان يكون لدى وزارة العدل/المحاكم القدرة على تقديم الخدمات بمستوى جودة وسرعة عالية وباقل التكاليف، وأن يتم تقديم الخدمات للخصوم والمراجعين بسرعة وبسهولة اذ تؤثر المواعيد القانونية في احتساب مدد الطعن بالاستناف او التنفيذ او التبليغ على تمكين الخصوم من متابعة دعواهم في المدد المقررة قانونا
4-البيانات التي تستند البها القرارات القضائية والتي يتم إدخالها في البرنامج الذي تنفذ خوارزمية التعلم الآلي يجب أن تأتي من مصادر معتمدة ويجب عدم تعديلها حتى يتم استخدامها بالفعل من قبل التعلم الآلي. لذا يجب أن تكون العملية برمتها قابلة للتتبع لضمان انه لم يحدث أي تعديل لتغيير محتوى أو معنى القرار
5-يجب تخزين النماذج والخوارزميات التي تم إنشاؤها وتنفيذها في بيئات آمنة, وذلك لضمان سلامة النظام وعدم المساس به
المبحث الثالث
نماذج عالمية واماراتية في استخدام الذكاء الاصطناعي
في النظم القضائية
تمهيد وتقسيم:
تحت هذا العنوان نقسم المبحث الى مطلبين الاول: النموذج الاوروبي في استخدام الذكاء الاصطناعي في النظم القضائية والثاني: النموذج الاماراتي في استخدام الذكاء الاصطناعي في في النظم القضائية
المطلب الاول
النموذج الاوروبي في استخدام الذكاء الاصطناعي
في النظم القضائية
تشمل المجالات الرئيسية التي يتم فيها استخدام الذكاء الاصطناعى في النظم القضائية في إجراء التحليل التنبئي, والبحث القانوني, ومراجعة وثائق الاكتشاف الإلكتروني, والمساعدة الذاتية, وكذلك للمساعدة الإدارية وتعزيز الأمن السيبراني.
إذ يُعد Lex Machina مثالًا لمنصة التحليلات القانونية التي تستخدم كميات كبيرة من معلومات التقاضي لتقديم رؤى حول كيفية عمل القضاة والمحامين والخصوم والقضايا المعروضة عليهم.[12] برز Lex Machina كمنصة تركز في البداية على توفير الاستراتيجيات القائمة على البيانات لقضايا الملكية الفكرية, بحيث يمكن تقييم المخاطر واتخاذ القرارات بشأن نطاق واستراتيجية التقاضي.
تقدم شركة Premonition AI, وهي شركة تحليلات قانونية أخرى, معلومات عن فعالية المتقاضين أمام قضاة معينين عن طريق استخراج ما تزعم أنه أكبر قاعدة بيانات للتقاضي في العالم. ويهدف إلى تحديد سجل الأحداث للقضاة والمحامين لضمان قيام الأطراف باتخاذ خيارات بناءً على الأفكار التجريبية. [13] تم تصميم هذه المنصات لتقليل أوجه القصور المرتبطة بالتقاضي من خلال تمكين المحامين من تطوير الاستراتيجيات والتنبؤ بالنتائج وتقديم حلول عملية تستند إلى البيانات لعملائهم.
مجال آخر يبدو أنه يوجد فيه مجال كبير للابتكار هو الطريقة التي يتم بها إجراء البحوث القانونية التقليدية. نظرًا لأن البحث يتضمن عمليات متعددة لتحديد الهوية وتصنيفها ومراجعتها, فإن الحاجة إلى أدوات لتحسين العملية واضحة. الغرض من التقنيات, مثل تلك التي طورتها ROSS Intelligence, [14] هو مساعدة المحامين في العثور على القضايا والمواد الثانوية باستخدام معالجة اللغة الطبيعية. تتيح هذه الأداة للباحثين طرح الأسئلة بلغة إنجليزية بسيطة ثم بعد ذلك بفحص قاعدة البيانات الخاصة بها وفحصها لتقديم إجابات وقراءات من أبرز الحالات والمقالات ذات الصلة بالسؤال. كما يوضح الرئيس التنفيذي للشركة, “تحاكي ROSS إلى حد كبير العملية الإنسانية للقراءة, وتعرف الأنماط في النص وتوفر إجابات مع السياق مع مقتطفات من الوثيقة المعنية”. [15] ينصب تركيزه في المقام الأول على قانون الإفلاس والإعسار.
تقوم منصات البحث القانوني الأقدم مثل Westlaw وLexis Nexis أيضًا بدمج معالجة اللغة الطبيعية في عمليات البحث الخاصة بهم.
تعمل الذكاء الاصطناعي أيضًا على التقدم من حيث الابتكارات المتعلقة باكتشاف الحقائق. OpenText عبارة عن منصة تستخدم التحليلات والتعلم الآلي لتحديد الحقائق الأساسية والمهمة للتقاضي, وكذلك من أجل الامتثال والحكم. يسمح للمستخدم بتصفية البحث وتركيزه من خلال تحديد الحقائق والعلاقات المهمة من سياق الحالة, من خلال تحليل الاتصالات بالإضافة إلى معلومات أخرى مثل المصطلحات ومصادر وأنواع الملفات. [16]
في حين أن البحث القانوني يتطلب مشاركة وتحليل مهمين, إلا أن مراجعة المستندات غالباً ما تعتبر مهمة تستغرق وقتًا طويلاً ودنيوية. علاوة على ذلك, فإنه عرضة للخطأ البشري بسبب الحجم الكبير من المعلومات التي غالباً ما يتعين معالجتها. Kira عبارة عن نظام أساسي مدعوم من الذكاء الاصطناعي مصمم لتحديد وتحليل البيانات من خلال استخراج المعلومات مثل الجمل والمفاهيم من العقود وبالتالي السماح للمستخدم بتحليل الاتجاهات والأنماط بين المستندات. يتم استخدامه في العناية الواجبة وتحليل العقود والمطالبة باخلاء الماجور, للتأكد من المخاطر والتحديات التي يمكن أن تنشأ, من خلال مقارنة الوثائق المعنية مع كميات هائلة من البيانات التي تم تجميعها سابقا. [17] Ravn, منصة أخرى للذكاء الاصطناعي, تنظم وتحلل وتلخص الوثائق, بهدف السماح لشركات التامين في قضايا التعويض بزيادة الكفاءة والإنتاجية مع تقليل المخاطر.[18]
المطلب الثاني
النموذج الاماراتي في استخدام الذكاء الاصطناعي
في النظم القضائية
في أكتوبر2017، أطلقت حكومة الإمارات العربية المتحدة “استراتيجية دولة الإمارات العربية المتحدة للذكاء الاصطناعي”، إلى أن يتم الاعتماد على الذكاء الاصطناعي في الخدمات وتحليل البيانات بمعدل 100% بحلول عام [19]2031
تبنت الامارات في النظم القضائية مشروع «الذكاء القضائي» الذي يهدف إلى زيادة كفاءة العمل القضائي في المحاكم والنيابات بمختلف تخصصاتها، وتحسين مستوى الخدمات المقدمة من قبل المحاكم مع التركيز على تخفيض النفقات والتكاليف التشغيلية، من خلال استخدام قدرات التنبؤات المستقبلية وتحليلات الذكاء الاصطناعي ومحاكاة السلوك البشري في تحليل البيانات القضائية المتاحة في الأنظمة التشغيلية في المحاكم[20]
للحديث عن النموذج الاماراتي في القضاء يمكن توزيع استخدام الذكاء الاصطناعي في ثلاث قطاعات وفق التقسيم التالي:
الفرع الاول: القضاء في امارة ابو ظبي
تم تطبيق آلية تعمل على إدخال «الذكاء الاصطناعي» في نظامي عمل الدعوى المدني والجزائي، ليشمل نوعين من الحالات؛ الأولى هي التنبؤ بمدة الفصل في القضايا، والمقصود بها، أنه بمجرد ما يتم تقيد القضية أو إحالتها من الشرطة إلى وكيل النيابة الذي يقوم بدوره بإحالتها إلى المحكمة، يعمل النظام في هذه الحالة على التنبؤ بالمدة الزمنية المحددة التي قد تستغرقها القضية من مرحلة القيد إلى الفصل فيها من خلال خوارزميات متقدمة ومعقدة قادرة على التنبؤ بنسبة دقة تصل الى 94%
والآلية المتبعة في هذا الشأن تقوم على تحليل البيانات المسجلة عن القضايا الواردة إلى المحكمة، مع إعطاء القضاة خلال نظرهم لقضايا ووقائع مشابة، بيانات ومؤشرات حول الأحكام التي سبق وأن أصدرت المحاكم في القضايا المشابهة.
اما فيما يخص الحالة الثانية التي يتم فيها تطبيق «الذكاء الاصطناعي» فالنظام الإلكتروني يعمل في حال وجود سوابق قضائية أو تكرار قيام المتهم للفعل الإحرامي، على اطلاع القاضي، أثناء تداولة للدعوى، بكافة المعلومات الخاصة بالسجل القضائي للمتهم، وبالتالي منح القاضي فكرة وتصور شامل عن وضع المتهم الماثل أمامه، بما يمكنه من إصدار قرارات دقيقة مثل التكفيل وعدم التكفيل وغيرها من الإجراءات القضائية[21]
الفرع الثاني: القضاء في امارة دبي
من ابرز تطبيقات الذكاء الاصطناعي في قضاء امارة دبي تطبيق (المحكمة الذكية) محكمة الدعاوى الصغيرة تم اطلاقها في عام 2007، لتصبح بذلك الوجهة القضائية الرئيسة لحل منازعات قطاع الشركات الصغيرة والمتوسطة في دولة الإمارات حيث ان المحكمة تُعنى بحل المنازعات، التي لا تتجاوز قيمة المطالبة فيها حد 500 ألف درهم والمحكمة مزودة بـ«تقنية مؤتمرات الفيديو, التي تتيح للأفراد أو الشركات الصغيرة والمتوسطة، إمكانية المشاركة في جلسات الاستماع من أي مكان في العالم، وهذه التقنية الجديدة تأتي لتمكن كل الأطراف المعنية، بمن فيهم أصحاب الأعمال أو المستأجرون أو الموظفون الموجودون داخل أو خارج الدولة، من حل النزاعات عن بعد، وحضور جلسات الاستماع، والتشاور من أي مكان في العالم[22].
وتطبيق محكمة C3 تعد أول محكمة على مستوى العالم تختصر درجات التقاضي الثلاث الابتدائية والاستئناف والتمييز في درجة قضائية واحدة، تفصل في القضايا في مدة لا تتجاوز الـ30 يوماً مع حفظ كل الحقوق والضمانات القضائية المتعارف عليها، وجار العمل على استكمال الاحتياجات التشريعية واللوجستية لتدشين المحكمة.تصدر أحكام قطعية قابلة للتنفيذ الفوري بإجراءات مستحدثة ومبسطة تختصر زمن الدعوى وسيكون للمشروع أثر إيجابي كبير على المتقاضين يتمثل في تبسيط الاجراءات وتقليل تكلفة التقاضي وعدم الحاجة لحضور جلسات المرافعة في مبنى المحاكم., وتُدار جميع إجراءات المحكمة بواسطة استخدام التقنيات الحديثة بما فيها الملف الإلكتروني وخاصية التواصل عن بعد[23]
الفرع الثالث: النيابة العامة
تتبنى النيابة العامة تطبيق جاري العمل على انجازه هو مشروع «النيابة الذكية» ومشروع «وكيل النيابة الروبوت»، ومشروع «الكشك الذكي» ومشروع «الدردشة الذكية» و«الزيارة الذكية» و«الصلح أونلاين»، وغيرها من المشاريع التي سيتم العمل عليها تباعاً انطلاقا من ضرورة استخدام الذكاء الاصطناعي في إيجاد رؤية مستقبلية، وإعداد جيل من أعضاء النيابة العامة، وخلق استراتيجيات لمواجهة التغيرات في منظومة عمل النيابة العامة باعتبارها ضمن الأنظمة الحيوية في الدولة، التي ستهب عليها رياح التغيير في المهام التشغيلية وسيحل محلها الذكاء الاصطناعي اذ سيكون الذكاء الاصطناعي مفيداً جداً في عمل النيابة العامة حسب خطة فريق العمل وسيدخل في العديد من آليات العمل منها تقديم الاستشارات القانونية لأعضاء النيابة العامة في وضع تكييف قانوني للواقعة بشكل سريع ودقيق، والتعرف على هوية المتهمين، والاطلاع على السوابق الجنائية الخاصة بهم التي تساهم في بناء عقيدة القاضي الجنائي وإصدار الأحكام والعقوبات الرادعة.
كما ستساعد القاضي الجنائي على الاطلاع على السوابق القضائية المتعلقة بمضمون القضية والصادرة من المحكمة العليا ومحاكم التمييز، ووضع خارطة جرمية بشكل دقيق بحيث يمكن من خلالها معرفة المتهم مرتكب الجريمة بسرعة فائقة، ووضع الحلول المناسبة للحد من ارتكابها، فضلاً عن توفير الترجمة الفورية أثناء التحقيق ومرحلة المحاكمة، الأمر الذي يساعد على سرعة الفصل في القضايا الجنائية، وحصول المتعاملين على خدمات سريعة وفورية من خلال تقنية الذكاء الاصطناعي[24]
المبحث الرابع
الاشكاليات القانونية لاستخدام الذكاء الاصطناعي
في النظم القضائية
يمثل استخدام الذكاء الاصطناعى في النظم القضائية وسيلة مهمة للغاية لتحسين كفاءة القضاة/المحامين /المراجعين /الخصوم مع هذه النظم الا ان استخدام الذكاء الاصطناعي في البيئة القضائية بالمقابل يثير العديد من الاشكاليات القانونية:
الاشكالية الاولى: مسألة التحيز. بدأت محاكم الولايات المتحدة في استخدام منتجات الذكاء الاصطناعي لإصدار الأحكام لتحديد مدى تكرار الأشخاص المدانين. في حين أن خوارزميات الذكاء الاصطناعي عادةً ما تكون مشفرة لتكون محايدة, لكن المبرمجين الذين يرمزونها قد لا يكونون كذلك, أو من المحتمل أن يعملوا مع بعض الافتراضات التي قد تؤدي إلى التحيز.[25] ففي دراسة أجرتها مؤسسة أمريكية عن أداة لتقييم المخاطر تسمى (COMPAS) (نظام تقييم المخاطر الجنائية المتعلقة ّ بتنميط إدارة الجناة الاصلاحية للعقوبات البديلة) والذي طورته شركة ُ نورثبوينت والذي يستخدام الخوارزميات في مرحلة المحاكمة وإطلاق السراح المشروط في جميع الولايات المتحدة .تشهد على هذه الحقيقة[26]. ووجدت أن الأداة كانت منحازة ضد المدعى عليهم السود الذين تم الحكم عليهم بشكل غير صحيح على أنهم معرضون لخطر كبير بالعودة مقارنة بالمتهمين البيض الذين تم تمييزهم على أنهم يمثلون خطورة منخفضة. [27]. وفي ذات السياق قدم أنجوين وآخرون (2016) تقريرا حول COMPAS)) تضمن التقرير قصصا تبين أن النظام يسيء تمثيل مخاطر معاودة الاجرام لدى مختلف المدانين بالقضايا. تشير هذه القصص الى تحيز عنصري غير منهجي في تقدير المخاطر فقد كان يجري تصنيف المدانين السود أعلى من تصنيف المدانين من غير السود
وهذا يثير مسألة زيادة الشفافية في المنهجية المستخدمة لتطوير مثل هذه التقنيات, وكذلك درجة من المساءلة والمسؤولية عن النتائج عندما لا لتزم الذكاء الاصطناعي بمبادئ العدالة والإنصاف
الاشكالية الثانية: كشف النقاب عن “الصندوق الأسود” للربوت فمن المسؤول عن كيفية عمل الروبوت. في العديد من الحالات, يقوم روبوت نتيجة لرموز متعددة بتحليل البيانات واتخاذ القرارات – مما يجعل المطورين غير متأكدين من كيفية عمل كل مكون أو كيفية اتخاذ الأداة لقراراتها. [28] ينتج عن هذا العديد من الأسئلة المتعلقة بعناصر عمليات صنع القرار, والأساس المنطقي وراء روابط معينة والأسباب وراءبعض نتائج البرمجة. والدعوات لإعطاء الروبوتات “الصندوق الأسود مضامين اخلاقية اثناء قيامها بالعمل بشكل يضمن أن هذه الربوتات تتبع القرارات والصادرة لها ويمكن أن تشرح كيف تم التوصل إليها[29]
الاشكالية الثالثة: يتعلق بسرية البيانات. من الضروري أن يلتزم مقدمو خدمات الذكاء الاصطناعى, كمستهلكين لكميات كبيرة من البيانات, بمعايير تتعلق بكيفية الوصول إلى البيانات واستخدامها. [30] أخيرًا على الرغم من أن مجال الذكاء الاصطناعى يتطور بسرعة, هناك حاجة لوضع اطار قانوني لتطوير مفردات جديدة من المبادئ التوجيهية والأطر, ليس من أجل إعاقة التطور في هذا المجال, ولكن لتطوير طرق جديدة للأخلاق والمسؤولية من فهم من القاعدة إلى القمة لكيفية تطور الحقل, [31] المسألة بإيجاز: قد تكون خوارزميات الذكاء الاصطناعي مثالية من ناحية الرياضيات، ولكن تثير الاشكاليات من الناحية الاخلاقية. وعلى الرغم من أن صنع القرار البشري أيضا حافل بالتحيزات المماثلة التي قد تبديها خوارزميات الذكاء الاصطناعي، تصبح مسألة المساءلة أكثر غموضا عند الاعتماد على العوامل الاصطناعية .
الاشكالية الرابعة: احتمالية انعدام الشفافية فهناك ضرورة لشرح وتبرير أسباب القرار القضائي فابرز التحديات التي تواجه مبدأالشفافية في تطبيق أنظمة الذكاء الاصطناعي, ان مصممي النظام قد لا يستطيعون شرح تطور خوارزميات الإجراءات -الاكثر تطوراً- عند اصدار القرار القضائي, فيصبح من غير المنطقي فهم أعمالها الداخلية. على الرغم من أن الأنظمة الذكية قد تكون أفضل بكثير في صنع القرار من البشر
الاشكالية الخامسة: في ظروف كثيرة، تُعتبر الكيفية الذي يُتّخذُ من خلالها القرار، وكيفية تنفيذ أي إجراء، أو من الذي ينفذه، مسائل في غاية الأهمية، لا سيّما عندما يكون الأمر متعلّقا بالقيم، وتختلف أهمية هذه العوامل من حالة إلى أخرى، وكذلك الأهمية المحتملة لاستبدال أو استكمال الذكاء البشري بالذكاء الآلي ويمكن أن ننظر إلى هيئات المحلفين في المحاكم الأميركية، على أنها مثال لهذا التخبُّط القيميّ، إذ يعلم الجميع أن الهيئات تصل في بعض الأحيان إلى إجابات خاطئة. ويساعد االذكاء الاصطناعي المحاكم الأميركية اليوم، في عملية اتخاذ بعض القرارات المتعلقة بالادانة بناء على بعض أنواع المعلومات المتوفرة كنسب العودة للإجرام (للفرد) وغيرها. وهناك مخاوف من مُساهمة هذا الأمر في عدم الحياد
المبحث الرابع
حوكمة استخدام الذكاء الاصطناعي في البيئة القضائية
لا شك ان “الميثاق الأخلاقي الأوروبي بشأن استخدام الذكاء الاصطناعى في النظم القضائية وبيئتها.يعد خطوة بالاتجاه الصحيح في مجال تنظيم استخدام الذكاء الاصطناعي في البيئة القضائية
إن حوكمة استخدام الذكاء الاصطناعي في النظم القضائية من منظور اخلاقي حسب ما ورد في الميثاق الاوروبي يرتبط بمعايير حوكمة اخلاقيات الذكاء الاصطناعي وهناك العديد من الدول[32] وضعت مبادئ أخلاقيات الذكاء الاصطناعي بهدف الارتقاء بالخدمات الحكومية، من خلال تقديم مجموعة كبيرة من الإرشادات لاستخدام تطبيقات الذكاء الاصطناعي، والتي تعزز من تحقيق قيم العدالة والشفافية والمساءلة لدى الأفراد والمؤسسات المعنية بتقديم خدمات الذكاء الاصطناعي والملاحظ انه لخصوصية منظومة الخدمات القضائية فقد حاول الميثاق ان يخرج من مبادئ أخلاقيات الذكاء الاصطناعي المتعارف عليها ووضع مبادئ اخلاقية ذات بعد قانوني لاستخدام الذكاء الاصطناعي في اطار العمل القضائي لارتباط القضاء بمفاهيم العدالة والخصوصية وحقوق الانسان وغيرها كما اشرنا سابقا الا ان تركيز الميثاق على المنظومة الاخلاقية للعمل القضائي تناسى المعايير الكلية التي يتم بمقتضاها حوكمة انظمة الذكاء الاصطناعي اخلاقيا وان المنظومة الاخلاقية للنظم القضائية متصلة بالبعد القانوني وتدور معه وجودا وعدما وبالتالي لا يمكن بحث ضوابط اخلاقية لاستخدام الذكاء الاصطناعي في البيئة القضائية بمعزل عن الضوابط القانونية, لأن القانون يخضع السلوك البشري/التقني/ للمساءلة –وفق مستويات- لخطورة الخطأ الحاصل في البيئة القضائية على مصير الانسان وهذا يستدعي منا ابداء هذه الملاحظات:
1-كان على الميثاق الاوروبي ان يراعي التحقق من عدالة انظمة الذكاء الاصطناعي ابتداء حتى نثق بقدرة الخدمات القضائية على تحقيق العدالة في حال تمت بانظمة الذكاء الاصطناعي من خلال أن تتجنب الخوارزميات التحيز غير التشغيلي[33] واثبات ان الخوارزميات المستخدمة في الخدمات القضائية تحقق ما يتطلبه قطاع العدالة
2- كان على الميثاق الاوروبي أن يراعي اخضاع أنظمة الذكاء الاصطناعي للمساءلة من القائمين على التصميم والتطوير والتطبيق فقبل التاكد من استيفاء المتطلبات القانونية للقرار القضائي لا بد من اكتمال المتطلبات التقنية للقرار القضائي وهذا يفترض توفير مراقبين لتنظيم عملية اتخاذ القرارات المؤتمنة.
3- كان على الميثاق الاوروبي ان يراعي تمتع أنظمة الذكاء الاصطناعي بالشفافية كخطوة في تمتع اجراءات المحاكمة بالشفافية اذ يجب أن يتمتع ناشرو أنظمة الذكاء الاصطناعي بالشفافية فيما يتعلق بالبيانات والخوارزميات التي يلجؤون إليها كما يجب أن يتم إعلام الناس كلما يتخذ الذكاء الاصطناعي قرارات هامة تخصهم ضمن حدود الخصوصية وحماية الملكية الفكرية كمايجب ان تكون أنظمة الذكاء الاصطناعي قابلة للشرح تقنيا قدر الامكان وتوفير إمكانية التحقق من العوامل الاساسية التي تؤدي إلى اتخاذ أي قرار يمكن أن يؤثر تأثيرا هاما على القرار المتخذ من القاضي.
4- كان على الميثاق الاوروبي ان يراعي الاهتمام بحماية البيانات المرسلة في البيانات المفتوحة, والحق في مقترح الوثيقة وسائل مراقبة هذه الظاهرة في شكل ميثاق أخلاقي, مع التأكيد على ضرورة توخي الحذر نهج لدمج هذه الأدوات في السياسات العامة تطلب تقديم تفسير دقيق لقرار المحكمة وتحليل أكثر تفصيلا للبيانات الطارئة في كل حالة وقواعد القانون المعمول بها
5- كان على الميثاق الاوروبي أن يراعي إدراج المعايير الأخلاقية أو مدونة قواعد السلوك لمحترفي البيانات كعنصر من عناصر عملية تطوير معايير حوكمة البيانات فتوافر البيانات Data هو شرط أساسي لتطوير الذكاء الاصطناعى, وتمكينه لاداء المهام السابقة التي قام بها البشر في السابق بطريقة غير آلية واذ كلما زادت البيانات المتاحة, زادت قدرة الذكاء الاصطناعي على تحسين قدرته التنبؤية. وبالتالي يعد شرطا مسبقا لعمل شركات التكنولوجيا القانونية المتخصصة في محركات البحث أو تحليل الاتجاه “العدالة التنبؤية”. توافر البيانات ومعالجة هذه البيانات يثير عددا من القضايا, مثل التغييرات في السوابق القضائية وتطور النظريات القانونية واختلاف القوانين والغاءها أو تعديلها وهذه قضايا ذات اثر في فهم مبررات او تفسير الحكم القضائي لذلك لا يمكن ترك تدفق البيانات /معالجة البيانات وفق خوارزميات دون قيد اخلاقي او سلوكي على مشغلي الذكاء الاصطناعي
6-كان على الميثاق الاوروبي ان يراعي الحاجة الواضحة للأمان والخصوصية لمعالجة المخاوف الأخلاقية وتخفيف امكانية المخاطر, اذ تتعرض البيانات عبر الإنترنت بشكل متزايد للقرصنة والهجمات الإلكترونية, مما يثير المخاوف لأمن البيانات والخصوصية. فاذا تعرض مشغل الذكاء الاصطناعي في القضاء للقرصنة فهذا يعني احتمالية االغاء ملفات /أحكام /تسويات مالية وهذا يؤثر على مصداقية قطاع العدالة
الخاتمــــة:
بعد أن انتهينا من دراسة الميثاق الأخلاقي الأوروبي بشأن استخدام الذكاءالاصطناعي (AI) في النظم القضائية وبيئتها (CEPEJ) وصولا الى وضع تصور مبدئي لاطار قانوني ينظم استخدام الذكاء الاصطناعي (AI) في النظم القضائية, فإننا توصلنا إلى عدد من النتائج والتوصيات والمقترحات، والتي سنعرض لها على النحو الآتي:
أولاً: النتائج:
1- يوفر الميثاق إطارًا للمبادئ التي يمكن أن توجه صناع القرار من المشرعين والقضاة والمحامين لوضع قواعد قانونية تحاكي التطور السريع للذكاء الاصطناعي في قطاع العدالة
2- رسخت المفوضية الاوروبية في ميثاقها اهمية استخدام الذكاء الاصطناعي في النظم القضائية والدور الذي يمكن ان يؤديه في تحسين الكفاءة والجودة على مستوى أحكام واجراءات القضاء شريطة أن تنفذ بطريقة مسؤولة متوافقة مع الحقوق الأساسية المكفولة بشكل خاص في الاتفاقية الأوروبية لحقوق الإنسان واللائحة الاوروبية لحماية البيانات الشخصية. انطلاقا من ان الذكاء الاصطناعي أداة في خدمة المصلحة العامة وأن استخدامه يجب ان يحترم الحقوق الفردية.
3- ان استخدام تطبيقات الذكاء الاصطناعي في النظم القضائية يجب ان يتم بالتشاور مع القضاة والمحامين والعاملين في المجال القانوني من أجل ضمان ارتباط خدمات الذكاء الاصطناعي بالكامل بالاحتياجات الفعلية للنظم القضائية ومنع خرق حقوق المتقاضين
ثانيا: التوصيات:
من خلال هذه الدراسة نرى من المناسب إبراز التوصيات والمقترحات الآتية:
1-توظيف تقنيات الذكاء الاصطناعي في تأطير السلطة التقديرية للقاضي، فتمكين الذكاء الاصطناعي في المجال القضائي يتطلب توفير بيانات موثوقة يتم جمعها في ظل احترام المبادئ الأساسية والأخلاقيات المهنية
2- ضرورة توعية المجتمع بأن التكنولوجيات الحالية المعروفة باسم الذكاء الاصطناعي ليست نسخاً من العقل البشري بل هي مقاربة رياضية وإحصائية وخاضعة للاحتمالات.
3- التأكيد على أن استخدام الذكاء الاصطناعي في المجال القضائي يأتي في إطار تحسين أداء القاضي أو وكيل النيابة ولن يكون بديلاً عن الذكاء البشري.
3- إدراج مساق الذكاء الاصطناعي ضمن المنهاج التدريبي للمعاهد القضائية في الدولة, اذ يعد الذكاء الاصطناعي للمتعاملين معه في النظم القضائية, اكثر القضايا تحديا اذ هو بمثابة “الصندوق الأسود”. فالمحامي/القاضي/الخصم/العميل يقدم استعلاما إلى أداة مدعمة من الذكاء الاصطناعي, ويذهب إلى “الصندوق الأسود”, ويوفر الحل المستند إلى الذكاء الاصطناعي إلاجابة. كما يحتاج المحامي/ الخصم/ العميل, إلى معرفة ما يجري داخل الصندوق الأسود؟ ان القضاة او المحامين او الخصوم ليسوا علماء كمبيوتر أو تقنيين, ولا أحد يتوقع منهم أن يستوعبوا طريقة عمل أنظمة الخوارزمية على مستوى الخوارزمية. ولكن في الوقت نفسه, يجب أن يكون لديهم فهم أساسي لكيفية عمل ادوات الذكاء الاصطناعي التي يستخدمونها بشكل عام.
4- ضرورة حماية الخصوصية والبيانات الخاصة بالأفراد أمام تنامي استخدام الذكاء الاصطناعي البصري لمكافحة الجريمة وتحسين السلامة العامة. مثل قصر إجازة استخدام الذكاء الاصطناعي البصري (الكاميرات) على الأماكن فقط التي لا يفترض فيها تحقق عنصر الخصوصية،ونشر الأحكام القضائية الكترونيا دون الإشارة إلى البيانات الخاصة بأطراف الخصومة بهدف حماية الخصوصية
5- محاولة الاتفاق على تحديد مفاهيم العدالة والقيم وادراجها ضمن منظومة الذكاء الاصطناعي في النظم القضائية فعلى الرغم من الرغبة المتزايدة من قبل الدول لرؤية هذه التقنيات العاملة في قطاع العدالة وقد باتت تتسم بالعدالة وبالطابعيّن القيمي والأخلاقي، تبقى هذه المفاهيم تتصف بالغموض في انظمة الذكاء الاصطناعي في أفضل الأحوال ولا بد من رفع شعار “الذكاء الاصطناعي القابل للتفسير”.تحقيقا للعدالة
6- الحاجة إلى قانون نموذجي يتم وضعه من الامم المتحدة يرشد الدولة في تشريعاتها الداخلية على ضوابط استخدام الذكاء الاصطناعي في النظم القضائية لما يحققه ذلك من فوائد كثيرة
7- الحاجة إلى تحديد المعلومات القضائية السرية الواجب استثناؤها من علانية المحاكمات, فالأمر الآن غامض ولا ضابط يحدد ماهية المعلومات القضائية السرية وغير السرية
8- لا بد من دعم الميثاق الأخلاقي الأوروبي بشأن استخدام الذكاء الاصطناعي (AI) في النظم القضائية وتعميم التجربة واعتباره نموذج ارشادي على المستوى الاقليمي كونه تناول مجالا ما زال الغموض يكتنفه والحاجة ماسة لتناوله لارتباطه الوثيق بالعدالة.
واخيرا إن إنشاء مبادئ أخلاقية قوية تحكم استخدام الذكاءالاصطناعي(AI)في النظم القضائية ليس سوى الخطوة الأولى وأنه ينبغي القيام بالمزيد لضمان التنفيذ والمساءلة. لأن الاختبار الحقيقي للحكم الجيد لأنظمة الذكاء الاصطناعي يأتي عندما تتمكن انظمة الذكاء الاصطناعي من زيادة شفافية القرارات القضائية, وزيادة توحيد الممارسة القضائية وتفسيرات القانون.
هذا ما يسّر الله جمعه حول حوكمة استخدام الذكاء الاصطناعي في العمل القضائي والحمد لله أولاً وآخراً، وصلّى الله على خير خلقه محمّد، وعلى آله وصحبه أجمعين.
المراجع
1-المقالات المنشورة باللغة العربية على مواقع الانترنت
1-استراتيـجيـة الإمارات للذكاء الاصطناعي
2-قضاء أبوظبي تسخر الذكاء الاصطناعي لخدمة العملية القضائية
https://www.albayan.ae/across-the-uae/news-and-reports/2019-06-18-
“3-قضاء أبوظبي”: إطلاق المرحلة الأولى من مشروع الذكاء القضائي
https://www.albayan.ae/across-the-uae/news-and-reports/2019-06-18-1.3585643
4-النيابة الذكية: https://www.dxbpp.gov.ae/Extra.aspx?Page_ID=214
5-المحكمة الذكية: https://www.dc.gov.ae/PublicServices
6-اوروبا تصدر اول ميثاق للذكاء الاصطناعي
https://www.eliktisad.com/news/show/386825/%D8%A3%D9%88%D8%B1%D9%88%D8%A8%D
7- الاتحاد الأوروبي يستبدل قضاة بشر بـ “روبوتات ذكية
المقالات المنشورة باللغة الانجليزية على مواقع الانترنت
1-Q&A: Richard and Daniel Susskind on the Future of Law | Canadian Lawyer Mag,” http://www.canadianlawyermag.com/legalfeeds/author/na/qanda-richard-and-daniel-susskind-on-the-future-of-law-6828/.
2- Artificial Intelligence in Law: The State of Play- Neota Logic” https://www.neotalogic.com/wp-content/uploads/2016/04/Artificial-Intelligence-in-Law-The-State-of-Play-2016.pdf
3- “World’s First Robot Lawyer ROSS Hired by US Law Firm – Livemint,” http://www.livemint.com/Politics/bQNLHR96A5G4Kvg81JwWFM/Worlds-first-robot-lawyer-ROSS-hired-by-US-law-firm.html.
4-“Lex MachinaTM | LexisNexis,” LexisNexis® IP Solutions (blog), http://intl.lexisnexisip.com/products-services/intellectual-property-solutions/lexisnexis-lexmachina.
5-“Preparing for Artificial Intelligence in the Legal Profession,” https://www.lexisnexis.com/lexis-practice-advisor/the-journal/b/lpa/archive/2017/06/07/preparing-for-artificial-intelligence-in-the-legal-profession.aspx.
6-Thomson Reuters Analysis Reveals 484% Increase in New Legal Services Patents Globally,” Thomson Reuters, August 16, 2017, https://www.thomsonreuters.com/content/thomsonreuters/en/press-releases/2017/august/thomson-reuters-analysis-reveals-484-percent-increase-in-new-legal-services-patents-globally.html.
7-How Will Artificial Intelligence Affect the Legal Profession in the next Decade?,” http://law.queensu.ca/how-will-artificial-intelligence-affect-legal-profession-next-decade
8-“Artificial Intelligence Law | Legal AI Solutions,” TOPBOTS, June 10, 2017, https://www.topbots.com/automating-the-law-a-landscape-of-legal-a-i-solutions/.
9-CBA legal futures initiative- Futures: Transforming the delivery of legal services in Canada” http://www.cba.org/CBAMediaLibrary/cba_na/PDFs/CBA%20Legal%20Futures%20PDFS/Futures-Final-eng.pdf
10-The Future of Law and Innovation in the Profession” https://www.lawsociety.com.au/cs/groups/public/documents/internetcontent/1272952.pdf
11-Melvin Kranzberg, “Technology and History: ‘Kranzberg’s Laws,’” Technology and Culture 27, no. 3 (1986): 544–60, https://doi.org/10.2307/3105385.
12-How We Analyzed the COMPAS Recidivism Algorithm — ProPublica,”, https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm/.
13-The Dark Secret at the Heart of AI – MIT Technology Review,” https://www.technologyreview.com/s/604087/the-dark-secret-at-the-heart-of-ai/.
14-Give Robots an ‘Ethical Black Box’ to Track and Explain Decisions, Say Scientists | Science | The Guardian,”
15-The Ethics of Artificial Intelligence in Law,” https://www.digitalpulse.pwc.com.au/artificial-intelligence-ethics-law-panel-pwc/.
16-CEPEJ European Ethical Charter on the use of artificial intelligence (AI) in judicial systems and their environment
[*] كلية القانون, جامعة العلوم والتقنية في الفجيرة, دولة الإمارات العربية المتحدة.
[4]4-Artificial Intelligence |Encyclopedia Britannica,” https://www.britannica.com/technology/artificial-intelligence
[5]5-Cognitive Computing: Transforming Knowledge Work,” Thomson Reuters, January 24, 2017, https://blogs.thomsonreuters.com/answerson/cognitive-computing-transforming-knowledge-wor
[6]6- Artificial Intelligence in Law: The State of Play- Neota Logi
[7]7-Demystifying Artificial Intelligence,” DU Press,
[8]8-Why Artificial Intelligence is the Future of Growth _ Accenture
https://www.accenture.com/lv-en/_acnmedia/PDF-33/Accenture-Why-AI-is-the-Future-of-Growth.pdf
[10] عبارة عن تكنولوجيا قادرة مثلا على البحت في مجموع الأحكام والقرارات القضائية السابقة من أجل استخراج مآل ملف من الملفات القضائية أو مآل إجراء من الإجراءات القانونية.
[11] هي هيئة سلطة قضائية تتألف من خبراء من جميع الدول ال 47 الأعضاء في مجلس أوروبا، وتعد أدوات لتحسين كفاءة وأداء العدالة في أوروبا
[12]12-Lex MachinaTM | LexisNexis,” LexisNexis® IP Solutions (blog),http://intl.lexisnexisip.com/products-services/intellectual-property-solutions/lexisnexis-lexmachina.
[13]13-Premonition | Legal Abalytics | Law | Court Analasys | Litigation,” https://premonition.ai/law/#1473189571824-3d711aff-1fa9.
[14]14-ROSS Intelligence, http://rossintelligence.com/.
[15]15-YC’s ROSS Intelligence Leverages IBM’s Watson To Make Sense Of Legal Knowledge | TechCrunch,” https://techcrunch.com/2015/07/27/ross-intelligence/.
[16]16-“Axcelerate EDiscovery & Investigations Solutions – Recommind, https://www.recommind.com/axcelerate-ediscovery-product-page/.
[17]17-“Kira Systems | Machine Learning Contract Search, Review and Analysis,” https://kirasystems.com
[18]18-RAVN – IManage,” https://imanage.com/product/ravn/
[19] استراتيجية الذكاء الاصطناعي منشور على البوابة الحكومية
[21] 21 خبر بعنوان أبوظبي تبحث استخدام الذكاء الاصطناعي في النظم القضائية منشور على الموقع الالكتروني لجريدة البيان https://www.albayan.ae/across-the-uae/news-and-reports/2018-10-22-1.3389388
[22]22 المحكمة الذكيةhttps://www.dc.gov.ae/PublicServices
[23]23-https://www.government.ae/ar-AE/about-the-uae/human-rights-in-the-uae/rule-of-law-andhuman-rights
[24] خبر منشور على المةقع الالكتروني لجريدة الامارات البوم
https://www.emaratalyoum.com/local-section/other/2018-02-15-1.1071596
[25]25-The Future of Law and Innovation in the Profession” https://www.lawsociety.com.au/cs/groups/public/documents/internetcontent/1272952.pdf
[26]26-Melvin Kranzberg, “Technology and History: ‘Kranzberg’s Laws,’” Technology and Culture 27, no. 3 (1986): 544–60, https://doi.org/10.2307/3105385
[27]27-How We Analyzed the COMPAS Recidivism Algorithm — ProPublica, , https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm/.
[28]28-The Dark Secret at the Heart of AI – MIT Technology Review,” https://www.technologyreview.com/s/604087/the-dark-secret-at-the-heart-of-ai/
[29]29-Give Robots an ‘Ethical Black Box’ to Track and Explain Decisions, Say Scientists | Science | The Guardian,” https://www.theguardian.com/science/2017/jul/19/give-robots-an-ethical-black-box-to-track-and-explain-decisions-say-scientists.
[30]30-The Ethics of Artificial Intelligence in Law,” https://www.digitalpulse.pwc.com.au/artificial-intelligence-ethics-law-panel-pwc/.
[31]31- Ibid; “Preparing for Artificial Intelligence in the Legal Profession.
[32]1- خبر بعنوان إطلاق مبادئ أخلاقيات الذكاء الاصطناعي في دبي منشور على الموقع الالكتروني لجريدة البيان:
https://www.albayan.ae/across-the-uae/news-and-reports/2019-01-09-1.3455466
[33] المقصود بالتحيز غير التشغيلي هو التمييز غير المصمم كسمة في نظام الذكاء الاصطناعي او الذي لا يعتبر مهما لتحقيق الغرض المعلن من النظام
المراجع:
1-المقالات المنشورة باللغة العربية على مواقع الانترنت
1-استراتيـجيـة الإمارات للذكاء الاصطناعي
2-قضاء أبوظبي تسخر الذكاء الاصطناعي لخدمة العملية القضائية
https://www.albayan.ae/across-the-uae/news-and-reports/2019-06-18-
“3-قضاء أبوظبي”: إطلاق المرحلة الأولى من مشروع الذكاء القضائي
https://www.albayan.ae/across-the-uae/news-and-reports/2019-06-18-1.3585643
4-النيابة الذكية: https://www.dxbpp.gov.ae/Extra.aspx?Page_ID=214
5-المحكمة الذكية: https://www.dc.gov.ae/PublicServices/
6- أوروبا تصدر اول ميثاق للذكاء الاصطناعي
https://www.eliktisad.com/news/show/386825/%D8%A3%D9%88%D8%B1%D9%88%D8%A8%D
الاتحاد الأوروبي يستبدل قضاة بشر بـ “روبوتات ذكية“7-
المقالات المنشورة باللغة الانجليزية على مواقع الانترنت 2
1-Q&A: Richard and Daniel Susskind on the Future of Law | Canadian Lawyer Mag,” http://www.canadianlawyermag.com/legalfeeds/author/na/qanda-richard-and-daniel-susskind-on-the-future-of-law-6828/.
2- Artificial Intelligence in Law: The State of Play- Neota Logic” https://www.neotalogic.com/wp-content/uploads/2016/04/Artificial-Intelligence-in-Law-The-State-of-Play-2016.pdf
3- “World’s First Robot Lawyer ROSS Hired by US Law Firm – Livemint,” http://www.livemint.com/Politics/bQNLHR96A5G4Kvg81JwWFM/Worlds-first-robot-lawyer-ROSS-hired-by-US-law-firm.html.
4-“Lex MachinaTM | LexisNexis,” LexisNexis® IP Solutions (blog), http://intl.lexisnexisip.com/products-services/intellectual-property-solutions/lexisnexis-lexmachina.
5-“Preparing for Artificial Intelligence in the Legal Profession,” https://www.lexisnexis.com/lexis-practice-advisor/the-journal/b/lpa/archive/2017/06/07/preparing-for-artificial-intelligence-in-the-legal-profession.aspx.
6-Thomson Reuters Analysis Reveals 484% Increase in New Legal Services Patents Globally,” Thomson Reuters, August 16, 2017, https://www.thomsonreuters.com/content/thomsonreuters/en/press-releases/2017/august/thomson-reuters-analysis-reveals-484-percent-increase-in-new-legal-services-patents-globally.html.
7-How Will Artificial Intelligence Affect the Legal Profession in the next Decade?,” http://law.queensu.ca/how-will-artificial-intelligence-affect-legal-profession-next-decade
8-“Artificial Intelligence Law | Legal AI Solutions,” TOPBOTS, June 10, 2017, https://www.topbots.com/automating-the-law-a-landscape-of-legal-a-i-solutions/.
9-CBA legal futures initiative- Futures: Transforming the delivery of legal services in Canada” http://www.cba.org/CBAMediaLibrary/cba_na/PDFs/CBA%20Legal%20Futures%20PDFS/Futures-Final-eng.pdf
10-The Future of Law and Innovation in the Profession” https://www.lawsociety.com.au/cs/groups/public/documents/internetcontent/1272952.pdf
11-Melvin Kranzberg, “Technology and History: ‘Kranzberg’s Laws,’” Technology and Culture 27, no. 3 (1986): 544–60, https://doi.org/10.2307/3105385.
12-How We Analyzed the COMPAS Recidivism Algorithm — ProPublica,”, https://www.propublica.org/article/how-we-analyzed-the-compas-recidivism-algorithm/.
13-The Dark Secret at the Heart of AI – MIT Technology Review,” https://www.technologyreview.com/s/604087/the-dark-secret-at-the-heart-of-ai/.
14-Give Robots an ‘Ethical Black Box’ to Track and Explain Decisions, Say Scientists | Science | The Guardian,”
15-The Ethics of Artificial Intelligence in Law,” https://www.digitalpulse.pwc.com.au/artificial-intelligence-ethics-law-panel-pwc/.
16-CEPEJ European Ethical Charter on the use of artificial intelligence (AI) in judicial systems and their environment
