التنظيم التشريعي

لتطبيقات الذكاء الاصطناعي

إعداد

د/محمـد فتحي محمد إبراهيم

دكتوراه القانون العام

كلية الحقوق – جامعة المنصورة

الملخص

تناول هذا البحث بالدراسة التنظيم التشريعي لتطبيقات الذكاء الاصطناعي، بهدف الوصول إلى أنسب الأساليب لتنظيم ممارسة تطبيقات الذكاء الاصطناعي، وتوصل البحث إلى أن الذكاء الاصطناعي هو عبارة عن العلم الذي يهدف إلى جعل الآلة تقوم بتنفيذ المهام البشرية التي تحتاج إلى قدرات فكرية وذهنية معقدة، وهي بذلك تحاكي السلوك البشري.

كما تعرض البحث إلى مدى أهمية تطبيق تقنيات الذكاء الاصطناعي فى المجال القانوني، والذي يمكن أن يحقق طفرة حقيقية فى جميع المجالات.

وتناول البحث بالدراسة تأثير تقنيات الذكاء الاصطناعي على القواعد الدستورية، وذلك من خلال بيان تأثير تقنيات الذكاء الاصطناعي على الحق فى الخصوصية، وتأثيرها على الحق فى عدم التمييز.

وأشار البحث إلى تأثير تقنيات الذكاء الاصطناعي على التنظيم التشريعي، من خلال تحديد أهمية التنظيم التشريعي لتقنيات الذكاء الاصطناعي باعتباره يؤثر تأثيرًا عميقًا على المبادئ الأساسية للقانون، مثل المساءلة والعدالة والانصاف وعدم التمييز والاستقلال وبالأخص سيادة القانون، كما تعرض إلى دور المشرع فى تنظيم ممارسة تقنيات الذكاء الاصطناعي، والذي يقع عليه عبء وضع الإطار التشريعي اللازم لممارسة هذه التقنيات الحديثة بشكل يحقق الاستفادة الكاملة من تطبيقاتها، مع حماية المجتمع والدولة من الأخطار التي تترتب على تنفيذها.

كما تعرض البحث إلى تأثير تطور الذكاء الاصطناعي على القانون الإداري، فتحدث عن دور الدولة فى تنظيم ممارسة تقنيات الذكاء الاصطناعي، والتي ينبغي أن تشجع تطبيق تقنيات الذكاء الاصطناعي فى الواقع على المجالات التي يمكن الاستفادة منها بشكل كبير، مع كفالة الحقوق والحريات التي قد تنتهك بسبب تطبيق تلك التقنيات. ثم تناول تأثير تقنيات الذكاء الاصطناعي على الإدارة العامة، والتي قد تحدث تغييرًا هيكليًا فى الإدارة العامة، وإدارة الأعمال فى العديد من التخصصات، ثم تناول تأثير أنظمة الذكاء الاصطناعي على القرارات الإدارية، وأخيرًا أشار البحث إلى الرقابة القضائية على استخدام أنظمة الذكاء الاصطناعي.

مقدمة

بدأ الاهتمام بالذكاء الاصطناعي خلال العقدين الماضيين؛ وذلك بسبب الإنجازات الكبيرة التي حققها فى العديد من المجالات مثل الطب، واللوجستية، والصناعة، والاقتصاد، ومعالجة اللغات الطبيعية، وتداول الأسهم فى الأسواق، والأنظمة الأمنية فى تحليل الصور والأصوات … الخ.

ويوجد حاليًا نشاط عالمي ونقاشات متعددة، لاسيما فى برلمانات الدول المتقدمة، حول تشريعات الذكاء الاصطناعي المناسبة التي تكفل حماية البيانات، وأمن المعلومات الشخصية للأفراد، والحفاظ على حقوقهم وسلامتهم، وفى الوقت ذاته، ألَّا تحد من تطوير تقنيات الذكاء الاصطناعي بشكل فعال وآمن.

أولاً: موضوع البحث وأهميته:

سوف يتركز هذا البحث فى دراسة تأثير تطورات الذكاء الاصطناعي على قواعد القانون الدستوري والإداري، فيتناول بالدراسة الآلية التي تتعامل بها الدساتير والمؤسسات التشريعية مع أنظمة الذكاء الاصطناعي، والآليات التي تتعامل بها الجهات الإدارية المختصة؛ بهدف عرض المقترحات التي تساهم فى إيجاد آلية تشريعية وإدارية مناسبة لتنظيم استخدامات الذكاء الاصطناعي.

وتبدو أهمية هذا البحث فى أن الآلات والأجهزة والأنظمة التي تعمل بالذكاء الاصطناعي أصبحت فى كل مكان، وأنها آخذة فى التقدم، وتجاوز أدائها القدرات البشرية، وهذا يحمل فى طياته مسائل قانونية وجرائم عديدة مستحدثة. ويثير الذكاء الاصطناعي العديد من التحديات والتساؤلات الأخلاقية التي تقتضي سن التشريعات العاجلة والمناسبة، لضمان تطبيقه بمسؤولية ومحاسبة وفاعلية.

ثانيًا: أهداف البحث:

يهدف هذا البحث أولاً: إلى توفير نظرة عامة حول التقنية القانونية فى الاستخدام العام والخاص، وثانيًا. تفحص التحديات القانونية التي تطرحها التطورات التكنولوجية الحديثة، وبيان المعالجة الدستورية والتنظيم التشريعي، وآليات التنفيذ الحكومي، لاستخدام تقنيات الذكاء الاصطناعي، ومراجعة الآليات التي تعمل عليها الدول المتقدمة فى هذا المجال، ومحاولة الوصول إلى أفضل القواعد القانونية التي تنظم التطبيق الآمن والفعال لأنظمة الذكاء الاصطناعي، وعرض المقترحات التي تساهم فى خلق الوعي حول تأثير الذكاء الاصطناعي على القوى العاملة، وبعض الموارد التي يمكن أن تطلع القادة والمديرين أثناء استعدادهم لنشر الذكاء الاصطناعي فى مؤسساتهم، وفى أداء هذه المؤسسات والأجهزة بطريقة أكثر فاعلية لتحقيق أفضل النتائج المترتبة على التوسع فى استخدامات أنظمة الذكاء الاصطناعي، مع تحديد القواعد الخاصة بالمسئولية عن الأضرار التي تحدثها تلك الأنظمة، وبيان موقف القضاء الدستوري والإداري من الاستعانة بأنظمة الذكاء الاصطناعي.

ثالثًا : إشكالية الدراسة

تثير دراسة الذكاء الاصطناعي وتكنولوجيا المعلومات فى مجال القانون العام العديد من التساؤلات والتي تتمثل فيما يلي:

1.      هل وضعت الدساتير العالمية المبادئ والقواعد الدستورية التي تضمن الممارسة الفعالة والآمنة لأنظمة الذكاء الاصطناعي؟، وما هو دور المشرع فى تنظيم ممارسة تقنيات الذكاء الاصطناعي، وفرض الضوابط التشريعية التي تحمي المجتمع من الأضرار المتحملة من تطبيق الذكاء الاصطناعي، وتوفر آلية منضبطة لممارسة أنظمة الذكاء الاصطناعي؟.

2.      ماهي التأثيرات المحتملة نتيجة تطبيق الذكاء الاصطناعي، وتكنولوجيا المعلومات على الحق فى الخصوصية، وعلى الحق فى عدم التمييز.

3.      ما هو التطبيق الأمثل لتقنيات الذكاء الاصطناعي وتكنولوجيا المعلومات وعلاقة بالوظيفة العامة.

4.      ما هي المخاوف المتوقعة بسبب تطبيق نظام الذكاء الاصطناعي بدون ضوابط قانونية.

5.      ما هو موقف القضاء من استخدام أنظمة الذكاء الاصطناعي فى مجال القرارات الإدارية، والمسئولية عن الأضرار التي تنجم عن استخدام تلك الأنظمة.

رابعًا: منهج البحث:

يتبنى الباحث، منهجًا استقرائيًا؛ لأن موضوع الذكاء الاصطناعي محل البحث يحتاج إلى استقراء النصوص الدستورية المتعلقة به، والقوانين التي نظمت استخداماته، واللوائح اللازمة لتنفيذه بأمان وفاعلية. وهو، منهجًا تحليليًا؛ لأن الباحث يحاول تفسير النصوص والآراء ومناقشتها، بهدف الوصول إلى مدى ملائمة تطبيق هذه الأنظمة الحديثة مع المجتمع العربي بصفة عامة، والمصري بصفة خاصة. وهو منهجٌ مقارنٌ؛ لأن المقارنة تقوم فى العلوم النظرية مقام التجربة فى العلوم العلمية.

خامسًا: خطة الدراسة:

مبحث تمهيدي: ماهية الذكاء الاصطناعي.

الفصل الأول: تأثير تقنيات الذكاء الاصطناعي على القواعد الدستورية والتشريعية.

        المبحث الأول: تأثير تقنيات الذكاء الاصطناعي على القواعد الدستورية.

        المبحث الثاني: تأثير تقنيات الذكاء الاصطناعي على التنظيم التشريعي.

الفصل الثاني: تأثير تقنيات الذكاء الاصطناعي على القانون الإداري والإدارة  العامة.

        المبحث الأول: تأثير تقنيات الذكاء الاصطناعي على الإدارة العامة.

        المبحث الثاني: تأثير تقنيات الذكاء الاصطناعي على القرارات الإدارية.

        المبحث الثالث: الرقابة القضائية على استخدام أنظمة الذكاء الاصطناعي.

ويلي هذا الفصل الخاتمة، والنتائج التي أمكن استخلاصها من الدراسة، ثم التوصيات، وأخيرًا قائمة المراجع، والفهرس.

مبحث تمهيدي

ماهية الذكاء الاصطناعي

سوف نتناول فى هذا المبحث ماهية الذكاء الاصطناعي، وذلك من خلال تحديد مضمونه، ومدى أهميته، وسنتناول هذا المبحث من خلال مطلبين على النحو التالي:

المطلب الأول: مضمون الذكاء الاصطناعي.

المطلب الثاني: مدى أهمية تطبيق تقنيات الذكاء الاصطناعي فى المجال القانوني.

المطلب الأول

مضمون الذكاء الاصطناعي

وضع العديد من الفقهاء تعريفات مختلفة للذكاء الاصطناعي([1])، فعرفه البعض بأنه: “علم وتقنية قائمة على عدد من المجالات المعرفية، مثل علوم الحاسبات الآلية، والرياضيات، والأحياء، والفلسفة، والهندسة، والتي تستهدف تطوير وظائف الحاسبات الآلية لتحاكي الذكاء البشري” ([2]). كما عرف بأنه: “جزء من علوم الحاسب الآلي يهدف إلى تصميم أنظمة ذكية، تعمل على جعل الحاسب الآلي يمثل ويحاكي التفكير الإنساني، وبعض قدرات السلوك الإنساني، ويعطيها ذات الخصائص التي نعرفها بالذكاء فى السلوك البشري” ([3]). ويرى بعض العلماء أنه: “التيار العلمي والتقني الذي يضم الطرق والنظريات والتقنيات التي تهدف إلى إنشاء آلات قادرة على محاكاة الذكاء البشري” ([4]).

وعرف بعض الكتاب “البيانات الكبيرة بأنها: “أصول المعلومات كبيرة الحجم وعالية السرعة والتنوع، والتكلفة، وتتطلب أشكالاً مبتكرة لمعالجة المعلومات لتعزيز الرؤية واتخاذ القرارات”([5])، كما عرف الأمر التنفيذي رقم 13859 لسنة 2019، مصطلح “البيانات المفتوحة” بأنها “البيانات المتاحة للجمهور، والمنظمة بطريقة تجعلها قابلة للاكتشاف والاستخدام بالكامل من قبل المستخدمين النهائيين”([6]).

كما تم تعريف الذكاء الاصطناعي بأنه نظم برمجيات وربما أجهزة صممها البشر ذات هدف معقد، وتعمل فى العالم الحقيقي أو الرقمي من خلال إدراك البيئة، بواسطة الحصول على المعلومات، ومن خلال تفسير البيانات المهيكلة أو غير المهيكلة المجمعة، وتطبيق تحليل على المعارف أو معالجة المعلومات المستمدة من تلك البيانات، وتقرير الإجراء أو الإجراءات الأفضل الواجب اتخاذها من أجل تحقيق هدف معين. ويمكن لنظم الذكاء الاصطناعي إما استخدام قواعد رمزية، أو تعلم نموذج رقمي، كما يمكنها أيضًا تكييف سلوكها من خلال تحليل كيفية تأثر البيئة بإجراءاتها السابقة ([7])

ومما سبق يمكن القول بأن الذكاء الاصطناعي هو عبارة عن العلم الذي يهدف إلى تصميم أنظمة ذكية، من شأنها أن تجعل الحاسب الآلي يحاكي التفكير البشري، ويتعامل بذات القدرات البشرية، وذلك من خلال تغذيته بالبيانات والمعلومات الضخمة، أو من خلال التعلم الذاتي.

المطلب الثاني

مدى أهمية تطبيق تقنيات الذكاء الاصطناعي فى المجال القانوني

فيما يتعلق بالاستخدام الخاص للتكنولوجيا القانونية، فهناك العديد من الفوائد المحتملة للمحامين والمتقاضين. فيمكن للمستخدمين التحقق من أي وثيقة فردية (العقود أو الأفعال الإدارية أو غيرها من المسائل) بشكل جزئي أو كلي تلقائيًا([8]). وبخلاف ذلك، فقد أصبحت “العقود الذكية” شائعة تقريبًا والتي اقترحها Nick Szabo، الذي صاغ المصطلح فى عام 1994([9]). وتعرف العقود الذكية بأنها: إجراء الاتفاقات والمعاملات التجارية الكترونيًا، وذلك بهدف تنفيذ شروط العقد رقميًا. وأنها تتيح أداء المعاملات بمصداقية عالية وموثوقة، دون حاجة إلى أطراف ثالثة. وبالمثل، توجد تطبيقات أحدث فى السوق يمكنها التعامل مع القضايا القانونية (الثانوية) بشكل مستقل، مثل النزاعات على تعويض الطيران أو حوادث المرور([10]). وفى الوقت الحالي، توجد برامج تقنية قانونية فى السوق تستخدم التعلم الآلي – خاصة فى
مجال تحليل العقود([11]). كما يتم استخدام هذه التكنولوجيا فى تسوية المنازعات عبر الإنترنت ([12]).

وفى يناير 2016، دخلت اللائحة([13]) الخاصة بتسوية المنازعات على الإنترنت حيز التنفيذ، مما سمح بتطبيق ODRفى الحالات التي بدأها المتقاضون المقيمون فى الاتحاد الأوروبي ضد الشركات الكائنة فى الاتحاد الأوروبي. بينما كانت التطورات التقنية فى ألمانيا وأوروبا مازالت تقليدية، إلا أن المحامين الآليين فى الولايات المتحدة قد دخلوا بالفعل فى هذه المرحلة. ففى عام 2016، على سبيل المثال، تم تعيين أول محامٍ ذكي فى العالم من قِبل شركة القانون الأمريكية BakerHostetlerوتمت الموافقة على ترخيص “Ross-Intelligence“، التي طورتها شركة IBM بناءً على محرك Watsonالخاص بها، لاستخدامها فى فريق الإفلاس وإعادة الهيكلة وحقوق الدائنين([14]).

وفيما يتعلق بالاستخدام العام للتكنولوجيا القانونية، يضطلع تطبيق القانون بدور رائد – ليس فقط فى الولايات المتحدة ([15]). ففى العديد من الدول الأوروبية، قامت الشرطة بتطبيق تقنية “Big data” التي تهدف إلى مساعدتهم على التنبؤ بالجرائم المستقبلية قبل أن تظهر – وهي مبادرة تسمى “Predictive policing“. وفى إنجلترا، تم دعم الشرطة التنبؤية مؤخرًا من قبل المحكمة العليا([16]) وأدخلت الشرطة الألمانية أيضًا هذه التكنولوجيا الجديدة. كما تقوم العديد من الولايات الفيدرالية الألمانية باختبار برامج تسمى بـ(Precobs “Pre Crime ObservationSystem” or SKALA “System zur Kriminalitätsanalyse und Lageantizipation”)، والتي ستستخدم بعض خصائص السطو (مشهد الجريمة، الضحايا، ألخ) لتقدير احتمال عودة الشخص إلى ارتكاب الجريمة. ويعرض نظام “التنبؤ بالجريمة” مستويات المخاطر لمناطق مختلفة ويطبقها على المناطق الأكثر خطورة. وهذا يمكن رجال الشرطة من التواجد فى مكان الحادث قبل وقوع الجريمة([17]). وقد يجادل أنصار الأدوات التقنية بأن هذه الأنواع من التحليلات أكثر دقةً، وأقل تحيزًا من النتائج التي يمكن أن يقدمها البشر، وتسهل فى النهاية قدرة الشرطة الوقائية على منع وقوع الجرائم([18]).

ويمتد تطبيق التكنولوجيا القانونية إلى الإدارة الحكومية لحركة المرور. فتقوم أنظمة التحكم فى حركة المرور الذكية على الطرق السريعة بجمع البيانات المختلفة عبر أجهزة الاستشعار، وتنظيم حركة المرور وفقًا لذلك، على سبيل المثال من خلال الإشارة إلى تجاوز الحظر أو حدود السرعة. وبناءً على البيانات التي تم جمعها، يتم إصدار تصرفات إدارية آلية. وبالمثل، يتم استخدام الذكاء الاصطناعي فى الإجراءات الضريبية. ففى ألمانيا، أصبح الذكاء الاصطناعي جزءًا من أنظمة إدارة الضرائب ([19]).

كما يتم استخدام التكنولوجيا القانونية فى النظام القضائي. فيعد إجراء تحصيل الديون الآلي أول مثال بسيط فى ألمانيا. كما تم تنفيذ COMPAS([20]) فى العديد من الولايات الأمريكية، وتم تقديمها فى عام 2012 من قبل قسم الإصلاح (Department of Corrections)(DOC) فى ولاية ويسكونسن. ويهدف هذا النظام إلى التنبؤ بشكل موثوق بخطر ارتكاب جرائم جنائية. ويحسب COMPASلكل مجرم “درجة مخاطرة” فردية والتي سيكون لها تأثير على القرارات أو الأحكام اللاحقة. فإذا سجل البرنامج درجة عالية من الخطورة على المدعى عليه بمقياس من 1 إلى 10، فإن القاضي لا يسمح بوقف العقوبة، لكنه يفرض عقوبة السجن([21]). وقد رفض بعض الكتاب فكرة وجود خوارزمية تساعد على إرسال شخص إلى السجن، لكن هناك آخرون يشيدون بـ COMPAS كأداة موثوقة للتعلم الآلي ([22]).

وتعمل تطبيقات الذكاء الاصطناعي فى مجال القرارات الإدارية على تحقيق التواصل الذكي بين المواطنين والحكومات وبين الموظفين وإداراتهم، كما تعمل على توفير زيادة التفاعل من خلال استخدام وسائل ذكية لإصدار قرارات إدارية من شأنها تعزيز جودة الخدمات التي تقدمها جهة الإدارة.

الفصل الأول

تأثير تقنيات الذكاء الاصطناعي على القواعد

الدستورية والتشريعية

أصحبت أنظمة الذكاء الاصطناعي أكثر تطورًا، وغالبًا ما تستخدم فى المجالات الحساسة، مثل النقل العام والطب والاحتياجات العسكرية، والأمن العام، وإصدار القرارات الإدارية المؤتمتة. ومن الصعب تجاهل الاضطرابات العميقة التي تسببها أنظمة الذكاء الاصطناعي فى العديد من المجالات الاجتماعية، وهذا الأمر يتطلب بالتأكيد وضع الأنظمة الدستورية والقانونية الآلية اللازمة للحد من استخدام وحيازة بعض أنواع أنظمة الذكاء الاصطناعي. وعلى ذلك، سوف ينقسم هذا الفصل إلى مبحثين على ما يلي:

المبحث الأول: تأثير تقنيات الذكاء الاصطناعي على القواعد الدستورية.

المبحث الثاني: تأثير تقنيات الذكاء الاصطناعي على التنظيم التشريعي.

المبحث الأول

تأثير تقنيات الذكاء الاصطناعي على القواعد الدستورية

يتمتع مطورو البرمجيات – بموجب التشريعات الحالية – بالحماية الخاصة بالأسرار التجارية، ولا يتعين عليهم الكشف عن خوارزمياتهم ([23]). ويمكن أن ينتج عن الافتقار إلى التحكم عواقب وخيمة: فى حين أن مطوري البرمجيات مستعدون أن يكونوا محايدين وموضوعيين ([24])، فلا يمكنهم أبدًا تجنب التحيز بشكل كامل، للعادات والثقافة والمعرفة والسياق عند تطوير الخوارزميات ([25]). كما قيل وبحق أن “أنظمة الذكاء الاصطناعي” ليست مجرد حسابات رياضية بحتة؛ بل لها أبعاد اجتماعية وسياسية وجمالية كبيرة ([26]). وقد تؤدي هذه التقنيات إلى تعميق وتسريع عمليات الفرز والتصنيف والمعالجة التفاضلية بدلاً من إصلاحها وتهذيبها([27])؛ وذلك لأن الخوارزميات تفتقر إلى القدرة – على عكس البشر – على موازنة التحيزات فى تفسير مجموعات البيانات من خلال الانتباه الواعي إلى تصحيح التحيز. علاوة على ذلك، يتم إنشاء معظم الخوارزميات عمداً لأغراض بعيدة كل البعد عن الحيادية: مثل توليد الإيرادات، أو لتوجيه السلوكيات، وإقامة التمييز بطريقة معينة، أو لتحديد الأشخاص وترتيبهم وتصنيفهم ([28]).

ومن الملاحظ أن مبرمج الكمبيوتر فى هذه الحالة يعد هو المؤسس وهو وحده من يملك التشريع، وهذه السلطة المطلقة لا يملكها أي فرد مهما كانت قوته ([29]). ويحتمل أن يصبح مطورو البرامج “شبه مشرٍّعين” دون مساءلة أو سيطرة ديمقراطية، إذا لم تفرض السلطة التشريعية الظروف التنظيمية التي تحقق الصالح العام. وبصرف النظر عن ذلك، فإن تطوير البرمجيات غير الديمقراطية – وخاصةً التي تفتقر إلى الشفافية – يثير مجموعة متنوعة من المخاوف بشأن سيادة القانون ([30]).

وهناك اعتراض يتعلق بالتمييز بين التكنولوجيا القانونية المستخدمة كأداة للتنبؤ بالتحقيق فى عملية اتخاذ القرارات بدلاً من القاضي. وقد كان هذا موضوعًا فى قضية Eric Loomis الذي اتُهم بخمس تهم جنائية فى إطلاق نار من سيارة على أخرى فى عام 2013. وعند إصدار المحكمة لحكمها، أشار قاضي المحاكمة فقط إلى درجة Eric Loomis فى تقييم برنامج The COMPASوعند الاستئناف، رأت المحكمة العليا فى ويسكونسن Wisconsinأن القاضي الذي يعتمد على برمجيات تقييم النكوص ذات المصدر المفتوح فى إصدار الأحكام لا ينتهك بالضرورة المبادئ الدستورية المتعلقة بحقوق الإجراءات القانونية الواجبة (الحق فى المحاكمة العادلة)، حتى لو لم يتم الكشف عن المنهجية المستخدمة لإنتاج التقييم للمحكمة أو للمدعى عليه. ومع ذلك، يجب ألا يعتمد القاضي على درجة الخطورة التي يشير إليها تقييم البرنامج حصريًا دون غيرها من الأدلة التي تؤكد على عودة المتهم إلى الجريمة ([31]).

ورفضت المحكمة العليا فى الولايات المتحدة سماع القضية فى يونيو  2017 ([32]). وقد يكون للقرار عواقب وخيمة: إذا تبادل القضاة تدريجيًا المنطق الشفهي العادي للأساليب التي تحركها أنظمة الذكاء الاصطناعي، فإنهم بذلك يقوضون الأحكام. فى حين أن مبدأ الحق فى المحاكمة العادلة يمنح المدعى عليهم الحق فى معرفة الاتهامات الموجهة إليهم، وما هي الأدلة المقدمة ضدهم. ومع ذلك، تكون الحقوق والحريات الفردية معرضة للخطر، عندما تبني المحاكم أو سلطات الدولة الأخرى (جزئيًا أو كليًا) أحكامها على خوارزميات سرية فقط. على الرغم من أنه قد يكون من المفيد أن يعتمد القضاة على الخوارزميات لتحسين جودة واتساق قراراتهم، ويجب ألَّا يسمحوا للخوارزميات بأن تقرر الأحكام بدلاً منهم. وعلى ذلك، سوف يتناول هذا المبحث بالدراسة تأثير تقنيات الذكاء الاصطناعي على الحق فى الخصوصية، والحق فى عدم التمييز. وينقسم هذا المبحث إلى مطبين على النحو التالي:

المطلب الأول: تأثير تقنيات الذكاء الاصطناعي على الحق فى الخصوصية.

المطلب الثاني: تأثير تقنيات الذكاء الاصطناعي على الحق فى عدم التمييز.

المطلب الأول

تأثير تقنيات الذكاء الاصطناعي على الحق فى الخصوصية

يدور الحق فى الخصوصية حول حرية الاختيار والاستقلال والحرية الفردية. ويشمل ذلك الحق فى تحديد ما الذي سيخفيه شخص بعينه، وكيف ومتى يظهره، ومن هو الشخص الذي سيكشف له عن هذه المعلومات الشخصية. وغالبًا ما تستخدم مصطلحات “الخصوصية” و “خصوصية المعلومات” و “خصوصية البيانات” و “حماية البيانات” بشكل مترادف من أجل التأكيد على الحق فى التحكم فى جمع ومعالجة البيانات الشخصية بواسطة الحكومات والكيانات الخاصة. وعلى سبيل المثال، فقد ابتكرت “المحكمة الدستورية الألمانية” الحق الأساسي فى تقرير المصير المعلوماتي كمجموعة فرعية من الحق فى الحرية الشخصية فى حكمها الصادر عام 1983 ([33]). وهذا الحق فى تقرير المصير المعلوماتي يوفر الأساس القانوني لحماية البيانات فى الدستور الألماني. فقد قضت المحكمة بما يلي: “حماية الفرد ضد جمع بياناته الشخصية وتخزينها واستخدامها والإفصاح عنها بشكل غير محدود تشملها الحقوق الشخصية العامة فى الدستور الألماني. ويضمن هذا الحق الأساسي فى هذا الصدد مبدئيًا قدرة الفرد فى تحديد مدى الكشف عن بياناته الشخصية واستخدامها. ولا يُسمح بفرض القيود على تقرير المصير المعلوماتي هذا إلا فى حالة وجود مصلحة عامة جوهرية” ([34]).

وبخلاف الدستور الألماني، لا تنص المادة 8 من ميثاق الاتحاد الأوروبي للحقوق الأساسية (CFR) – والتي تعتبر حاسمة فى استخدام الذكاء الاصطناعي – على الحق فى تقرير المصير المعلوماتي فى حد ذاته، بل هو بمثابة حق أساسي حديث فى حماية البيانات ([35]).

وبناءً على هذه المتطلبات الدستورية، تقدم اللائحة العامة لحماية البيانات، التي نُفذت فى 25 مايو 2018، معايير موحدة لمعالجة البيانات الشخصية فى الاتحاد الأوروبي. وتنطبق معظم هذه المتطلبات على السلطات الحكومية والكيانات الخاصة. والفكرة الأساسية هي منح الأشخاص سيطرة فعالة على بياناتهم الشخصية. وامتثالاً لقواعد حماية البيانات فى الاتحاد الأوروبي، يتعين على الشركات والمؤسسات الحكومية الأخرى اتباع المبادئ الرئيسية المتعلقة بمعالجة البيانات الشخصية المنصوص عليها فى المادة 5 من اللائحة العامة لحماية البيانات فى الاتحاد الأوروبي (EU-GDPR) ، وهي الشفافية وتقييد الأهداف، وتقليل البيانات، والدقة، وتقييد التخزين، والنزاهة، والسرية. علاوة على ذلك، تتطلب هذه اللائحة من المشغلين أن يتمتعوا بالشفافية والوضوح فى التواصل مع المستخدمين. كما إنهم ملزمون بالرد على طلبات المستخدمين للوصول إلى بياناتهم أو تصحيحها أو محوها (المواد 15-17 من اللائحة).

كما تستلزم المادة 21 من اللائحة حماية الحق فى الاعتراض، مما يسمح للأفراد بمطالبة الشركة بالتوقف عن معالجة بياناتهم الشخصية. ولكن كما هو واضح من اللائحة العامة لحماية البيانات فى الاتحاد الأوروبي أيضًا أن الحق فى الاعتراض ليس مطلقًا؛ فيمكن تقييده من أجل المصلحة العامة.

وهناك بند آخر مهم عندما يتعلق الأمر بالتكنولوجيا القانونية وتحليل البيانات الضخمة، وهو ما تنص عليه المادة 22/1، 4 من اللائحة العامة لحماية البيانات فى الاتحاد الأوروبي، والتي تقرر أن القرارات الآلية يجب ألَّا تستند عمومًا إلى “بيانات حساسة” مثل العرق، والآراء السياسية، والدين، والحالة الصحية، والجنس، والبيانات الوراثية) المشار إليها فى المادة 9/1 من اللائحة.

وفى هذا الخصوص تنص المادة 68 من الدستور المصري الصادر عام 2014 على أن “المعلومات والبيانات والإحصاءات والوثائق الرسمية ملك للشعب، والإفصاح عنها من مصادرها المختلفة، حق تكفله الدولة لكل مواطن، وتلتزم الدولة بتوفيرها وإتاحتها للمواطنين بشفافية، وينظم القانون ضوابط الحصول عليها وإتاحتها وسريتها، وقواعد إيداعها وحفظها، والتظلم من رفض إعطائها، كما يحدد عقوبة حجب المعلومات أو إعطاء معلومات مغلوطة عمدًا”. كما تنص المادة 28 على أن “الأنشطة الاقتصادية الإنتاجية والخدمية والمعلوماتية مقومات أساسية للاقتصاد الوطني، وتلتزم الدولة بحمايتها، وزيادة تنافسها، وتوفير المناخ الجاذب للاستثمار، وتعمل على زيادة الإنتاج”.

مما سبق يتضح أن الحق فى الخصوصية وسرية البيانات الشخصية، محل اهتمام غالبية التشريعات والمواثيق الدولية، مما يقتضي عدم السماح باستخدام تلك البيانات على نحو يهدر تلك الحقوق الشخصية، لاسيما عند معالجتها من خلال أنظمة الذكاء الاصطناعي.

المطلب الثاني

تأثير تقنيات الذكاء الاصطناعي على الحق فى عدم التمييز

إن الانتقادات سالفة الذكر ضد التقنية القانونية – وخاصة عدم كفالة مبدأ الشفافية – كما إنها قد تنطوي أيضًا على آثار جانبية سلبية على الحق فى عدم
التمييز ([36])، وترتبط هذه المخاوف بحقيقة أن البرامج التي تعتمد على الخوارزمية ستعمل على تعميق وتسريع عمليات فرز وتصنيف الأشخاص – دون أية إمكانية للسيطرة على أولئك الذين يحتمل أن يتأثروا بها. ويمكن تعريف التمييز على أنه أي معاملة غير عادلة للفرد بسبب عضويته فى مجموعة معينة، على سبيل المثال العرق، أو الجنس… الخ ([37]).

وقد تم التكريس للحق فى عدم التمييز فى الإطار المعياري للاتحاد الأوروبي؛ كما هو منصوص عليه صراحة فى المادة 21 من ( (Code of Federal Regulations([38])، والمادة 14 من الاتفاقية الأوروبية لحقوق الإنسان، وفى المواد 18-25 من معاهدة عمل الاتحاد الأوروبي ([39]).

وإذا تم قياس هذه المعايير وتطبيقها، فقد يعتبر استخدام التقنية القانونية، بطريقة ما، تمييزًا لطبيعتها ([40]). فعلى سبيل المثال، استخدام الشرطة التنبؤية. فقد وجدت دراسة أن COMPASتتنبأ بأن المدعى عليهم من أصحاب البشرة السوداء سيتم تقييم أفعالهم بنسبة خطورة أعلى مما ينفذوه بالفعل، فى حين أن المدعى عليهم البيض يكون لديهم معدلات أقل مما يفعلونه فى الواقع ([41]). وعلى الرغم من أن البيانات المستخدمة من قبل COMPASلا تحتوي على جنس الشخص، إلا أن الجوانب الأخرى من البيانات التي تم جمعها قد تكون مرتبطة بالعرق الذي قد يترتب عليه تباينات عنصرية فى التنبؤات ([42]).

والأهم من ذلك، أن التعلم الآلي يمكن أن يديم أنماط التمييز الحالية – إذا وجدت فى مجموعة البيانات التدريبية، فعند تصميم المصنف الدقيق سوف يعيد إنتاجها. وفى الواقع، قد تكون التقنية القانونية “أسوأ” بسبب الافتقار إلى الشفافية والمساءلة. حيث يتم الاعتماد على مجموعات البيانات دون مزيد من المراجعة والتحكم (البشري)، فإن الكمبيوتر سوف يؤدي إلى تفاقم التحيزات. وهذا يثير التساؤل عن أساس هذه المشكلة؟ إن المبدأ الأساسي لعدم التمييز ليس له علاقة بـالقانون. ولكن الحقيقة أن الخوارزميات “تفتقر إلى بوصلة أخلاقية” ([43]). وذلك يطرح التساؤل حول ما هي الإجراءات اللازمة لمعالجة ذلك الأمر؟ تتمثل الإجابة فيما قرره ألكساندر تيشبيريك، يجب أن يسير الذكاء الاصطناعي والعلوم القانونية جنبًا إلى جنب مع حماية مبدأ عدم التمييز ضد الأشكال الجديدة للتمييز الاجتماعي فى العالم الرقمي ([44]).

وفى هذا الخصوص، تنص المادة 53 من الدستور المصري الصادر عام 2014 “المواطنون لدى القانون سواء، وهم متساوون فى الحقوق والحريات والواجبات العامة، لا تمييز بينهم بسبب الدين، أو العقيدة، أو الجنس، أو الأصل، أو العرق، أو اللون، أو اللغة، أو الإعاقة، أو المستوى الاجتماعي، أو الانتماء السياسي أو الجغرافي، أو لأى سبب آخر”.

وتأسيسًا على ما سبق، يمكن القول بأن أنظمة الذكاء الاصطناعي من المحتمل أن تنتهك الحق فى عدم التمييز، الأمر الذي يقتضي وضع الإطار التشريعي الذي يكفل حماية تلك الحقوق والحريات الشخصية من المعالجة الآلية التي تستند إلى قواعد تمييزية، لاسيما فى مجال القرارات الإدارية المؤتمتة.

المبحث الثاني

تأثير تقنيات الذكاء الاصطناعي على التنظيم التشريعي

على الرغم من المخاطر المحتملة من تنامى ظاهرة الذكاء الاصطناعي، هناك القليل من القوانين التي تحكم استخدام تقنيات الذكاء الاصطناعي، وحيثما توجد تلك القوانين نجدها تتعلق عادةً بالذكاء الاصطناعي بشكل غير مباشر فقط، لكن لا نجد قانون يتناول تنظيم جرائم الذكاء الاصطناعي صراحةً، وتنظيم قواعد المسئولية عن الأضرار المترتبة على استخدام أنظمة الذكاء الاصطناعي، بالرغم من توغلها فى العديد من المجالات. وبناءً على ذلك، سوف يتناول هذا المبحث بالدراسة أهمية التنظيم التشريعي لتقنيات الذكاء الاصطناعي، ودور المشرع والسلطة التنفيذية فى تنظيم ممارسة تقنيات الذكاء الاصطناعي، وعلى ذلك، ينقسم هذا المبحث إلى مطلبين على النحو التالي:

المطلب الأول: أهمية التنظيم التشريعي لتقنيات الذكاء الاصطناعي.

المطلب الثاني: دور المشرع فى تنظيم ممارسة تقنيات الذكاء الاصطناعي.

المطلب الثالث: دور السلطة التنفيذية فى تنظيم ممارسة تقنيات الذكاء الاصطناعي.

المطلب الأول

أهمية التنظيم التشريعي لتقنيات الذكاء الاصطناعي

يعتبر التنظيم القانوني ضروري فى العالم الرقمي؛ لأن القانون يقوم بوظيفة مجتمعية هامة والتي تتمثل فى المقام الأول، خدمة الصالح العام وحماية الأقليات. ويظل القانون العام أداة لا غنى عنها للمراقبة والتنظيم ([45]). وحيث تفتقر أجهزة الكمبيوتر إلى فهم الأعراف الاجتماعية واللغة ([46])؛ فإنه ينبغي على المشرعين سد هذه الفجوات، وخاصة فى الحالات التي تحدث فيها تضارب مع المبادئ الدستورية الأساسية. وتؤكد بعض شركات البرمجيات أن عدم التزام أنظمة الذكاء الاصطناعي بالضوابط القانونية والأخلاقية سوف يؤدي إلى نتائج خطيرة يترتب عليها خسائر جسمية ([47]).

وعلى ذلك، فإنه من المعقول أن تشترط الدولة استصدار ترخيص بخصوص امتلاك أو استخدام تقنيات الذكاء الاصطناعي، وذلك على نحو التراخيص الخاصة بامتلاك أو استخدام الأسلحة والمتفجرات. وهذا يؤكد أن الالتزام بالضوابط القانونية والأخلاقية لاستخدام هذه التكنولوجيا الحديثة بمثابة ركن أساسي لاتخاذ القرار بممارسة هذه الأنظمة الحديثة. فقد تم إغلاق شركة أمازون بسبب توظيف مشروع تكنولوجيا يعمل بأنظمة الذكاء الاصطناعي على أسس تنتهج التحيز ضد المرأة ([48]).

ومما يؤكد على أهمية التنظيم التشريعي لتقنيات الذكاء الاصطناعي، ضرورة وضع حدود للمسئولية والمساءلة والخصوصية فى حالة استخدام الربوتات، وبالأخص فى حالة ما إذا تسبب الربوت فى إلحاق الأذى بالغير سواء أكان عمدًا أم على سبيل الخطأ، فينبغي تحديد المسئول، هل صاحب الربوت أم الشركة المصنعة أم الربوت ذاته؟، كما يجب وضع إطار قانوني صريح من أجل ضمان حماية الحق فى الخصوصية، وحماية البيانات الشخصية ([49]).

المطلب الثاني

دور المشرع فى تنظيم ممارسة تقنيات الذكاء الاصطناعي

تفرض التشريعات بعض القيود على استخدام أو التعامل مع المواد المحظورة أو الخطرة. فعلى سبيل المثال ينص القانون الأمريكي على أن “كل من يمتلك أو يتسبب فى وجود سلاح ناري أو سلاح خطير آخر فى منشأة اتحادية، أو يحاول القيام بذلك، يتم تغريمه بموجب هذا النص أو السجن لمدة لا تزيد عن سنة واحدة أو كلاهما” ([50])، ويشترط أيضًا استصدار رخصة بالتجارة فى الأسلحة النارية ([51]).

كما تمنع الدول بيع الأسلحة أو تسليمها أو نقلها بأية طريقة إلى الأحداث أو القاصرين ([52]). وذلك على الرغم  من أن الحق فى حمل السلاح والحفاظ عليه فى الولايات المتحدة محمي بموجب الدستور ([53]). لكنه يفرض على هذا الحق بعض القيود الجدية. ومن ذلك، القيود التي يفرضها مكتب الكحول والتبغ والأسلحة النارية والمتفجرات (ATF) ([54]).

وعلى عكس الولايات المتحدة الأمريكية، فإن معظم الدول لديها قواعد أكثر صرامة. فعلى سبيل المثال، ينص القانون الجنائي الصيني على أنه: “يعاقب بالسجن لمدة محددة لا تقل عن ثلاث سنوات ولا تزيد عن 10 سنوات، كل من يصنع أو يتاجر أو ينقل أو يراسل أو يخزن أي أسلحة أو ذخيرة أو متفجرات” ([55]). ويوجد نهج مماثل فى القانون الجنائي الروسي، والذي ينص على أن “سرقة أو حيازة الأسلحة النارية أو مكوناتها أو الذخيرة أو المتفجرات أو الأجهزة المتفجرة يعاقب عليها بالحرمان من الحرية لمدة تتراوح بين ثلاث إلى سبع سنوات” ([56]).

وفى حالة “الأشياء الخطرة” الأخرى، والتي تشبه وضع تنظيم الأسلحة النارية والسيطرة عليها. فعادة ما تحدد الدول المسؤولية الجنائية للأشخاص المتورطين فى بيع المخدرات غير المشروعة أو حيازتها بطريقة غير قانونية ([57]). كما ترتب الدول المسئولية الجنائية على الانتشار غير القانوني للمتفجرات. وتعتبر مثل هذا النشاط غير مشروع إذا لم تتم ممارسته بالشكل الذي ينص عليه القانون ([58]).

وفيما يتعلق بالذكاء الاصطناعي، يوجد سؤال معادل: هل يمكن أن يكون من الخطر أن تضع الدولة لوائح خاصة لامتلاك أو استخدام أو توزيع هذا النوع من تقنيات الذكاء الاصطناعي؟. فعندما يتم دمج تقنية الذكاء الاصطناعي مع مادة أو مواد خطرة محظورة فى جهاز واحد، ففى المقام الأول، يمكن تطبيق التشريعات الحالية؛ حيث يوجد بالفعل بعض القواعد المتعلقة بتنظيم استخدام التكنولوجيا، ويتم تنظيم المجالات المرتبطة بالأشياء عالية الخطورة. فيجب أن تستوفى الأجهزة التي تعد ضمن تقنيات الذكاء الاصطناعي أو المواد المحظورة ما توجبه هذه القواعد من شروط. وعلى سبيل المثال، إذا قام شخص ما بتبييت رشاش آلي فى الطائرة بدون طيار التي تسيطر عليها تقنيات الذكاء الاصطناعي، فإنه سيتم تغطية تصرفاته باستخدام قانون مراقبة الأسلحة النارية وقانون تنظيم رحلات الطائرات بدون طيار. وإذا كان بها جهاز آخر يعمل بتقنيات الذكاء الاصطناعي، فلن يكون استخدام التكنولوجيا مشمولاً بتلك القواعد بنسبة كبيرة. وفى هذه الحالة فإن الطريقة المتاحة هي فقط تطبيق تشريع “الأشياء الخطرة”.

وعلى سبيل المثال، إذا كان هناك نظام جديد لتقنيات الذكاء الاصطناعي مزود بسلاح ناري، فإنه يجب عليه على الأقل الامتثال للتشريع الخاص باستخدام الأسلحة النارية والاتجار بها. ويرى بعض الكتاب أنه: “إذا كان لدينا روبوت مستقل بذاته مستخدم سابقًا وسلاح سبق استخدامه، فقد يكون من الممكن الجمع بينهما دون مزيد من التراخيص” ([59]). وهذا يعني أن القواعد القانونية المطبقة على تكنولوجيا الذكاء الاصطناعي الجديدة هي مجرد مجموعة من القواعد القانونية التي تنطبق على أجزاء من جهاز أو برنامج مستقل جديد، ويكون ذلك فى بعض الأحيان ممكنًا ومعقولاً ([60]).

كما إن استخدام تقنيات الذكاء الاصطناعي يمكن أن يجعل الأشياء البسيطة أكثر خطورة. فعلى سبيل المثال، يمكن اعتبار سيارة عادية بها سائق يعمل بنظام الذكاء الاصطناعي سلاحًا خطيرًا عند استخدامها لأغراض إرهابية، ففى حالة السيارات المستقلة بالكامل يحصل المجرمون على فائدة إضافية من حيث الوقت وقلة التكلفة لتحضير وتنفيذ هذه الجرائم ([61]). كما يمكن استخلاص نظام شبكي عصبي عميق يعتمد على تحليل 5 صور فقط من موقع التعارف على الجنس البشري للأشخاص بدقة أكثر من تسعين بالمائة. كما يزعم مؤلفو هذا الاستطلاع “بالإضافة إلى ذلك، نظرًا لأن الشركات والحكومات تستخدم بشكل متزايد خوارزميات رؤية الكمبيوتر للكشف عن السمات الحميمة للأشخاص، فإن نتائجها تعرض تهديدًا للخصوصية والسلامة …” ([62]). وهذا يعني أنه إذا كان لدى شخص ما بيانات كافية لتدريب الشبكة العصبية، فسيكون قادرًا على انتهاك حقوق الأشخاص بشكل خطير ([63]).

ووفقًا للمادة 17 من العهد الدولي الخاص بالحقوق المدنية والسياسية: “لا يجوز إخضاع أحد لتدخل تعسفي أو غير قانوني فى خصوصيته أو أسرته أو مسكنه أو مراسلاته”. ويهدد الذكاء الاصطناعي بمفهوم مقبول للخصوصية؛ لأنه إذا كان من السهل جدًا اكتشاف حالتك الجنسية والحالات الذهنية الداخلية، فلا يوجد مكان للخصوصية. سوف تصبح الحدود بين الحياة الخاصة والعامة معدومة ([64]).

وتختلف الدول فى كيفية معالجتها لاستخدام تقنيات الذكاء الاصطناعي، وينبغي أن تستمد القيود من سياسة قانونية مشتركة. فعلى سبيل المثال، فى الدول التي تقدس حقوق الإنسان، سيكون من المنطقي أن يحد المشرع بشكل خطير من تدخل تقنيات الذكاء الاصطناعي فى الحياة الشخصية لمواطنيها، ويثبت المسؤولية الجنائية عن أقل انتهاك للمصالح الشخصية. وفى دول أخرى، يمكن أن تركز الجهود على تقنيات الذكاء الاصطناعي التي يمكن أن تلحق الضرر بالناس أو المجتمع أو الحكومة. فبعض القضايا المتعلقة بالقدرات الفكرية لأنظمة الذكاء الاصطناعي تتجاوز نطاق الأخلاق الحديثة. فعلى سبيل المثال، نجد أن الصين تعلن أنها ستستخدم برامج متطورة “للتنبؤ بالجريمة والاضطرابات الاجتماعية قبل حدوثها” ([65]). وهي فى هذا الخصوص ليست فريدة من نوعها؛ لأن الأنظمة المماثلة تستخدمها وكالات الشرطة فى دول مثل الولايات المتحدة واليابان وإسرائيل وشيلي. ونجد أن التجربة الأوروبية – التي تدافع عن حقوق الإنسان – تدعم ذلك فى حالة حماية مصالح الأمن القومي والنظام العام ([66]).

ومن الجدير بالذكر، إنه بتاريخ 29 يونيو عام 2017، عين مجلس اللوردات البريطاني “لجنة مختصة بتقنيات الذكاء الاصطناعي”، لبحث الآثار الاقتصادية والأخلاقية والاجتماعية للتطورات فى أنظمة الذكاء الاصطناعي، وأصدر تقريرًا حول ذلك فى أبريل عام 2018، كما عقدت الولايات المتحدة الأمريكية مؤتمرًا فى نهام عام 2016 بخصوص مستقبل تطبيقات الذكاء الاصطناعي وأخلاقياتها. وبتاريخ 29 مايو 2019 أقر المجلس التشريعي لولاية إلينوي الأميركية، قانون “إجراء المقابلات باستخدام الفيديو بالذكاء الاصطناعي فى عمليات التوظيف”،  كما وقع حاكم الولاية على مشروع القانون بتاريخ 9 أغسطس 2019، وتم تنفيذ هذا القانون فى بداية
يناير 2020. ومن بين بنود القانون، الموافقة المطلوبة من طالب الوظيفة على استخدام الذكاء الاصطناعي، كما يفرض حظرًا على مشاركة مقاطع فيديو مقدم الطلب خارج نطاق عملية التوظيف، أي استخدام الذكاء الاصطناعي لتحليل لقطات المقابلة فقط.

ويتضح مما سبق، أن تطبيق القانون ضد التداول غير المنضبط لأنظمة الذكاء الاصطناعي الخطير أمر فى غاية الأهمية. وخاصة عند التعامل مع الذكاء الاصطناعي باعتباره عقل رقمي ([67]).

المطلب الثالث

دور السلطة التنفيذية فى تنظيم ممارسة تقنيات الذكاء الاصطناعي

وقع الرئيس الأمريكي الأمر التنفيذي رقم 13859، الصادر فى 11 فبراير 2019 بشأن الحفاظ على القيادة الأمريكية فى الذكاء الاصطناعي، بغرض تضافر الجهود لتعزيز وحماية تكنولوجيا وابتكارات تقنيات الذكاء الاصطناعي فى الولايات المتحدة.

وقد اشتمل القسم الأول على أهمية تقنيات الذكاء الاصطناعي القصوى فى الحفاظ على الأمن الاقتصادي والوطني. وقد تناول القسم الثاني الأهداف الاستراتيجية التي تعزز التقدم فى مجالات الذكاء الاصطناعي، والتي تتمثل فى تشجيع الاستثمار المتواصل فى مجال البحث والتطوير فى مجال الذكاء الاصطناعي بالتعاون مع المؤسسات الصناعية، والأوساط الأكاديمية، والشركاء الدوليين، وغيرهم من الكيانات غير الصناعية، وتعزيز الوصول بجودة عالية إلى كافة البيانات الفيدرالية والنماذج والحوسبة ([68])؛ وتقليل الحواجز التي تحول دون استخدام تقنيات الذكاء الاصطناعي؛ لتعزيز تطبيقاتها المبتكرة، مع حماية التكنولوجيا الأمريكية، والأمن الاقتصادي، والوطني، والحريات المدنية، والخصوصية، والقيم.

وأشار القسم الثالث إلى الأدوار والمسؤوليات التي ينبغي الالتزام بها من أجل ضمان تنفيذ أنظمة الذكاء الاصطناعي فى الواقع العملي، ووجه بأن يتم تنسيق المبادرة من خلال المجلس الوطني للعلوم والتكنولوجيا([69])، والذي يقوم باختيار اللجنة المعنية بالذكاء الاصطناعي، ويتم تنفيذ الإجراءات من قبل الوكالات التي تقوم بالبحث والتطوير فى مجال الذكاء الاصطناعي، وتطوير ونشر تطبيقات الذكاء الاصطناعي، وتقديم المنح التعليمية، وتنظيم وتقديم التوجيهات اللازمة لتطبيقات الذكاء الاصطناعي، على النحو الذي يحدده الرؤساء المشاركون فى اللجنة المختصة بالذكاء الاصطناعي من قبل NSTC، والوكالات المنفذة. وقد تضمن القسم الرابع من الأمر، ضرورة الاستثمار الفيدرالي فى البحث والتطوير فى أنظمة الذكاء الاصطناعي.

كما تحدث القسم الخامس من هذا الأمر عن موارد البيانات والحوسبة المخصصة للبحث والتطوير فى تقنيات الذكاء الاصطناعي، وقد أشار إلى التزام رؤساء جميع الوكالات بمراجعة بياناتهم ونماذجهم الفيدرالية لتحديد الفرص المتاحة؛ لزيادة الوصول إليها من قبل العاملين والباحثين غير الفيدراليين فى تقنيات الذكاء الاصطناعي، بطريقة تعود بالفائدة على المجتمع، مع حماية السلامة والأمن والخصوصية والسرية. كما وضع القسم السادس بعض التوجيهات المتعلقة بتنظيم طلبات الذكاء الاصطناعي.

 وقد أشار القسم السابع إلى علاقة الذكاء الاصطناعي بالقوى العاملة، وأكد على ضرورة التزام رؤساء الوكالات المنفذة أن تقدم منحًا تعليمية، بالقدر الذي يتماشى مع القانون المعمول به. كما توفر اللجنة المختصة بالذكاء الاصطناعي الخبرة الفنية للمجلس الوطني للعمال الأميركيين فى المسائل المتعلقة بالذكاء الاصطناعي والقوى العاملة الأمريكية، حسب الاقتضاء.

كما وضع القسم الثامن خطة عمل لحماية تميز الولايات المتحدة فى تقنيات الذكاء الاصطناعي وذلك من خلال قيام مساعد رئيس شؤون الأمن القومي-  وفقًا لتوجيهات مذكرة الأمن القومي الرئاسي NSPM– بالتنسيق مع مدير مكتب سياسات العلوم والتكنولوجيا OSTPوالمكلفين من قبل NSPM، بوضع خطة عمل حاسمة لحماية تميز الولايات المتحدة فى تقنيات الذكاء الاصطناعي.

أما بالنسبة للدول العربية، فلم تلتفت أي منها حتى اليوم نحو إصدار تشريعات متعلقة بتنظيم صناعة الذكاء الاصطناعي، على الرغم من اهتمام بعض الدول مثل الإمارات والسعودية بهذا القطاع من التكنولوجيا، إلا أنه واقعيٌ لم تصدر تشريعات مستقلة وصريحة متعلقة بالذكاء الاصطناعي.

ومن الجدير بالذكر، أن دولة الإمارات العربية المتحدة قد اهتمت بهذا المجال فأنشأت وزارة للذكاء الاصطناعي، إلى جانب قيامها بإنشاء مختبر للتشريعات من أجل سن تشريعات استباقية متعلقة بالمستجدات المستقبلية مثل الذكاء الاصطناعي، والسيارات ذاتية القيادة .. الخ ([70]). كما أنشأت المملكة العربية السعودية هيئة البيانات والذكاء الاصطناعي، من أجل الاستفادة بهذه التقنيات الحديثة.

أما بالنسبة لمصر فقد صدر قرار رئيس مجلس الوزراء رقم 2889 لسنة 2019 بإنشاء المجلس الوطني للذكاء الاصطناعي والذي يتبع رئاسة مجلس الوزراء ويسمى (المجلس الوطني للذكاء الاصطناعي)، ويشكل برئاسة وزير الاتصالات وتكنولوجيا المعلومات وعضوية عدد من الوزراء ورؤساء عدد من الجهات المعنية، فضلاً عن ثلاثة من ذوي الخبرة يختارهم رئيس المجلس.

ويختص المجلس الوطني للذكاء الاصطناعي بوضع الاستراتيجية الوطنية للذكاء الاصطناعي والإشراف على تنفيذها، ومتابعتها، وتحديثها تماشيًا مع التطورات الدولية فى هذا المجال، كما يقوم بوضع آليات متابعة وتنفيذ الاستراتيجية الوطنية للذكاء الاصطناعي بالتنسيق مع الوزارات والجهات والأجهزة المختلفة، ومراجعة وتحديث الأولوية الوطنية فى مجال تطبيقات الذكاء الاصطناعي، ووضع السياسات والتوصيات المتعلقة بالأطر الفنية والقانونية والاقتصادية المتعلقة بتطبيقاته.

كما يختص المجلس بالتعاون والتنسيق مع الجهات الإقليمية والدولية ذات الصلة، سواء أكانت جهات حكومية أم غير حكومية أو مؤسسات الأعمال، لتبادل الخبرات والمعارف، واختيار أفضل تطبيقات الذكاء الاصطناعي التي تساعد على تقديم خدمات ذكية مستدامة وآمنة، وكذا مراجعة البروتوكولات التي تبرمها الدولة فى مجالات الذكاء الاصطناعي، ووضع خطط وبرامج إعداد الكوادر البشرية بالتنسيق مع الجهات المختلفة. ويكون للمجلس الوطني للذكاء الاصطناعي مكتب تنفيذي تكون مهمته الإشراف على تنفيذ مُخرجات المجلس، وإجراء الدراسة اللازمة للهيكل التنظيمي للمجلس وإدارته التنفيذية، والتنسيق مع مختلف القطاعات والجهات ذات الصلة داخليًا وخارجيًا لتحقيق أهدافه الاستراتيجية، والقيام على أعمال التدريب وعقد الندوات والبرامج الخاصة بنشر الوعي القومي بمجالات الذكاء الاصطناعي.

ومن الجدير بالذكر، إنه ينبغي على الحكومات أن تطور البيئة التنظيمية بما يتناسب مع تقنيات الذكاء الاصطناعي، وذلك من خلال عدم السماح لها بأن تتخطى التحكم البشري، وأن تكون آمنة ودقيقة ضد محاولات استخدامها لتحقيق أهداف غير مشروعة، مع عدم السماح للأشخاص بالاطلاع على البيانات الشخصية التي تحصل عليها تقنيات الذكاء الاصطناعي، وحمايتها من السرقة أو الوصول إليها واستخدامها، وينبغي أيضًا أن تخضع عملية تصنيع هذه التقنيات إلى المساءلة، وأن تغطيها الحماية الخاصة بالمبلغين عن المخالفات التي قد تحدث فى الشركات المنتجة ([71]).

الفصل الثاني

تأثير تقنيات الذكاء الاصطناعي على

القانون الإداري والإدارة العامة

سوف يتناول هذا الفصل بالدراسة مدى تأثير أنظمة الذكاء الاصطناعي على الإدارة العامة، وتأثيرها على القرارات الإدارية، وكذلك الرقابة القضائية على استخدام أنظمة الذكاء الاصطناعي.

وعلى ذلك، سوف ينقسم هذا الفصل إلى ثلاثة مباحث على النحو:

المبحث الأول: تأثير تقنيات الذكاء الاصطناعي على الإدارة العامة.

المبحث الثاني: تأثير تقنيات الذكاء الاصطناعي على القرارات الإدارية.

المبحث الثالث: الرقابة القضائية على استخدام أنظمة الذكاء الاصطناعي.

المبحث الأول

تأثير تقنيات الذكاء الاصطناعي على الإدارة العامة

تغير مفهوم الوظيفة العامة إلى أربعة أنواع أساسية من الوظائف، والتي تتمثل فى العمل بدوام كامل(Full-time job)، ونظام العمل المؤقت (Contingent work)، ونظام العمل عن بعد (remote job)، ونظام أداء الأعمال من خلال الروبوت (robots). ونجد أن العملاء والموظفون يطمحون إلى تطبيق تلك الخبرة الرقمية لتحقيق إمكانية إنهاء أعمالهم من المنزل. وعلى ذلك أصبحت الأتمتة جزءًا مقبولاً فى الواقع العملي، كما أنها تزيد من كفائتها ودقتها فى أداء الأنشطة باستمرار. كما أنه لديه القدرة على خفض التكلفة وزيادة القيمة التي يقدمها الموظف أو العامل للمؤسسة؛ لأن تقنيات الذكاء الاصطناعي تعمل على تحسين الجودة وسرعة إنجاز الأعمال ([72]).

كما إن العديد من الباحثين تحدثوا عن الذكاء الاصطناعي وتأثيره على القوى العاملة، لكن لا يوجد إجماع على عدد الوظائف التي سيتم استبدالها بالكامل وأنواع الوظائف الجديدة التي سيتم إنشاؤها. ومن هذه الأمثلة ما أشار إليه تقرير حديث للمنتدى الاقتصادي العالمي (WEF) ([73])، بعنوان “مستقبل الوظائف 2018″، وقد أشار التقرير (WEF) إلى أن التطورات فى تقنيات الأتمتة والذكاء الاصطناعي يمكن أن تؤدي إلى إنهاء 75 مليون وظيفة. ومع ذلك، قد يظهر 133 مليون وظيفة جديدة فى الوقت الذي تعمل فيه الشركات على تعديل تقسيم العمل بين البشر والآلات، مما يترجم إلى 58 مليون وظيفة جديدة صافية يتم إنشاؤها بحلول عام 2022. وأنه يتعين على الشركات والحكومات والموظفين العمل معًا لمعالجة نقص المهارات والخلل الذي يمكن أن يحدث بسبب الأتمتة.

وبالمثل، أجرت (Ernst & Young LLP (EY([74]) بحثًا يهدف إلى توفير رؤى قابلة للتنفيذ للقادة المستعدين للاستفادة من الأتمتة، والقيادة الفعَّالة التي يمكنها إعادة تهيئة الأعمال. وكجزء من هذا الجهد، قاما Frey & Osborne بعمل رسم تفصيلي لأتمتة ما يقرب من 2000 وظيفة فى أربعة اقتصادات (الولايات المتحدة والمملكة المتحدة وكندا وأستراليا) ([75])، وصنف الباحثون فى EY تلك المهن إلى 15 وظيفة تجارية و 50 وظيفة فرعية فى 16 قطاعًا صناعيًا. وسمحت هذه الخريطة المفصلة للباحثين فهم تطبيق الأتمتة على مختلف القطاعات والأنشطة الاقتصادية ووظائف الأعمال ([76]).

ونشير إلى بعض الأمثلة الفعلية التي وضعت الذكاء الاصطناعي موضع التنفيذ:

1.     إدخال  الأتمتة / عملية أتمتة الروبوتات([77]) (RPA):

قامت إحدى الجهات داخل الحكومة الفيدرالية الأمريكية بتنفيذ الأتمتة.
وكانت لهذه الجهة تميزًا ظاهرًا فى هذا الخصوص، ومن أهم تلك المزايا التي تم تحقيقها هو تبسيط العمليات الروتينية للحد من التكاليف وتحسين الدقة فى أداء الخدمات التي من شأنها أن تتعرض لخطر الخطأ البشري. كما أنه يقلل من ساعات العمل الإضافي والضغط الذي يتعرض له الموظفون. ويوفر RPAالموظفين اللازمين للعمل طوال الوقت دون حاجة إلى وظائف إضافية جديدة تعمل بنظام دوام كامل (FTEs).

ومن الملاحظ أنه عندما تم تقديم RPAلأول مرة إلى هذه الجهة، كان هناك قلق شديد بشأن استبدال الوظائف من الموظفين على جميع المستويات. ومن أجل معالجة هذه المخاوف، تم عقد سلسلة من البيانات الموجزة، وإلقاء المحاضرات، وفتح المناقشات مع الموظفين لتوضيح ماهية RPAومدى أهمية تطبيقها. وكانت هذه الأحداث حاسمة فى تخفيف المقاومة وتشجيع القبول بين الموظفين عبر جميع المستويات الذين شعروا بأنهم مدرجون فى قرار تنفيذ RPA([78]).

2.     تحسين فعالية المهام من خلال تطبيق أنظمة الذكاء الاصطناعي فى السلامة العامة:

تؤثر تقنيات الذكاء الاصطناعي على المستجيب الأول للمجتمع. وأحد أهم المجالات التي يمكن للذكاء الاصطناعي من خلالها تحسين فعالية مهمة المستجيبين الأوائل هو التوعية بخطورة الموقف. وتم توضيح أحد الأمثلة على ذلك من خلال تقنية تجميع البيانات العامة التي يمكن أن تحدد موقع مطلق النار فى مأساة خليج ماندالاي الأخيرة فى اثنتين وعشرين ثانية. وتم ذلك من خلال تحليل مقتطفات الفيديو للكشف عن الوميض الصادر من فوهة البندقية، باعتباره مختلفًا بما فيه الكفاية ليتم تحديدها كأصل الطلقات التي يتم إطلاقها فى مكان الموسيقى. ويمكن أن تعمل مثل هذه التكنولوجيا جنبًا إلى جنب مع فرق السلامة والاستجابة العامة لتحسين قدرتها على تحديد وتحليل معلومات الإشارات فى فترات زمنية قصيرة للغاية، ويمكن أن تقوم بدور محوري فى تثبيت نجاح المهام. وبالمثل، تقوم هيئات السلامة العامة بفحص برامج تحديد مواقع إطلاق النار، حيث يمكن لشبكة من أجهزة الاستشعار المنتشرة فى جميع أنحاء المدينة أن تسمح لموظفي السلامة العامة بتحديد مكان إطلاق النار، وتكاملها مع معلومات الشرطة الحالية لتوفير لقطات من وجه مطلق النار أو مذكرات أو معلومات عن التاريخ الجنائي قبل وصول رجال الشرطة إلى مكان الحادث ([79]).

3.     الاستفادة من الذكاء الاصطناعي فى المؤسسات التي لا تهدف للربح:

 يوفر الخط الساخن للأزمات، الذي تم تأسيسه فى عام 2013 ومقره فى نيويورك، خدمات فى جميع أنحاء الولايات المتحدة وكندا. ويتلقى الآلاف من النصوص ويتألف من فريق يستجيب للأشخاص فى الأزمات. فقد يراقب موظف الخط الساخن 20 محادثة من طالبي الخدمة المختلفين، مع قدر كبير من التعقيد فى المحادثات. ومع ذلك، يخشى بعض الأشخاص من أن الخوارزميات قد يتم الاعتماد عليها بشكل كبير للغاية وأن تكون لها عواقب غير مقصودة، مثل دمج تحيز المبرمجين أو الأشخاص الذين يقدمون الخدمات. ويمكن أن يحدث التحيز المؤسسي مع تطبيق الذكاء الاصطناعي، وهو أحد المخاوف التي تظهر على السطح عند مناقشة هذا الموضوع. ويبدو أن المزايا قد تفوق العيوب، ولكن يجب وضع البروتوكولات والأنظمة لمعالجة هذه المشكلات. بالإضافة إلى ذلك، يجب أن يكون هناك مناقشة للأخلاقيات والنزاهة حول متى وكيف يتم استخدام الذكاء الاصطناعي للربح، وخاصة للعملاء الذين لديهم مشاكل سلوكية مزمنة أو متكررة.

4.     المواصلات العامة المحلية وتقنيات والذكاء الاصطناعي:

عند دراسة التأثير الناشئ للذكاء الاصطناعي فى الحكومة المحلية، يبدو أنه يتركز بشكل كبير فى مجال النقل. ففى (London, England, to Columbus, Ohio, to Dubuque, Iowa) تتطور بشكل كبير المركبات المتصلة ([80])، والبنية التحتية للنقل المتصل.

ويمكن الاستفادة من دمج نظم المعلومات الجغرافية (GIS) فى الجهات. حيث إن نظام المعلومات الجغرافية يقدم مثالاً حديثًا على تحديات التكامل. فمنذ سنوات، اشترت مدينة فى الولايات المتحدة نظام المعلومات الجغرافية وأنشأت موقعًا لإدارة نظام GISونشره ودمجه فى النظام المعمول به. وقد أنشأت بعض المدن حاليًا موقعًا جديدًا سيتيح لقسم نظم المعلومات الجغرافية مساعدة الأقسام فى التدريب والخدمات الأخرى؛ لدمج أدوات نظم المعلومات الجغرافية فى إدارات المدينة ([81]).

وهناك بعض الإجراءات التي تضمن نجاح تنفيذ تقنيات الذكاء الاصطناعي، نتناولها فيما يلي:

إن التغلب على التحديات وتفعيل أنظمة الذكاء الاصطناعي بالكامل داخل المؤسسات يتطلب تخطيطًا مفصلاً وحلولاً إبداعية. وتشمل هذه الاستراتيجيات العملية، الموارد البشرية، وإدارة التغيير(change management) ([82])، والاعتبارات العملية والسياسية التي تكفل تطبيق هذه الأنظمة. وعلى ذلك، يطرح بعض الكتاب قائمة مختصرة من الاقتراحات العملية للمساعدة فى تطبيق ناجح لأنظمة الذكاء الاصطناعي، من خلال العناصر التالية:

1.     وضع الاستراتيجية والتخطيط اللازم لتطبيق أنظمة الذكاء الاصطناعي فى إنهاء المهام:

يعتبر تحديد غرض البرنامج بوضوح، وتوضيح فوائده للموظفين من أهم الخطوات الأولى الأساسية نحو تطبيق أنظمة الذكاء الاصطناعي، ويمكن تحقيق ذلك من خلال إدخال أنظمة الذكاء الاصطناعي فى تحقيق المهام والأهداف، فينبغي على القادة أن يوضحوا لموظفيهم كيف يمكن استخدام الذكاء الاصطناعي لتحريرهم من العمل غير المرتبط بمهمتهم بشكل مباشر، والسماح لهم بالتركيز على أعمال ذات مستوى أعلى وأكثر تأثيرًا. كما ينبغي توجيه كافة الجهود نحو تنفيذ تقنيات الذكاء الاصطناعي ([83]).

2.      تطوير العمليات واختبارها: ينبغي عند تطبيق الذكاء الاصطناعي، العمل على تطوير العمليات الحالية وتحسينها وإعدادها لنشر أنظمة الذكاء الاصطناعي، وذلك من خلال إجراء الاختبارات والتحسينات، بحيث يصبح هذا أمرًا يشارك فيه الموظفون بنشاط، وأنه يعود عليهم بالنفع.

3.      الإدارة الجيدة المستمرة: تنفيذ الذكاء الاصطناعي ليس أمرًا “واحدًا”، بل سيأتي النجاح من التركيز على المشاركة المستمرة للمؤسسة([84]).

وبناء على ما سبق، يمكن القول بوجود فرضية أساسية وهي أن الذكاء الاصطناعي لا يستبدل أو يلغي الوظائف بالضرورة. ولكنه بدلاً من ذلك يمكن أن يعزز ويخلق فرص عمل جديدة، وفرص أفضل للعمال. لكنه لن يلغي جميع الوظائف. إذا تم تقديمه بالطريقة الصحيحة، فيستطيع الذكاء الاصطناعي تمكين المؤسسات من تحقيق المزيد من الأعمال، وتحقيق نتائج أفضل فى أقل وقت للمواطنين الذين تقدم إليهم الخدمة.

المبحث الثاني

تأثير تقنيات الذكاء الاصطناعي على القرارات الإدارية

تعد تقنيات المعلومات والاتصالات من أهم أنظمة الذكاء الاصطناعي([85])، غير إن ظهور تلك التقنيات الحديثة – كما سبق ذكره – تسبب فى تخوف العديد من الموظفين لفقدان وظائفهم؛ لأنها سوف تقوم بذات الأعمال التي يقوم بها الأشخاص الطبيعيون. وأكد على ذلك تطبيق الأتمتة الذكية داخل الجهات الإدارية باعتبارها أحد أهم مظاهر الذكاء الاصطناعي ([86]).

غير أن الواقع يؤكد على أن الاعتماد على أنظمة الذكاء الاصطناعي لا يعني بالضرورة إقصاء العنصر البشري، بل هي تعمل على مساعدة الأشخاص فى تحقيق مهامهم، ومساندتهم فى اتخاذ القرارات السلمية، وتعمل تلك الأنظمة على تسهيل أداء العمل وتذليل العقبات التي يواجهها الموظفين أثناء تأدية أعمالهم، مما يوفر الوقت والجهد، ويرفع معدلات الجودة؛ لأنها تقوم بتحويل خبرات الموظفين إلى إجراءات يتم تطبيقها باحترافية، من خلال تسجيل تلك الخبرات وتنظيمها والاستعانة بها فى المستقبل بطريقة سهلة وسريعة ([87]).

ويلاحظ أن خدمات أنظمة الأتمتة الذكية للقرارات الإدارية، تعمل على تقديم خدمات من خلال مجموعة من الأساليب والاستراتيجيات والأدوات تستخدمها بعض الهيئات العامة والجهات والمؤسسات التي تهدف إلى تخفيض التكاليف وتحسين الجودة، وتحقيق التواصل الذكي بين المواطنين والحكومة، وبين الموظفين وإداراتهم، عن طريق الاعتماد على تطبيقات الأتمتة الذكية إلى جانب العناصر البشرية، بدلاً من الاعتماد البحت على العنصر البشري ([88]). وعلى ذلك ينقسم هذا المبحث إلى المطلبين التاليين:

المطلب الأول: أتمتة القرارات الإدارية.

المطلب الثاني: آلية إصدار وتنفيذ وإنهاء القرارات الإدارية المؤتمتة.

المطلب الأول

أتمتة القرارات الإدارية

يتشابه مصطلح أتمتة القرارات الإدارية  ([89]) مع بعض المصطلحات الأخرى مثل: القرارات الإدارية الإلكترونية، والقرارات الإدارية فى العالم الافتراضي، والقرارات المؤتمتة، فجميع هذه المصطلحات تشير إلى القرارات التي تصدر باستخدام الإدارة لتكنولوجيا المعلومات ونظم الاتصالات الإلكترونية([90])، ونظم دعم ومساندة القرارات، وبالوسائل والإجراءات الإلكترونية، وفى شكل الوثيقة أو المستند الإلكتروني.

وعلى ذلك، نتناول أتمتة القرارات الإدارية من خلال بيان أنظمة دعم ومساندة القرارات الإدارية، وضوابط إصدار القرارات الإدارية المؤتمتة والآثار المترتبة عليها، من خلال الفروع التالية.

الفرع الأول: ظهور تكنولوجيا نظم دعم ومساندة القرارات الإدارية.

الفرع الثاني: ضوابط إصدار القرارات الإدارية المؤتمتة.

الفرع الثالث: الآثار المترتبة على أتمتة القرارات الإدارية.

الفرع الأول

ظهور تكنولوجيا نظم دعم ومساندة القرارات الإدارية

عرف بعض الفقهاء نظم دعم أو مساندة القرار بأنها: “نظم تفاعلية حوسبة تساعد صانع القرار على استخدام البيانات والنماذج لحل المشكلات غير الهيكلية” ([91])، فيمكن القول بأن تكنولوجيا نظم دعم القرارات هي عبارة عن أنظمة وتطبيقات للمعلوماتية تستند إلى تقنيات عالية ومتطورة، وهي عوامل استحدثت لمساندة وتعزيز قدرة الإدارة على اتخاذ القرارات الإدارية الصحيحة ([92]).

 ويلاحظ مما سبق، ضرورة وجود عوامل مساعدة تسبق عملية إصدار القرار، وهي عوامل أساسية لاتخاذه لما توفره من معلومات، وقاعدة بيانات ضخمة، يعتمد عليها المدير فى إصدار القرارات الإدارية([93]). فيتم تدعيم الإدارة بالبيانات والأساليب المطلوبة لإصدار قرارات تعالج المشاكل الإدارية؛ باعتبار أن لها دورًا متخصصًا أكثر فى عملية صناعة القرار، تتم من خلال عمليات تفاعلية بين النظام والمستخدم المسؤول عن اتخاذ القرار، بحيث تضع أمامه كافة الوسائل والمعلومات التي تمكنه من إصدار قرارًا سليمًا ([94]).

 واستقر الرأي على أهمية نظم دعم ومساندة القرارات الإدارية فى إنجاز عملية اتخاذ القرارات اللازمة، وتتمثل تلك الأنظمة فى نظم دعم القرارات الفردية، ونظم دعم القرارات الجماعية، ونظم دعم القرارات التنظيمية ([95])، غير أنها تنحصر فى بعض النماذج النمطية المعدة سلفًا والتي لا تصلح لتطبيقها على جميع الحالات. وتحتاج هذه النظم إلى تغذيتها بالمعلومات والبيانات الضخمة اللازمة لعمليه البناء من خلال ذوو الخبرات فى التخصصات المطلوبة ([96]).

 ويوجد أيضًا نظم المعلومات التنفيذية، وهي من أنواع نظم المعلومات الاستراتيجية التي تستخدم على مستوى الإدارة العليا، وتساعدها على اتخاذ القرارات الاستراتيجية غير الهيكلية، وغالبًا ما ترتبط مع متغيرات البيئة الخارجية، مما يساعد الإدارة العليا على تحليل هذه البيئة، ويمكنها من تعظيم الاستفادة من الفرص المتوفرة ومواجهة التحديات المستقبلية ([97]).

ويوجد أيضًا شكل من أشكال الذكاء الاصطناعي يسمى بنظم المعلومات الخبيرة، وهي النظم المبنية على المعرفة التي ترتكز على برامج وتطبيقات مستمدة من الخبرة البشرية، تمت معالجتها بما يعطي إمكانية المحاكاة المنطقية للوصول إلى النتائج والاستدلال عليها، وتتميز تلك النظم بقدرتها على اختيار الأنسب بين البدائل والحلول، وإمكانيتها فى الحصول على الخبرة البشرية وتخزينها، وتوفير ميزة مشاركة الإنسان فيها، للاستفادة من أهل الخبرة النادرة، وذوو الكفاءات ([98]).

 ويؤكد المستخدمين لنظم المعلومات من الخبراء والمديرين ([99])، على أنها تستند إلى تقنيات عالية متقدمة مثل نظم دعم القرار ونظم المعلومات التنفيذية ونظم المعلومات الخبيرة، وأن جميع هذه الأنظمة مترابطة ومتكاملة مع بعضها البعض، لأن مخرجات بعض النظم هي مدخلات لنظم أخرى ([100])، فإذا انخفض معدل أداء أحد هذه النظم أو توقف عن العمل، فإنه سوف يؤثر على أداء النظم الأخرى ([101]).

الفرع الثاني

ضوابط إصدار القرارات المؤتمتة

بداية نشير إلى أن القانون الإداري على الإدارة العامة، لكنه لا يعد قانونًا للإدارة العامة، ولقد حققت نظم الإدارة تقدمًا كبيرًا بعد تحول الحكومة إلى الإدارة الإلكترونية، وتبني نظام أتمتة العمل الإداري بشكل كامل، فينبغي إضافة أن قسمًا من هذا القانون أصبح قابلاً للأتمتة بواسطة الإدارة، وملاحظة وجود واقع جديد يصعب رؤيته؛ بسبب عدم وضوح المشرع الحكومي والبرلماني فى التشابك الموجود بين القانون والخوارزميات ([102]).

وقد أثيرت بعض المخاوف جراء استخدام أتمتة أنشطة الإدارة العامة بما فيها القرارات الإدارية – بالرغم من فعالية الأتمتة، والحاسب فى مجال اتخاذ القرارات الإدارية الكترونيًا وإرسالها لأصحاب الشأن ([103])- التي تتمثل فى خطر الإساءة إلى الأسس الواقعية والقانونية للقرار الإداري ([104])، باعتباره من أهم الأساليب القانونية التي تعبر بها الإدارة العامة عن إرادتها ([105])، وتتميز هذه القرارات بالمرونة والنسبية والتطور الدائم بما يمكنها من التعامل مع جميع المستجدات التي تواجهها الإدارة، بالأخص فى حالة صدور القرار الاداري آليًا ([106])، مما يوجب إعادة النظر فى مفهوم القرار الإداري وأركانه وشروط صحته. فالحاسب الآلي وتطبيقاته أصبح شريكًا للموظف العام فى إصدار القرار الإداري وتنفيذه ([107])، فينبغي أن يظل قائمًا على أركانه وعناصره، ولا يصدر مشوبًا بعيوب شكلية أو موضوعية ([108]).

وقد أشار المجلس الدستوري الفرنسي إلى الأساليب التي يجب أن تصدر بها القرارات الإدارية المعالجة آليًا بالكامل من خلال القانون الذي ينظم شروط التقديم الآلي الكامل للأشخاص، كما أكد على وجوب أن تكون وحدة التحكم قادرة على شرح موضوع البيانات والطريقة التي تمت بها المعالجة، وأدت إلى اتخاذ القرار الإداري بالتفصيل ([109]).

وتتعلق النصوص التشريعية والتنظيمية التي تضع الشروط التي يجب على المشغلين المسئولين عن معالجة البيانات استيفائها، بالبيانات الشخصية بشكل أساسي، وأنها ليست ضمن البيانات المفتوحة ([110]). ومن ناحية أخرى فقد وضع قانون العلاقات بين الجمهور والإدارة الفرنسي بالمادة 321/ 7، 8 الشروط الأساسية التي ينبغي أن تخضع لها البيانات المرجعية الموثقة، غير أن هذه الشروط تتسم بالغموض حول الآلية التي يلزم أن تدار بها البيانات.

 وأشار القانون إلى ضرورة قيام الإدارة بإعلام الأفراد بالقواعد والخصائص الرئيسية لتنفيذ المعالجة الخوارزمية المستخدمة فى اتخاذ القرارات المتعلقة بهم، مما يعني نقل القواعد وليس البيانات ([111])، فلا يمكن اتخاذ أية قرارات يترتب عليها آثار قانونية فى مواجهة الأفراد على أساس المعالجة الإلكترونية للبيانات، والتي تستخدم فى تحديد ملف تعريف الشخص المعني أو تقييم جوانب من شخصيته ([112]).

ومن البديهي أن ركن الاختصاص كان يتمثل فى الجهة المختصة أو الموظف المختص بإصدار قرار معين دون غيره ([113])، غير أن ركن الاختصاص تم تعريفه بصورته الجديدة بأنه: “يعكس صلاحية الإدارة لاتخاذ قرارها بالإجراءات الإلكترونية، وتمتعها بسلطة إصداره فى شكل الوثيقة أو المستند الإلكتروني، وفقًا لما تملكه من وسائل فنية وبرمجية تؤدي لتحقيق ذلك” ([114]).

وينطبق ذلك على توقيع القرار الإداري، بحلول التوقيع الإلكتروني محل التوقيع الكتابي على القرار، والأمر كذلك بخصوص عنصر الشكل، فقد حل التوقيع الإلكتروني محل التوقيع الكتابي، والنشر الإلكتروني محل النشر بالجريدة الرسمية ([115])، مما حدا ببعض الفقهاء إلى تعرف القرار الاداري الالكتروني بأنه: “إفصاح الإدارة العامة عن إرادتها المنفردة الملزمة بما لها من سلطة بمقتضى القوانين واللوائح عبر وسائل إلكترونية بهدف ترتيب آثار قانونية متى كان ذلك جائزًا قانونًا” ([116]).

وعرف أيضًا بأنه: “تلقي الإدارة العامة لطلب إلكتروني على موقعها وإفصاحها عن رغبتها الملزمة بإصدار القرار والتوقيع عليه إلكترونيًا، وإعلان صاحب الشأن إلكترونيًا بما لها من سلطة بمقتضى القوانين واللوائح بقصد إحداث أثر قانوني معين، يكون جائزًا وممكنًا قانونًا، ابتغاء المصلحة العامة” ([117])، ويلاحظ أن الإختلاف الذي يميز القرار الإداري الإلكتروني عن القرار الاداري التقليدي فقط، وسيلة التعبير عن الإرادة ([118]).

ومن الجدير بالذكر أن نقل القرار الاداري إلى الواقع الالكتروني يأتي من خلال لجوء الإدارة إلى الوسائل التي تؤدي إلى تكوينه، وإعداده، وكذلك إصداره وشكله ونفاذه وتنفيذه وإنهائه ([119]). فالحاسب الخاص بجهة الإدارة يقوم بإصدار القرار بعد إدخال البيانات المحددة سلفًا، وجهة التنفيذ التي تظهر من خلال تحويل الإجراءات الإدارية العادية إلى إلكترونية، فيقوم الحاسب بالاستجابة لتنفيذ الأوامر بحسب الطلب دون تدخل الموظفين، بناءً على المعلومات والبيانات التي تم إدخالها ([120])، وتعد هذه الحالة تنفيذًا للقرار الإداري من خلال الحاسب الذي يعد من أهم وسائل الإدارة فى تنفيذ القرار الإداري إلكترونيًا ([121]).

ويوجد العديد من الأمثلة على إمكانية إصدار القرار الاداري من خلال أنظمة الأتمتة التي تتم من خلال الحاسب الآلي، عن طريق معالجة البيانات فى أنظمة الأتمتة دون تدخل عناصر بشرية ([122])، بحيث تتم هذه المعالجة للبيانات بإصدارها معلومات قد تكون هذه المعلومات والبيانات قرارات إدارية من وجهة نظر معينة، مثلها مثل القرارات والتعليمات التي يتم تعيين الموظفين بها، ويمارس المدير عملية إصدار الأوامر بالتعيين للموظفين بحسب تلك الشروط الموضوعة مسبقًا من الجهة الأعلى، فإذا قام الحاسب الآلي بعمل المدير نفسه فى أن يعين بحسب شروط مدخلة على شكل بيانات موضوعة مسبقًا وتمت معالجتها وتطبيقها على ذلك المرشح دون غيره لصدر القرار إلكترونيًا بقبوله للتعيين.

 وأيضًا فى حالة عدم تواجد رئيس مجلس إدارة أحد الهيئات العامة بمقر العمل أو كونه خارج البلاد، فتتم الاجتماعات عن طريق أنظمة الاجتماعات عن بعد ([123])، كما يمكن الحصول على الموافقة على إصدار القرار الكترونيًا، وقد يأتي الرد الكترونيًا سواء أكان من خلال الكمبيوتر المحمول أم الهواتف الذكية؛ من أجل الحفاظ على سير المرفق العام بانتظام واضطراد ([124]).

 ويتم اعتماد الوسائل الإلكترونية فى صناعة القرارات عن طريق التدفق الإداري للبيانات إلكترونيًا التي يتم فيها ربط برامج التدفق الإداري ببرامج أقسام وإدارات الجهة أو الهيئة الواحدة، كربط الإدارة القانونية مع إدارة شئون العاملين والإدارة المالية بحيث يعمل الجميع فى منظومة إلكترونية متكاملة ([125]).

 ومن أهم الأمثلة: على ذلك برنامج البصمة الخاص بحضور وغياب الموظفين الذي يثبت تاريخ وساعة الحضور أو الانصراف، وعليه تقوم إدارة شئون العاملين بمعرفة مدة غياب الموظف، ومن ثم يتم من خلال ذات البرنامج تحديد مدى استحقاق الموظف للإجازة من عدمه ([126]).

ومن الثابت أن الإدارة العامة الفرنسية من أبرز الإدارات التي تهتم بتصميم المواقع الإلكترونية بهدف إصدار القرارات آليًا ونفاذها آليًا، فيتم تلقي طلبات الأشخاص إلكترونيًا من خلال تلك المواقع، وفحصها وإصدار القرارات اللازمة بشأنها، ويتم توقعيها الكترونيًا، ثم يتم إرسالها على البريد الالكتروني للأشخاص، كما استحدثت نوع آخر من القرارات الإلكترونية التي تتعامل مع الطلبات وتصدر القرار بشكل فوري، ويطلق عليها القرارات الإدارية المباشرة ([127]).

الفرع الثالث

الآثار المترتبة على أتمتة القرارات الإدارية

يعد من أهم النتائج المترتبة على تطبيق الأتمتة فى مجال القرارات الإدارية استحداث وظائف جديدة لم تكن موجوده من قبل، مثل الوظيفة الفنية: ويشغلها من يملك الخبرة الفنية فى التعامل مع المواقع الإلكترونية لإعداد وإصدار القرارات الإلكترونية، وأن يكون لديه قدرات فنية لا تتوافر فى غيره من الموظفين ([128]). ويقوم أيضًا شاغل هذه الوظيفة بإجراءات إرسال القرارات الإدارية الذي قام بإعدادها إلى أصحاب الشأن، ضمانًا لعدم وقوع أخطاء فى الإجراءات الإلكترونية أو أية عقبات
فنية ([129]).

كما استحدثت وظيفة الحماية الإلكترونية: ويقوم شاغلها بتصميم البرامج اللازمة لحماية المستندات الخاصة بالعمل الإداري من العبث بمحتوياتها عن طريق برامج الهكرز وغيرها.

وكذلك وظيفة البرمجة: حيث يتولى شاغلها إعداد البرامج المحوسبة التي تحتاجها جهة الإدارة للقيام بنشاطها، وكذلك البرامج التي يحتاجها الموظف الفني للقيام بالمهام المكلف بها سواء أكانت خاصة بالقرارات الإدارية من إعداد وإرسال وإصدار أم بالعقود الإدارية الإلكترونية من إبرام وتنفيذ.

واستحدثت أيضًا وظيفة الشبكات: فيقوم الموظف بتشغيل شبكة الإنترنت داخل الجهة الإدارية وصيانتها وإصلاح الأعطال التي قد تحدث لأنظمتها ([130]).

المطلب الثاني

آلية إصدار وتنفيذ وإنهاء القرارات الإدارية المؤتمتة

من البديهي أن أساليب إصدار وتنفيذ وإنهاء القرارات الإدارية المؤتمتة تختلف عن الأساليب التي تصدر وتنفذ وتنهى بها القرارات الإدارية العادية، وعلى ذلك سوف ينقسم هذا المطلب إلى الفروع التالية:

الفرع الأول: آلية إصدار القرارات الإدارية المؤتمتة.

الفرع الثاني: آلية سحب وإلغاء القرارات الإدارية المؤتمتة.

الفرع الثالث: آلية نفاذ وتنفيذ القرارات الإدارية المؤتمتة.

الفرع الأول

آلية إصدار القرارات الإدارية المؤتمتة

تقوم الإدارة الإلكترونية بإعداد قراراتها من خلال برنامج إلكتروني يسمى ببرنامج إصدار القرارات الإدارية، الذي يحتوي على مجموعة حقول، ويقوم الموظف الفني المختص بتعبئتها، ويتم إصدار القرار من خلاله بناءً على البيانات المرسلة إليه، وهذا ما يميز القرار الإداري الإلكتروني عن القرار الإداري التقليدي الذي يصدر  بالأساليب العادية ومن خلال المعاملات الورقية.

ومن الملاحظ أن الحقول المدرجة تتعلق بأركان وشروط صحه القرار، وتتمثل فى بيان الجهة الإدارية مصدرة القرار، ومحله، والأسباب المتعلقة بصدوره، وعلى الإدارة مراعاة القواعد المتعلقة بأركان وشروط القرار عند تعبئة الحقول؛ لأن القرار الإلكتروني لا يتخلف عن القرار التقليدي من حيث التكوين والإصدار، وضرورة مراعاة مبدأ المشروعية، ومبدأ الشفافية وغيرها من المبادئ التي يلزم أن تتسم بها القرارات الفردية الإلكترونية، كما هو الحال فى القرارات التقليدية ([131]).

ويؤكد ذلك ظهور مبدأ الحق فى الشفافية فى اتخاذ القرارات الخوارزمية بأن يكون بشكل أكثر وضوحًا عندما نص فيه على إظهار البيانات ومصدر البيانات التي تستخدمها والمعالجات والعمليات المنفذة، وكذلك طريقة مساهمة المعالجة الآلية فى صنع القرار بفرنسا ([132]). وبعد إتمام عملية الإعداد يصبح لدي جهة الإدارة قرار إداري محفوظ على برنامج إصدار القرارات الإدارية، حتى يتم إرساله لذوي الشأن عن طريق الجهاز المخصص لذلك الغرض ([133]).

واستنادًا إلى ما سبق، يمكن القول بانعدام السلطة التقديرية فى البرامج الإلكترونية من حيث تقدير أسباب القرار الإداري، أو اختيار محله؛ لأنها مبرمجة لأداء عمل معين، ولا يمكنها التفكير والتقدير والاختيار الأمثل بين البدائل، فالاختصاص المقيد هو المجال المناسب للقرارات الإدارية الإلكترونية ([134]).

الفرع الثاني

آلية سحب وإلغاء القرارات الإدارية المؤتمتة

استقر الفقه والقضاء على أن الجهة المختصة التي أصدرت القرار الإداري تملك إنهائه إذا اقتضت الظروف ذلك، بشرط عدم المساس بحقوق الأفراد ومصالحهم المشروعة، وهذا الإنهاء يتم من خلال عدة وسائل كالسحب أو الإلغاء أو القرار المضاد.

 يتم سحب القرارات الإدارية الإلكترونية من خلال ذات القواعد والأحكام التي تحكم القرارات العادية، فىنبغي أن يتم السحب خلال ستين يومًا، وإلا يتحصن القرار ضد السحب، غير أن الاختلاف هنا يتمثل فى  طبيعة القرار الساحب والإجراءات المحققة للسحب؛ لأن سحب القرار يتم بذات الأساليب والإجراءات الآلية التي صدر بها من خلال العمليات البرمجية التي تتولاها الجهة الإدارية، وهي تماثل العملية التي مارستها عند اتخاذ القرار المسحوب مع اختلاف غاية كل منهما ([135]).

وتلتزم الإدارة بسحب القرارات المنشئة خلال المواعيد المقررة قانونًا، أما القرارات الكاشفة فلا تتقيد بتلك المواعيد. وبخصوص القرارات المؤتمتة فلا يوجد ما يمنع من تطبيق هذه الأحكام عليها؛ نظرًا إلى أن الآثار التي تحدثها القرارات فى الأحوال العادية بالنسبة للمراكز القانونية تبقى قائمة فى الواقع الجديد دون تغيير، والسحب الإلكتروني يتمتع بمزايا الإدارة الإلكترونية من حيث انتظام ودقة الإجراءات التي تتم فى موعدها والسرعة التي تصب فى مصلحة المضرور من القرار
المسحوب ([136]).

ومن الجدير بالذكر أن هناك بعض القرارات الإدارية يتعذر سحبها بالإجراءات الإلكترونية؛ نظرًا لطبيعتها وارتباطها بآثار مادية لا يملك السحب الإلكتروني محوها، بل يتطلب من جهة الإدارة مباشرة بعض الإجراءات الميدانية، وعليه فإن قرار السحب الإلكتروني فى هذا المقام يبقى بلا نتائج ما لم يقترن بإجراءات مادية واقعية ([137]).

أما بالنسبة للإلغاء فتملك جهة الإدارة إلغاء القرار الإداري التقليدي خلال ستون يومًا المقررة للسحب وإلا تحصن القرار، غير إن الإلغاء يكون بالنسبة للمستقبل فقط متى كان القرار غير مشروعًا، وبغض النظر عما إذا كان القرار فرديًا أو لائحيًا ومن ثم تبقى آثاره قائمة ما دامت ترتبت قبل الإلغاء، بخلاف السحب الذي يسري على الماضي والمستقبل معًا، ويعتبر القرار كأن لم يكن ([138]).

ويتم الإلغاء الإلكتروني عن طريق قيام الإدارة المختصة بوقف تنفيذ
وسريان القرار من خلال إيقاف وتعطيل أوامر التشغيل والتفعيل الإلكتروني
عبر البرنامج الخاص بذلك، وبذلك توقف الآثار القانونية المترتبة عليه بالنسبة للمستقبل.

وبخصوص القرار المضاد الذي يتم إصداره لإنهاء القرار السليم المحصن من السحب والإلغاء، ويأتي بآثار قانونية تناقضه مما يؤدي إلى زواله، فلا يوجد ما يمنع من وجود مثل هذه القرارات فى ظل التطور الإلكتروني الحالي، من خلال البرامج الإلكترونية الموضوعة مسبقًا ([139]).

الفرع الثالث

آلية نفاذ وتنفيذ القرارات الإدارية المؤتمتة

من البديهي أن يتم تفعيل كل ما يتعلق بالقرار الإداري وبالأخص نفاذه وذلك عندما تلجأ الإدارة للنظم الإلكترونية ([140])، لذلك أصبح نفاذ القرارات الإدارية المؤتمتة تبعًا للتطور العام الذي يشهده تطبيق نظام الإدارة الإلكترونية وإصدار القرار من خلال البرامج التي تتولاها الإدارة من خلال الموظفين المختصين بها ([141]).

ويكشف النفاذ الإلكتروني للقرارات الإدارية عن اعتماد جهة الإدارة على أنظمة المعلومات الرقمية، الذي يقدم الخدمة لها باعتبارها صاحبة الاختصاص فى إصدار القرارات، وكل ما يتعلق بها من وقائع، انطلاقًا من قابلية هذه القرارات للمعالجة بتقنيات نظم المعلومات ([142])، ويدخل القرار الإداري فى مرحلة النفاذ بعد إرساله لأصحاب الشأن عبر وسائل الإرسال الإلكترونية الحديثة، من خلال الحاسب الآلي المتصل بالإنترنت، أو الهاتف المحمول، ولا تختلف وسائل النفاذ الإلكتروني عن وسائل النفاذ التقليدي من ناحية النشر والإعلان أو العلم اليقيني، والتي تجعل القرار الإلكتروني يدخل فى مرحلة سريان العمل به وأن يترتب عليه الآثار القانونية ([143]). ويرى بعض الكتاب أن هذا التطور يؤدي إلى التخفيف من نطاق العلم اليقيني؛ لأن الدور الذي تلعبه وسائل الإرسال الإلكترونية فى تحقيق العلم بالقرار تكون قطعية ([144]).

ويتم التنفيذ الإلكتروني من خلال تحويل الإجراءات الإدارية العادية
إلى إجراءات إلكترونية، حيث تقوم أجهزة الحاسب الألى بالاستجابة لتنفيذ
الأوامر بناءً على البيانات والمعلومات المدخلة مسبقًا لجهاز الحاسب دون تدخل من الموظفين ([145]).

من حيث التظلم من القرارات: لا يوجد اختلاف بين القرارات الإدارية المؤتمتة والعادية، فينبغي أن يتم التظلم خلال مدة الستين يوم المقررة قانونًا، ويكون اختياريًا أو وجوبيًا باختلاف نوع القرار، ولا يختلف الأمر أيضًا بخصوص أساليب التظلم، فيجوز تقديم التظلم خطيًا أو آليًا بذات أسلوب إصدارها، كما يمكن أن يكون التظلم الإلكتروني ولائيًا أو رئاسيًا أو أمام لجان مختصة أو هيئات يحددها المشرع ([146]).

وتتم التظلمات الإلكترونية من خلال الطلبات الإلكترونية التي يقدمها ذوو الشأن عن طريق إدخال البيانات اللازمة، وهي المسألة الهامة لاتصال تلك البيانات بعملية اتخاذ القرار من عدمه، وهى تختلف عن عملية إعداد القرار التي تتم من قبل الإدارة المختصة بإصداره، على الرغم من أن هذا الطلب قد ينتج عنه القرار الاداري محل التظلم([147]).

المبحث الثالث

الرقابة القضائية على استخدام أنظمة الذكاء الاصطناعي

يترتب على استخدام أنظمة الذكاء الاصطناعي بعض المخاطر والأضرار، مما يستدعي تحديد أركان المسئولية عن هذه الأضرار، وبيان موقف القضاء الدستوري والإداري من الاستعانة بتلك الأنظمة، وعلى ذلك سوف ينقسم هذا المبحث إلى ثلاثة مطالب على النحو التالي:

المطلب الأول : مسئولية السلطة الإدارية عن تقنيات الذكاء الاصطناعي.

المطلب الثاني: موقف المجلس الدستوري الفرنسي من الاستعانة بأنظمة الذكاء الاصطناعي.

المطلب الثالث: موقف القضاء الإداري من الاستعانة بأنظمة الذكاء الاصطناعي.

المطلب الأول

مسئولية السلطة الإدارية عن تقنيات الذكاء الاصطناعي

 أصبح من الشائع فى مجال الإدارة العامة استعانة السلطات الإدارية بأنظمة الذكاء الاصطناعي عند إصدار القرارات الإدارية أو أثناء قيامها بأعمال مادية، وهذه الاستخدامات قد ينشأ عنها العديد من المسائل القانونية التي تتمثل فى مدى مسئولية الإدارة عن تعويض الأضرار المترتبة على استخدام هذه التقنيات ([148])، وعلى ذلك سوف يتم معالجة هذا المطلب من خلال فرعين على النحو التالي:

الفرع الأول: مسئوليه السلطة الإدارية عن القرارات الإدارية المعالجة إلكترونياً.

الفرع الثاني: مسئولية الإدارة عن الأعمال المادية المنفذة لأنظمة الذكاء الاصطناعي.

الفرع الأول

مسئوليه السلطة الإدارية عن القرارات الإدارية المعالجة إلكترونياً

تنعقد مسئولية جهة الإدارة فى الحالات التي تستخدم فيها القرارات المعالجة آليًا، إذا كان هذا القرار مشوب بعدم المشروعية، وقد استقر الرأي على أن التطبيقات القليلة للمسئولية عن استخدام تقنيات الذكاء الاصطناعي لاتخاذ قرارات فى مجال قانون العمل، تكون فى حالة عدم مشروعية المعايير التي يتم فى ضوئها فحص المعلومات أو تحليلها من جانب أنظمة الذكاء الاصطناعي، وهذه التطبيقات يمكن أن تحدث كثيرًا فى مجال القرارات الإدارية التي تصدر عن السلطات الادارية ([149]).

كما يجوز طلب التعويض عن اتخاذ قرارات تم معالجتها آليًا فى الحالات التي لا يجوز استخدام هذه التقنيات عند إصدارها، أو بالمخالفة لحق الشخص فى عدم اتخاذ قرارات معالجة آليًا بصورة كاملة، بما يخالف حق الشخص فى ألا يكون محلاً لقرار معالج آليًا بصورة كاملة ([150]).

ومن الجدير بالذكر أنه يتطلب التمسك بعدم مشروعية المعايير الوقوف على محتواها؛ لأن المسئولية عن القرارات الإدارية تقوم فى الأصل على الخطأ الثابت، مما يؤكد على أهمية تطبيق مبدأ الشفافية وإلا سوف يواجه المدعي فى دعوى المسئولية مشكلة كبيرة فى الإثبات. غير أنه يقع على القاضي الإداري عبء التدخل بالزام الإدارة بإبراز وتوضيح هذه المعايير، وذلك تطبيقًا للدور الذي يقوم به فى الإجراءات القضائية الإدارية وهي إجراءات تتسم دائمًا بأنها موجهة ([151]).

ويؤكد القضاء الإيطالي على مسئولية الإدارة عن القرارات المعالجة آليًا، فطبقًا لأحكام القانون الإيطالي يتطلب فتح الصيدلية ضرورة الحصول على ترخيص الذي يتم من خلال تقديم طلب فى المنصة الإلكترونية التابعة لوزارة الصحة، ويشترط أن يقدم هذا الطلب لإقليم معين، وإذا تم رفض هذا الطلب مرتين فى إقليمين مختلفين فلا يجوز تقديم طلب آخر.

وفى أحد القضايا قام أحد الأشخاص بتقديم طلبين لإقليميين متعاقبين لكن تم رفضهما؛ لعدم تقديم بيان بالإيميل– وفقًا لأحكام القانون – ثم قدم صاحب الشأن طلبًا ثالثًا فى العام التالي وتضمن البيان المطلوب لكنه أيضًا تم رفضه؛ لأنه سبق له تقديم طلبين وهو غير جائز، وبناءً على ذلك قضت المحكمة الإدارية بمدينة تورنتو الإيطالية بالتعويض على الدولة بعد إثبات المدعي الخطأ الذي وقع فيه النظام الإلكتروني،
والذي لم يميز بين رفض طلب الترخيص لأسباب شكلية وبين رفض الطلب لأسباب موضوعية ([152]).

ويمكن كذلك طلب التعويض عن القرار اللائحي الذي ينظم استخدام تقنيات الذكاء الاصطناعي، وفى هذا الخصوص قضى مجلس الدولة بالإلغاء الجزئي لقرار رئيس مجلس الوزراء والتعويض عنه، بخصوص السماح لوزير الداخلية بالمعالجة الإلكترونية للبيانات الشخصية من خلال تطبيق خاص، فيما تضمنه من النص على أن المعالجة الإلكترونية للمعلومات الشخصية التي تستهدف التيسير والجمع والحفاظ على هذه البيانات، من أجل استعمالها لاحقًا فى معالجات أخرى، وبالأخص من خلال نظام المعلومات المسبقة؛ لأن القرار لم يشير إلى طبيعة وموضوع هذه المعالجات، ولم يبين شروط استغلال هذه المعلومات فى تلك المعالجات، ولهذا السبب قررت المحكمة عدم توافر المتطلبات التي يشترطها القانون فى هذه الغاية من المعالجة وهي أن تكون محددة وواضحة ومشروعة ([153]).

ويرى بعض الفقهاء أن عدم المشروعية الذي يمكن أن يهدد القرار المعالج آليًا يعتبر دائمًا خطأ مرفقيًا؛ لأنها تنسب إلى المرفق ذاته، وأن هذه الفكرة لا يوجد ما يناقضها فى أحكام القضاء الإداري ([154]).

الفرع الثاني

مسئولية الإدارة عن الأعمال المادية المنفذة لأنظمة الذكاء الاصطناعي

استقر الرأي على أن دعوى المسئولية الإدارية عن الأعمال الإدارية غير اللائحية التي تدعمها أنظمة الذكاء الاصطناعي ترفع على السلطة العامة وليس على الشخص منتج هذه الأنظمة ([155]).

وفى هذا السياق يثار التساؤل حول  الأساس القانوني لمسئولية
الإدارة عن الأضرار المترتبة على استخدام نظم الذكاء الاصطناعي، فهل
تقوم المسئولية على أساس الخطأ أم على الخطأ المفترض أم تقوم  المسئولية بدون خطأ؟ ([156]).

1- استبعاد المسئولية على أساس الخطأ الثابت:

من البديهي أن الشخص الذي يقع عليه ضرر جراء استخدام أنظمة الذكاء الاصطناعي للقيام بأنشطة ذات طبيعة مادية، مثل الأعمال الطبية أو النقل، سوف يجد صعوبات بالغة فى تحديد الخطأ وتحديد المسئول عنه، فهل تنعقد المسئولية على جهة الإدارة المشغلة للنظام أم على المنتج، أم على الموظف الذي يستخدم هذا النظام؟؛ لأن نظام الروبوت الذكي أو المركبات الذاتية يفترض تعدد المسئولين عنها ([157]).

 وفى هذا الخصوص يرى بعض الفقهاء أنه ينبغي استبعاد المسئولية الإدارية القائمة على أساس الخطأ واجب الإثبات عن استخدام أنظمة الذكاء الاصطناعي فى الأعمال الإدارية غير اللائحية، نظرًا إلى أن المضرور لا يستطيع تحديد المسئول عن الخطأ، بسبب أن  هذا التحديد يبدو مسألة فنية ودقيقة لا يستطيع المضرور –  غالبًا – من الوصول إلى إثباتها ([158]).

ويستبعد القانون المسئولية على أساس الخطأ الثابت فى الحالات التي يتعدد فيها المسئولين من ناحية، وصعوبة تحديدهم من جانب المضرور من ناحية أخرى، وهذا ما يتم تطبيقه بخصوص المسئولية عن حوادث الطائرات والأضرار النووية ([159]).

2- نطاق تطبيق المسئولية على أساس الخطأ المفترض والمسئولية دون خطأ:

 من المعلوم أنه يمكن اللجوء إلى المسئولية القائمة على أساس الخطأ المفترض أو قرينة الخطأ، وهي الفكرة التي تقوم عليها المسئولية عن فعل الشيء، ولاسيما فى مجال مسئولية المرافق الطبية التي تستخدم منتجات وأجهزة مماثلة لتلك التي تستخدمها المستشفيات الخاصة، غير أن فقهاء القانون العام متحفظون على تطبيق هذا النوع من المسئولية على المرافق العامة الطبية، ويحصر تطبيق هذه المسئولية على المنشآت والأشغال العامة والأسلحة الخطيرة، نظرًا إلى عدم تحديد المقصود بالشيء ([160]).

ومن الملاحظ أنه قد تم تطبيق قواعد القانون المدني حديثًا على مسئولية المرافق الطبية من خلال تطبيق المسئولية عن المنتجات المعيبة ([161])، وفى هذا الشأن اعتبر مجلس الدولة الفرنسي أن قرينة الخطأ فى تنظيم وتشغيل المرفق الطبي لا يمكن أن تستوعب فعل الشيء أو المنتجات، وعلى ذلك رفض المجلس قيام المدعي عليه بتقديم الدليل العكسي الذي يستهدف قلب قرينة الخطأ، وقرر أن المرفق العام الطبي تنعقد مسئوليته بدون خطأ من جانبه عن الأضرار التي تلحق المنتفعين به، نتيجة قصور المنتجات والأجهزة الطبية، وبغض النظر عن التاريخ المرضي للمضرور كعذر مخفف من تلك المسئولية. وذلك استنادًا إلى مبدأ التزام المرفق الطبي بضمان سلامة المريض ([162]).

وتعد تلك المسئولية هي مسئولية موضوعية، وذلك طبقًا للتوجيه الأوروبي الصادر عام 1985 والقانون الصادر عام 1998 بخصوص المسئولية عن المنتجات المعيبة فضلاً عن أن محكمه النقض الفرنسية قررت – قبل إصدار قانون 1998 – مسئولية المنتج عن الأضرار الناجمة عن منتجه، وبغض النظر عما إذا كان المضرور طرفًا فى عقد أو من الغير. وأيد المجلس هذا الرأي فى حكم حديث ([163]).

وأكد المجلس لاحقًا على أن مسئوليه المرفق العام الطبي وإن كانت تنعقد دون خطأ، إلا أن ذلك لا يحول دون  ممارسة حقه فى الرجوع على المنتج بالتعويض ([164]).

وتماشيًا مع ما سبق فإن هذا القضاء يبدو صالحًا للتطبيق على استخدام المرافق العامة الطبية لأنظمة الذكاء الاصطناعي فى الأعمال الطبية، لاسيما التشخيص والجراحة؛ نظرًا إلى أن أساس المسئولية واحد وهو المسئولية عن المنتجات
المعيبة ([165]).

 ونستنتج مما سبق أن المسئولية عن استخدام تقنيات الذكاء الاصطناعي فى جميع مجالات تطبيقها، تستند إلى المسئولية على أساس المنتجات المعيبة، وهو
الرأي الغالب عند فقهاء القانون المدني، وهو ما يمكن تطبيقه أمام القضاء الاداري المصري، نظرًا إلى أن قانون التجارة الحالي رقم 17 لسنه 1999 ينص فى المادة 67 على مسئولية المنتج عن المنتجات المعيبة، واعتبر المشرع هذه المسئولية موضوعية.

المطلب الثاني

موقف المجلس الدستوري الفرنسي من الاستعانة
بأنظمة الذكاء الاصطناعي

قرر المجلس الدستوري الفرنسي جواز استخدام أنظمة الذكاء الاصطناعي فى مجال القرارات الإدارية الفردية، غير إنه قصر هذا الاستخدام على بعض القرارات دون غيرها، وهذا ما سنتناوله فى هذا المطلب من خلال الفرعين التاليين:

الفرع الأول: السماح باستخدام أنظمة الذكاء الاصطناعي فى مجال القرارات الإدارية الفردية.

الفرع الثاني: عدم السماح باستخدام أنظمة الذكاء الاصطناعي فى بعض القرارات الإدارية الفردية.

الفرع الأول

السماح باستخدام أنظمة الذكاء الاصطناعي فى مجال
القرارات الإدارية الفردية

أكد المجلس الدستوري الفرنسي فى حكمه الصادر بتاريخ ١٢/٧/٢٠١٨ على دستورية المادة ٢١ من القانون الذي يجيز للإدارة اتخاذ قرارات إدارية فردية بطريقة آلية، حيث إن السلطة اللائحية هي التي تقرر الأسس والمعايير التي تغذي المعالجة الحسابية، فهي لم تتخلَ عن القيام باختصاصها، وأن الضوابط المقررة قانونًا تبدو كافية، ومن أهم هذه الضوابط حصر الطعن على المعالجة الحسابية فقط فى حالة وجود معلومات تتسم بالحساسية، واشترط ضرورة الإشارة إلى الأسس الحسابية للقرار، وإتاحة الحصول على الخصائص الرئيسية لتنفيذها، وأيضًا إتاحة اتخاذ الإجراءات القانونية للطعن الإداري أو القضائي فى هذا القرارات، ولقد ألزم المجلس المختصين بالمعالجة الحسابية بضرورة التحكم فى آلية المعالجة وتطوراتها، ويكون ذلك من خلال توضيح وبشكل مبسط للفرد المعني بالقرار الآلية التي تم استخدامها فى المعالجة فى مواجهته([166]).

ونلاحظ أن هذا الحكم أتاح استخدام أنظمة الذكاء الاصطناعي، غير أنه قيد ذلك الاستخدام بمجموعة من الضوابط التي ينبغي عدم التخلي عنها، وجميعها تدور فى نطاق حماية الحق فى الخصوصية، والحق فى الوصول إلى المعلومات، والآلية التي تم من خلالها معالجة البيانات والوصول إلى اتخاذ القرار الفردي بصفة نهائية، والحق فى الطعن على هذا النوع من القرارات المعالجة آليًا؛ ضمانًا لما يشوب هذه القرارات من عيوب دستورية أو قانونية ([167]).

كما كرس المجلس الدستوري فى حكمه الصادر بتاريخ ٣/٤/٢٠٢٠ للحق فى معرفة القواعد والمعايير وآلية فحص الملفات من خلال تقنيات الذكاء الاصطناعي ليس فقط للمرشحين المستبعدين، بل إتاحة ذلك للكافة، وقرر المجلس الدستوري أنه طبقًا للنصوص فإنه يحق للمرشحين الذين تم رفضهم وبمجرد صدور القرار فى مواجهتهم أن يصلوا إلى المعلومات الخاصة بالمعايير والآلية التي تم من خلالها فحص طلباتهم، ومع ذلك أن يكون الحصول على هذه المعلومات غير متاحًا إلا للمرشحين فقط، وانتهى المجلس إلى أن عدم توفير المعلومات الخاصة بالمعايير للغير، وآلية فحص طلبات الترشح التي تم قبولها بالفعل من جانب الجهات المعنية ينطوي على انتهاك للحق المكفول بموجب المادة ١٥ من إعلان حقوق الإنسان والمواطن، وهو انتهاك لا يتناسب مع المصلحة العامة المكفولة والمستندة إلى حماية سرية مداولات الفرق التربوية، ولذلك لا يمكن تفسير الأحكام المتنازع فيها، ولا يجوز تفسيرها على أنها تعفى المؤسسات من نشر تقارير تتضمن المعايير التي تم فحص المرشحين على ضوئها. وتبين مدى استخدامها لمعالجة الخوارزميات للقيام بهذا الفحص، وإلا اعتبرت هذه الأحكام مناقضة لمبدأ الحصول على الوثائق الإدارية ([168]).

ويرى بعض الفقهاء أن المبدأ المقصود هو شفافية الخصائص الأساسية للخوارزميات أو المعالجة الآلية التي تستند عليها القرارات الفردية والمعلومات الشخصية موضوع المعالجة ([169])، لكن الشفافية الواردة فى التشريع الفرنسي قاصرة، لأنها تغفل بعض الخصائص مثل رموز مصادر الخوارزميات ([170]).

ويؤيد الباحث هذا الرأي؛ لأنه ينبغي توضيح وبيان كافة الخصائص والآليات التي يتم معالجة البيانات الشخصية من خلالها، حيث إن القرارات التي تصدر بشكل نهائي تكون نتيجة لهذه المعالجات.

ومن الجدير بالذكر أن المشرع الفرنسي يعترف بالحق فى طلب التدخل البشري فى الحالات التي يتم فيها اتخاذ قرارات معالجة آليًا، فيحق لكل فرد كان محلاً لهذه القرارات أن يطلب إعادة فحص مركزه من خلال التدخل البشري، وأن يعرض وجهة نظره، وحقه فى الحصول على توضيح للقرار المتخذ فى مواجهته.

الفرع الثاني

عدم السماح باستخدام أنظمة الذكاء الاصطناعي فى
بعض القرارات الإدارية الفردية

ينبغي أن تلتزم جهة الإدارة عند اتخاذ قرارات تستند إلى تقنيات الذكاء الاصطناعي بالحدود التي رسمها القانون، فلا يجوز اتخاذ قرارات آلية استنادًا إلى تقنيات الذكاء الاصطناعي فى بعض الموضوعات، وهذا ما قررته المادة 71 من اللائحة الأوروبية لحماية المعلومات – والتي تعد قانون المعلومات والحرية فى فرنسا – من منع اتخاذ أية قرارات يمكن أن تحدث آثارًا قانونية فى مواجهة شخص ما فى حاله ما إذا كان أساس تدخلها الوحيد هو المعالجة الآلية للمعلومات المخصصة للتعريف بجانب من شخصيته، أو تقيم بعض جوانب منها.

ولا يجوز أيضًا اتخاذ أية قرارات قضائية تنطوي على تقييم سلوك شخص ما ويكون أساسه فقط المعالجة الآلية لمعلومات ذات صفة شخصية بهدف تقييم جوانب معينة من شخصيته، مثل الرفض التلقائي لطلب ائتمان عبر الإنترنت أو ممارسات التوظيف عبر الإنترنت دون أي تدخل بشري، حيث يتضمن هذا النوع من المعالجة الذي يتكون من أي شكل من أشكال المعالجة الآلية للبيانات الشخصية التي تهدف إلى تقييم الجوانب الشخصية المتعلقة بالشخص الطبيعي، ولاسيما لتحليل أو التنبؤ بالجوانب المتعلقة بأداء العمل للشخص المعني، أو وضعه الاقتصادي، أو حالته الصحية، أو تفضيلاته أو اهتماماته الشخصية، أو سلوكه، فلا يجوز اتخاذ أية قرارات على هذا النحو ويمكن أن تحدث آثارًا قانونية تتعلق بالشخص المعني أو أن تؤثر عليه بطريقة ملحوظة ([171]).

بيد أن الحظر المقصود هنا – على النحو الذي قررته اللائحة الأوروبية لحماية المعلومات – يختص فقط ببعض أنواع من القرارات، وبعض عمليات المعالجة الآلية للمعلومات التي تهدف إلى تقييم بعض جوانب من الشخصية أو جميعها. فلا يندرج تحت هذا الحظر القرارات التي تتخذ بخصوص إبرام أو تنفيذ العقود، مع إعطاء صاحب الصفة الحق فى تقديم ملاحظاته، وأيضًا يخرج عن الحظر القرارات التي تحقق طلبات الأشخاص المعنيين، والقرارات الصادرة بناءً على الموافقة الصريحة من الأشخاص المعنيين بها ([172]).

المطلب الثالث

موقف القضاء الإداري من الاستعانة بأنظمة الذكاء الاصطناعي

من البديهي أن القرارات الإدارية التقليدية من حيث آثارها بالنسبة للأفراد تنقسم إلى قرارات ملزمة تقبل الطعن بالإلغاء، وأخرى تتمثل فى توجيهات للموظفين بهدف وضع القوانين واللوائح موضع التنفيذ داخل المرافق العامة، فهي تقوم بالتفسير دون إضافة أية التزامات جديدة غير التي فرضها المشرع، وهي لا تعتبر قرارات إدارية ولا يجوز الطعن فيها بالإلغاء ([173]).

كما يمكن إصدار القرارات الإدارية المؤتمتة وفقًا للنوع الأول وتكون ملزمة للأفراد وتقبل الطعن فيها بالإلغاء، أما بالنسبة للإجراءات المرفقية الإلكترونية التي تتولى تنظيم العمل داخل المرفق العام، ومنها برنامج البصمة الإلكترونية، وبرامج التواصل مع الجمهور من خلال العناوين الإلكترونية لتقديم الطلبات ومتابعتها عن طريق شاشات الحاسب، فهي لا تقبل الطعن بالإلغاء كنظيرتها العادية ([174]).

وتجدر الإشارة إلى أن تطبيق الإدارة الإلكترونية المترتب عليه إصدار القرارات آليًا لم يغير من كون القرارات الإدارية تخضع للرقابة القضائية، كما أن بعضها لا يخضع لتلك الرقابة التي تتمثل فى أعمال الحكومة ذات الطابع السياسي أو أعمال السيادة ([175])، وأن تطبيقها مازال مقصورًا على تأدية الوظيفة الإدارية للحكومة دون السياسية، وهي الوظيفة القائمة على توفير الحاجات العامة وإدارة المرافق وتنفيذ القوانين وكل ما يتصل بالنشاط الإداري، بالإضافة إلى أن العلاقات القائمة فى ظل نطاق الحكومة الإلكترونية لازالت محددة بتلك القائمة بين الإدارات فيما بينها، وبينها وبين الأفراد ([176]).

كذلك تنقسم القرارات الإدارية من حيث تأثيرها على المراكز القانونية، فمنها المنشئة التي تحدث أثرًا قانونيًا عند صدورها، وتخلق حالة من التغيير فى المراكز القانونية التي تتصل بها سواء من حيث الإنشاء أو التعديل أو الالغاء وهذه القرارات يجوز الطعن عليها بالإلغاء. ومنها القرارات الكاشفة التي لا يترتب عليها أية آثار قانونية جديدة؛ لأنها تكشف عن آثار قانونية موجودة بالفعل، وهذه القرارات لا يجوز الطعن عليها بالإلغاء ([177]).

وعلى ذلك سوف ينقسم هذا المطلب إلى ثلاثة فروع على النحو الآتي:

الفرع الأول: جواز الطعن بالإلغاء فى القرارات التي تستند إلى أنظمة الذكاء الاصطناعي.

الفرع الثاني: تطور الرقابة القضائية على القرارات التي تستند إلى أنظمة الذكاء الاصطناعي.

الفرع الثالث: الرقابة القضائية الإيطالية على القرارات التي تستند إلى أنظمة الذكاء الاصطناعي.

الفرع الأول

جواز الطعن بالإلغاء فى القرارات التي تستند
إلى تقنيات الذكاء الاصطناعي

صار مصطلح “القرار المعالج آليا” من المصطلحات البارزة فى القانون الفرنسي، وعرفته اللجنة الوطنية للمعلومات والحريات بأنه: القرار الصادر فى مواجهة شخص من خلال خوارزميات تم معالجتها آليًا تطبق على بياناته الشخصية بدون تدخل العنصر البشري فى هذه العملية، وتستخدم هذه الآلية فى القرارات المتعلقة بالمجالات المالية والضريبية والتسويقية، وتحدث هذه القرارات آثارًا قانونية على الأفراد ذوو الشأن، ومن أهم الأمثلة: القرار الصادر برفض الائتمان من خلال استخدام خوارزميات قامت بتطبيق بعض المعايير آليًا على المركز المالي لطالب الائتمان بدون تدخل العنصر البشري ([178]).

ويرى بعض الفقهاء أن هذا التعريف للقرار المعالج إلكترونيًا أحدث تغييرًا واضحًا فى حقيقة مفهوم القرار الإداري؛ لأنه يعني أن القرار لم يعد فقط تعبيرًا عن إرادة الإدارة بمفردها، بل أصبح أيضًا تعبيرًا عن تقنيات الذكاء الاصطناعي، حتى وإن ظل القرار من الناحية النظرية منسوبًا للإدارة التي تبنته باعتبارها مصدرة هذا القرار ([179]).

 ومن البديهي أن القضاء الإداري يباشر رقابة المشروعية على القرارات الإدارية – فى نطاق اختصاصه – سواء أكانت القرارات التي صدرت طبقًا للإجراءات العادية أم الإجراءات الإلكترونية، والقاضي الإداري يمارس الرقابة  ليس فقط من وقت التوقيع أو الإحالة ولكن منذ بداية الإجراءات حتى إصدار القرار، ويمارس رقابته أيضًا على عملية الدعم أو المساندة التي تقدمها الخوارزميات التي تقوم بدور فائق الأهمية فى الدول التي تستخدم تقنيات الذكاء الاصطناعي ([180]).

وبناءً على ما سبق يمكن منح تقنيات الذكاء الاصطناعي دور فى اتخاذ القرارات، غير إنه قد يؤدي إلى اتخاذ قرارات غير مشروعة، أو يمنع منح الحقوق، أو يرفض طلب الحصول على خدمة، أو يقوم بتحليل شخصية المرشحين للوظائف على غرار ما يحدث فى مجال المشروعات الخاصة، مما قد ينتج عن هذا التحليل اختيارات تنطوي على التمييز دون مبرر مشروع، فضلاً عن أن هذا التميز قد يكون عمديًا من خلال وضع معايير تمييزية فى البرنامج الالكتروني ([181]).

وفى هذا الخصوص قررت إحدى المحاكم الإيطالية أن تعامل الخوارزميات يعتبر تمييزيًا فى حالة تحديد مجموعات مقدمي الطلبات المستخدمة بواسطة منصة الغياب الناتج عن المساهمة فى الإضراب تمامًا على غرار الحالات الأخرى التي لا يقوم فيها مقدم الطلب بالخدمة، ومن ثم قضت المحكمة بالتعويض فى مواجهة المنصة ([182]).

ومن الملاحظ أنه يتم الاستعانة به فى إيطاليا بهدف تنفيذ الخطط الاستثنائية للتعيين ونقل المعلمين، وفى هاتين الحالتين يقوم البرنامج بوضع إجراءات آلية غير أن صعوبتها تعود إلى زيادة الأعداد وتنوع الطلبات التي يلزم التعامل معها والمعايير واجبة التطبيق ([183]).

وقد أقر القانون  الفرنسي الذي ينظم العلاقة بين الأفراد والجهات الإدارية إمكانيه اتخاذ قرارات فردية تستند إلى معالجة حسابية، فقد نصت المادة 1-3-311  L  من هذا التشريع على أنه: القرار الفردي الذي يتخذ فى ضوء معالجة حسابية يلزم أن يتضمن إشارة صريحة وإبلاغ صاحب الشأن، وكذلك يلزم إبلاغ صاحب الشأن – متى طلب ذلك – بالقواعد التي تنظم عمل هذه المعالجة والخصائص الرئيسية لتنفيذها ([184]).

الفرع الثاني

تطور الرقابة القضائية على القرارات التي تستند إلى

تقنيات الذكاء الاصطناعي

لم يعد هناك خلاف حول جواز الطعن بالإلغاء فى القرارات الإدارية التي تستعين بتقنيات الذكاء الاصطناعي أو المعالجة الحسابية، وهذا ما قرره المشرع الفرنسي بموجب قانون العلاقة بين الأفراد والإدارة، ويكون الطعن بالإلغاء بذات الطريقة التي تتبع بشأن القرارات الأخرى ([185]).

بيد أن بعض الكتاب يرون أن الأساليب التي يعتمد عليها القضاء لفرض رقابة المشروعية على القرارات الإدارية قد لا تجد مكاناً لها إذا تعلق الأمر بالقرارات التي تستند إلى مساندة تقنيات الذكاء الاصطناعي، فعلى سبيل المثال لا يوجد مكان لرقابة التناسب والخطأ البين فى التقدير؛ لأن هذه الأساليب وغيرها تتماشى مع الطريقة التقليدية فى اتخاذ القرارات الإدارية، ولا تكون لها إلا أهمية ضئيلة فى القرارات الصادرة طبقًا لأنظمة الذكاء الاصطناعي التي تقوم على معايير حسابية محضة ([186])، وأساس ذلك أن الأساليب التقليدية يفترض فيها ممارسة سلطة تقديرية من جانب الإدارة، أما القرارات التي تصدر بدعم من أنظمة الذكاء الاصطناعي، فإنها تتم بأسلوب آلي دون ممارسة أية مظاهر للسلطة التقديرية.

 كما إن نظم المساندة فى القرار تنطوي على تعميم تطبيق البيانات والمعلومات التي تتوافر لديه، فلا يتم فحص كل حاله بمفردها، وهو ما يعني الحد من السلطة التقديرية لجهة الإدارة، بالرغم من أن القضاء أكد على عدم جواز تخلي الإدارة عن ممارسة ذلك الحق ([187]).

ويبدو من الصعب بل من المستحيل الادعاء بوقوع القرار فى عيب إساءة استعمال السلطة؛ نظرًا لتعميم المعايير التي تتم فى ضوئها المعالجة الآلية للمعلومات والبيانات. ولذلك ينبغي التساؤل حول مدى رقابه القاضي الإداري على المعلومات أو المعايير التي صدر القرار الاداري استنادًا إليها؟.

يبدو من الطبيعي أن يفرض القاضي الإداري رقابته على هذه المعايير حال مباشرته الطعن بالإلغاء فى القرارات الصادرة استنادًا إليها؛ لأنها تعد أساس هذا القرار، ولكن هل يجوز الطعن بالإلغاء فى هذه المعلومات والمعايير؟

يرى بعض الفقهاء – ونؤيدهم فى ذلك – أنه لا مانع من الطعن فيها بالإلغاء مباشرة فى الميعاد ما دامت ملزمة، وذلك قياسًا على قبول دعوى الإلغاء فى المنشورات الملزمة، بل هي تشكل فى حقيقة الأمر قرارات لائحية ([188]).

 ويؤكد هذا الرأي ما قضى به مجلس الدولة من قبول الطعن بإلغاء توصية اللجنة الوطنية للمعلومات والحرية بخصوص اعتبار البيان الخاص بجنسية طالب القرض بوصفه أحد عناصر تقدير مخاطر التحصيل، وقرر المجلس بخلاف ما جاء بالتوصية التي تعد فى حقيقتها قرارًا إداريًا بأن عنصر الجنسية منتج وليست تمييزيًا فى ضوء عملية المعالجة الآلية ([189]). ولا مانع أيضًا من الدفع بعدم مشروعيه المعايير أو المعلومات التي يتم فى ضوئها اتخاذ القرارات الفردية أثناء نظر دعوى إلغاء هذا النوع من القرارات قياسًا على الدفع بعدم مشروعيه القرارات اللائحية بصفة عامة.

الفرع الثالث

الرقابة القضائية الإيطالية على القرارات التي تستند إلى
أنظمة الذكاء الاصطناعي

يراقب القاضي الإداري فى إيطاليا مشروعية القرار اللائحي بفرض استخدام العمليات الآلية، بالأخص فى الحالات التي تكون فيها معايير المعالجة غير معلومة، ويقرر بعض الفقهاء – ونؤيدهم فى ذلك – أن هذه الرقابة لا غنى عنها من أجل ضمان تطبيق حماية قضائية كاملة وفعالة، وإلا سوف تصبح القرارات الفردية مجرد نتيجة آلية لعمليات الإلكترونية يفرضها القرار اللائحي ([190]).

وأكد القضاء الإيطالي على أنه إذا ما طبقت معايير موضوعية دون أي هامش تقدير من السلطة الإدارية تكون الإجراءات الآلية ضرورية من الناحيتين التكنولوجية والدستورية فى ضوء المادة 97 من الدستور، والبرنامج الالكتروني من وجهة نظر القضاة يجسد الاجراءات، ويحتوي على القواعد القانونية، وأيضًا الاختيارات التي قامت بها الإدارة فى إطار سلطتها التقديرية. وأكد القضاء الإيطالي على إبراز النتيجتين التاليتين:

النتيجة الأولى: أنه يقع على الإدارة المسئولة عن الاجراءات أن توزان من البداية وقبل تنفيذ البرنامج بين جميع المصالح المعنية، مما يفرض أيضًا إدخال تعديلات وتحديثات، وإجراء اختبارات منتظمة للخوارزميات، وخاصة إذا كانت تلك الخوارزميات تتعلم بطريقة آلية.

أما النتيجة الثانية: تتمثل فى أن قابلية هذه الخوارزميات للتقاضي تفترض أنها مفهومة من جانب القضاة والمتقاضين، وهذا يفرض أن تكون جميع جوانبها معروفة مثل مؤسسيها وإجراءات إعدادها ونظام القرارات ([191]).

الخاتمة

تناولنا فى هذا البحث بالدراسة التنظيم التشريعي لتطبيقات الذكاء الاصطناعي، فتناولنا فى المبحث التمهيدي ماهية الذكاء الاصطناعي، وذلك من خلال تحديد مضمونه، وتوصلنا إلى أن الذكاء الاصطناعي هو عبارة عن العلم الذي يهدف إلى جعل الآلة تقوم بتنفيذ المهام البشرية التي تحتاج إلى قدرات فكرية وذهنية معقدة، وهي بذلك تحاكي السلوك البشري، من خلال مجموعة من القواعد التي تحدد سلسلة من العمليات التي يجب اتباعها من أجل حل مشكلة معينة. بدءًا من إدخال البيانات والمعلومات، فتصف الإرشادات حسابًا، عند تنفيذها، ويتم من خلال عدد محدود من الحالات المتعاقبة جيدة التحديد، مما ينتج عنه فى النهاية إخراج فى العديد من التخصصات.

وتعرض هذا المبحث إلى أهمية تطبيق تقنيات الذكاء الاصطناعي فى المجال القانوني، والذي حقق طفرة حقيقية فى إنهاء الأعمال القانونية مثل العقود الذكية، والمساعدة فى تحقيق العدالة القضائية، وإصدار القرارات الإدارية بطريقة سريعة وبجودة عالية، وتحقيق التواصل الذكي بين الأفراد والحكومة.

أما الفصل الأول والذي جاء تحت عنوان – تأثير تقنيات الذكاء الاصطناعي على القواعد الدستورية والتشريعية – فقد تناول المبحث الأول، تأثير تقنيات الذكاء الاصطناعي على القواعد الدستورية، وذلك من خلال بيان تأثير تقنيات الذكاء الاصطناعي على الحق فى الخصوصية، وتأثيرها أيضًا على الحق فى عدم التمييز.

ثم تناول المبحث الثاني، تأثير تقنيات الذكاء الاصطناعي على التنظيم التشريعي، من خلال تحديد أهمية التنظيم التشريعي لتقنيات الذكاء الاصطناعي باعتباره يؤثر تأثيرًا عميقًا على المبادئ الأساسية للقانون، مثل المساءلة والعدالة والإنصاف وعدم التمييز والاستقلال وبالأخص سيادة القانون، كما تناول هذا المبحث دور المشرع فى تنظيم ممارسة تقنيات الذكاء الاصطناعي، والذي يقع عليه عبء وضع الإطار التشريعي اللازم لممارسة هذه التقنيات الحديثة بشكل يحقق الاستفادة الكاملة من تطبيقاتها، مع حماية المجتمع والدولة من الأخطار التي تترتب على تنفيذها. كما تحدث عن دور السلطة التنفيذية فى تنظيم ممارسة تقنيات الذكاء الاصطناعي.

كما أشار الفصل الثاني والذي جاء بعنوان – تأثير تطور الذكاء الاصطناعي على القانون الإداري والإدارة العامة – إلى تأثير تقنيات الذكاء الاصطناعي على الإدارة العامة، والتي قد تحدث تغييرًا هيكليًا فى الإدارة العامة، وإدارة الأعمال فى العديد من التخصصات كمبحث أول، ثم تناول المبحث الثاني تأثير أنظمة الذكاء الاصطناعي على القرارات الإدارية، وأخيرًا أشار المبحث الثالث إلى الرقابة القضائية على استخدام أنظمة الذكاء الاصطناعي.

النتائج والتوصيات

أولاً: النتائج:

توصلنا من خلال تلك الدراسة إلى بعض النتائج، نتناولها على النحو التالي:

1-     لا يوجد مانع من تطبيق القواعد القانونية الحالية على تقنيات الذكاء الاصطناعي فى مختلف الأنشطة، وذلك لحين الانتهاء من وضع التشريعات التي تنظيم ممارسة الذكاء الاصطناعي.

2-     إن تقنيات الذكاء الاصطناعي من الممكن أن تحدث طفرة فى مجال الأعمال، مما يترتب عليه توفير الوقت والجهد والتكلفة فى كافة المجالات. كما توفر التقنية القانونية الكفاءة المتزايدة وتقليل التكلفة فى الصناعة القانونية، ويمكن أن تساعد أيضًا فى تحسين الوصول إلى العدالة.

3-     اتجاه الإرادة السياسية فى مصر نحو الاهتمام بتقنيات الذكاء الاصطناعي، من خلال إنشاء المجلس الوطني للذكاء الاصطناعي، وتشجيع القطاع الخاص للاستثمار فى هذا المجال الواعد.

4-     حدوث طفرة فى صناعة التكنولوجيا القانونية ووصلت إلى حوالي 700 شركة فى جميع أنحاء العالم، يقومون بتطوير تطبيقات تكنولوجيا المعلومات التي تهدف إلى إتقان المهام الأكثر تعقيدًا.

5-     عندما يتم تطبيق برامج التكنولوجيا القانونية، يكون الموقف أكثر أهمية، حيث تتعرض سيادة القانون لمخاطر محتملة خطيرة، لا سيما عندما يتم تطبيق التكنولوجيا القانونية من قبل سلطات الدولة والتي يجب أن تخدم المصلحة العامة. فعلى سبيل المثال، عندما يعتمد القضاة بشكل متزايد على الأنظمة التي يحركها الذكاء الاصطناعي من أجل تحديد عودة المتهم إلى الجريمة من عدمه. وطالما أن الأعمال الداخلية لتقنيات الذكاء الاصطناعي محمية بموجب القانون، فلن يتمكن الأشخاص من الطعن فى أي انتهاك أو تلاعب فى حقوقهم. مما يدعو إلى التشكيك فى الإجراءات القانونية الواجبة، والقدرة على الطعن فى القرارات والأحكام الجائرة.

6-     يعيد الذكاء الاصطناعي تشكيل الحياة الاجتماعية. كما أنه يؤثر تأثيرًا عميقًا على عملية سن القوانين وتطبيقها. ووفقًا لذلك، فإن القانون على وشك أن يتغير نحو الاعتراف بهذه التكنولوجيا الحديثة. كما إنها سوف تؤثر على المبادئ الأساسية للقانون، مثل المساءلة والعدالة والإنصاف وعدم التمييز والاستقلال والإجراءات القانونية المناسبة وخاصة سيادة القانون. مما يؤكد على أن المشرعون يقع عليهم عبء كبير فى كيفية التوفيق والموازنة بين المصالح المتضاربة المتمثلة فى ضرورة تحقيق خطوة سريعة وواسعة فى مجال تقنيات الذكاء الاصطناعي، وضرورة حماية الحقوق والحريات الفردية من التعرض لأية انتهاكات محتملة.

7-     ينبغي إعادة النظر فى حكم القانون وتحديثه، وتعميمها على التكنولوجيا من خلال تطوير المعايير الصحيحة، ووضع الإعدادات الافتراضية الصحيحة، وترجمة المبادئ القانونية الأساسية بشكل يتناسب مع الأجهزة والبرمجيات، كما يوجد تفاؤل نحو توجيه الجهود إلى تحقيق التوزان بين تقديم الخدمات بسهولة وتميز، وحماية الموظفين من فقدان وظائفهم عند تطبيق أنظمة الذكاء الاصطناعي، وذلك من خلال إدخال أساليب جديدة لتقديم هذه الخدمات.

8-     ليس هناك مانع من تحديد المسئولية عن استخدام أنظمة الذكاء الاصطناعي على أساس المسئولية عن المنتجات المعيبة، أو المسئولية عن فعل الأشياء، وتتوافر شروط المسئولية عن المنتجات المعيبة فى القانون المصري أكثر من المسئولية عن حراسة الأشياء.

9-     استقر القضاء الإداري على اعتبار مسئولية المرافق الطبية عن المنتجات والأجهزة الطبية هي مسئولية عن المنتجات المعيبة، وتقبل التطبيق فى مجال القضاء الإداري فيما يتعلق بالمسئولية عن استخدام تقنيات الذكاء الاصطناعي وبالأخص فى المجال الطبي والنقل.

ثانيًا: التوصيات:

هناك بعض النقاط التي ينبغي مراعاتها من قبل السلطة التشريعية والسلطة التنفيذية لتحقيق تقدم حقيقي فى تقنيات الذكاء الاصطناعي، وذلك وفقًا لما يلي:

1-  مع وجود السيارات ذاتية القيادة، والطائرات بدون طيار، ووسائل النقل البرى والبحري والجوي التي تعتمد على الذكاء الاصطناعي فى تشغيلها، تظهر الحاجة الماسة إلى استحداث تشريعات استباقية تحدد ضوابط وتضع حدود لتقنيات الذكاء الاصطناعي وتنظم جميع مراحل انتاجها، وأيضا حدود المسئولية الجنائية عن الجرائم المرتكبة عن طريقها؛ حتى نكون أمام نصوص صريحة وواضحة لجرائم الذكاء الاصطناعي.

2-  يمكن تطبيق الأحكام القانونية المنظمة لامتلاك أو استخدام الأسلحة والمواد المتفجرة التي يحظر على الأشخاص استخدامها بدون إذن وفقًا للقانون على بعض أنواع تقنيات الذكاء الاصطناعي. فينبغي أن يكون لدى الأشخاص ترخيص بامتلاك أو استخدام تقنيات الذكاء الاصطناعي، وهذه التراخيص تكون لها خصائص معينة كاشتراط (السن، والقدرة العقلية، والحالة الجنائية وما إلى ذلك). ومن هذا المنظور، يجب أن تطور الحكومات قواعد تنظيم استخدام الذكاء الاصطناعي ونظام الترخيص مثل تراخيص السيارات الأجرة. وفى حالات الإهمال الجسيمة التي ينجم عنها أضرار لعدم اتباع القواعد القانونية فإنها تتحمل المسؤولية الجنائية والمدنية.

3-  ينبغي العمل على توفير قواعد بيانات قانونية مستندة إلى السوابق القضائية من أحكام وقرارات جميع أنواع المحاكم القضائية والفتاوى المعتمدة من مجلس الدولة المصري؛ حتى يمكن الاستفادة من تقنيات الذكاء الاصطناعي فى المجال القانوني، وتعميم ذلك على كافة المجالات.

4-  ينبغي على المشرع أن يطور البيئة التنظيمية بما يتناسب مع تقنيات الذكاء الاصطناعي، وذلك من خلال عدم السماح لها بأن تتخطى التحكم البشري، وأن تكون آمنة ودقيقة ضد محاولات استخدامها لتحقيق أهداف غير مشروعة، مع عدم السماح للأشخاص بالاطلاع على البيانات الشخصية التي تحصل عليها تقنيات الذكاء الاصطناعي، وحمايتها من السرقة أو الوصول إليها واستخدامها، وينبغي أيضًا أن تخضع عملية تصنيع هذه التقنيات إلى المساءلة، وأن تغطيها الحماية الخاصة بالمبلغين عن المخالفات التي قد تحدث فى الشركات المنتجة.

5-  ينبغي استحداث تشريع ينظم عمل الإدارة العامة إلكترونيًا في كافة المجالات، مع ضرورة مراعاة السلطة التقديرية التي تملكها جهة الإدارة عند إصدار القرارات الإدارية آليًا، بحيث لا تصدر هذه القرارات بعيدًا عن السلطة التقديرية لجهة الإدارة.

6-  ينبغي تدخل المشرع لتنظيم إصدار القرارات الإدارية المعالجة آليًا بالكامل من خلال استخدام أنظمة الذكاء الاصطناعي، حيث إن هذا التنظيم تزداد أهميته فى حالة التوسع فى اللجوء إلى هذه الأنظمة مما يؤثر سلبًا على الحقوق والحريات الشخصية المكفولة دستوريًا، لاسيما الحق فى الحياة الخاصة.

7-  ينبغي تفعيل المسئولية عن المنتجات المعيبة أمام القاضي الإداري فيما يتعلق بالمسئولية عن الأضرار الناجمة عن استخدام أنظمة الذكاء الاصطناعي فى المجالات الطبية والنقل، ويبدو أنه لا توجد أية معوقات لتطبيق هذه المسئولية فى القانون المصري، لاسيما وأن القضاء الإداري طبق مبدأ المسئولية دون خطأ فى مجال المسئولية الطبية.

8-  لا يوجد ما يمنع من إصدار القرارات الإدارية الفردية من خلال المعالجة الآلية وفقًا لأنظمة الذكاء الاصطناعي، بشرط عدم انطواء تلك المعالجة على تمييز غير مبرر، وإبلاغ صاحب الشأن بالقواعد التي تنظم عمل تلك المعالجة، والخصائص الرئيسية لتنفيذها متى طلب ذلك.

قائمة المراجع

أولاً : المراجع العربية :

1-     أشرف السيد أحمد:

الذكاء الاصطناعي والنظم الخبيرة، أكاديمية الشرطة، معهد بحوث الشرطة، بدون سنة نشر.

2-     أحمد ماجد، ندى الهاشمي:

الذكاء الاصطناعي بدولة الإمارات العربية المتحدة، إدارة الدراسات والسياسات الاقتصادية، وزارة الاقتصاد، مبادرات الربع الأول، 2018.

3-     أعاد علي حمود القيسي:

النموذج الالكتروني الموحد للقرارات الإدارية، بحث مقدم فى المؤتمر العلمي المنعقد بمركز الامارات للدراسات والبحوث الاستراتيجية – أبو ظبي بعنوان المعاملات الالكترونية (التجارة الالكترونية – الحكومة الالكترونية)، فى الفترة ۱۹ – ۲۰ مايو ۲۰۰۹، المجلد الأول.

4-     أورنس متعب الهذال:

أثر التطور الالكتروني فى الأعمال القانونية للإدارة العامة، بدون دار نشر، ۲۰۱۷.

5-     جمال علي الدهشان:

حاجة البشرية إلى ميثاق أخلاقي لتطبيقات الذكاء الاصطناعي، مجلة إبداعات تربوية، العدد 10، يوليو 2019.

6-     جميل صالح عيسی:

دور نظم أتمتة المكتب فى تحسين جودة الخدمات الإدارية (دراسة مسحية فى جامعة تشرين)، رسالة ماجستير – كلية الاقتصاد جامعة تشرين، ۲۰۱4 – ۲۰۱5.

7-     حمدي سليمان الفيلات:

التوقيع كشكلية فى القرار الإداري الالكتروني، مجلة دراسات علوم الشريعة والقانون، عمان، المجلد (34)، ملحق ۲۰۰۷.

8-     حمدي أبو النور السيد عويس:

نظم المعلومات ودورها فى صنع القرار الإداري، دار الفكر الجامعي،۲۰۱1.

9-     داود عبد الرازق الباز:

الحكومة الالكترونية وأثرها على النظام القانوني للمرفق العام وأعمال موظفيه، منشأة المعارف، بدون سنة نشر.

10-زينب عباس محسن:

الإدارة الإلكترونية وأثرها فى القرار الإداري، بحث منشور فى مجلة كلية الحقوق جامعة النهرين، المجلد (16)، العدد (1)، ۲۰۱4.

11-سلوى حسين حسن رزق:

الأتمتة الذكية والقرارات الإدارية، المؤتمر الدولي السنوي العشرون – بعنوان الجوانب القانونية والاقتصادية للذكاء الاصطناعي وتكنولوجيا المعلومات – المنعقد بكلية الحقوق جامعة المنصورة، فى الفترة من 23- 24 مايو 2021.

12-سعد غالب ياسين:

نظم مساندة القرار، دار المناهج – عمان، ۲۰۰۹.

13-سامي جمال الدين:

القضاء الإداري (الرقابة على أعمال الإدارة – مبدأ المشروعية – تنظيم القضاء الإداري)، دراسة مقارنة، منشأة المعارف – الإسكندرية، ۲۰۰۳.

14-سليمان محمد الطماوي:

النظرية العامة للقرارات الإدارية (دراسة مقارنة)، دار الفكر العربي، ۲۰۰6.

15-صالح عبد عايد صالح:

أهمية دور الحكومة الإلكترونية (الإدارة المحلية فى عملية صناعة القرار الإداري مستقبلا، بحث منشور فى مجلة جامعة تكريت للعلوم القانونية، المجلد (۲)، العدد (۲۸)،۲۰۱5.

16-عبد اللاه إبراهيم الفقي:

الذكاء الاصطناعي والنظم الخبيرة، دار الثقافة للنشر والتوزيع، 2012.

17-عماد عبد الوهاب الصباغ:

الحاسوب فى إدارة الأعمال، دار الثقافة للنشر – عمان، 1996.

18-علي میا وآخرون:

نظم المعلومات الإدارية، منشورات جامعة تشرين – سوريا، ۲۰۰۸.

19-عبد الفتاح بيومي حجازي:

النظام القانوني لحماية الحكومة الإلكترونية، دار الفكر الجامعي، 2013.

20-علاء محي الدين مصطفى أبو أحمد:

القرار الإداري الالكتروني كأحد تطبيقات الحكومة الالكترونية، بحث مقدم فى المؤتمر العلمي المنعقد بمركز الامارات للدراسات والبحوث الاستراتيجية – أبو ظبي، بعنوان المعاملات الالكترونية التجارة الالكترونية – الحكومة الالكترونية)، فى الفترة ۱۹ – ۲۰ مايو ۲۰۰۹.

21-عبد العزيز عبد المنعم خليفة:

القرارات الإدارية فى الفقه وقضاء مجلس الدولة، بدون دار نشر، ۲۰۰۷.

22-عمار طارق عبد العزيز:

أركان القرار الإداري الإلكتروني، مجلة القانون والدراسات والبحوث القانونية، العدد (۲)،۲۰۱۰.

23-فايز النجار ونازم ملكاوي:

نظم المعلومات وأثرها فى الابداع، مجلة العلوم الاقتصادية والقانونية – جامعة دمشق، العدد (۲)،۲۰۱۰.

24-قادة شهيد، د/ معمر بن طرية:

أضرار الربوتات وتقنيات الذكاء الاصطناعي: تحد جديد لقانون المسئولية المدنية الحالي، الملتقى الدولي “الذكاء الاصطناعي” تحد جديد للقانون، جامعة الجزائر، كلية الحقوق، 2018.

25-نادية باعش:

دور الذكاء الاصطناعي فى إدارة الأعمال، المجلة العلمية البحوث والدراسات التجارية، جامعة حلوان، المجلد 1، العدد 3، 2011، ص 377-391.

26-ليث سعد الله حسين وآخرون:

نظم أتمتة المكاتب والحوسبة السحابية (دراسة استطلاعية لآراء عينة من مسؤولي المكاتب فى عدد من كليات الموصل)، بحث منشور فى مجلة تنمية الرافدين، العدد (116)، المجلد (۳۹)، 2014.

27-منال أحمد البارودي:

الطرق الإبداعية فى حل المشكلات واتخاذ القرارات، المجموعة العربية للتدريب والنشر،۲۰۱۰.

28-محمود أبو السعود حبيب:

القانون الإداري (الموظف العام – المرفق العام – المال العام – القرار الإداري – الضبط الإداري – التنفيذ المباشر – نزع الملكية للمنفعة العامة، مطبعة دار الايمان، بدون سنة نشر.

29-محمد محمد عبد اللطيف:

المسئولية عن الذكاء الاصطناعي بين القانون الخاص والقانون العام، المؤتمر الدولي السنوي العشرون – بعنوان الجوانب القانونية والاقتصادية للذكاء الاصطناعي وتكنولوجيا المعلومات – المنعقد بكلية الحقوق جامعة المنصورة، فى الفترة من 23- 24 مايو 2021.

30-محمد السعيد السيد محمد المشد:

نحو إطار قانوني شامل للمسئولية المدنية من أضرار نظم الذكاء الاصطناعي غير المراقب، المؤتمر الدولي السنوي العشرون – بعنوان الجوانب القانونية والاقتصادية للذكاء الاصطناعي وتكنولوجيا المعلومات – المنعقد بكلية الحقوق جامعة المنصورة، فى الفترة من 23- 24 مايو 2021.

31-محمد سليمان نایف شبير:

النفاذ الإلكتروني للقرار الإداري (دراسة مقارنة)، رسالة دكتوراه (كلية الحقوق – جامعة عين شمس)، ۲۰۱۰.

32-نبراس محمد جاسم الأحبابي:

أثر الإدارة الإلكترونية فى إدارة المرافق العامة (دراسة مقارنة)، دار الجامعة الجديدة للنشر، ۲۰۱۸.

33-نوفان العقيل العجارمة وناصر عبد الحليم السلامات:

نفاذ القرار الإداري الالكتروني، بحث منشور فى مجلة علوم الشريعة والقانون، كلية الحقوق – الجامعة الأردنية، المجلد (40)، ملحق (۱)، ۲۰۱۳.

ثانيًا : المراجع الأجنبية

‌أ-مراجع باللغة الإنجليزية:

1- Ashraf Khalil, Hassan Hajjdiab, and Nabeel Al-Qirim,

Detecting fake followers in twitter: A machine learning approach. International Journal of Machine Learning and Computing, Volume 7 Number 6, Dec. 2017, pp. 198-202.

2- Bryce Goodman,  Seth Flaxman,

European Union regulations on algorithmic decision-making and a ‘Right to Explanation’. AI Magazine, Vol. 38 No. 3, 2017, pp. 50–57.

3- Bart van der Sloot,

A new approach to the right to privacy, or how the European Court of Human Rights embraced the non-domination principle, Computer Law and Security Review, Volume 34, Issue number 3, Jun 2018, pp. 539-549.

4- Eugene Charniak, Drew McDermott,

Introduction to Artificial Intelligence, Addison-Wesley Publishing Company, Canada, 1985.

5- Eden Medina,

Rethinking algorithmic regulation, Kybernetes, Vol. 44 No. 6/7, 2015, pp. 1005-1019.

6- Fabio Celli, Elia Bruni, Bruno Lepri,

Automatic personality and interaction style recognition from Facebook profile pictures, Proceedings of the 22nd ACM international conference on Multimedia, November 2014, pp. 1101–1104.

7- Horst Eidenmueller,

The Rise of Robots and the Law of Humans,  ZeuP, 2017.

8- Gabriele Buchholtz,

Artificial Intelligence and Legal Tech:Challenges to the Rule of Law, THE IRISH TIMES, Springer Nature Switzerland AG 2020, 2018, Pp. 175 – 198.

9- Guido Noto La Diega,

Against the dehumanisation of decision-making – algorithmic decisions at the crossroads of intellectual property, data protection, and freedom of information. JIPITEC – Journal of Intellectual Property, Information Technology and E-Commerce Law, 9(1), 2018.

10- Jens Wagner,

Legal Tech und Legal Robots: Der Wandel im Rechtsmarkt durch neue Technologien und künstliche Intelligenz. Springer, Wiesbaden, 2018.

11- Julia Dressel, Hany Farid,

The accuracy, fairness, and limits of predicting recidivism, Science Advances, Vol. 4, no. 1, eaao5580, 2018, pp. 1-5.

12- Joseph Weizenbaum,

Computer power and human reason: from judgement to calculation. W. H. Freeman & Co, Oxford, 1976.

13- Jon S Vernick,

Carrying Guns in Public: Legal and Public Health Implications, Journal of Law, Medicine and Ethics,Vol. 41, No. SUPPL. 1, Mar. 2013, pp.84-87.

14- Karen Shrum, Lisa Gordon, Priscilla Regan, Karl Maschino, Alan R. Shark, Anders Shropshire,

ARTIFICIAL INTELLIGENCE AND ITS IMPACT ON PUBLIC ADMINISTRATION, NATIONAL ACADEMY OF PUBLIC ADMINISTRATION, edited by Alan R. Shark, The National Academy of Public Administration, April 2019.

15- Michael F McTear, Norman Creaney,

Artificial Intelligence and Cognitive Science, Springer, 2002.

16- Nick Montfort, Patsy Baudoin, John Bell, Ian Bogost, Jeremy Douglass, Mark C. Marino, Michael Mateas, Casey Reas, Mark Sample and Noah Vawter,

10 PRINT CHR$ (205.5 + RND (1)); : GOTO 10. MIT Press, Cambridge, MA ,2012.

17- Noel Sharkey,

Killing Made Easy: From Joysticks to Politics, Robot ethics: The ethical and social implications of robotics, edited by Keith Abney, Patrick Lin, and George A. Bekey, Cambridge, MIT Press, London, 2012, pp. 111-128.

18- Rob Kitchin,

Thinking critically about and researching algorithms. Inf Commun Soc 20 (1), 2017, pp. 14–29.

19- Roman Dremliuga, Natalia Prisekina,

Artificial Intelligence Legal Policy: Limits of Use of Some Kinds of AI, Proceedings of the 2019 8th International Conference on Software and Computer Applications, February 2019, pp. 343 – 346.  

20- Scott J. SHACKELFORD, Anjanette H. Raymond,

Building the virtual courthouse: ethical considerations for design, implementation, and regulation in the World of ODR. Wisconsin Law Rev 3:, 2014, pp. 615- 657.

21- Shubham Sharma, Priyanka Mishra, Mamta Mittal,

S-Array: highly scalable parallel sorting algorithm. In: Mittal M, Balas VE, Hemanth DJ, Kumar R (eds) Data intensive computing applications for big data. IOS Press BV, Amsterdam, 2018, pp. 479- 814.

22- Theodore M. Porter,

Trust in numbers: the pursuit of objectivity in science and public life. Princeton University Press, Princeton, 1995.

23- Xianxin Ke, Yujiao Zhu, Lei Wen, and Wenzhen Zhang,

Speech Emotion Recognition Based on SVM and ANN, International Journal of Machine Learning and Computing, Vol. 8, No. 3, June 2018, pp.198-202.

24- Yilun Wang, Michal Kosinski,

Deep neural networks are more accurate than humans at detecting sexual orientation from facial images, Journal of Personality and Social Psychology, Vol. 114, No. 2, Feb 2018, pp. 246-257.

‌ب-    مراجع باللغة الفرنسية:

1- Alexandra Bensamoun, Grégoire Loiseau.

L’intelligence artificielle : faut-il légiférer?. Recueil Dalloz, 2017, pp.581-582.

2- Alexy Hamoui,

La responsabilité civile médicale à l’épreuve de l’intelligence artificielle, Mémoire, Master , Paris II, 2020.

3- Alexandra Mendoza-Caminade,

Le droit confronté à l’intelligence artificielle des robots : vers l’émergence de nouveaux concepts juridiques ?. Recueil Dalloz, Dalloz, 2016.

4- Alexandra Bensamoun et Grégoire Loiseau,

La gestion des risques de l’intelligence artificielle. De l’éthique à la responsabilité. La semaine juridique – édition générale , LexisNexis, 2017, pp.2063-2072.

5- Adrien Bonnet,

La responsabilité du fait de lʼintelligence artificielle, Université panthéon-assas, Paris II, 2014-2015.

6- Christophe Lachièze.

Intelligence artificielle : quel modèle de responsabilité ?. Dalloz IP/IT, Dalloz, 2020.

 7- Charles Eisenmann,

Cours de droit administratife, T.11. L. G. D. J, 1983.

8- Diane GALBOIS-LEHALLE,

Responsabilité civile pour l’intelligence artificielle selon Bruxelles: une initiative à saluer, des dispositions à améliorer, Recueil Dalloz (n°2, 2021), pp. 87-88.

9- Danièle Bourcier, Primavera De Filippi,

TRANSPARENCE DES ALGORITHMES FACE À L’OPEN DATA : QUEL STATUT POUR LES DONNÉES D’APPRENTISSAGE ?, Revue française d’administration publique, 2018/3 N°167,pp. 525 – 537.

10- Danièle Bourcier,

De lʼintelligence artificielle aˋ la personne virtuelle: émergence d’une entité juridique? Editions juridiques associées, “Droit et société”, 2001/no49, pp. 847- 871.

11- DELPHINE Gardes,

Le droit à l’emploi face à l’intelligence artificielle, Dalloz Droit social, 2021.

12- Elise Mouriesse,

L’opacité des algorithmes et la transparence administrative, Revue française de droit administratif, no 01, janvier-février 2019, p. 45.

13- Giorgio Mancosu,

Le contentieux des actes pris sur la base de d’algorithmes, un point de vue italien, Revue générale du droit, numéro 49010, 2019.

14- Jean-Baptiste Duclercq,

L’automatisationalgorithmique des décisions administratives individuelles, R.D.P., 2019, p. 295.

15- jean Rivero,

Droit administratife, précis Dalloz, Douzieme edition, 1987.

16- Jean-Bernard AUBY,

Le droit administratif face aux défis du numérique, L’actualité juridique droit administratif, n°15, 2018,  pp. 835-844,

17- Julie Groffe-Charrier,

La loi est-elle dictée par le code ?, Dalloz IP/IT, November 2020.

18- Jean-François Kerléo,

L’administration de produit, L’Actualité juridique. Droit administratif, N° 38, 16 November 2020, pp. 2192- 2199.

19- Judith Rochfeld,

L’encadrement des décisions prises par les algorithmes, Dalloz IP/IT, n°9, 2018, pp. 474-479.

20- Luca Ratti et Marie Peyronnet,

Controverse : Algorithmes et risque de discrimination : quel contrôle du juge ?, Revue de Droit du Travail, Nº. 2, 2021, pp. 81-87.

21- Marjolaine MONOT-FOULETIER & M. CLEMENT Rec.,

Véhicule autonome : vers une autonomie du régime de responsabilité applicable ?,  Dalloz, n°3, 2018.

22- Marcel Waline,

Droit Administratif, 9è ed, Paris, Sirey, 1963, XVI et 934 pages. In: Revue internationale de droit comparé. Vol. 15, N°3, Juillet-septembre 1963. pp. 639-640.

23- Philippe YOLKA,

Le droit de l’immatériel public, L’Actualité Juridique Droit Administratif, N°36, (30/10/2017), pp. 2046-2075.

24- Sophie Sereno,

Focus sur les discriminations par algorithme. Revue de Droit du Travail, Dalloz, n° 11, November, 2020.

‌ج-    مراجع باللغة الألمانية:

1- Dominik Tobschall, Johann Kempe,

Der Deutsche Legal-Tech-Markt. Neue Juristische Wochenschrift – Sonderheft: Innovationen & Legal Tech, pp. 10- 13.

2- Mario Martini, 

Algorithmen als Herausforderung für die Rechtsordnung, Aufsätze, JuristenZeitung, Jahrgang 72, Heft 21, 2017, pp. 1017-1025.

3- Nadja Braun Binder,

Rechtsangleichung in Der Eu Im Bereich Der Direkten Steuern : Analyse Der Handlungsformen Unter Besonderer Berucksichtigung Des Soft Law, Mohr Siebeck,Jus Publicum 266, Tuebingen, Germany, 2017.

4- Oliver Stiemerling,

Künstliche Intelligenz – Automatisierung geistiger Arbeit, Big Data und das Internet der Dinge. Computer und Recht, pp. 765.

5- Schmidt,                                     

Programmierung, Dokumentation und Test von Software. In: Auer-Reinsdorff A, Conrad I (eds) Handbuch für IT- und Datenschutzrecht, 3rd edn. Beck, München, 2016.

6- Timo Rademacher,

Predictive Policing im deutschen Polizeirecht, Abhandlungen, Archiv des öffentlichen Rechts, Jahrgang 142, Heft 3, 2017, pp. 366–416.

7- Thomas Wischmeyer,

Regulierung intelligenter Systeme, Archiv des öffentlichen Rechts (AöR), Abhandlungen, Jahrgang 143 / Heft 1, 2018, pp. 1-66.

8- Volker Boehme-Neßler,

Die Macht der Algorithmen und die Ohnmacht des Rechts, Neue Juristische Wochenschrift: NJW, Volume 70, Issue 42, 2017, pp. 3031-3037.

9- Wolfgang Hoffmann-Riem,

Verhaltenssteuerung durch Algorithmen – Eine Herausforderung für das Recht. Archiv des öffentlichen Rechts, Jahrgang 142, Heft 1, Abhandlungen, 2017, pp. 1-42.

10- Yorck Frese

Recht im zweiten Maschinenzeitalter, Neue Juristische Wochenschrift, 2015, pp. 2090-2092.

---