banner

نحو إقرار قواعد للمسئولية الجنائية

والعقاب على إساءة استخدام تطبيقات الذكاء الاصطناعي

إعداد

د/ رامي متولي القاضي

رئيس قسم القانون الجنائي بكلية الشرطة والأستاذ المساعد
الحائز على جائزة الدولة التشجيعية في القانون

ملخص

لا شك في أن العالم أجمع على أعتاب الدخول في عصر جديد هو عصر الثورة الصناعية الرابعة، والتحول الرقمي، الذي سيغير تفاصيل الحياة البشرية، من خلال الاعتماد على تطبيقات الذكاء الاصطناعي وإنترنت الأشياء، والبلوكتشين، وإزاء هذا التطور، يغدو من الضروري تطوير معظم القوانين والتشريعات، بحيث تتواكب مع هذا الواقع الجديد، حيث تفتح الثورة الصناعية الرابعة اليوم الأبواب أمام احتمالات لا محدودة من خلال الاختراقات الكبيرة لتكنولوجيات ناشئة في مجال الذكاء الاصطناعي، والروبوتات وقواعد البيانات الضخمة، وإنترنت الأشياء، والمركبات ذاتية القيادة، والطباعة ثلاثية الأبعاد، وتكنولوجيا النانو، والتكنولوجيا الحيوية، وعلم المواد، والحوسبة الحوكمية، وسلسلة الكتل Block chain وغيرها، وهو ما سيؤدي إلى دخول البشرية في مرحلة جديدة، تتطلب ضرورة وضع إطار قانوني حاكم لهذه الاستخدامات الجديدة، ولا شك في أن وجود هذا الإطار القانوني يتطلب وجود تصور واقعي لاستخدامات الذكاء الاصطناعي وتأثيراتها على السلوك الإنساني والاجتماعي للإنسان والمصالح القانونية المختلفة الجديرة بالحماية القانونية.

وتعد تقنيات الذكاء الاصطناعي أحد أهم الموضوعات بالنسبة لفقهاء القانون الجنائي، بالنظر إلى اعتباره علم يركز على تصميم آلات تشارك الإنسان في سلوكيات توصف بأنها ذكية، ومن ثم تبرز الحاجة إلى إرساء قواعد قانونية تتناسب مع طبيعة هذه التقنية التي من المتوقع لها أن تسود العالم أجمع، ويستهدف البحث التعريف بتطبيقات الذكاء الاصطناعي ومجالاته ومزاياه وتأثيره المتوقع خلال المرحلة المقبلة، وتسليط الضوء على قواعد القانون الجنائي المقترحة لتنظيم استخدام الذكاء الاصطناعي، وبحث العقوبات المناسبة المقترح تطبيقها في مواجهة كيانات الذكاء الاصطناعي.

مقدمة عامة

١- التعريف بموضوع البحث وأهميته: لا شك في أن العالم أجمع بسبب التطورات التكنولوجية المتلاحقة قد بات على أعتاب الدخول في عصر جديد، هو عصر الثورة الصناعية الرابعة ([1])، والتحول الرقمي ([2])، الذي سيغير تفاصيل الحياة البشرية، من خلال الاعتماد على تطبيقات الذكاء الاصطناعي وإنترنت الأشياء، والبلوكتشين، وإزاء هذه التطورات، يغدو من الضروري تطوير معظم القوانين والتشريعات، بحيث تتواكب مع هذا الواقع الجديد ([3])، حيث تفتح الثورة الصناعية الرابعة اليوم الأبواب أمام احتمالات لا محدودة من خلال الاختراقات الكبيرة لتكنولوجيات ناشئة في مجال الذكاء الاصطناعي ([4])، والروبوتات وقواعد البيانات الضخمة ([5])، وإنترنت الأشياء ([6])،والمركبات ذاتية القيادة، والطباعة ثلاثية الأبعاد، وتكنولوجيا النانو، والتكنولوجيا الحيوية، وعلم المواد، والحوسبة الحوكمية، وسلسلة الكتل Block chain وغيرها، وهو ما سيؤدي إلى دخول البشرية في مرحلة جديدة([7])، تتطلب ضرورة وضع إطار قانوني حاكم لهذه الاستخدامات الجديدة، ولا شك في أن وجود هذا الإطار القانوني يتطلب وجود تصور واقعي لاستخدامات الذكاء الاصطناعي وتأثيراتها على السلوك الإنساني والاجتماعي للإنسان والمصالح القانونية المختلفة الجديرة بالحماية القانونية.

وتعد تقنيات الذكاء الاصطناعي أحد أهم الموضوعات بالنسبة لفقهاء القانون الجنائي، بالنظر إلى اعتباره علم يركز على تصميم آلات تشارك الإنسان في سلوكيات توصف بأنها ذكية، ومن ثم تبرز الحاجة إلى إرساء قواعد قانونية تتناسب مع طبيعة هذه التقنية التي من المتوقع لها أن تسود العالم أجمع، ومن قبيل ذلك نادى البعض([8]) بضرورة العمل على تعديل الاتفاقية الأوروبية بشأن الجريمة السيبرانية لوضع قواعد قانونية تنظم التطورات الحادثة في مجال تكنولوجيا المعلومات.

٢-أهداف البحث وتساؤلاته: يستهدف البحث تناول موضوع قواعد المسئولية والعقاب على تطبيقات الذكاء الاصطناعي، حيث ينبثق عن هذا الهدف الرئيسي عددا من الأهداف الفرعية، يمكن إجمالها فيما يلي: –

أ-التعريف بتطبيقات الذكاء الاصطناعي ومجالاته ومزاياه وتأثيره المتوقع خلال المرحلة المقبلة.

ب-تسليط الضوء على قواعد القانون الجنائي المقترحة لتنظيم استخدام الذكاء الاصطناعي.

ج-بحث العقوبات المناسبة المقترح تطبيقها في مواجهة كيانات الذكاء الاصطناعي.

٣-صعوبات البحث وإشكالياته: تبرز صعوبة موضوع البحث في تصديه لموضوعات غاية في الحداثة، بل إن بعض هذه الموضوعات ليس لها تنظيم قانوني يتناولها، بل إن بعض الموضوعات مازالت تخضع لاجتهادات الفقه الذي يتسابق لإرساء قواعد قانونية جديدة تتناسب مع طبيعة هذه الأدوات المستحدثة ([9])، فضلاً عن قلة المراجع التي تتناول هذا الموضوع، ومن ثم تبرز إشكاليات البحث في عدم وجود تنظيم قانوني لتطبيقات الذكاء الاصطناعي، وهو ما دفع الباحث للتصدي لهذه المسألة، بهدف تسليط الضوء على القواعد الجنائية التي تناسب التعامل معها.

٤-منهج البحث وأدواته: سيستخدم الباحث المنهج التحليلي المقارن الذي يسعى إلى وصف وتحليل وتشخيص موضوع البحث من مختلف جوانبه وأبعاده، بهدف التوصل إلى نظرة واضحة عن المسئولية الجنائية عن الجرائم الناجمة عن استخدام الذكاء الاصطناعي، ورصدها وتحليلها من كافة الجوانب، أخذا بالمنهج المقارن في تناول موضوع الدراسة.

5-خطة البحث: سوف يتناول الباحث موضوع البحث من خلال التعريف بالذكاء الاصطناعي وخصائصه ومزاياه وصوره، وعلاقته بالقانون الجنائي، والأفكار التي ينادي بها الفقه لتقرير قواعد للمسئولية الجنائية عن جرائم الذكاء الاصطناعي، من خلال التطرق إلى مسئولية برنامج الذكاء الاصطناعي نفسه، ومسئولية كل من المشغل والمصنع والمبرمج، والغير المتدخل في برنامج الذكاء الاصطناعي، والعقاب على جرائم الذكاء الاصطناعي، وذلك في مطلبين على النحو التالي:-

المطلب الأول

التعريف بالذكاء الاصطناعي

أولاً -تعدد تعاريف الذكاء الاصطناعي: يعد الذكاء الاصطناعي فرع من علم الحاسب الآلي والتكنولوجيا الجديدة، وتتعدد التعاريف التي تناولنا المتخصصون بشأن الذكاء الاصطناعي، فهناك من عرفه بأنه:” سلوك وخصائص معينة تتسم بها البرامج الحاسوبية تجعلها تحاكي القدرات الذهنية البشرية وأنماط عملها”، وهناك من عرفه بأنه: قدرة الآلات الرقمية وأجهزة الكمبيوتر على أداء مهام معينة تحاكيها وتماثلها تلك التي تقوم بها كائنات ذكية، مثل: القدرة على التفكير أو التعلم من التجارب السابقة أو غيرها من العمليات التي تتطلب عمليات عقلية ([10])، وهناك من عرفه بأنه نظام برمجيات قادر على تقليد طرق التفكير البشرية بمساعدة جهاز كمبيوتر أو جهاز آخر ([11])، أو إنه: محاكاة للسلوك البشري والعمليات المعرفية على جهاز كمبيوتر ([12])، ومن ثم يتضح أن الذكاء الاصطناعي يقصد به تزويد الحاسب الآلي ببرامج وإمكانيات تشبه ذكاء البشر، وذلك لجعل الحاسب قادرا على القيام بعمليات ذكية ([13])، ومع التعدد الكبير في تعاريفالذكاء الاصطناعي، فإن الباحث يرى أهمية تضافر الجهود الدولية لوضع تعريف دولي موحد للذكاء الاصطناعي.

ثانيا -خصائص ومجالات الذكاء الاصطناعي: تتسم تطبيقات الذكاء الاصطناعي بالعديد من الخصائص، من أبرزها: القدرة على التعلم والاستنتاج ورد الفعل على أوضاع لم تبرمج في الآلة، وقد تعددت مجالات استخدام الذكاء الاصطناعي في المجال التجاري والاقتصادي والصناعي؛ كاستخدام الروبوتاتالصناعية في العديد من المشروعات الصناعية، وفي المجال الصحي؛ كاستخدام الروبوتات الطبية في إجراء العمليات الجراحية الدقيقة ([14])، وفي مجال التعليم والنقلوالمواصلات والمرور ([15])، والبيئة، وفي المجال الأمني والعسكري، وفي كافة مناحي الحياة الاجتماعية، حتى في مواقع التواصل الاجتماعي، بالشكل الذي يتوقع معه سيادة تطبيقات الذكاء الاصطناعي في حياة الإنسان.

ومن أبرز مجالات الذكاء الاصطناعي في مصر، في المجال المجتمعي للبحث عن المفقودين، عبر مقارنة صور الأطفال المفقودين مع صور الأطفال بلا مأوى، عبر تقنية التعرف على الوجوه، وفي مجال السياحة والآثار بالمتحف المصري الكبير، من خلال تقنية التعرف على الوجوه أيضا وعرض الآثار وفقالخصائص الجمهور المهتم، وفي مجال الأمن لتحديد شخصية المشتبه بهم، من خلال استخدام بيانات الجرائم وتوقيتها ومكانها الجغرافي إلى جانب قاعدة البيانات المتهمين والمطلوبين والمحكوم عليهم، مما يسهل في سرعة الكشف عن الجرائم، وفي مجال الزراعة، من خلال استخدام الأقمار الصناعية في تحديد نوعية المحاصيل الزراعية وتقدير كمية المياه التي تحتاجها تلك المحاصيل ([16]).

ثالثا -مزايا الذكاء الاصطناعي: يعدد البعض ([17]) مزايا الإنسان الآلي أو الروبوت بأنه يستطيع أن ينتج أكثر، ويستعمل التجهيزات بشكل فعال، وتكاليف عمله منخفضة، ويتسم بمرونة محسنة، وإنجاز أقصر للعمل، ومرونة وسهولة في البرمجة، وقدرة على العمل في الظروف الخطرة، وهو نوعية محسنة لأماكن العمل والإنتاج، ويحقق عائدات استثمار جيدة، فضلا عن امتلاكه الحرية في الحركة في الأبعاد الثالثة للفراغ.

رابعا -صور الذكاء الاصطناعي:

يمكن التمييز بين ثلاث صور للذكاء الاصطناعي: ذكاء اصطناعي متخصص، وذكاء اصطناعي عام، وذكاء اصطناعي فائق، أما الذكاء الاصطناعي المتخصص، فيقصد به أنظمة الذكاء الاصطناعي التي تستطيع القيام بمهام محددة وواضحة؛كالسيارات ذاتية القيادة، أو حتى برامج التعرف على الكلام أو الصور، أو لعبة الشطرنج الموجودة على الأجهزة الذكية، ويعتبر هذا النوع من الذكاء الاصطناعي أكثر الأنواع شيوعا وتوفرا في وقتنا الحالي، بينما الذكاء الاصطناعي العام، فهو النوع الذي يمكن أن يعمل بقدرة تشابه قدرة الإنسان من حيث التفكير، إذ يركز على جعل الآلة قادرة على التفكير والتخطيط من تلقاء نفسها وبشكل مشابه للتفكير البشري، إلا أنه لا يوجد أي أمثلة عملية على هذا النوع، فكل ما يوجد حتى الآن مجرد دراسات بحثية تحتاج للكثير من الجهد لتطويرها وتحويلها إلى واقع، وأخيرا الذكاء الاصطناعي الفائق، وهو الذي قد يفوق مستوى ذكاء البشر، ويستطيع القيام بالمهام بشكل أفضل مما يقوم به الإنسان المتخصص وذو المعرفة، ولهذا النوع العديد من الخصائص التي لا بد أن يتضمنها؛ كالقدرة على التعلم، والتخطيط، والتواصل التلقائي، وإصدار الأحكام، إلا أن مفهوم الذكاء الاصطناعي الفائق يعتبر مفهوما افتراضيا ليس له أي وجود في عصرنا الحالي ([18])، ويبرز أهمية تناول هذه الأنواع من الذكاء الاصطناعي إلى تصور الاحتمالات التي قد تصل إليها تطبيقات الذكاء الاصطناعي في المستقبل، ومدى تصور انطباق قواعد القانون الجنائي عليها.

وتبرز الإشارة إلى اتجاه العديد من الدول إلى اتخاذ خطوات بشأن تعزيز استخدامات الذكاء الاصطناعي، نذكر من بينها على سبيل المثال مصر التي أنشأت مجلس وطني للذكاء الاصطناعي ([19])، فضلا عن إنشاء عدد من كليات الذكاء الاصطناعي، بل إن هناك بعضا من الدول كدولة الإمارات العربية المتحدة عملت على إنشاء وزارة للذكاء الاصطناعي، تعمل على تحقيق استراتيجية الإمارات للذكاء الاصطناعي وإدراجه في جميع المجالات بالدولة ([20])، بينما أوصى تقرير لجنة العلوم والتكنولوجيا بالبرلمان الإنجليزي في عام ٢٠١٦ بإنشاء لجنة دائمة للذكاء الاصطناعي، تكون مهمتها دراسة آثاره، ووضع مبادئ تحكم تطوره، ووضع الإطار القانوني له ([21])، كما أنشأ معهد الأمم المتحدة الأقاليم لبحوث الجريمة والعدالة مركزا معنيا بالذكاء الاصطناعي والروبوتات في لاهاي ليكون جهة مرجعية دولية في المسائل المتصلة بالذكاء الاصطناعي ([22]).

خامسا -العلاقة بين الذكاء الاصطناعي والقانون الجنائي ([23]): لا شك في أن ذيوع استخدام تطبيقات الذكاء الاصطناعي من شأنه إثارة العديد من التساؤلات حول القواعد القانونية التي ستخضع لها هذه التطبيقات، ومدى انطباق قواعد القانون الجنائي عليها، ومدى تصور خضوع هذه التطبيقات للقواعد الخاصة بالمسئولية الجنائية، وهل يمكن الحديث عن مسئولية جنائية تقع على الآلة التي يتم تشغيلها من خلال تطبيقات الذكاء الاصطناعي في ضوء التطورات العلمية الحديثة، واستخدام العديد من الروبوتات في إنفاذ العديد من المهام المختلفة، حيث أعطت البرمجة المتطورة لبعض الآلات التي تعمل بالذكاء الاصطناعي قدرات تصل بها إلى بناء خبرات ذاتية تمكنها من اتخاذ قرارات منفردة في أية مواقف تواجهها مثل الإنسان ([24])، فهل يمكن القول بقبول منح هذه الآلات الشخصية الاعتبارية؟، ومن ثم تقرير مسئوليتها الجنائية.

ويثار الحديث بين أوساط القانونيين حول التوسع في استخدام تطبيقات الذكاء الاصطناعي في العديد من مناحي الحياة، وهو ما يؤدي إلى التساؤل حول المسئولية الجنائية عن أنشطة هذه التطبيقات، وعمن يتحمل المسئولية الجنائية؛ إذا ترتب على هذه الأنشطة فعل يشكل جريمة، كما ثارت العديد من التساؤلات عن مدى صلاحية الأفكار السائدة في القانون الجنائي، ومدى انطباقها على تطبيقات الذكاء الاصطناعي، ومدى إمكانية مساءلة الآلة المسيرة بأنظمة الذكاء الاصطناعي؛ كالسيارات المسيرة ذاتيا أو ذاتية القيادة ([25]) في حال وقوع حوادث سير، تؤدي إلى وقوع إصابات وضحايا، ومدى مسئولية كل من مصنع نظم الذكاء الاصطناعي ومشغل ومستخدم هذه النظم،وهل تطوله المسئولية الجنائية عن الجرائم الناجمة عن استخدام هذه الأنظمة من الذكاء الاصطناعي ([26]).

والحقيقة أن هذه المسائل ما زالت محل جدل كبير في أوساط القانونيين، ويرجع ذلك الجدل إلى حداثة استخدام هذه الأنظمة في الواقع العملي، بل إن هذه الاستخدامات ما زالت محل تطوير وتحديث مستمر، ومن ثم فإن الحديث عن هذه المسائل مازال في مرحلة التكهنات والافتراضات، اللهم بعض التطبيقات الأولية التي تشير إلى عدم استقرار التشريعات الجنائية حول القواعد والمبادئ القانونية المنظمة لهذه المسألة، وأولى وأهم هذه المسائل هو موضوع المسئولية الجنائية المترتبة على جرائم الذكاء الاصطناعي، فلقد أضحت مسألة بحث القواعد الجنائية التي تتناول تطبيقات الذكاء الاصطناعي من الأمور الملحة في ضوء ما أسفر عنه الواقع من وقوع بعض الحوادث ([27])، والتي عمل الباحثون والمتخصصون والخبراء على تحليلها وتناولها بالبحث والمدارسة.

المطلب الثاني

قواعد المسئولية الجنائية والعقاب

على جرائم الذكاء الاصطناعي

أولا -المسئولية الجنائية وصورها: تعددت التعاريف الفقهية للمسئولية الجنائية، ويمكن إجازتها بأنها: “الالتزام بتحمل تبعة الأفعال الإجرامية، والخضوع للعقوبات المقررة قانونا” ([28])، ويحكم قواعد المسئولية الجنائية مبدا شخصية المسئولية الجنائية، ومقتضاه مساءلة الشخص الطبيعي مرتكب الفعل دون غيره، ومن ثم فإن القانون الجنائي لا يعرف إلا صورتان من المسئولية الجنائية، الأولى هي المسئولية الجنائية للشخص الطبيعي، والصورة الثانية وهي الصورة المستحدثة وهي مسئولية الشخص الاعتباري، ومن ثم يثار التساؤل حول مدى إمكانية أن يعرف القانون الجنائي صورة ثالثة من المسئولية الجنائية وهي مسئولية الآلة المسيرة بنظم الذكاء الاصطناعي، والواقع أن الحديث عن هذه الصورة للمسئولية الجنائية هو أمر سابق على أوانه طالما لم يتوصل القانونيون والمشرعون إلى تقرير استحداث هذه الصورة من المسئولية الجنائية.

ويرجع الفضل في إرساء قواعد المسئولية الجنائية لجرائم الذكاء الاصطناعي للباحث الأمريكي جابريل هاليفي الذي عمل على إرساء قواعد المسئولية الجنائية على كيانات الذكاء الاصطناعي باستخدام ثلاث نماذج ممكنة للمسئولية هي: نماذج (المسئولية عن طريق الارتكاب عبر الآخر -مسئولية النتائج الطبيعية المحتملة -المسئولية المباشرة) ([29])، ونتناول فيها مسئولية كل من برنامج الذكاء الاصطناعي والإنسان المستخدم له أو القائم على برمجته أو مالكه، والشركة المصنعة له، وذلك على النحو التالي: –

ثانيا -مسئولية برنامج الذكاء الاصطناعي نفسه: يثار التساؤل عن مدى إمكانية الاعتداد لنظم الذكاء الاصطناعي بالمسئولية القانونية عن أفعاله، وحتى يمكن أخذ الأمر بشيء من التفصيل ينبغي الإشارة إلى أهمية التمييز بين صور الذكاء الاصطناعي، كالذكاء الاصطناعي المتخصص، والذي يقصد به أنظمة الذكاء الاصطناعي التي تستطيع القيام بمهام محددة وواضحة؛ كالسيارات ذاتية القيادة، والذكاء الاصطناعي العام، الذي يمكن أن يعمل بقدرة تشابه قدرة الإنسان من حيث التفكير، إذ يركز على جعل الآلة قادرة على التفكير والتخطيط من تلقاء نفسها وبشكل مشابه للتفكير البشري، والذكاء الاصطناعي الفائق، الذي قد يفوق مستوى ذكاء البشر، ويستطيع القيام بالمهام بشكل أفضل مما يقوم به الإنسان المتخصص وذو المعرفة، والذي يعتبر مفهوما افتراضيا ليس له أي وجود في عصرنا الحالي.

أما بالنسبة للذكاء الاصطناعي المتخصص، فالفقه يتفق على أنه لا يمكن في الوقت الحالي تقرير مسئولية جنائية على الروبوت أو برنامج الذكاء الاصطناعي في حال ارتكابه لجريمة، فالفقه ينظر له كوسيط برئ، لا يجوز مسائلته جنائيا، فهو كالأداة التي قد يستخدمها الجاني في ارتكاب جريمته، فالمسئولية الجنائية التي يعرفها القانون الجنائي هي مسئولية الشخص الطبيعي ([30])، ومسئولية الشخص الاعتباري في بعضالأحيان في حال ارتكاب الجريمة لصالحه وحسابه، بينما بالنسبة للذكاء الاصطناعي لا يمكن القول بمسئوليته الجنائية، طالما لا يمكنه الإدراك والتمييز، والذي يعتبر مناط مسئولية الشخص الطبيعي ([31]).

برنامج الذكاء الاصطناعي كوسيط برئ: اتجه البعض ([32]) إلى بحث فرضية استخدام برنامج الذكاء الاصطناعي كوسيط لارتكاب الجريمة، قياسا على نظرية الفاعل المعنوي، حينما يرتكب الجريمة شخص قاصر عقليا أو حيوان، ومن ثم يمكن اعتبار برنامج الذكاء الاصطناعي وسيطا بريئا، وتقرير المسئولية الجنائية لكل من قام ببرمجة برنامج الذكاء الاصطناعي أو من شغله أو استخدمه، بعيدا عن بحث مسألة المسئولية الجنائية لهذا البرنامج أو التطبيق، ويضرب البعض المثال بشأن مسئولية الذكاء الاصطناعي بمسئولية الشخص الذي يعاني من مرض عقلي أو عجز عقلي طبيعي يحرمه من القدرة على فهم ما يفعله أو أهليته للسيطرة على أفعاله، أو القدرة على معرفة ما إذا كان يقوم بالفعل أو يمتنع عنه.

 والفرض في هذا الحال أن كيان الذكاء الاصطناعي لا ينسب إليه أي قدرة عقلية، ومن ثم لا يوجد فرق قانوني بينه وبين الآلة المستخدمة في الجريمة، بينما بالنسبة للذكاء الاصطناعي العام أو الفائق، فإنه من المتوقع مستقبلا أن يحدث تطورا في قواعد المسئولية القانونية عن أفعاله، في ضوء ما يتسم به من خصائص تقربه من خصائص البشر، والتي من أبرزها: توافر ملكيتي الإدراك والتمييز، ومن ثم توافر حرية الإدراك التي تعد مناط تحقق المسئولية الجنائية عن فعل الشخص، ومن ثم يمكن القول أيضا بإمكان فرض العقوبة الجنائية عليه ([33])، ومن ثم فإن الفرض في هذه الحالة ألا يكون هناك أي اعتماد من كيان الذكاء الاصطناعي على مبرمج أو مستخدم معين، وعليه فإن يشترط لقيام مسئولية كيان الذكاء الاصطناعي على الجريمة ثلاثة شروط:

الشرط الأول -يجب إثبات أن الجريمة قد وقعت نتيجة سلوك كيان الذكاء الاصطناعي نفسه.

الشرط الثاني -إثبات أن ارتكاب كيان الذكاء الاصطناعي للجريمة دون اعتماده في ذلك على مبرمج أو مستخدم.

الشرط الثالث -أن يثبت أن الكيان قد ارتكب الجريمة بعلم أو بنية.

فإذا كان برنامج أو نظام الذكاء الاصطناعي يسيطر على ألة ميكانيكية أو غيرها لتحريك أجزائها المتحركة، فإنه يمكن اعتبار أي فعل إيجابي أو سلبي تقوم به هذه الآلة على أنه تم تنفيذه بواسطة كيان الذكاء الاصطناعي ([34])، في ضوء ما تتميز بهتقنيات الذكاء الاصطناعي من خاصية التعلم الذاتي، فضلا عن استخدامها لخوارزميات متطورة تمكنها من اتخاذ القرارات وتنفيذها بدون تدخل بشري، علاوة على خاصية التعلم من المواقف التي تتعرض لها، ووجود قواعد بيانات عملاقة ومتطورة بداخلها تمكنها من القيام بالتصرف الصحيح في أغلب المواقف ([35]).

ويعتبر تحديد النية الأمر الأكثر صعوبة، ويضرب البعض مثالا لذلك بمخالفة تجاوز السرعة من جانب السيارات المسيرة ذاتيا، فتجاوز السرعة هي جريمة صارمة المسئولية، فإذا وجدت سيارة ذاتية القيادة قد تجاوزت حدود السرعة على الطريق الذي تسير عليه، قد يحيل القانون المسئولية الجنائية إلى برنامج الذكاء الاصطناعي الذي كان يقود السيارة في ذلك الوقت”، دون مساءلة مالك السيارة.

ويرى البعض ([36]) أنه لكي تكون لكيانات الذكاء الاصطناعي مسئولية جنائية، فإنه ينبغي أن تتم معاملتهم كأشخاص اعتبارية كالشركات التجارية، ويضيف الرأي السابق إلى ذلك إمكانية منح كيانات الذكاء الاصطناعي بعض الحقوق القانونية بما يتماشى مع تلك الممنوحة للشركات التجارية كأشخاص اعتبارية.

وخلاصة القول لدي الباحث فيما يتصل ببحث المسئولية الجنائية عن جرائم الذكاء الاصطناعي هو الحديث عن المسئولية الجنائية لكل من مصمم أو مصنع أنظمة الذكاء الاصطناعي ومستخدميه، دون التطرق إلى مسألة المسئولية الجنائية للآلة المسيرة ذاتيا التي تفتقد مقومات توافر المسئولية الجنائية تجاهها على النحو السابق الإشارة إليه، وإن كان الأمر قد يشهد مستقبلا تطور في قواعد المسئولية الجنائية بما يتناسب مع التطورات الحادثة في هذا المجال، ومن ثم نتناول بعض الفرضيات التي تنظم كيفية مساءلة من يتسبب في وقوع جرائم بسبب إساءة استخدام نظم الذكاء الاصطناعي وفق القواعد المستقرة في القانون الجنائي، فالشخص لا يكون مسئولا عن الجريمة، ولا تفرض عليه عقوبتها إلا باعتباره فاعلا لها أو شريكا فيها.

ثالثا -مسئولية الشخص الطبيعي عن جرائم الذكاء الاصطناعي: إن المسئولية الجنائية لا تتحقق إلا بالنسبة للشخص المسئول عن هذه الجريمة، وهو ما يتوقف بدوره على إسناد كل من الركنين المادي والمعنوي إليه، وتفترض شخصية المسئولية الجنائية قيام عنصرين لازمين: أولهما مادي يعبر عن الإسناد المادي للفعل، ثانيهما شخصي يعبر عن الإسناد المعنوي للفعل، وطبقا للإسناد المعنوي للفعل لا تنعقد المسئولية إلا إذا اتجهت إرادة الجاني المسند إليه الفعل ماديا نحو ارتكابه، ومن ثم فإن قواعد المسئولية الجنائية التقليدية لا تنطبق على نظم الذكاء الاصطناعي، أو الآلات المسيرة ذاتيا، والتي تفتقد إلى عنصر الإدراك والتمييز، والذي يعد هو أساس تحقق الإرادة المكونة للقصد الجنائي الذي تقوم به المسئولية الجنائية، ولا يمكن اعتبار الشخص مسئولا جنائيا إلا عن فعله أو امتناعه الشخصي، فالشرط الأول يتمثل في وجود علاقة مادية بين الجريمة وسلوك الشخص المسئول عنها، وهو ما يفترض مساهمة الشخص بفعله الشخصي في الجريمة، توافر علاقة السببية بين فعل المساهمة والنتيجة الإجرامية التي يعتد بها المشرع في التجريم والعقاب.

ومن جانب آخر تبرز الإشارة إلى أهمية دور الأشخاص الطبيعيين في جرائم الذكاء الاصطناعي، فهم يباشرون دورا مهما باعتبارهم الأشخاص الذين يقفون وراء هذه الأجهزة، ومن ثم فهم يسألون عن الظروف والملابسات التي تصرفت بها كيانات الذكاء الاصطناعي والبرامج التي قاموا بتصميمها وتنفيذها في برنامج الذكاء الاصطناعي والآلة أو الجهاز الذي يعمل بهذا البرنامج ([37]).

أهمية قيام علاقة السببية في توافر شخصية المسئولية: لا تنفصل فكرة النشاط الإجرامي عن النتيجة الإجرامية، فكلتاهما فكرتان متلازمتان لا غنى عن أي منهما لقيام الفعل الإجرامي المكون للركن المادي للجريمة، فالتلازم القانوني بين النشاط الإجرامي والنتيجة الإجرامية مقتضاه توافر رابط مادي بينهما لإسناد الجريمة من الناحية المادية لمرتكب الفعل، وهو ما يعبر عنه بعلاقة السببية ([38]).

فالصلة المادية بين الفعل والنتيجة أمر تتطلبه فكرة الإسناد المادي، كما أن الصلة المعنوية بين الاثنين تتطلب أيضا الإرادة الواعية الحرة التي يجب توافرها في حق المجرم كشرط لانعقاد مسئوليته الشخصية ([39])، ومن أبرزها: نظرية السببية الكافية، ومن ثم قد تتحقق المسئولية الجنائية للشخص مصنع أو مستخدم نظم الذكاء الاصطناعي عن الجرائم المرتكبة من جانب الآلات المسيرة ذاتيا، مادام كان الخطأ المترتب من جانب نظم الذكاء الاصطناعي، والذي تحققت به الجريمة كان يجب عليه أن يتوقعها الشخص العادي وقت مباشرة النشاط الذي تسبب في وقوع الجريمة.

ويمكن التمييز في نطاق الذكاء الاصطناعي بين مسئولية كل المبرمج والمصنع والمشغل من جهة ومسئولية المستخدم أو المالك من جانب آخر، ومسئولية الغير، وذلك على النحو التالي ([40]): –

١) مسئولية المبرمج والمصنع والمشغل: يمكن التمييز في إطار تصنيع وابتكار نظم الذكاء الاصطناعي بين المبرمج، ويقصد به الشخص الذي يقوم بوضع الأكواد التي تسير عمل نظام الذكاء الاصطناعي، والتي يتم إعدادها باستخدام لغة الآلة، وهو يسأل عن الجرائم التي يرتكبها نظام الذكاء الاصطناعي، إذا كان ارتكاب الجريمة يرجع إلى خطأه في تغذية النظام بالخطوات الواجب اتخاذها للتعامل مع المواقف المحتملة إبان تشغيله وفقا لنظرية القصد الاحتمالي.

بينما يقصد بالمصنع الشخص المسئول عن تصنيع الأجهزة المادية التي يسيرها نظام الذكاء الاصطناعي، وقد يكون المبرمج والمصنع شخصا واحدا ([41])، وقد يكونوا أكثر من شخص، ويسأل صانع الروبوت عن عيوب الآلة الناتجة عن سوء التصنيع، والتي قد تؤدي إلى انفلات الروبوت، وقيامه بأفعال خارجة عن مساره الطبيعي ([42])؛ كأن يؤدي عيب في روبوت العناية الطبية إلى تحريك المريض بشكل خاطئ يتسبب في تفاقم حالته الصحية ([43])، وكمثال آخر الإضرار بالمريض بسبب سوء تواصل الروبوت الطبي مع مخبر التحليل، أو إهمال صيانة الروبوت من الشركة المصنعة ([44])، وفي كل الأحوال، لا يستطيع صاحب المصنع الرجوع على العامل الذي لا يفقه شيئا بالروبوتات، وكان قد أجبره على الدخول بعملية تصنيعه ([45])، بينما يقصد بالمشغل، الشخص المحترف الذي يقوم على استغلال الروبوت؛ مثل: إدارة البنك التجاري الافتراضي، والذي يقوم بتشغيل تطبيق ذكي يعتمد على روبوت في إدارة بعض العمليات المصرفية، فقد يحدث خطأ في إدارة حسابات العملاء([46]).

2) مسئولية المالك والمستخدم: بينما يقصد بالمالك الشخص الذي يقوم بتشغيل الروبوت شخصيا لخدمته أو لخدمة عملائه؛ كالطبيب مالك المستشفى الذي يملك ويشغل روبوتا طبيا للقيام بالعمليات الجراحية، وذلك في حال تشكيل الروبوت خطرا على سلامة المرضى، ذلك مع علم الطبيب مالك المستشفى بذلك، وإقدامه بتسخير الروبوت كونه يعمل دون أجر عن تنفيذها ([47]).

بينما يقصد بالمستعمل الشخص التابع الذي يقوم على استعمال الروبوت من غير المالك أو المشغل، والذي يكون مسؤولا عن سلوك الروبوت الذي قد سبب ضررا للناس، ومن الممكن يكون المستعمل منتفعا بالروبوت؛ فقد يحدث أن يستعمل الحافلة الروبوت ذاتية القيادة مجموعة من الأشخاص المسافرين عبر لوحة إلكترونية، فيقوم أحدهم بإرسال أمر خاطئ للحافلة ما يتسبب بحادث مروري، أو قد يتخذ المشغل المحترف مستخدما بشريا لاستعمال الروبوت بحيث يكون مساعدا له؛ فقد يقاضى المستعمل، وهو مستخدم تابع لدى الشركة المشغلة للروبوت بسبب إهمالها في صيانته ([48]).

أ-مسئولية المالك أو المستخدم بصفته فاعلا أصليا للجريمة:نتناول فيها الفروض التالية: –

الفرض الأول -استخدام الذكاء الاصطناعي كوسيلة لارتكاب الجريمة: الفرض في هذا الحال يتمثل في قيام الجاني تسخير آلة مسيرة بنظم الذكاء الاصطناعي لاستخدامها في ارتكاب الجرائم، وهو ما تتطلب وجوب إثبات توافر رابطة السببية بين سلوك الجاني والنتيجة الإجرامية المتحققة باستخدام نظم الذكاء الاصطناعي، حتى يمكن القول بتوافر مسئوليته الجنائية عن الجرائم المرتكبة بمعرفة الآلة المسيرة بنظم الذكاء الاصطناعي، والسند في ذلك أن المشرع الجنائي يستوي لديه وسيلة ارتكاب الجريمة، فقد يستخدم الجاني عصا أو سلاح ناري في الاعتداء على المجني عليه، وقد يستخدم حيوانا لا يملك القدرة على التفكير والإدراك، وقد يوجه آلة مسيرة بالذكاء الاصطناعي لتحقيق النتيجة ذاتها.

ويشترط الفقه ([49]) وجوب إقامة الدليل على خضوع الروبوت أو نظام الذكاء الاصطناعي لإرادة الجاني، واستخدامه للروبوت عن معرفة مسبقة، واتجاه نيته إلى تحقيق الجريمة عبر استخدام هذا الروبوت.

وفي هذا السياق يتناول الباحثون ([50]) فرضية قيام المبرمجون أو المستخدمون ببرمجة أو استخدام كيان النظام الاصطناعي عن علم وعن قصد من أجل ارتكاب جريمة معينة، ولكن ينحرف كيان الذكاء الاصطناعي عن الخطة، ويرتكب بعض الجرائم الأخرى بالإضافة إلى أو بدلا من الجريمة المخطط لها، وفي هذه الحالة يمكن القول بتوافر المسئولية الجنائية العمدية للمبرمج أو المستخدم استنادا للقواعد العامة المقررة في هذا الشأن والخاصة بالحيدة عن الهدف أو الغلط في الشخصية ([51])، وفي لا تنفي المسئولية الجنائية لهما.

الفرض الثاني -فكرة القصد الاحتمالي: يتناول البعض ([52]) فرضية ارتكاب نظام الذكاء الاصطناعي لجريمة ما، في حال استخدام الإجراءات العادية لنظام الذكاءالاصطناعي بشكل غير مناسب لأداء عمل إجرامي، حيث يشير المحللون إلى واقعة قيام روبوت ذكاء اصطناعي في معمل دراجات ياباني بقتل عاملا بشريا، حدد الروبوت الموظف بشكل خاطئ واعتبره تهديدا لمهمته، واعتبر أن الطريقة الأكثر فاعلية للقضاء على هذا التهديد هي دفعه إلى آلة التشغيل المجاورة، فدفع الروبوت العامل باستخدام ذراع الهيدروليك باتجاه الآلة، مما أدى إلى مقتله، ومن ثم ينادي الرأي السابق بإمكان مساءلة مبرمج الآلة إذا علم باحتمالية وقوع هذه النتيجة الإجرامية وقبل حدوثها، ويؤسس الرأي السابق المسئولية الجنائية وفقا لنموذج الاحتمالية الطبيعية، حيث يتحمل المبرمجون أو المستخدمون المسئولية عن الجريمة نفسها، كما لو كانت قد ارتكبت عن علم وعن عمد، فالفرض هنا أن الجاني قد أتى سلوكا، وتوقع أن هذا السلوك قد يترتب عليه نتيجة ما، ولكنه على الرغم من هذا التوقع بوقوعها قبل نتيجة تحققها كاحتمال لسلوكه، أو كنتيجة طبيعية محتملة، وهو ما يتحقق به مسئوليته عن الجريمة نتيجة قصده الاحتمالي ([53]).

الفرض الثالث -الإهمال في تصنيع أو برمجة أو استخدام الذكاء الاصطناعي:

الفرض في هذه الحالة أن الجاني كمستخدم أو مصنع أو مبرمج للذكاء الاصطناعي لم يرد استخدامه في ارتكاب الجريمة، ولكن تحققت الجريمة بسبب إهماله أو تقصيره، أو عدم مراعاته لقواعد الحذر والحيطة، في هذه الحالة سيسأل هذا المستخدم أو المصنع أو المبرمج جنائيا على الجريمة بصورة غير عمدية، وهو ما يتطلب وجوب إثبات العلاقة بين وقوع الجريمة عن طريق نظام الذكاء الاصطناعي والخطأ غير العمدي في حق الجاني ([54])، فالفرض في هذه الحالة هو إهمال محض من جانب المبرمجون أوالمستخدمون، الذين قد تصرفوا بإهمال أو فشلوا في التصرف، ومن ثم لا يوجد ما يمنع من تقرير مسئوليتهم الجنائية عن جرائم غير عمدية قوامها الإهمال والتقصير في أداء الواجبات المقررة عليهم، مما أدى لارتكاب نظام الذكاء الاصطناعي لجريمة أو جرائم محددة.

ويميز البعض ([55]) في شأن جرائم الذكاء الاصطناعي بين صورتين من الجرائم، الأولى هي الجرائم التي تقع نتيجة خطأ برمجي أو ثغرة موجودة في نظام الذكاء الاصطناعي، ناتجة عن أن الكود البرمجي للألة لم يكن كافيا لتوقع جميع الاحتمالات، أو أن تكون الجريمة المرتكبة قد وقعت عن طريق سوء تصرف المالك، أو تدخل طرف خارج، من أجل اختراق الآلة واستعمالها كأداة في ارتكاب جريمته، فغي هذه الأحوال تتحقق المسئولية تجاه الأشخاص الطبيعية المتسببة في وقوع الجريمة، أما الطائفة الثانية، فهي المتعلقة بتطور القدرات الذاتية لأنظمة الذكاء الاصطناعي، والتي يكون فيها هذا النظام قادرا على التعلم وتطوير نفسه، واتخاذ قرارات ذاتية منفردة خارجة عن النظام البرمجي الموضوع لها، فغي هذه الحالة يكون السلوك المجرم نابعا على إرادة حرة دون تدخل برمجي من المصنع، ويكون من المجافي للعدالة مساءلة المبرمج عن خطأ ارتكبه نظام الذكاء الاصطناعي.

تساؤل عن طبيعة المسئولية الجنائية لمستخدم نظم الذكاء الاصطناعي، وهل هي مسئولية مباشرة أم مفترضة؟، وهل يمكن إلحاق مسئولية الشخص مستخدم نظم الذكاء الاصطناعي بمسئولية الآلة المسيرة ذاتيا عن الفعل؟ والواقع أن تصور ذلك غير قائم بالنظر إلى أن المسئولية المفترضة تفترض تحقق المسئولية الجنائية لشخص آخر، وهو فرض غير متوافر بالنظر إلى عدم تقرير المسئولية الجنائية لمثل هذه الآلات، ومن ثم لا يمكن القول بأن مسئولية الإنسان الجنائية عن جرائم الذكاء الاصطناعي هي مسئولية مفترضة، أم أن المسئولية تنقل بشكل إلى من الآلة إلى الإنسان لتتحقق مسئوليته عن الجريمة المرتكبة من هذه النظم أو التطبيقات.

وعلى خلاف هذا الرأي يرى البعض ([56]) وجوب تحول المسئولية الجنائية المبنية على الخطأ إلى المسئولية المبنية على تحمل المخاطر، ومن ثم يرى الرأي السابق أن تأسيس مسئولية المالك أو المستخدم على فكرة المسئولية المفترضة بالنسبة للجرائم التي ترتكب عن طريق الذكاء الاصطناعي الذي يقع في حوزته، وبالتالي يقع عليه العبء في إثبات انتفاء مسئوليته، ويؤسس بعض أنصار الرأي السابق هذه المسئولية المفترضة وفق نموذج مسئولية الاحتمال الطبيعي، الذي تناوله غابريل هاليفي، والذي ذهب إلى إمكان مساءلة المبرمج أو المستخدم إذا كانت الجريمة المتحققة نتيجة طبيعية ومحتملة لسلوك كيان الذكاء الاصطناعي، ويفترض هذا الرأي قدرة المبرمجين أو المستخدمين على توقع ارتكاب المخالفات المحتملة من قبل كيان الذكاء الاصطناعي، ومن ثم إمكان مساءلة أي شخص عن جريمة الذكاء الاصطناعي إذا كانت نتيجة طبيعية ومحتملة لهذا السلوك، ويتطلب هذا النموذج لتأسيس المسئولية على أساس الاحتمالية الطبيعية أن يكون المبرمج أو المستخدم في حالة عقلية مهملة وليس أكثر، ومن ثم لا يطلب من المبرمجين أو المستخدمين معرفة أي ارتكاب قادم لجريمة ما نتيجة نشاطهم، ولكن يطلب منهم معرفة أن هذه الجريمة هي نتيجة محتملة لأفعالهم، حيث يكونوا مسئولين عن الجريمة المحتمل وقوعها مستقبلا على الرغم من أنهم لم يكونوا على علم بها بالفعل.

رابعا -مسئولية الغير عن جرائم الذكاء الاصطناعي: يقصد بالغير أي شخص غير الأشخاص المرتبطة بنظام الذكاء الاصطناعي على النحو السابق بيانه، وهذا الغير قد يكون شريكا لأحد الأشخاص المرتبطة بنظم الذكاء الاصطناعي كالمبرمج أو المستخدم، وقد يكون فاعلا مستقلا عنهم، وهو ما سوف نتناوله على النحو التالي: –

أ-مسئولية الغير بصفته شريكاً في الجريمة: يعرف الفقه الجنائي نظرية الفاعل المعنوي للجريمة، والتي يقصد بها الشخص الذي يسخر غيره في تنفيذ الجريمة، فيكون بمثابة ألة أو أداة يستعين بها هذا الشخص في تحقيق العناصر التي يقوم عليها كيان الجريمة، فالفاعل المعنوي هومن ينفذ الجريمة بواسطة غيره، فهو لم يستخدم أعضاء جسمه، وإنما استعان بغيره الذي كان أشبه بألة يوجهها الفاعل المعنوي ([57])، ومن أمثلة الفاعل المعنوي، من يحرض على الجريمة شخصا غير أهل للمسئولية الجنائية كالمجنون، أو شخص غير مميز كالطفل، أو شخص حسن النية ([58])، ويرجع الأساس في تقرير هذه النظرية إلى أن المشرع قد ساوى بين الوسائل التي يتصور أن يستعين بها الجاني في ارتكاب الجريمة، فالقانون لا يميز بين الأدوات التييستخدمها الجاني في إتيان جريمته، فلا فرق أن تكون الأداة جمادا، أو حيوانا، أو إنسانا غير أهل للمسئولية الجنائية، أو حسن النية ليس لشخصيته استقلالها ([59]).

ب-مسئولية الغير بصفته فاعلا أصليا للجريمة: يتناول الباحثون ([60]) فرضية تحصل شخص ما بطريقة ما على الكواد الخاصة بتشغيل كيان الذكاء الاصطناعي، أو استغلاله لثغرة في نظام الذكاء الاصطناعي، سواء أكان ذلك بإهمال من المالك أو المستخدم أو المصنع، أو دون ذلك، وقيامه عبر استخدام هذه الأكواد بالدخول إلى برنامجه أو نظامه وتوجيهه لارتكاب جريمة ما، بعيدا عن سيطرة المالك أو المستخدم، وفي هذه الحالة يسأل هذا الغير بصفته فاعلا أصليا عن الجريمة المرتكبة من جانب كيان الذكاء الاصطناعي.

المسئولية عن فعل الغير: عرف المشرع المصري بعض الحالات التي تثير مشكلة المسئولية عن فعل الغير، كالمسئولية التتابعية في جرائم النشر في التشريع الفرنسي، وهي أحد صور المسئولية عن فعل الغير، ويثار التساؤل عن مدى إمكان اعتبار المسئولية الجنائية للأشخاص هي مسئولية عن فعل نظم الذكاء الاصطناعي (الغير)، وتجدر الإشارة إلى هجر القضاء الجنائي والتشريعات لفكرة المسئولية عن فعل الغير، ومسئولية الشخص جنائيا عن أعمال تابعيه، حيث تقرر القواعد العامة للقانون الجنائي أنه لا يكفي لتوافر المسئولية الجنائية لشخص معين ثبوت إسناد فعل أو امتناع معين إليه ما لم يكن هذا الفعل وليد إرادة حرة تبعث هذا الفعل إلى الوجود، فهذه الإرادة الحرة هي التي ينبعث منها القصد الجنائي أو الخطأ غير العمدي، الذي اقترن بالفعل، ولا تكون الإرادة حرة إلا إذا كانت وليدة أهلية جنائية يعترف بها القانون، وهي الإدراك أو التمييز، وتعبر هذه الأهلية عن قدرة صاحبها قانونا على توجيه إرادته إلى ما يخالف قانون العقوبات، والواقع أن هذا الأمر غير متوافر لدى الآلة المسيرة ذاتيا، ومن ثم لا يتحقق بالنسبة لها المسئولية الجنائية المقررة للشخص الطبيعي، فالألة المسيرة ذاتيا باستخدام الذكاء الاصطناعي تفتقد للأهلية الجنائية التي تعتمد على توافر الإدراك والتمييز ([61]).

خامسا -مسئولية الشركة المصنعة لنظام الذكاء الاصطناعي عن جرائمه: في ضوء اعتراف القانون الجنائي بمسئولية الشخص الاعتباري في بعض الأحوال، فإنه يمكن القول بجواز مساءلة الشركة المصنعة لنظام الذكاء الاصطناعي عن جرائمه ([62])، ويشترط لقيام مسئولية الشخص الاعتباري ضرورة توافر شرطين: –

(الأول) أن يكون ارتكاب الجريمة بواسطة أحد أعضاء الشخص الاعتباري أو أحد ممثليه.

(الثاني) أن يكون ارتكاب الجريمة لصالح وحساب الشخص الاعتباري.

ومن صور العقوبات الجنائية التي يجوز تقريرها للأشخاص الاعتبارية، نذكر منها على سبيل المثال: الغرامة المالية، وإيقاف ترخيص مزاولة الشخص الاعتباري للنشاط لمدة محددة، وإلغاء الترخيص أو حل الشخص الاعتباري، ونشر الحكم على نفقة الشخص الاعتباري.

ومن ثم يمكن القول بإمكان مساءلة الشركة المصنعة جنائيا عن جرائم الذكاء الاصطناعي؛ شريطة إثبات أن وقوع الجريمة كان بسبب خطأ المصنع.

سادسا -حق الدفاع في جرائم الذكاء الاصطناعي: أثار البعض ([63]) بعض التساؤلات حول كيفية مباشرة حق الدفاع في حال ارتكاب نظام الذكاء الاصطناعي لجريمة ما، وعما إذا كان يمكن للدفاع الدفع بامتناع المسئولية الجنائية عن هذه الجرائم، فهل يمكن للبرنامج الذي يعمل بشكل خاطئ أن يدعي دفاعا مماثلا للدفاع البشري بحجة الجنون؟، وهل يمكن للذكاء الاصطناعي المتأثر بفيروس إلكتروني أن يدعي دفوعا مشابهة للإكراه أو السكر غير الاختياري؟، فهذه الصور من الدفوع ليست نظرية على الإطلاق، ويستند الرأي السابق على إحدى القضايا في المملكة المتحدة، والتي دفع فيها المتهمون بارتكاب جرائم معلوماتية بامتناع مسئوليتهم بسبب إصابة أجهزتهم ببرامج ضارة (فيروسات) كانت مسئولة عن الجريمة، بينما في إحدى الحالات الأخرى، دفع أحد المتهمين بجريمة تعطيل الخدمة، بأن برنامج طروادة هو من كان مسئولا عن ذلك، وأن البرنامج قد مسح نفسه قبل أن يحلل بوساطة التحليل الجنائي، وقد تمكن الدفاع من إقناع هيئة المحلفين بتحقق هذا الاحتمال بما لا يدع مجالا للشك ([64])، ويؤيد البعض ([65]) الرأي السابق، مقترحا منح الروبوت الحق في الإعفاء من العقاب، إذا حدث تدخل من مصدر خارجي أثر على سلوكه؛ كخضوعه لعملية اختراق لنظامه، مما قد يفقده القدرة الذاتية على التحكم في أفعاله وتصرفاته التي نتج عنها السلوك.

وقد تساءل البعض([66]) عن مدى إمكان الاعتداد بتوافر حالة الدفاع الشرعي للروبوت أو كيان الذكاء الاصطناعي حال تعرضه للاعتداء من أحد الأفراد ([67])، ومن ثم الدفع بانتفاء مسئوليته كتوافر سبب من أسباب الإباحة، حيث أن النصوص القانونية الحالية لا يجيز ذلك، لاقتصار حق الدفاع الشرعي على حق الإنسان في الدفاع عن نفسه وماله ونفس ومال الغير دون غيره، فهذا الحق قاصر على الإنسان ولا يمتد للآلة والحيوان، ومن ثم لا يجوز لكيان الذكاء الاصطناعي الاستناد إلى حالة الدفاع الشرعي عن نفسه أو الغير في حالة اعتدائه على أي إنسان، كما إنه لا يجوز لأي شخص برمجة روبوت أو أي كيان يعمل بالذكاء الاصطناعي للدفاع عنه عند تعرضه لاعتداء، نظرا لعدم تمتع هذا الكيان بحق الدفاع الشرعي عن نفس ومال الغير، فهذا الحق قاصر على الإنسان فحسب، دون غيره من الكيانات، وعلى عكس هذا الرأي، يرى البعض إمكان ذلك؛ شريطة أن تكون برمجة هذا الروبوت متطورة، وقادرة على الموازنة بين فعل الاعتداء على صاحبه وبين سلوكه المتمثل في الدفاع الشرعي عن صاحبه، أما إذا لم تصل برمجة الروبوت إلى هذا التطور، فلا يحق للإنسان برمجة روبوت للدفاع عنه ([68])، وأنه يمكن التعرف على قدرات الروبوتات ومدى تطور نظم برمجتها من خلال الشركات المنتجة، وملف التصنيع الخاص به ([69]).

سابعا -العقاب على جرائم الذكاء الاصطناعي: يثار التساؤل في حال ارتكاب نظام الذكاء الاصطناعي لجريمة ما، فمن الذي يعاقب على الجريمة، وما هو الشكل الذي ستتخذه هذه العقوبة؟، فمعاقبة الأفراد وإن كان لا يثير أية مشاكل، إلا أن معاقبة نظم الذكاء الاصطناعي والروبوت تثير مشكلة في التطبيق، فهي آلة ولو كانت تتمتع بالذكاء الاصطناعي ([70]).

وتبرز الإشارة إلى أن هذه المسألة ما زالت محلا للخلاف بين الفقه، فالبعض قد ذهب إلى أن المستقبل قد يشهد ثورة في القانون الجنائي بظهور الروبوت وأنظمة الذكاء الاصطناعي، حيث يرى الرأي السابق أن التطور التكنولوجي في هذا المجال قد يسفر عن تصنيع روبوتات فائقة الذكاء تستطيع اتخاذ قرارات دون الاعتماد على الإنسان، ومن ثم يتوقع الرأي السابق حدوث تطور في قواعد المسئولية الجنائية بما يسمح بتقرير عقوبات خاصة بمثل هذه الأنظمة؛ ومن أبرز العقوبات المقترح تطبيقها على كيانات الذكاء الاصطناعي: –

١-مصادرة الآلة التي تعمل بنظام الذكاء الاصطناعي.

٢-الأمر بتدميرها كليا أو جزئيا ([71]).

٣-وقف تشغيلها نهائيا أو جزئيا.

٤-وقف البرنامج أو النظام الذي يعمل بالذكاء الاصطناعي المشغل لها بشكل كلي أو جزئي.

5-إعادة برمجته ([72]).

ومن ثم من المتوقع أن نرى عقوبات تخص كيانات الذكاء الاصطناعي على غرار العقوبات المقررة للأشخاص المعنوية.

بينما يرى البعض ([73]) – بحق -أنه في الوقت الراهن، لا توجد أجوبة لهذه الأسئلة، لكن قد لا تطبق المسئولية الجنائية، في هذه الحالة يجب تسوية المسألة بالقانون المدني.

وخلاصة القول في مسألة العقاب على جرائم الذكاء الاصطناعي أن تقرير جزاءات عن هذه الجرائم يتطلب إصدار تشريعات جنائية تجرم هذه الأفعال وتقرر لها عقوبات محددة تطبيقا لمبدأ الشرعية الجنائية (لا جريمة ولا عقوبة إلا بنص)، ومن ثم فإن الفصل بين الرأيين السابقين بيد المشرعين الجنائيين، وليس لنا إلا الانتظار حتى يكون للمشرعين القول الفصل في هذه المسألة تحديدا.

الخاتمة

النتائج

١. تطور نمط الحياة وسلوك البشر نحو التحول الرقمي واستخدام التقنيات الحديثة في كافة مناحي الحياة؛ الأمر الذي يدفع إلى القول إلى دخول البشرية عصر الثورة الصناعية الرابعة التي تقوم على تطبيقات الذكاء الاصطناعي.

٢. انتشار استخدامات الذكاء الاصطناعي في كافة مجالات الحياة ووقوع بعض الحوادث التي تثير مسائل تختص قواعد المسئولية الجنائية المترتبة على استخدامات الذكاء الاصطناعي.

٣. قصور قواعد المسئولية الجنائية عن وضع إطار قانوني حاكم للتجاوزات الخاصة باستخدامات الذكاء الاصطناعي.

التوصيات

١. دعوة المراكز البحثية الوطنية لتبني مدارسة استخدامات الذكاء الاصطناعي، بهدف وضع إطار قانوني واقتصادي لاستخدامها، وتنظيم العديد من الفعاليات العلمية والبحثية للتعمق في مدارستها.

٢. توجيه نظر المجتمع الدولي نحو ضرورة وضع إطار دولي حاكم لاستخدام تقنيات الذكاء الاصطناعي على غرار اتفاقية بودابست لمكافحة الجرائم المعلوماتية أو على أقل تقدير تعديل الاتفاقية المشار إليها، بما يضمن وجود مثل هذه القواعد التي تنظم استخدام تطبيقات الذكاء الاصطناعي، على أن تتضمن تعريف دولي موحد للذكاء الاصطناعي.

٣. دعوة المشرع المصري إلى وضع قواعد تنظم استخدام تطبيقات الذكاء الاصطناعي، وتقرر الجزاءات المناسبة حال إساءة استخدامها، أو على الأقل تعديل أحكام قانون مكافحة جرائم تقنية المعلومات بما يسمح بوضع إطار متكامل لمواجهة إساءة استخدام معطيات الثورة الصناعية الرابعة، ومن بينها تقنيات الذكاء الاصطناعي.

٤. النظر نحو استحداث إدارة متخصصة في مجال استخدامات نظم الذكاء الاصطناعي والتحول الرقمي، وبصفة خاصة أجهزة العدالة الجنائية (القضائية والأمنية) لتحقيق مواجهة فعالة في التعامل مع كافة صور إساءة استخدام هذه التقنيات المستحدثة من جانب الجماعات الإجرامية والإرهابية، وكذا قسم لمكافحة جرائم العملات المشفرة عبر الإنترنت بالتنسيق مع الجهات الوطنية والدولية المعنية، في إطار تعزيز التعاون الدولي القضائي والأمني.

  1. النظر نحو استحداث وحدة لدراسات التحول الرقمي والذكاء الاصطناعي بالكيانات العلمية والبحثية ومراكز الأبحاث الوطنية، لإجراء البحوث حول تفعيل سياسة التحول الرقمي وتطوير البنى التحتية التكنولوجية، وإعداد الدراسات ذات الصلة بتطبيقات الذكاء الاصطناعي في العمل الأمني وبحث سبل تطبيقها عمليا بالتنسيق مع الجهات المعنية، وإجراء دراسات متعمقة حول مختلف القضايا والموضوعات ذات الصلة بجرائم تقنية المعلومات، وموضوعات الأمن السيبراني والتأمين ضد الهجمات السيبرانية، وتطوير قواعد البيانات الضخمة والتوسع في تطبيقاتها في مجالات العمل الأمني، وإجراء البحوث في مجالات التطوير التكنولوجي فيما يتعلق بالعمل الشرطي لمواكبة التقدم العلمي باستخدام الأجهزة والوسائل الفنية والعلمية الحديثة.

٦. النظر نحو تدريس مقررات دراسية لطلبة الجامعات تتناول تطبيقات الذكاء الاصطناعي لتعريف الطلبة بالتطورات المتلاحقة في هذا المجال.

٧. استحداث إدارة للتدريب التكنولوجي بمؤسسات الدولة تختص بالعمل على تنمية السلوك التكنولوجي للأفراد من خلال تنظيم عدد من الدورات التدريبية التخصصية تعتمد على المستجدات التكنولوجية والتعريف بتطبيقات الذكاء الاصطناعي.

٨. التوسع في إنشاء إدارات متخصصة في مجال تأمين الشبكات المعلوماتية والمواقع الحكومية، وتزويدها بالكوادر المتخصصة لمواجهة عمليات الاختراق المعلوماتي، وتأمين هذه الشبكات من مخاطر وتداعيات الاختراق ومواكبة التطورات المتلاحقة في هذا المجال إسوة بالدول المتقدمة.

المراجع

أولا -المراجع العربية:

المراجع العامة:

  • د. أحمد عوض بلال:مبادئ قانون العقوبات المصري -القسم العام، القاهرة، دار النهضة العربية.
  • د. أحمد فتحي سرور:القانون الجنائي الدستوري، القاهرة، دار الشروق، ٢٠٠٣.
  • د. حامد راشد:شرح قانون العقوبات -القسم العام، النظرية العامة للجريمة، ج ١، ٢٠١١، ط ١.
  • د. عبد التواب معوض الشوربجي:دروس في قانون العقوبات -القسم العام، كلية الحقوق، جامعة الزقازيق، ٢٠١٧.
  • د. عبد العظيم مرسي وزير:شرح قانون العقوبات -القسم العام، النظرية العامة للجريمة، القاهرة، دار النهضة العربية، ٢٠٠٨.
  • د. فوزية عيد الستار:المساهمة الأصلية في الجريمة، رسالة دكتوراه، جامعة القاهرة، ١٩٦٧.
  • د. محمود نجيب حسني:المساهمة الجنائية في التشريعات العربية، القاهرة، دار النهضة العربية، ١٩٩٢.
  • ـــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــــ:شرح قانون العقوبات -القسم الخاص، القاهرة، دار النهضة العربية، ط ١٩٨٤.
  • د. يسر أنور علي:شرح ألأصول العامة في قانون العقوبات، ج ١، القاهرة، دار النهضة العربية، ١٩٨٠.

المراجع المتخصصة:

رسائل الدكتوراه والماجستير:

  • د. أحمد إبراهيم محمد إبراهيم:المسئولية الجنائية الناتجة عن أخطاء الذكاء الاصطناعي في التشريع الإماراتي -دراسة مقارنة، رسالة دكتوراه، جامعة عين شمس، ٢٠٢٠.

المقالات والأبحاث المتخصصة:

  • د. أحمد عبد الظاهر:القانون الجنائي في عصر الذكاء الاصطناعي، مقال منشور بجريدة الوطن، بتاريخ 12/ ٥/ 2018.
  • د. بشير سعد زغلول: الحماية الجنائية في مجال زراعة الأعضاء البشرية، دراسة تحليلية نقدية في ضوء تشريعات مصر والكويت وقطر، مجلة الحقوق، جامعة الكويت، الكويت، المجلد ٤١، العدد الثاني، إبريل ٢٠١٧.
  • د. جبريل العريشي وآخر: استخدام البيانات الضخمة والذكاء الاصطناعي في مواجهة جائحة فيروس كورونا المستجد، المجلة العربية للدراسات الأمنية، العدد ٣٦، ٢٠٢٠، جامعة نايف العربية للعلوم الأمنية، الرياض، المملكة العربية السعودية.
  • د. محمد السعيد عبد الفتاح: الأثر الموضوعي للقرابة في القانون الجنائي، مجلة القضاء والقانون، العدد ٨، أكتوبر ٢٠٢٠، دائرة القضاء بأبو ظبي، أبو ظبي، الإمارات العربية المتحدة.
  • د. محمد محمد طه خليفة: الذكاء الاصطناعي في ميزان التشريع، مجلة دبي القانونية، الصادرة عن النيابة العامة بدبي، العدد ٢٨، مارس ٢٠١٨، دبي، دولة الإمارات العربية المتحدة.
  • د. همام القوصي:إشكالية الشخص المسئول عن تشغيل الروبوت -دراسة تحليلية استشرافية في قواعد القانون المدني الأوروبي الخاص بالروبوتات، مجلة جيل الأبحاث القانونية المتعمقة، عدد مايو ٢٠١٨، مركز جيل البحث العلمي، لبنان.
  • د. يحيى إبراهيم دهشان:المسئولية الجنائية عن جرائم الذكاء الاصطناعي، مجلة الشريعة والقانون، عدد ٨٢، إبريل ٢٠٢٠، كلية القانون، جامعة الإمارات، الإمارات العربية المتحدة.
  • ستيوارت راسل، بيتر نورفينج: الذكاء الاصطناعي -نهج حديث (ط ٣، نيوجيرسي برنتيس هول ٢٠٠٩).
  • سيد طنطاوي محمد: الجوانب القانونية للذكاء الاصطناعي والروبوت، بحث منشور على موقع دورية المركز الديمقراطي العربي، بتاريخ 29/ 2/ 2020.
  • كاستن هوفر: جرائم الذكاء الاصطناعي تسائل تطور الاجتهاد التشريعي في المستقبل، مقال منشور على شبكة الإنترنت.
  • مقال بعنوان: الذكاء الاصطناعي وأنسنه الآلات، منشور بمجلة لغة العصر، العدد ٢٣٢، أبريل ٢٠٢٠، مؤسسة الأهرام، القاهرة.

الوثائق والتقارير:

  • وثائق مؤتمر الأمم المتحدة الرابع عشر لمنع الجريمة والعدالة الجنائية، الذي عقد في كيوتو، اليابان، 20 -27 أبريل ٢٠٢، حلقة عمل بعنوان: الاتجاهات الراهنة للجريمة، والتطورات الأخيرة والحلول المستجدة، لا سيما التكنولوجيات الجديدة بوصفها وسائل لارتكاب الجريمة وأدوات لمكافحتها.
  • دراسة مكتب الأمم المتحدة المعني بالمخدرات والجريمة بعنوان:” دراسة شاملة عن الجريمة السيبرانية”، مسودة فبراير ٢٠١٣، وثائق مكتب الأمم المتحدة المعني بالمخدرات والجريمة، نيويورك، 2013.

ثانيا -المراجع الأجنبية:

  • Anne BOULANGE, Carole JAGGIE, “Ethique, responsabilité et statut juridique du robot compagnon: revue et perspectives”, IC2A: 13.
  • Charlotte WALKER-OSBORN, Paula BARRETT, “Artificial Intelligence: the EU, Liability and the Retailsector”,Robotics Law Journal, 8 May 2017.
  • Cristono ALMONTE vs. AVERNA VISION & ROBOTICS, INC.
  • EuropeanCentral Bank (1998), “Report on electronic money”, Frankfurt, Germany, August.
  • Gabriel Hallevy, when robots kill: artificial intelligence under criminal law, Northeastern University Press, Boston,2013.
  • Isabelle POIROT-MAZERESDU,“Chapitre 8. Robotique et médecine :   quelle (s) responsabîlîté (s) ?”, Journal International de Bioéthique, Vol. 24, No. 4, 2013.
  • Joshua DREXLERvs. TEL NEXX, INC.,, etc..,; United States District Court, D. Massachusetts, Civil Action No. 13- cv-13009-DPW, 125 F. Supp. 3d 361 (2015),
  • Karel Nedbalek, The Future Inclusion of Criminal Liability of the Robots and Artificial Intelligence in the Czech Republic, Paradigm of Law and Public Administration, Interregional Academy for Personnel Management, Ukraine, 2018.
  • KEVIN D. ASHLEY, Artificial Intelligence and Legal Analytics, new tools for law practice in the digital age, University of Pittsburgh School of Law, Cambridge University press, 2017.
  • Marcelo Corrales & Mark Fenwick & Nikolaus Forgo, Robotics, AI and the Future of Law, Perspectives in Law, Business and Innovation, Kyushu University, Springer International Publishing AG, 2018.
  • Moritz GOELDNER, Cornelius HERSTATT, FrankTIETZE, “The emergence of care robotics- A patent and publication analysis”, Technological Forecasting and Social Change, Vol. 92, March 2015.
  • NEVEJANS Nathalie, “Directorate-General for Internal Policies, Policy Department C: Citizens’ Rights and Constitutional Affairs, Legal Affairs, European Civil Law Rules in Robotics, No. EA n° 2471, October 2016.
  • Pham, Q. V., Nguyen, D. C., Hwang, W. J., & Pathirana, P. N. (2020). Artificial Intelligence (AI) and Big Data for Coronavirus (COVID- 19) Pandemic: A Survey on the State- of-the-Arts.
  • Robotics and artificial intelligence, Parliament UK, Report of the Committee on Science and Technology.
  • Ryan Calo & A. Michael Froomkin & Ian Kerr, Robot Law, Edward Elgar Publishing Limited, UK, 2016.
  • SabineGLESS, Emily SILVERMAN, Thomas WEIGEND, “If Robots Cause Harm, Who Is to Blame? Self-Driving Cars and Criminal Liability”, New Criminal Law Review, SSRN, January 29, 2016.
  • Thomas LEEMANS,Hervé JACQUEMIN, “La Responsabilité Extracontractuelle de l’Intelligence Artificielle”, Master en droit, Faculté de droit et de criminologie (DRT), Université Catholique de Louvain, 2017.
  • United States District Court, W.D. New York., No. 11-CV- 1088 EAW, 128 F. Supp. 3d 729 (2015).
  • Victor Mayer-Schônberger and KennethCukier, Big Data: A Revolution that Will Transform How We Live, Work and Think (London, John Murray, 2013).
  • Visa A. J. Kurki & Tomasz Pietrzykowski, Legal Personhood: Animals, Artificial Intelligence and the Unborn, Springer International Publishing AG, 2017.
  • Yueh-Hsuan WENG, Yusuke SUGAHARA, Kenji HASHIMOTO, Atsuo TAKANISHI, “Intersection of “Tokku” Special Zone, Robots, and the Law: A Case Study on Legal Impacts to Humanoid Robots”, International Journal of Social Robotics, February 2015.

ثالثا –التقارير:

  • تقرير الشرطة الأوروبية «يورو بول» بعنوان «كيف ستشكل التقنية مستقبل الجريمة الإلكتروني»، وشركة «دارك تريس» المتخصصة في أمن المعلومات التي نشرت على موقعهاdarktrace.com تقريرا بعنوان “الهجمات الإلكترونية المدارة بالذكاء الاصطناعي”، منشور بمقال بعنوان: بفعل الذكاء الاصطناعي وتقنية الجيل الخامس -الشرطة الأوروبية و«دارك تريس» تحذران من أنماط جديدة للجرائم الإلكترونية، منشور على شبكة الإنترنت بتاريخ 23/ 7/ 2019 م.
  • توجهات مستقبلية .. الذكاء الاصطناعي أهم عناصر الثورة الصناعية الرابعة، السنة (١)، العدد (١)، يناير ٢٠٢٠، إصدارات مركز المعلومات ودعم اتخاذ القرار التابع لمجلس الوزراء المصري، القاهرة.

([1])تم إطلاق تسمية “الثورة الصناعية الرابعة” خلال المنتدى الاقتصادي العالمي في دافوس، سويسرا، في عام ٢٠١٦ م، على الحلقة الأخيرة من سلسلة الثورات الصناعية، التي هي قيد الانطلاق حاليا، ويشير الأستاذ الدكتور/ كلاوس شواب “أستاذ الاقتصاد المقارن ورئيس منتدى دافوس الاقتصادي” إلى أن وجود ثلاثة أسباب، تدعم الاعتقاد بنشوء ثورة صناعية رابعة، وهي تطور الثورة الحالية بمعدل فائق السرعة، واعتمادها على ثورة رقمية، تجمع بين تقنيات متعددة، تؤدي إلى تحولات غير مسبوقة على مستوى الاقتصاد والأعمال، فضلا عما تتضمنه من تحول في مختلف المنظومات عبر كل الدول والمؤسسات والمجالات والمجتمعات. أنظر: د. كلاوس شواب، الثورة الصناعية الرابعة -كتاب في دقائق، ملخصات لكتب عالمية، تصدر عن مؤسسة محمد بن زايد للمعرفة، دبي، الإمارات، 2017، ص 2.

([2]) د. جمال محمد غيطاس، إدارة الإنترنت والتحول الرقمي، مجلة السياسة الدولية، عدد ١٨٠، القاهرة، إبريل ٢٠١٧، ص ١٣٢.

([3])د. أحمد عبد الظاهر، القانون الجنائي في عصر الذكاء الاصطناعي، مقال منشور بجريدة الوطن، بتاريخ 12/ ٥/ 2018، ومنشور على الرابط https://www.elwatannews.Com/news/details/3358273

([4]) استخدم مصطلح الذكاء الاصطناعي لأول مرة خلال مؤتمر في دار تماوث على يد جون ماكارثي عام ١٩٥٦. أنظر: د. عمرو سيد جمال البحيري، أثر تطبيقات الذكاء الاصطناعي على رفع كفاءة = الأداء الأمني بالتطبيق على تأمين الطرق، رسالة دكتوراه في علوم الشرطة، كلية الدراسات العليا، أكاديمية الشرطة، القاهرة، ٢٠١٩، ص ١٨.

([5])  Victor Mayer-Schonberger and Kenneth Cukier, Big Data: A Revolution that Will Transform How We Live, Work and Think (London, John Murray, 2013).

([6])يقصد بإنترنت الأشياء الجيل الجديد من الإنترنت الذي يتيح التفاهم بين الأجهزة المترابطة مع بعضها (عبر بروتوكول الإنترنت)، وتشمل هذه الأجهزة الأدوات والمستشعرات والحساسات وأدوات الذكاء الاصطناعي المختلفة وغيرها. ويرفع خبراء الشرطة الأوروبية من المخاطر الأمنية لأجهزة إنترنت الأشياء، ويرون أن الاندفاع الحالي في نشر هذه الأجهزة بالمئات والآلاف بالمؤسسات والشركات والمنازل، يترافق دوما مع اهتمام غير كاف بمتطلبات الأمن الإلكتروني، سواء من جانب المصنعين أو المستخدمين، ويدخل في ذلك الكاميرات العاملة بالعناوين الرقمية عبر الإنترنت، ولعب الأطفال، والمحولات، ومراكز التحكم بالشبكات المنزلية، وهي أجهزة تحتوي على نقاط ضعف كبيرة، يمكن استغلالها للتجسس. انظر: مقال بعنوان: بفعل الذكاء الاصطناعي وتقنية الجيل الخامس -الشرطة الأوروبية و«دارك تريس» تحذران من أنماط جديدة للجرائم الإلكترونية، منشور بتاريخ 23/ 7/ 2019 م، على الرابط:

https://www.emaratalvoum.com/technology/electronic-equipment/2019-07- 23-1.1235354

([7]) انظر: دراسة مكتب الأمم المتحدة المعني بالمخدرات والجريمة حول الجريمة السيبرانية، بعنوان: “دراسة شاملة عن الجريمة السيبرانية”، مسودة فبراير ٢٠١٣، وثائق مكتب الأمم المتحدة المعني بالمخدرات والجريمة، نيويورك، ٢٠١٣، ص xiii.

([8]) د. محمد محمد طه خليفة، الذكاء الاصطناعي في ميزان التشريع، مجلة دبي القانونية، الصادرة عن النيابة العامة بدبي، العدد 28، مارس ٢٠١٨، دبي، دولة الإمارات العربية المتحدة، ص ٣١.

([9])Thomas LEEMANS, Hervé JACQUEMIN, “La Responsabilité Extracontractuelle de l’Intelligence Artificielle”, Master en droit, Faculté de droit et de criminologie (DRT), Université Catholique de Louvain, 2017, P. 59.

([10]) سيد طنطاوي محمد، الجوانب القانونية للذكاء الاصطناعي والروبوت، بحث منشور على موقع دورية المركز الديمقراطي العربي، بتاريخ 29/ 2/ 2020، على الرابط الإلكتروني:

https://democraticac.de/?p=64965

([11]) ستيوارت راسل، بيتر نورفينج، الذكاء الاصطناعي -نهج حديث (ط ٣، نيوجيرسي برنتيس هول ٢٠٠٩)، ص ص ٤، 5.

([12]) أحمد إبراهيم محمد إبراهيم: المسئولية الجنائية الناتجة عن أخطاء الذكاء الاصطناعي في التشريع الإماراتي -دراسة مقارنة، رسالة دكتوراه، جامعة عين شمس، ٢٠٢٠، ص ٨٩.

([13])جبريل العريشي وآخر: استخدام البيانات الضخمة والذكاء الاصطناعي في مواجهة جائحة فيروس كورونا المستجد، المجلة العربية للدراسات الأمنية، العدد ٣٦، ٢٠٢٠، جامعة نايف العربية للعلوم الأمنية، الرياض، المملكة العربية السعودية، ص ٢٥١؛ د. محمد محمد طه، المرجع السابق، ص ٣١؛ وكذا انظر من الفقه المقارن:

= Pham, Q. V., Nguyen, D. C., Hwang, W. J., & Pathirana, P. N. (2020). Artificial Intelligence (AI) and Big Data for Coronavirus (COVID- 19) Pandemic: A Survey on the State-of-the-Arts, P. 5.

([14]) تشير تطبيقات الذكاء الاصطناعي إلى التوسع في استخدامها في إجراء العمليات الجراحية، حيث استبدل الأطباء بالعديد من أدوات الذكاء الاصطناعي، لما لها من سرعة وكفاءة، إلا أن الأمر لا يخلو من وقوع بعض الأخطاء من جانب الروبوت في إحدى العمليات الجراحية. انظر: د. يحيى إبراهيم دهشان، المسئولية الجنائية عن جرائم الذكاء الاصطناعي، مجلة الشريعة والقانون، عدد ٨٢، إبريل ٢٠٢٠، كلية القانون، جامعة الإمارات، الإمارات العربية المتحدة، ص 6؛ سيد طنطاوي محمد، الجوانب القانونية للذكاء الاصطناعي والروبوت، مرجع سابق. ومن الفقه الفرنسي، انظر:

Isabelle POIROT-MAZERESDU, “Chapitre 8. Robotique et médecine : quelle (s) responsabilité(s) ?”, Journal International de Bioéthique, Vol. 24, No. 4, 2013 ; Moritz GOELDNER, Cornelius HERSTATT, Frank TIETZE, “The émergence of care robotics – A patent and publication analysis”, Technological Forecasting and Social Change, Vol. 92, March 2015, pp. 115- 131.

([15]) Yueh-Hsuan WENG, Yusuke SUGAHARA, Kenji HASHIMOTO, Atsuo TAKANISHI, “Intersection of “Tokku” Special Zone, Robots, and the Law: A Case Study on Legal Impacts to Humanoid Robots”, International Journal of Social Robotics, February 2015, p. 2.

([16]) انظر: توجهات مستقبلية .. الذكاء الاصطناعي أهم عناصر الثورة الصناعية الرابعة، السنة (١)، العدد (١)، يناير ٢٠٢٠، إصدارات مركز المعلومات ودعم اتخاذ القرار التابع لمجلس الوزراء المصري، القاهرة، ص ١١.

([17])د. محمد محمد طه خليفة، المرجع السابق، ص ٣١.

([18]) سيد طنطاوي محمد، الجوانب القانونية للذكاء الاصطناعي والروبوت، المرجع السابق؛ مقال بعنوان: الذكاء الاصطناعي وأنسنه الآلات، منشور بمجلة لغة العصر، العدد ٢٣٢، أبريل ٢٠٢٠، مؤسسة الأهرام، القاهرة، ص ٥٠.

([19])تم إنشاء المجلس الوطني للذكاء الاصطناعي بموجب قرار رئيس مجلس الوزراء رقم (٢٨٨٩) لسنة ٢٠١٩، يتبع رئاسة مجلس الوزراء، وبرئاسة وزير الاتصالات وتكنولوجيا المعلومات ويضم في عضويته عدد من الوزارات، ويختص بوضع الاستراتيجية الوطنية للذكاء الاصطناعي والإشراف على تنفيذها ومتابعتها.

([20]) د. يحيى دهشان، المرجع السابق، ص ١٩؛ د. محمد محمد طه خليفة، المرجع السابق، ص 30.

([21])انظر:

Robotics and artificial intelligence, Parliament UK, Report of the Committee on Science and Technology, Published 12/ 10/ 2016, P. 77.

مشار إليه د. يحيى دهشان، المرجع السابق، ص 7.

([22])انظر: وثائق مؤتمر الأمم المتحدة الرابع عشر لمنع الجريمة والعدالة الجنائية، الذي عقد في كيوتو، اليابان، ٢٠ -٢٧ أبريل ٢٠٢، حلقة عمل بعنوان: الاتجاهات الراهنة للجريمة، والتطورات الأخيرة والحلول المستجدة، لا سيما التكنولوجيات الجديدة بوصفها وسائل لارتكاب الجريمة وأدوات لمكافحتها، ص ١٥.

([23])تشير التقديرات إلى أنه في مقابل الجوانب المضيئة للذكاء الاصطناعي، إلا إن هناك جانبا مظلما يجعلها مجالا خصبا لأنماط جديدة من الجرائم، فالذكاء الاصطناعي فسيجعل البرمجيات الخبيثة والفيروسات واعية بالسياق الذي تتحرك فيه، وهو ما دفع المديرة التنفيذية للشرطة الأوروبية” للقول إنه: ” لابد من القدرة على التنبؤ بتأثير أي تقنيات ناشئة مقبلة سيلجأ إليها المجرمون، حتى يمكن الحفاظ على سلامة مواطني الاتحاد الأوروبي”، كما حذرت الشرطة الأوروبية من أن الذكاء الاصطناعي يمكن أن يساعد في تزويد المجرمين والمتسللين والمهاجمين بنواقل هجومية جديدة للقيام بنشاطات ضارة غير معهودة من قبل، مثل: تحسين نجاح هجمات التصيد الاحتيالي عبر تصميم رسائل البريد الإلكتروني الخادعة والردود الخبيثة، كما أن الذكاء الاصطناعي قد يجعل الجريمة الإلكترونية أكثر بساطة بالنسبة للجهات الإجرامية ذات مستويات الخبرة المحدودة، ويمكنها من شن هجمات متطورة وخطرة، ومن أبرز المجالات المحتملة في هذا المجال عمليات التزييف العميق، سواء للفيديو أو الصوت، للقيام بحملات تضليل واسعة النطاق، وقد بدأ بعض المجرمين بالفعل في استخدام ملفات فيديو وملفات صوتية لانتحال صفة الرؤساء التنفيذيين، للاحتيال على المؤسسات والمنظمات، بينما يعتقد خبراء “دارك تريس” أن الذكاء الاصطناعي سيجعل البرامج الضارة واعية تفهم السياق الذي تعمل به، كأن تعرف هل هذه بيئة تشغيل “ويندوز” أم “لينكس” أم تطبيق للمحمول، أو شبكة تواصل، ثم تتخذ قراراتها بصورة مستقلة وفقا لذلك الفهم، ومن ثم تكون قادرة على الانتشار الذاتي، واستخدام كل ثغرة أمنية معروضة لاستغلال الشبكات عن شبكة، كما أنها تستطيع أن تتخذ قرارا بتأجيل الهجوم لمزيد من التعلم والفهم، أو يكون قرارها تفعيل الهجوم، الذي يتم في سكون وبطء ويجعله غير ملحوظ، كأن تنسخ كل فترة قدرا بسيطا للغاية من الملفات والبيانات، وتنقله إلى القائمين على تشغيلها، ووفقا للتحذيرات الصادرة عن الشرطة الأوروبية وشركة “دارك تريس”، فإن تطبيق القانون بات يحتاج إلى مزيد من الابتكار والإبداع والديناميكية والتحديث بوتيرة متسارعة، وأن يعمل القائمون عليه من الآن على مواكبة التهديدات الإجرامية في المستقبل القريب، التي يتوقع أن تستفيد بشدة من التقنيات الناشئة لتصبح أكثر خطورة من أي وقت مضى. انظر: تقرير الشرطة الأوروبية بعنوان: ” كيف ستشكل التقنية مستقبل الجريمة الإلكتروني، وشركة “دارك تريس” المتخصصة في أمن المعلومات التي نشرت على موقعها darktrace.com تقريرا بعنوان: ” الهجمات الإلكترونية المدارة بالذكاء الاصطناعي”، منشور بمقال بعنوان: بفعل الذكاء الاصطناعي وتقنية الجيل الخامس -الشرطة الأوروبية و”دارك تريس” تحذران من أنماط جديدة للجرائم الإلكترونية، منشور بتاريخ 23/ ٧/ 2019 م، على الرابط: /https://www.emaratalvoum.com

([24]) د. يحيى إبراهيم دهشان، المسئولية الجنائية عن جرائم الذكاء الاصطناعي، مجلة الشريعة والقانون، عدد ٨٢، إبريل ٢٠٢٠، كلية القانون، جامعة الإمارات، الإمارات العربية المتحدة، ص ٢؛ سيد طنطاوي محمد: الجوانب القانونية للذكاء الاصطناعي والروبوت، المرجع السابق.

([25]) يقصد بالسيارات ذاتية القيادة تلك التي تعتمد في تسييرها على برنامج للذكاء الاصطناعي، يصدر أوامر الحركة والتوقف بالسيارة، بعد تلقيه بيانات ناتجة عن أجهزة الرادار والليزر والمستشعرات الموجودة بالسيارة، والتي تجمع بيانات عن الأجسام حول السيارة؛ كالمشاة واتساع الطريق، والسيارات المجاورة، وأي كائنات تكون حول السيارة. د. يحيى إبراهيم دهشان، المرجع السابق، ص ٢٤.

([26]) Gabriel Hallevy, When robots kill: artificial intelligence under criminal law, Northeastern University Press, Boston, 2013, p. 64 ; KEVIN D. ASHLEY, Artificial Intelligence and Legal Analytics, new tools for law practice in the digital age, University of Pittsburgh School of Law, Cambridge University press, 2017, p. 14 ; Marcelo Corrales & Mark Fenwick& Nikolaus Forgó, Robotics, AI and the Future of Law, Perspectives in Law, Business and Innovation, Kyushu University, Springer International Publishing AG, 2018, p. 5 ; Visa A. J. Kurki & Tomasz Pietrzykowski, Legal Personhood: Animals, Artificial Intelligence and the Unborn, Springer International Publishing AG, 2017, p. 49 ;Ryan Calo & A. Michael Froomkin & Ian Kerr, Robot Law, Edward Elgar Publishing Limited, UK, 2016, p. 3.

([27]) ومن أبرز الحوادث التي تناولها الباحثون ذات الصلة باستخدامات الذكاء الاصطناعي حادثة قيام إحدى السيارات ذاتية القيادة التابعة لشركة أوبر في مارس ٢٠١٨، بالاصطدام بسيدة في الطريق مما أدى إلى وفاتها متأثرة بجراحها، وحادثة أخرى تتمثل في قيام روبوت بمعمل دراجات ياباني بقتل أحد العمال، عن طريق دفعه باستخدام ذراعه الهيدروليك باتجاه إحدى الآلات، ما أدى إلى مقتله، فضلا عن واقعة قيام روبوت طبي أثناء إجراء إحدى العميات بعرض رسائل الخطأ، ولم يسمح للفريق الطبي بإعادة ضبط ذراعه يدويا، وهو ما أثر على المريض بعد ذلك بإصابته بمضاعفات ونزيف خطير بسبب ما حدث بالعملية الجراحية.

([28])د. يسر أنور علي، شرح ألأصول العامة في قانون العقوبات، ج ١، القاهرة، دار النهضة العربية، ١٩٨٠، ص ٢٥٦؛ د. محمد السعيد عبد الفتاح، الأثر الموضوعي للقرابة في القانون الجنائي، مجلة القضاء والقانون، العدد ٨، أكتوبر ٢٠٢٠، دائرة القضاء بأبو ظبي، أبو ظبي، الإمارات العربية المتحدة، ص ٢٩٩.

([29]) يرجع الفضل لجابريل هاليفي في إرساء اللبنة الأولى لمسألة المسئولية الجنائية لكيانات الذكاء الاصطناعي، حيث تناوله في مؤلفاته، والتي من أبرزها: حينما يرتكب الذكاء الاصطناعي جريمة قتل، والمسئولية الجنائية عن كيانات الذكاء الاصطناعي -من الخيال العلمي إلى الرقابة الاجتماعية القانونية، حيث ركزا المؤلفين السابقين على بحث مسألة المسئولية الجنائية للذكاء الاصطناعي.

([30]) يرى جانب من الفقه الجنائي الألماني التقييد بالقواعد التقليدية فيما يتصل بجرائم الذكاء الاصطناعي، والتي تقصر المسئولية الجنائية على البشر دون غيرهم، حيث لا يفضل معظم الخبراء إدخال تغييرات جوهرية على القانون الجنائي لتعامل مع هذه التطورات التقنية الجديدة، فترى الدكتورة/ سوزان بيك “أستاذ القانون الجنائي وفلسفة القانون بجامعة هانوفر الألمانية” أن: “القانون الجنائي الذي تم وضعه للتعامل مع الأفراد، يواجه صعوبات في مسايرة تطوير الآلات المستقلة عن الإنسان في العمل وكذلك التصرف مع تطورات الذكاء الاصطناعي”، وتقرر صراحة بأن: “ينص القانون الجنائي بشكل طبيعي على تحمل مشغل الآلة المسئولية، فمثلا إذا قدم جوجل لك معلومات زائفة واتخذت قرارا يستند عليها فستكون أنت من يتحمل المسئولية”، كما ترى سوزان بيك أنه “فيما يتعلق بالسيارات ذاتية القيادة لا يتعين على الراكب فيها أن يقود أو يتخذ قرارا بالنسبة للطريق، وفي حالة تحمل قائد السيارة للمسئولية القانونية الكاملة فليست له حاجة حينئذ لاستخدام القيادة الذاتية، لأنه يتعين على قائد السيارة التركيز في تسيير المركبة على الطريق، وأعتقد أن ذلك يمثل مشكلة”، وتابعت “قبل إلقاء المسئولية الجنائية على شخص ما، يجب إلقاء نظرة متفحصة على ما إذا كان قد مارس أي سيطرة على الآلة”، مضيفة أنه “قد يتعين علينا إلى حد كبير أن نتخلى مستقبلا عن إصدار أحكام قضائية حول الحوادث التي تتسبب فيها الآلات”، وتقر بأنه من “المؤكد أن عدم إمكانية العثور على عقوبة سيكون أمرا مزعزعا لاستقرار المجتمعات”، وتقترح بيك “التفكير في حلول أخرى، مثل الوساطة بين الضحية ومرتكب الجريمة أو حلول تتضمنها أنظمة قانونية أخرى مثل القانون المدني”، بينما يرى نيكولاس وولتمان، والذي يعمل مساعدا في مركز أبحاث قانون الروبوت بجامعة فيرزبورج بألمانيا إن: “قائد السيارة يكون في الوقت الحالي مسئولا أيضا عن الحوادث المتعلقة بسيارته حتى ولو لم يكن متورطا فيها”، فالأفراد فقط يمكنهم ارتكاب جرائم وليس الشركات أو الآلات”، وتساءل هل من الصائب توجيه اتهام جنائي لشخص عندما يكون الذكاء الاصطناعي هو المسئول عن قيادة السيارة ومتحكما فيها؟”، ويضيف وولتمان إن: “الباحثون في مجال القانون بدأوا على سبيل التجربة مناقشة ما إذا كان ينبغي علينا، أن نتخلى عن المبدأ الذي يقول إن الأفراد وحدهم هم الذين يمكنهم التصرف بشكل يمثل جريمة، والرأي السائد هو أنه في المرحلة الحالية من التطور التكنولوجي ليست هناك ضرورة للتخلي عن القاعدة القانونية الراسخة، غير أنه توجد حقا منطقة رمادية يمكننا من خلالها أن نتكهن بكيفية تطور الاجتهاد التشريعي في المستقبل، وقد تكون هذه المنطقة الرمادية مقبولة من المجتمع بشكل عام في حالة تراجع عدد الحوادث المرورية، عندما تصبح السيارات ذاتية القيادة أكثر انتشارا نتيجة فوائدها الكلية للمجتمع”، كما يقرر وولتمان إنه: “على المستوى الفردي فمن المؤكد أن عدم القدرة على توجيه اتهام جنائي بعد وقوع حادث خطير سيكون أمرا غير مقبولا، وهذا يمثل مأزقا”. انظر: كاستن هوفر: جرائم الذكاء الاصطناعي تسائل تطور الاجتهاد التشريعي في المستقبل، مقال مترجم منشور على الرابط الإلكتروني:

https://www.hespress.com/varieties/436858.htÉ

([31]) د. أحمد إبراهيم، المرجع السابق، ص ١٢٢.

([32])انظر: رأي كل من جون كينجستون الباحث بجامعة برايتون بالمملكة المتحدة وجابريل هاليفي الباحث بجامعة أونو بالولايات المتحدة الأمريكية، حول المسئولية القانونية لبرامج وتطبيقات الذكاء الاصطناعي، منشورة على موقع MIT Technology Review على الرابط: https://technologyreview.ae

([33]) Sabine GLESS, Emily SILVERMAN, Thomas WEIGEND, op. cit., p. 4.

([34]) د. أحمد إبراهيم، المرجع السابق، ص 176.

([35])د. يحيى دهشان، المرجع السابق، ص ٤٧.

([36]) د. أحمد إبراهيم، المرجع السابق، ص ١٠١.

([37]) Karel Nedbalek, The Future Inclusion of Criminal Liability of the Robots and Artificial Intelligence in the Czech Republic, Paradigm of Law and Public Administration, Interregional Academy for Personnel Management, Ukraine, 2018, available at http://maup.com.ua/assets/files/expert/1/the-future-inclusion-of-criminal.pdf.

ومن الفقه العربي، انظر: أحمد إبراهيم، المرجع السابق، ص ٨٢.

([38])د. أحمد عوض بلال، القسم العام، مرجع سابق، ص 309 وما بعدها؛ د. عبد العظيم مرسي وزير، القسم العام، مرجع سابق، ص 278 وما بعدها؛ د. حامد راشد، القسم العام، مرجع سابق، ص 16 وما بعدها.

([39]) د. أحمد فتحي سرور، القانون الجنائي الدستوري، القاهرة، دار الشروق، ٢٠٠٣، ص 209.

([40]) تبرز الإشارة إلى اجتهاد البرلمان الأوروبي بإرساء “نظرية النائب الإنساني المسئول” لتنظيم قواعد القانون المدني الأوروبي الخاصة بالروبوتات، والتي أصدرتها لجنة الشئون القانونية بالاتحاد الأوروبي في فبراير ٢٠١٧؛ حيث يمكن من خلال هذه النظرية فرض المسئولية عن تشغيل الروبوت على مجموعة من الأشخاص وفقا لمدى خطأهم في تصنيعه أو استغلاله ومدى سلبيتهم في تفادي التصرفات المتوقعة من الروبوت، دون افتراض الخطأ ولا اعتبار الروبوت شيء، فالروبوت هو خادم مطيع للإنسان، ولكنه ليس شيئا أو كائنا جمادا لا يعقل، بل كائن إلى بمنطق بشري مبتدئ قابل للتطور والتعقل؛ وذلك نتيجة التطبع بشيم العقل البشري من باب التقليد التكنولوجي، ومن ثم فقد ابتكر الاتحاد الأوروبي مفهوم: “النائب الإنساني” حتى يكون مسئولا عن أفعال الروبوت الآلي، فاعتبر قانون الروبوت الأوروبي أنه ونظرا لعدم إمكانية إقامة مسئولية الروبوت عن الأضرار التي قد يتسبب بها لشخص ثالث، فتقوم المسئولية عن أفعال وتقصير الروبوت على نائب إنساني، وقد ذهب المشرع الأوروبي أبعد من ذلك عندما بشر الروبوت بمكانة قانونية خاصة في المستقبل مع ظهور الأجيال الجديدة منه التي قد تتمتع بالشخصية الإلكترونية القانونية التي ستؤدي إلى منح الحقوق له وفرض الالتزامات عليه، والواقع أن النظرية الجديدة جاءت لتستبدل النظرية التقليدية التي تنظر إلى نظم الذكاء الاصطناعي والروبوت على أنها شيء، وأن مالكه مجرد حارس أشياء يقع عليه عب الخطأ المفترض تماما مثل مالك السيارة التقليدية، رغم أن الروبوت يحرك ذاته بمحاكمة عقلية شبه بشرية ذات منطق واتزان؛ ولذك فهو ليس بكائن مسير منقاد كالآلة الصماء، التي يطلق عليها تسمية: “الشيء”. انظر في تفصيلات ذلك: د. همام القوصي، إشكالية الشخص المسئول عن تشغيل الروبوت -دراسة تحليلية استشرافية في قواعد القانون المدني الأوروبي الخاص بالروبوتات، مجلة جيل الأبحاث القانونية المتعمقة، عدد مايو ٢٠١٨، مركز جيل البحث العلمي، لبنان، ص ٨٩. ومن الفقه المقارن: انظر:

Anne BOULANGE, Carole JAGGIE, “Ethique, responsabilité et statut juridique du robot compagnon: revue et perspectives”, IC2A: 13, Voir: https://hal.archives-ouvertes.fr/cel-01110281/file/TER2015.pdf#page=16 (25- 5- 2018) 3 Chartotte WALKER-OSBORN, Paula BARRETT, “Artificial Intelligence: the EU, Liability and the Retail sector”, Robotics Law Journal, 8 May 2017. See: http://www.roboticslawiournal.com/ (27- 5- 2018).

([41]) يشير البعض إلى أن المصنع ق يحمي نفسه من خلال النص في بنود عقد الاستخدام الذي يوقع من المشتري على تحمله وحده المسئولية الجنائية عن الجرائم المرتكبة من هذا الكيان، وإخلاء مسئولية المصنع عن أي جريمة ترتكب منه، إلا أن الرأي لدى الباحث أن مثل هذه الاتفاقات أو العقود لا تخلي مسئوليته، إذا ثبت لجهات التحقيق أو الحكم أن وقوع الجريمة بسبب خطأ المصنع، في ضوء القواعد الجديدة التي تقرر مسئولية الشخص الاعتباري والمسئول عن إدارته الفعلية عن الجرائم التي تقع بسبب استخدام مثل هذه الكيانات، انظر: د. يحيى دهشان، المرجع السابق، ص ٢١.

([42]) NEVEJANS Nathalie, “Directorate-General for Internal Policies, Policy Department C; Citizens’ Rights and Constitutional Affairs, Legal Affairs, European Civil Law Rules in Robotics, No. EA n° 2471, October 2016, p. 16.

 ([43])Moritz GOELDNER, Cornelius HERSTATT, Frank TIETZE, op. cit., p. 2.

([44]) Cristono ALMONTE vs. AVERNA VISION & ROBOTICS, INC.; United States District Court, W. D. New York., No. 11-CV-1088 EAW, 128 F. Supp. 3d 729 (2015), Signed August 31, 2015.

([45]) Joshua DREXLER vs. TEL NEXX, INC.,, etc..,; United States District Court, D. Massachusetts, Civil Action No. 13-CV-13009-DPW, 125 F. Supp. 3d 361 (2015), Signed August 28, 2015.

([46]) د. همام القوصي، المرجع السابق، ص ٨٩.

([47]) المرجع السابق، ص ص ٨٩، ٩٠

([48]) Cristono ALMONTE vs. AVERNA VISION & ROBOTICS, INC.; United States District Court, W. D. New York., No. 11-CV-1088 EAW, 128 F. Supp. 3d 729 (2015), Signed August 31, 2015.

([49]) Sabine GLESS, Emily SILVERMAN, Thomas WEIGEND, “If Robots Cause Harm, Who Is to Blame? Self-Driving Cars and Criminal Liability”, New Criminal Law Review, SSRN, January 29, 2016, pp. 1- 12

([50]) أحمد إبراهيم، المرجع السابق، ص 102 و١٧٤.

([51]) د. أحمد عوض بلال، القسم العام، مرجع سابق، ص ٦٩٤ وما بعدها؛ د. عبد العظيم مرسي وزير، شرح قانون العقوبات -القسم العام، النظرية العامة للجريمة، القاهرة، دار النهضة العربية، ٢٠٠٨، ص ٤٤١ وما بعدها؛ د. حامد راشد، شرح قانون العقوبات -القسم العام، النظرية العامة للجريمة، ج ١، ٢٠١١، ط ١، ص ٢٢٧.

([52]) انظر: رأي كل من جون كينجستون الباحث بجامعة برايتون بالمملكة المتحدة وجابريل هاليفي الباحث بجامعة أونو بالولايات المتخذة الأمريكية، حول المسئولية القانونية لبرامج وتطبيقات الذكاء الاصطناعي، منشورة على موقع MIT Technology Review على الرابط:

https://technologyreview.ae

([53])د. أحمد عوض بلال، القسم العام، مرجع سابق، ص ٦٨٢ وما بعدها؛ د. عبد العظيم مرسي وزير، القسم العام، مرجع سابق، ص ٤١٠ وما بعدها؛ د. حامد راشد، القسم العام، مرجع سابق، ص ٢٣٣.

([54]) د. همام القوصي، المرجع السابق، ص ٩٣.

([55])د. يحيى دهشان، المرجع السابق، ص 21.

([56]) د. يحي الهشان، المرجع السابق، ص 39؛ د. أحمد إبراهيم، مرجع سابق، ص ١٠١، ومن الفقه المقارن، انظر:

Gabriel Hallevy. (2010). “The Criminal Liability of Artificial Intelligence Entities- from Science Fictions to Legal Social Control”, Akron Law Journal, 4 (2), p. 132; Rafael, Calvo, Sidney K. D’Mello, Jonathan Gratch & Arvid Kappas, The Oxford Handbook of Affective Computing (1st edn, Oxford 2015), p. 176.

([57])د. محمود نجيب حسني، المساهمة الجنائية في التشريعات العربية، القاهرة، دار النهضة العربية، ١٩٩٢، ص ١٥٤؛ د. فوزية عبد الستار، المساهمة الأصلية في الجريمة، رسالة دكتوراه، جامعة القاهرة، ١٩٦٧، ص ٣٤٠.

([58]) ومن التشريعات الجنائية التي عرفت نظرية الفاعل المعنوي التشريع الألماني (م 25/ 1 عقوبات) والتشريع الكويتي (م 47/ 3 من قانون الجزاء) والتشريع العراقي (م 47/ 3 عقوبات)، والتشريع الإماراتي (م 44/ 3 عقوبات)، والتشريع الجزائري (م ٤٥ عقوبات)، والتشريع البحريني (م ٤٣ عقوبات).

([59]) د. محمود نجيب حسني، المساهمة الجنائية، مرجع سابق، ص ١٥٧.

([60])د. يحيى دهشان، المرجع السابق، ص 42.

([61])د. محمود نجيب حسني، المساهمة الجنائية، مرجع سابق، ص ٢٣٠.

([62]) ومن صور العقوبات المقررة للأشخاص الاعتبارية، نذكر منها على سبيل المثال: الغرامة المالية، وإيقاف ترخيص مزاولة الشخص الاعتباري للنشاط لمدة محددة، وإلغاء الترخيص أو حل الشخص الاعتباري، ونشر الحكم على نفقة الشخص الاعتباري.

([63])انظر: رأي كل من جون كينجستون الباحث بجامعة برايتون بالمملكة المتحدة وجابريل هاليفي الباحث بجامعة أونو بالولايات المتحدة الأمريكية، حول المسئولية القانونية لبرامج وتطبيقات الذكاء الاصطناعي، منشورة على موقع MIT Technology Review على الرابط:

https://technologyreview.ae

([64]) الموضع السابق.

([65]) د. عبد التواب معوض الشوربجي، دروس في قانون العقوبات -القسم العام، كلية الحقوق، جامعة الزقازيق، ٢٠١٧، ص 176؛ د. يحيى دهشان، المرجع السابق، ص ٢٩.

([66]) د. يحيى دهشان، المرجع السابق، ص 27.

([67])تنص المادة 245 عقوبات على أنه: “لا عقوبة مطلقا على من قتل غيره أو أصابه بجراح أو ضربه أثناء استعمال حق الدفاع الشرعي عن نفسه أو ماله أو عن نفس غيره أو ماله”، ويتضح من النص أن حق الدفاع الشرعي قاصر على الإنسان فحسب، انظر: د. عبد العظيم وزير، القسم العام، ص ٦٢٠ وما بعدها.

([68])د. يحيى دهشان، المرجع السابق، ص 27.

([69])المرجع السابق، ص ٢٨.

([70]) المرجع السابق، ص ٨.

([71])المرجع السابق، ص ٤١.

([72]) أحمد إبراهيم، المرجع السابق، ص ٨٥.

([73])انظر: رأي كل من جون كينجستون الباحث بجامعة برايتون بالمملكة المتحدة وجابريل هاليفي الباحث بجامعة أونو بالولايات المتحدة الأمريكية، حول المسئولية القانونية لبرامج وتطبيقات الذكاء الاصطناعي، منشورة على موقع MIT Technology Review على الرابط:

https://technologyreview.ae

https://powderencouraged.com/zht6b3bs66?key=8523542c4aaf6f083ce56f74bd271319
https://powderencouraged.com/w3m6c9b5?key=af8b4909c0965493e9682d74bb50a646
https://powderencouraged.com/ksq5rgwdmh?key=b5b47a0d83f8742dcf71d4de8ef00494
https://powderencouraged.com/bkcduddx?key=0252cc21d0f4e0ae5f53245940611301
×
error: Content is protected !!