banner

إعداد

د/ محمد السعيد السيد محمد المشد
محاضر بمعهد مصر العالي للتجارة والحاسبات بالمنصورة

الملخص

لم يأل أساتذتنا الأجلاء جهدا كي يملؤوا المكتبة القانونية بمؤلفاتهم القيمة لأصول المسئولية المدنية بنوعيها، سواء عقدية، أو غير عقدية (تقصيرية) بما تحمله من قواعد لمسئولية الشخص عن فعله الشخصي، أو فعل غيره، أو فعل الحيوان، الأشياء، والآلات الميكانيكية؛ وهذا ما لم نقصده، وإنما أردنا من هذا البحث أن نلقي الضوء على نظرية جديدة للمسئولية من أضرار نظم الذكاء الاصطناعي غير المراقب.

ويكتنف الغموض موضوع الشخصية الافتراضية لنظم الذكاء الاصطناعي: فعلى الرغم من أن نظم الذكاء الاصطناعي في نظر المشرع المصري آلة مهما بلغت حدة ذكائها، فإنها آلة تحاكي الذكاء البشري إلى الدرجة التي باتت فيها قواعد المسئولية المدنية التقليدية غير عادلة، وعلى الرغم من أن المشرع الأوروبي منح نظم الذكاء الاصطناعي منزلة مستقبلية أرقى من الآلة الجامدة، فإنه لم ينص صراحة على الاعتراف بالشخصية الافتراضية لها.

ونجد أن استجابة نظم المسئولية الحالية لتعويض مضار نظم الذكاء الاصطناعي محدودة، وحتى الآن يحمد لنظم المسئولية التقليدية ذلك، حيث لم تظهر للوجود تقنيات ذكية ذاتية التحكم مائة بالمائة حتى الساعة، ولكن لا بد من التفكير في الإشكالات القانونية التي يثيرها استعمال وتشغيل نظم الذكاء الاصطناعي غير المراقب.

يظهر بوضوح من معالجتنا لموضوع المسئولية المدنية عن أضرار نظم الذكاء الاصطناعي، أن المشرع المصري أمامه مهمة تغيير جذرية في الفكر التشريعي، وليس مجرد إضافة تعديلات في القواعد العامة؛ فالمطلوب مواجهة طوفان التكنولوجيا بما يحقق دعما للابتكار، مع عدم الإخلال بحقوق المضرورين.

وبناء عليه؛ نحاول أن نكشف بموجب هذا البحث عن أسس نظرية جديدة حول المسؤولية من أضرار نظم الذكاء الاصطناعي غير المراقب.

الباحث

مقدمة:

إن الخصوصية التي تتسم بها نظم الذكاء الاصطناعي تعد هي النقطة الأساس لحث المشرع والفقه والقضاء على تطوير آليات المسئولية التقليدية، خاصة بعد أن أصبحت المسئولية عن أضرار نظم الذكاء الاصطناعي واقعا نعيشه، حيث تتمتع الكائنات الجديدة بقدرات على التسيير الذاتي والتفاعل مع محيطها الخارجي.

ويعد الذكاء الاصطناعي بصفة عامة من أهم المواضيع التي طرقت كل مجالات الحياة: العلمية، والأكاديمية، والإنسانية.

إشكالية البحث:

نحاول من خلال هذا البحث المتواضع، توضيح الموقف الفقهي والقضائي- لا سيما التشريعي- من تحديد المركز القانوني لنظم الذكاء الاصطناعي، ومدى الحاجة التشريعية لوضع نظام قانوني جديد للمسئولية عن أضرار نظم الذكاء الاصطناعي.

منهج البحث:

ارتأينا تماشيا مع حداثة الموضوع أن نتبع المنهج التحليلي الاستقرائي، ويرجع اختيارنا لهذين المنهجين معا لحداثة موضوع الحماية القانونية من أضرار نظم الذكاء الاصطناعي غير المراقب، ولتحليل بعض الآراء الفقهية والنصوص التشريعية خاصة الخاصة بالقانون المدني الأوروبي بشأن الروبوتات.

خطة البحث:

نقوم بتقسيم هذا البحث إلى مبحثين على النحو الآتي:

المبحث الأول: الإطار القانوني للمسئولية المدنية عن أضرار نظم الذكاء الاصطناعي.

المبحث الثاني: خصوصية المسئولية المدنية عن أضرار نظم الذكاء الاصطناعي.

المبحث الأول

الإطار القانوني للمسئولية عن أضرار نظم الذكاء الاصطناعي

في الإطار القانوني العام تنقسم المسئولية إلى قسمين رئيسين، هما: المسئولية المدنية والمسئولية الجنائية ([1])، وقيام هذه المسئولية بنوعيها المدني والجنائي يقوم على ارتكاب فعل غير مشروع في كلتا المسئوليتين، وبالنسبة للمسئولية المدنية التي هي موضوع بحثنا، نجد أنه يشترط وجود خطأ، وإحداثه لضرر، مع قيام علاقة السببية بين الخطأ والضرر، الأمر الذي يوجب التعويض ([2])، وبالتالي فإن فكرة المسئولية المدنية تقتضي ألا يترك أي ضرر دون تعويض بحيث يكون كل شخص مسئولا عن أفعاله كأصل عام، وعن أفعال غيره كاستثناء.

وعليه، يغدو السؤال عن الأساس القانوني لفكرة المسئولية المدنية هو الفيصل في تحديد إمكانية انطباق هذه الفكرة على نظم الذكاء الاصطناعي من عدمه، ما يوجب البحث في مدى توافق فكرة المسئولية المدنية مع الذكاء الاصطناعي.

لذا؛ نقسم هذا المبحث إلى مطلبين كالآتي:

المطلب الأول: الذكاء الاصطناعي وفكرة المسئولية.

المطلب الثاني: نحو شخصية افتراضية لنظم الذكاء الاصطناعي.

المطلب الأول

الذكاء الاصطناعي وفكرة المسئولية

في القانون المدني القاعدة العامة للمسئولية المدنية: «كل خطأ سبب ضررا للغير يلتزم من ارتكبه بالتعويض» ([3]). هذه القاعدة ترتكز على عناصر ثلاثة: الخطأ، والضرر، وعلاقة السببية بينهما. بالتالي، لا يوجد من الناحية القانونية- أي في الواقع القانوني- أي انتفاء لمفهوم التعويض عن الضرر حال تحققه، وهذا أساس فكرة قيام المسئولية المدنية، ببعديها التعاقدي والتقصيري، لكن السؤال هو: هل القواعد القانونية المدنية الحالية قادرة على استيعاب حالات الخطأ لنظم الذكاء الاصطناعي ومعالجة حالات الضرر الناجمة عن ذلك؟

فمن الناحية القانونية تقوم فكرة المسئولية المدنية على قدرة الشخص على الإدراك، والمتمثل باكتمال العقل مع بلوغ سن الرشد ([4]). وعليه، اعتبر المشرع أن الشخص يعد مسئولا عن تصرفاته حينما يرتكب فعلا يحاسب عليه القانون، ترتب عليه ضرر للغير، فلا مسئولية إلا بالإدراك المنسوب إلى شخص معين. من هذه الناحية، هل يمكن اعتبار الذكاء الاصطناعي مسئولا؟ ([5]) إن الإجابة عن هذا السؤال ليست بالسهولة التي يمكن أن يتصورها البعض، وتحتاج إلى تفصيل معمق في مدى ارتباط قيام المسئولية بوجود الشخصية القانونية والاعتراف بها.

وقبل أن نشرع في الإجابة، يجب التنويه إلى أن التقسيم القانوني التقليدي لفكرة الأهلية، لا سيما فيما يتعلق بأهلية الوجوب القائمة على الحق في اكتساب الحقوق، قد خضع- وتحديدا في التشريعات الغربية- للعديد من التجاوزات، خصوصا منها ما يتعلق بالاعتراف ببعض سمات الشخصية القانونية للحيوان في بعض جوانبها؛ من حيث قدرة بعض الحيوانات على اكتساب الحقوق، سواء في إطار ضوابط القانون الجنائي أو المدني، من حيث تجريم الاعتداء على الحيوانات، أو من حيث إمكانية الوصية لهذه الحيوانات. فهذه الحقوق لا يقرها القانون إلا في إطار الاعتراف بمركز قانوني معتبر، قائم على الاعتراف بجانب من الشخصية القانونية لهذه الحيوانات، لكن حتى الآن لم يعترف لهذه الحيوانات بمكنة تحمل المسئوليات بسبب انتفاء العقل لديها ([6])؛ لارتباط المسئولية بالإدراك.

يتضح من العرض السابق، أن الكائن الذي يتمتع بأهلية الوجوب فقط، يتمتع بالشخصية القانونية، دون أن يكون مسئولا عن تصرفاته ([7])، وبإسقاط الفكرة على نظم الذكاء الاصطناعي، نجد أنها لا تتحمل المسئولية، دون أن نعني بذلك انتفاء فكرة المسئولية وإصلاح الضرر الناجم عن أفعال نظم الذكاء الاصطناعي، ومن النقطة الأخيرة نطرح سؤالا آخر: هل يمكن القول بأن نظم الذكاء الاصطناعي بوضعه الحالي يدرك تصرفاته؟ وعليه هل هو مسئول عن تصرفاته؟ في الحقيقة، وبغض النظر عن عصر الذكاء الاصطناعي الذي نعيشه- شئنا أم أبينا- لم يظهر للوجود تقنيات ذكية ذاتية التحكم بشكل مطلق، إلا أن مجتمعاتنا تشهد ثورة تكنولوجية تنبئ بأنه على المدىالقريب جدا، قد يصل الذكاء الاصطناعي لمستوى الذكاء الطبيعي أو يتجاوزه ([8]). وبالتالي ستكون الإجابة بالنفي؛ فالمسألة لا تتعلق بالذكاء الاصطناعي، وإنما تتعلق بالإدراك والوعي.

ومن نافلة القول التقرير بأنه مع غياب فكرة الإدراك المستقل للذكاء الاصطناعي، يغدو الحديث عن مسئوليته القانونية الخاصة أمرا مستبعدا، على الأقل في المدى المنظور، غير أن ذلك لا يعني بحال من الأحوال انتفاء قيام قواعد المسئولية المدنية عن نشاطه القانوني، ما يحتم بالضرورة البحث في تأصيل فكرة هذه المسئولية في القواعد القانونية المدنية الحالية، والتي تبقى قاصرة عن الإحاطة بمختلف الجوانب المتأتية من هذه المسئولية لأمرين اثنين؛ أولهما: الطبيعة الخاصة للذكاء الاصطناعي، وثانيهما: خصوصية المسئولية القانونية الناجمة عن نشاط الذكاء الاصطناعي ([9]).

وبالتحليل والتفكير المتأتي بهذا الكائن الجديد الفريد المتعدد المهارات، نجد اعتباره بحكم الأشياء أمرا محل نظر، فسمة الجمود التي تطبع فكرة الشيء في القانون، لا يمكن إطلاقها على الذكاء الاصطناعي، كما أن سمة الانقياد الأعمى المنعدم التفكير غير متوافرة في الذكاء الاصطناعي، مما يجعله أيضا بعيدا عن فكرة الحيوان ([10]).

ومما لا شك فيه، أن المسئولية عن أضرار نظم الذكاء الاصطناعي ليست قصة مستمدة من الخيال، أو من سيناريوهات أفلام الخيال العلمي، بل يتعلق الأمر هنا بواقع نعيشه أو من المحتمل جدا أن نعيشه غدا، في غضون العقد المقبل؛ نتيجة اندماج كيانات متطورة في حياتنا اليومية تتمتع بقدرات عالية من الذكاء الاصطناعي، إضافة إلى قدرتها على التسيير الذاتي والتفاعل مع محيطها الخارجي والقدرة على التعلم الذاتي ([11]).

جدير بالذكر: أن الفقه انقسم إلى فريقين؛ يرى الفريق الأول أن قواعد المسئولية القانونية المدنية القائمة كافية للإحاطة بمختلف حالات الخطأ والضرر الناجمين عن نظم الذكاء الاصطناعي، ويرى البعض الآخر أن في هذا الأمر تبسيطا للأمور، وتجاهلا لواقع التطور الحاصل نتيجة اقتحام الذكاء الاصطناعي عالم القانون، ناقلا نظم الذكاء الاصطناعي من حيث الأشياء لحيز الأشخاص ([12])، حيث يستند الفريق الأول إلى القواعد القانونية الناظمة لأحكام المسئولية في القانون المدني، سواء المتعلقة بالمسئولية التعاقدية أو المسئولية التقصيرية، مؤكدين على القاعدة الذهبية للمسئولية التعاقدية، القائمة على أن العقد شريعة المتعاقدين. وعليه، فإن قواعد المسئولية المنظمة لمختلف حالات الخطأ والضرر في هذه الفرضية، تخضع للشروط التعاقدية بين الطرفين ([13])، ومشددين، أن القواعد القانونية الخاصة بالمسئولية التقصيرية، لا سيما المتعلقة بالمسئولية عن الأشياء والمسئولية عن ضمان العيوب الناشئة عن سوء التصنيع، تضمن كذلك مختلف حالات الخطأ والضرر.

بالمقابل، بالنسبة للفريق الآخر، فإن هذا التوجه- على الرغم من عقلانيته- يبقى في جوانب عديدة منه قاصرا عن فهم طبيعة وخصوصية المسئولية القانونية، ببعديها التعاقدي والتقصيري، ضمن هذه المسئولية، التي يتداخل فيها عنصر الذكاء البشري مع عنصر الذكاء الاصطناعي، فهذا الأخير بالرغم من كونه تابعا للأول ومنقادا له، إلا أن له وجوده وحضوره الخاص. فالذكاء الاصطناعي لديه، لا نقول تفكيره الخاص، ولكن تحليله الخاص للأمور، ومحاكمته المفترضة ضمن الخيارات المتاحة، لا سيما بالنسبة لنظم الذكاء الاصطناعي التي يمكنها من خلال برمجيتها، أن تتخذ قرارات منفصلة عن صانعيه، في إطار ما يسمى ب: “القرارات الاستنتاجية”!، التي تتكون من جملة من الاحتمالات المخزنة فيها، فنظم الذكاء الاصطناعي لديها القدرة على الاختيار فيما بينها، وفقا لطبيعة الموقف، بعيدا عن القول بحتمية علم المصنع أو المبرمج بهذا القرار، بمعنى أن لديها جملة من الخيارات، عليه أن يختار فيما بينها، جميعها صحيحة بالنسبة له، لكن سلطة الانتقاء بين هذه القرارات ليست بيد الصانع أو المبرمج، وإنما بيده هو، كما هو الحال في قضية جهاز المحادثة (Tay) من مايكروسوفت لعام ٢٠١٦، الذي أرسل عبر حساب تويتر، وفي ثماني ساعات فقط، آلاف الرسائل الإلكترونية التي كانت جميعها صحيحة بالنسبة له، بذات الوقت الذي كانت تنطوي فيه على تعابير ومصطلحات عنصرية مناقضة للقوانين ([14]).

لذا؛ على المشرع المدني التدخل الفاعل لوضع قواعد قانونية خاصة تنظم أحكام المسئولية المدنية لنظم الذكاء الاصطناعي، وألا تتركها في إطار جملة من القواعد القانونية العامة والمتفرقة، فالقواعد القانونية الحالية- رغم عظيم أهميتها- تبقى غير كافية، لا سيما في إطار تحديد قواعد المسئولية القانونية، وطرق الإثبات، وطبيعة التعويض القانوني، وكنا نأمل لو أن المشرع المدني الفرنسي قد تنبه إلى أهمية هذه الحالة، وأدخل ضمن التعديل الأخير لأحكام القانون المدني، سواء المقر منها، أي ما يتعلق بتعديل نظرية العقد، أم التي ستقر لاحفا، ونعني بها نظرية المسئولية المدنية، أحكاما قانونية خاصة، تتناول طبيعة المسئولية القانونية لنظم الذكاء الاصطناعي، الأمر الذي ناسف له، ونتمنى من المشرع المدني المصري والفرنسي تلافيه في أقرب فرصة تشريعية ممكنة ([15]).

أخيرا، ثمة سؤال يطرح حول المسئولية القانونية لنظم الذكاء الاصطناعي في التشريعات العربية، فرغم أن الاجتهاد القضائي العربي لم يتعرض حتى حينه- وفقا لعلمنا الشخصي- لمسائل قانونية ذات صلة بالمسئولية القانونية لنظم الذكاء الاصطناعي، فإنه لا يمكن القول، وتحديدا من ناحية التقنين القانوني، إن الوضع القانوني في التشريعات العربية، بشكل عام، يكاد يكون مماثلا لما عليه واقع الحال في التشريع الغربي، ونعني بذلك المدرسة الفرنسية، الجذر التشريعي الأكثر حضورا في المدرسة القانونية المدنية العربية، وبالتالي لا يزال يدخل أحكام هذه المسئولية في إطار قواعد المسئولية المدنية ببعديها التعاقدي والتقصيري، لا سيما المسئولية الناشئة عن الأشياء؛ نظرا لكون التكييف القانوني لنظم الذكاء الاصطناعي لا يزال في اعتباره بحكم الشيء، لا الشخص ([16]).

بالرغم من ذلك، تبقى النصوص القانونية الفرنسية سباقة في الإحاطة الأشمل لمختلف جوانب هذه المسئولية أكثر من نظيرتها العربية، لا سيما بعدما أدخل المشرع الفرنسي فكرة المسئولية عن عيوب التصنيع في التقنين المدني الفرنسي في عام ١٩٩٨ ([17])، والتي استند إليها كثير من الفقه الفرنسي، في الدفاع عن قابلية قواعد المسئولية المدنية في التشريع الفرنسي للإحاطة بمختلف الحالات التي يثيرها الدخول القانوني لهذا القادم الجديد في البيئة المجتمعية الفرنسية.

في نهاية هذا المطلب؛ نود التأكيد على أننا نميل إلى اعتبار نظم الذكاء الاصطناعي في حكم الشيء في الوقت الحالي، لكن هذا لا يحول دون أن نستعد لما هو آت، حيث أصبح الذكاء الاصطناعي مفهوما متداولا جدا، وقد دخل جميع المجالات العلمية وحتى العلوم الإنسانية ([18]).

المطلب الثاني

نحو شخصية افتراضية لنظم الذكاء الاصطناعي

إن أردنا الخوض في الاحتمالات الممكنة للشخصية الافتراضية لنظم الذكاء الاصطناعي، فيبدو أننا يجب أن نبدأ ليس من الصفر، بل من تحت الصفر؛ أي من العدم (المرتبة الشيئية- الشيء)، ثم ننتقل إلى مرحلة منح الشخصية غير المميزة (المرتبة المعنوية غير المميزة).

أولا: الشخصية الافتراضية لنظم الذكاء الاصطناعي في المرتبة الشيئية قديما:

كان المشرع المصري- وما يزال- ينظر نحو الروبوت وكأنه شيء تقليدي أصم، وهذه النظرة لا تختلف بين أنواع نظم الذكاء الاصطناعي؛ فكل هذه الاختراعات بنظر المشرع هي آلات؛ أي أشياء لا تعقل.

رغم أن الخدمات التي قدمها الذكاء الاصطناعي لا حصر لها، حيث كانت بعض العمليات الحاسوبية مستحيلة في السابق، فإن الأضرار الآتية من نظم الذكاء الاصطناعي العاملة بموجب هذا الذكاء ([19]) لا حصر لها أيضا؛ فتبدأ من الأضرار المادية البدنية إلى الأضرار الذهنية التي تؤدي إلى خداع مخيلة الإنسان وقيادة إدراكه نحو صورة مضللة ([20])، وكان لا بد على القانون من مواجهة هذا الوقع المستجد.

ولكن كيف ستكون تلك المواجهة، في الوقت الذي يبدو أن على المشرع أن يختار بين اعتبار نظم الذكاء الاصطناعي كأداة شيء أو كشخص كما ذكر جانب من الفقه ([21])، وهو سيختار الحل الأول بالتأكيد في الوقت الحالي، 236 لا يصح أن يتمتع بالشخصية القانونية.

وقد أقر المشرع المصري القاعدة الأساسية في القانون المدني حول المسئولية، فقد نص على أنه: «كل خطأ سبب ضررا للغير يلزم من ارتكبه بالتعويض…” ([22])؛ وهذا ما يشير بشكل واضح إلى أن المسئولية المدنية تقع فقط على من يقر القانون لهم التمتع بصفة الأشخاص سواء الشخص الطبيعي أم المعنوي.

فالعبارة المذكورة في القانون المدني لا يمكن تفسيرها – وفقا لقصد المشرع – على أنها يمكن أن تشمل الأشياء إلى جانب الأشخاص، حيث إن المشرع استخدم حرف: منا، وهذا الحرف يستخدم للدلالة على الأشخاص؛ فنقول: من المسئول؟» وليس امن الشيء المسئول؟” بل: “ما هو الشيء؟.

ولكن لا بد للآلة الذكية من قواعد قانونية تحكم عملها غير المشروع، فلا يمكن ترك وقائع الضرر التي قد تتسبب به نظم الذكاء الاصطناعي دون أصيل قانوني.

وبناء عليه، فلا يبدو أمام القضاء- في ظل البيئة التشريعية الحالية- سوى الاعتماد على تأصيل نظم الذكاء الاصطناعي على أنه شيء: “…. يتطلب عناية خاصة لمنع وقوع الضرر منه…” ([23])؛ أي كما شرح الأستاذ BOURCIER من الفقه الفرنسي أن على القانون حماية الأفراد من استخدامات الذكاء الاصطناعي ([24]).

وبالتالي فإن على المحكمة- بغض النظر عن اقتناعها- تطبيق قواعد حارس الأشياء على المسئولية المدنية المترتبة على أخطاء الآلات الذكية، وكأن نظم الذكاء الاصطناعي هو سيارة أو آلات صناعية ميكانيكية.

وهذا يعني أن حارس نظم الذكاء الاصطناعي سيتحمل مسئولية مدنية غاية في الثقل، فعلى الرغم من أن الروبوت- من الناحية التقنية- مستقل ذاتيا ويتمتع بقدرة على تجنب الأخطار، فإن حارسه سيسأل عن أي ضرر آت من تشغيله بشكل مفترض دون حاجة لإثبات الخطأ، بحيث لا يمكن دفع هذه المسئولية إلا عبر إثبات السبب الأجنبي([25])، وهي مهمة قانونية عسيرة.

ثانيا: الشخصية الافتراضية لنظم الذكاء الاصطناعي في المرتبة الشيئية حديثا:

أ‌-               رؤية المشرع الأوربي الحديثة للروبوت كأحد أنظمة الذكاء الاصطناعي

رغبة من المشرع الأوربي في ركوب موجة التطوير الهائل التي تضرب عالم التكنولوجيا؛ فقد أصدر البرلمان الأوروبي قانونا مدنيا خاصا بالروبوتات”Civil Law Rules on Robortics- règles de Droit Civil sur la Robotique” عام ٢٠١٧ ألغى بموجبه وصف الشيء بالنسبة للربوت، واعتمد الأوصاف التالية:

·       “النائب الإلكتروني غير الإنساني (النظام الإلكتروني) ([26]) للدلالة الاجتماعية على الربوت الذي يصبح جزءا من شخصية الإنسان.

·       “النائب الإنساني ([27]) للدلالة القانونية على الإنسان المسئول عن أخطاء تشغيل الروبوت.

وقد شرح الفقه الألماني تأسيس النيابة القانونية استنادا على شخصية الإنسان أو الكيان الذي يمتلك أو يشغل الروبوت ([28])؛ فالآلة النائبة إلكترونيا واجتماعيا عنالشخص ترخي بآثار تصرفاتها غير المشروعة على هذا الشخص ([29])؛ فينوب الشخص (النائب الإنساني) بقوة القانون عن روبوته (النائب الإلكتروني).

ونتساءل هنا: هل منح الروبوت لصفة المناب عنها قد نفت عنه صفة الشيء تأصيلا على أن الشيء لا يمكن أن يكون منابا عنه بل شيئا لا شخصية له؟

الواقع أنه على الرغم من كل هذا التغيير الأوروبي الجذري في فكرة حارس الأشياء انتقالا إلى فكرة النائب الإنساني عن الآلات الذكية بقوة القانون، إلا أن هذا التغيير قد بقي شكليا في نظر المشرع الأوروبي على ما يبدو.

فالنائب الإنساني- وفقا للقانون الأوروبي المشار إليه- قد بقي مسئولا بشكل شخصي كامل عن الروبوت، ليس بوصف الإنسان نائبا كما تدل عليه تسمية النائب الإنساني، بل بوصفه مالكا أو مشغلا أو مصنعا أو مستعملا ([30])، بغض النظر عن تغيير أركان قيام هذه المسئولية من الخطأ المفترض إلى الخطأ واجب الإثبات ([31]).

وبالتالي، فما يبدو لنا بكل وضوح هو أن المشرع الأوروبي لم يعترف من جهة بشخصية افتراضية إلكترونية مطلقة للروبوت مثل شخصية البشر؛ بدليل أن الروبوت مملوك لشخص آخر، ومن جهة أخرى فإن هذا المشرع لم يعترف بشخصية قانونية معنوية محدودة الحقوق والواجبات كما لدى الشركات؛ بدليل أنه لم ينظم كيفية منحها، ولم يشر إلى آثارها من وجود ذمة مالية مستقلة للروبوتات أبدا، بل أكد على مسئولية الشخص كنائب إنساني عن الروبوت فقط دون قيام مسئولية الروبوت عن نفسه.

أما عن كون الروبوت نائبا إلكترونيا عن النائب الإنساني، فهو خيال تقني واجتماعي وليس قانونيا حتى الآن، ولكن هذا الفكر هو أساس تبرير مسئولية النائب الإنساني قانونيا عن نائبه الإلكتروني بعد انتهاء الأساس الفكري المستند لحراسة الأشياء التقليدية.

فالنائب الإنساني (الشخص) يسأل عن أعمال نائبه الإلكتروني (الروبوت) الذي يمثل شخصيته في المجتمع.

ب‌-          التطبيقات القضائية الحديثة للروبوت كأحد أنظمة الذكاء الاصطناعي:

في التطبيقات القضائية الحديثة للروبوت الشيء، يبدو أن مصطلح النائب الإلكتروني» قد استخدمه القضاء الأمريكي عام ٢٠١٦ للدلالة على برامج الحاسوب المستقلة ([32]).

وقد توافقت هذه الرؤية مع محكمة النقض الفرنسية التي أشارت عام ٢٠١٨ إلى روبوت الإجابة عن رسائل البريد الإلكتروني على أنه مجرد: برنامج حاسوبي/ معلوماتي ([33]) دون منحه أية صفة نيابية عن مشغله؛ أي مجرد وسيلة تسهم في تدفق البيانات في الفضاء الرقمي خدمة للحاجات العامة من جهة أخرى.

وبناء عليه، فإن المرحلة التي جاءت بها نظرية النائب الإنساني لم تحمل أي تغيير في المكانة القانونية لنظم الذكاء الاصطناعي من الناحية الفعلية، فبقي شيئا وإن كان ذكيا.

ولذلك، فقد بادر جانب من الفقه العربي بإطلاق فكرة مفادها أنه: حان الوقت لمعاملة (الأنظمة الإلكترونية) كالكائنات البشرية”Time to Treat Them (Electronic Agents) as Human Beings” ([34])

ونحن نرى؛ أنه من غير المفاجئ في المستقبل أن يتم منح الشخصية القانونية “المعنوية غير المميزة”! لنظم الذكاء الاصطناعي بغرض جعله أهلا لملكية ذمة مالية مسجلة باسمه بشكل رسمي، فتكون مثقلة بالالتزامات التي تنشأ عن أعمال نظم الذكاء غير الاصطناعي غير المشروعة، ورصيدا لثمار أعماله المشروعة؛ حيث إن أجيال نظم الذكاء الاصطناعي غير المراقب الحالية باتت قادرة على العمل والإنتاج والإبداع، وهذا ما قد يفتح الإمكانية لها لكي تتقاضى أجرا يودع في ذمتها المالية.

وبالتالي فقد استشرف جانب من الفقه، الشخصية الافتراضية القادمة على هيئة منهج نظري، فيكون: “الشخص الإلكتروني الذي يتحمل الالتزامات القانونية ويكتسب الحقوق، هو- في الواقع- عبارة عن مجموعة من الحقوق والواجبات؛ ومحتوى الحقوق والالتزامات هي وقائع الذكاء الاصطناعي”([35]).

وهذا ما سيجعل نظم الذكاء الاصطناعي قادرا على تحمل الالتزامات المالية الناتجة عن أخطائه في حال ملاءته، أو الرجوع على نائبه الإنساني في حال عسره ([36]).

في نهاية هذا المطلب: نجد أنه يكتنف الغموض موضوع الشخصية الافتراضية لنظم الذكاء الاصطناعي: فعلى الرغم من أن نظم الذكاء الاصطناعي في نظر المشرع المصري آلة مهما بلغت حدة ذكائها، فإنها آلة تحاكي الذكاء البشري إلى الدرجة التي باتت فيها قواعد المسئولية المدنية التقليدية غير عادلة، وعلى الرغم من أن المشرع الأوروبي منح نظم الذكاء الاصطناعي منزلة مستقبلية أرقى من الآلة الجامدة، فإنه لم ينص صراحة على الاعتراف بالشخصية الافتراضية لها، ولعل ما يحمله لنا المستقبل ليس ببعيد في مجال مسئولية نظم الذكاء الاصطناعي.

المبحث الثاني

خصوصية المسئولية المدنية عن أضرار نظم الذكاء الاصطناعي

لقد بات قطاع الصناعة الذكية للنظم ذاتية التحكم، من مركبات برية وطائرات بدون طيار والروبوتات الطبية المستعملة لأغراض الجراحة، مصدرا مقلقا ومؤرقا جراء الآلام وفوات الكسب التي تسهم في إحداثها أطراف عدة (المصمم، الصانع، المستعمل، المشغل)، ويطالب بالتعويض عنها متضررون كثر.

لم تشهد الصناعة الذكية حتى الساعة شيوعا كبيرا في مجتمعنا، ويرجح الفقه وضع نظام للمسئولية عن عمل الروبوتات يتسم بالصرامة يتمثل في إقرار نظام المسئولية بدون خطأ. إلا أن الإشكال الذي لا زال يؤرق الفقه الغربي، هو: هل بإمكاننا الاحتفاظ بالنظم الكلاسيكية للمسئولية وإعمال ما هو متاح منها في مجال الذكاء الاصطناعي؟

ومن الثابت أن ثمة حاليا نظامين بإمكانهما تأطير الحوادث المتأتية عن الذكاء الاصطناعي، الأول: يتمثل في قواعد المسئولية المنظمة لحراسة الأشياء، والثاني: هي أحكام المسئولية المنظمة لفعل المنتجات المعيبة (المطلب الأول)، في حين نادى آخرون بالإصلاح الجذري للقواعد التقليدية للمسئولية، معتبرين أنها لم تعد تستجيب لخصوصيات أضرار الذكاء الاصطناعي (المطلب الثاني).

لذا؛ سنقوم بتقسيم هذا المبحث إلى مطلبين كالآتي:

المطلب الأول: مدى كفاءة وكفاية نظم المسئولية التقليدية للتعويض عن أضرار الذكاء الاصطناعي.

المطلب الثاني: المسئولية المدنية المختارة لتعويض أضرار نظم الذكاء الاصطناعي.

المطلب الأول

مدى كفاءة وكفاية نظم المسئولية التقليدية للتعويض عن أضرار الذكاء الاصطناعي

يرى الفقه أن انتشار تقنيات الذكاء الاصطناعي في المجتمعين الأوروبي والأمريكي، يستدعي تطويع المفاهيم الكلاسيكية للمسئولية المدنية مع الواقع الجديد الذي تفرزه هذه الكيانات، فتمسك الفقه والقضاء الأوروبي والأنجلو- أمريكي، بإجراء بعض التكييفات الطفيفة على هذه المفاهيم، والأمر ذاته قال به بعض الفقه الفرنسي ([37]). أولا: الاعتداد بالذكاء الاصطناعي كأداة مفضية للضرر:

تستند هذه الفكرة التي نادى بها جانب من الفقه ([38])، إلى ما جاءت به أحكام “اتفاقية الأمم المتحدة بشأن استخدام الخطابات الإلكترونية في العقود الدولية” ([39])، حيث أبانت المذكرة الإيضاحية التي أصدرتها أمانة الأونسيترال UNCITRAL، عن المبدأ العام الذي أتت به المادة 12 من الاتفاقية، والذي أقر في فحواه “بوجوب مساءلة أي شخص (طبيعيا كان أم كيانا قانونيا)، قام ببرمجة الحاسوب ليتصرف نيابة عنه، عن فعل أي رسالة تم إصدارها بواسطة هذا الجهاز”. هذا الطرح يتوافق مع القاعدة العامة التي مفادها “أن صاحب الأداة يعد مسئولا عنها وعن عواقب استخدامها، ما دام أنها لا تملك إرادة مستقلة عن مالكها” ([40]).

ويمكن القول، من هذا المنطلق، إن النظرية التي تعتمد بالربوت وتقنيات الذكاء الاصطناعي كأداة، تعترف بوجوب إلقاء عبء تعويض الأضرار التي تفضي إليها على أصحابها وملاكها أو مستعمليها، بناء على مبدا المسئولية عن فعل الغير أو المسئولية النيابية، وهذا ما توصلت إليه باستقراء النتائج التالية ([41]):

أ‌-     أنه لا يمكن لمالك نظم الذكاء الاصطناعي أن يتخلص من المسئولية بداعي أنه لم ينو إبرام مثل هذا العقد.

ب‌-          أنه بإمكان المالك، في حالة السلوك غير المنتظم لنظم الذكاء الاصطناعي، ممارسة حق الرجوع لطلب التعويض من المصمم أو المنتج، ومع ذلك، يبقى عبء الإثبات على هذا المالك، إذ يتعين عليه إثبات أنه كان معيبا، وأن العيب كان موجودا لما كان تحت سيطرة الشركة الصانعة؛ وأن العيب هو السبب المباشر المفضي للأضرار التي لحقت به.

إلا أنه بتحليل مرتكزات النظرية القائلة بوجوب مساءلة مالك نظم الذكاء الاصطناعي أو مستعمله، عن فعل الأضرار التي يرتبها، يتبين أنه من غير المستساغ مساءلة هذه الفئة، عن فعل تقنيات ومكنات ذكية لا سيطرة لهم عليها، هذا ما يقودنا إلى البحث عن فكرة أخرى استند إليها الفقه الأوروبي، متمثلة في اعتبار نظم الذكاء الاصطناعي منتجا.

ثانيا: اعتبار الذكاء الاصطناعي منتجا في نظام المسئولية:

ينتمي دعاة هذه الفكرة إلى المدرسة التقليدية، والتي طالما نادت بإمكانية تطبيق المبادئ المنظمة للمسئولية عن فعل المنتجات لمساءلة الأنظمة الذكية، حيث دعا أصحاب هذا النهج إلى وجوب مساءلة الشركات المصنعة، عن الأضرار التي يمكن أن تنسب إلى “عيب Defect“([42]) في الأنظمة الذكية باعتبارها منتوجا. هذا يعني أن عملية البحث عن مدى تورط المنتوج (الذكاء الاصطناعي) في إلحاق الأضرار الناتجة، يستوجب التحقيق في السبب الفني الذي أدى إلى عدم استجابة المنتوج إلى توقعات المستهلك ([43]).

شهدت في هذا السياق أروقة القضاء في الولايات المتحدة الأمريكية، مقاضاة عدد كبير من الضحايا للشركة الصانعة لنظام الجراحة المعروف بـ”دافنشي The Da Vinci system“، وهو عبارة عن روبوت مخترع من الشركة الأمريكية “Intuitive surgery“. إلا أن جميع الدعاوى باءت بالفشل؛ بسبب صعوبة إثبات تعيب الأنظمة الذكية محل المساءلة ([44]).

فعلى سبيل المثال: شهدت قضية Bryn Mawr vs. Mracek في الولايات المتحدة، مقاضاة المريض “Mracek“ للمستشفى ولنظام الجراحة الذكية، جراءالمشاكل التي عانى منها في جهازه التناسلي وآلام في بطنه بعد العملية الجراحية التي أجريت له بواسطة نظام دافنشي The Da Vinci system لإزالة البروستات منه، علما أن النظام عرف مشاكل تقنية عند تشغيله أثناء الجراحة، ومع ذلك، تم تبرئة المدعى عليهم للوهلة الأولى من دون الولوج في تفاصيل المحاكمة([45]).

وما يزيد في تعقيد مهمة إيجاد المسئول عن الأنظمة الذكية وفق قواعد مسئولية المنتج، صعوبة وضع حدود فاصلة بين الأضرار اللاحقة بفعل النظام الذكي ذاته، أي المستمدة من قرار ذاتي اتخذه النظام، عن باقي الأضرار الناجمة عن فعل عيب أو خلل موجود في النظام الذكي أو الروبوت.

وفي ظل غياب اجتهادات قضائية في المسألة حتى الساعة، حاول الفقه اقتراح بعض التوصيفات التي من المرجح أن يعتمدها القضاء الأمريكي، من خلال انتهاج “سياسة التشبيه» وقياس نظم الذكاء الاصطناعي بأنظمة أخرى سبق للقضاء إرساء قواعد المسئولية المطبقة عليها، ولعل أهم المقارنات والتشبيهات المستقاة هنا، تشبيه نظم الذكاء الاصطناعي بالمصاعد، وكذا تشبيهها بالأحصنة ([46]).

1-            محاولة تشبيه نظم الذكاء الاصطناعي بالمصاعد:

تعد نظرية تشبيه المركبات ذاتية القيادة كأحد نظم الذكاء الاصطناعي بالمصاعد؛ نظرا لنقاط الاشتراك التي تجمع بين النوعين، فالمصاعد هي عبارة عن أنظمة ناقلة للأشخاص بشكل عمودي، يتم إطلاقها يدويا بالنقر على زر مخصص لهذا الغرض، إلا أن العملية تصبح أكثر تعقيدا وتأخذ طابعا أوتوماتيكيا أثناء عملية النقل، فضلا على أن بعض المصاعد تسخر على أنظمة “تشغيل ذكية Intelligent flow system“، يتم فيها اختيار الطابق المقصود بصفة ذكية بناء على الاتجاه الذي يسلكه الراكب، بينما يقتصر دور هذا الأخير في نهاية الأمر على الضغط على الزر لإدراك الوجهة المقصودة ([47]).

إلا أن قياس السيارات الذكية بالمصاعد لم تخل من الانتقاد، حيث اعتبر منتقدوها أن تقنية تشبيه السيارات ذاتية القيادة بالمصاعد لا تصلح؛ لأن المركبات الذكية وخلافا على المصاعد، لا زالت تتطلب مستويات معينة من الرقابة البشرية والإشراف، ولم تبلغ درجة الأتمتة الكاملة ([48]).

أضف إلى ذلك، فإن هذه الأطروحة لا تتوافق مع المنطق؛ لأن مثل هذا القياس سيترتب عنه إخلاء مسئولية كل راكب على متن هذه المركبات قياسا على المصاعد.

2-            محاولة تشبيه نظم الذكاء الاصطناعي بالأحصنة:

تعد هذه من أقوى القياسات التي رجح الفقه اعتمادها من القضاء الأمريكي مستقبلا، بتشبيه السيارات ذاتية القيادة كأحد نظم الذكاء الاصطناعي بالخيول أو الأحصنة، باعتبارها وسيلة النقل الأقدم التي تم اعتمادها عبر العصور في كل المجتمعات، وترتكز هذه النظرية على تشبيه المركبات الذكية ذاتية السياقة بالخيول؛ لأنهما يشتركان في خاصية “التفاعل مع محيطهما الخارجي”، وهذا ما قد يعرضهالسوء تقدير الظروف المحيطة بها وإجراء مناورات خطيرة، بغض النظر عن إرادة السائق أو المشغل البشري ([49]).

كما ارتكز الفقه الأمريكي لترجيح اعتماد هذا التشبيه مستقلا، على القضية التيسبق أن عرضت على القضاء والمعروفة بقضيةAlpha Construction vs. Branham، وتتلخص وقائعها في أن حصانا كان يسير على جانب الطريق، وعند استماعه لأصوات مرتفعة أصدرتها شاحنة كانت تسير بقربه، شعر بالخوف، وهذا ما دفعه إلى الهروب ركضا في شوارع الطريق. وقد شبه الفقه هذه القضية بحادث مماثل تعرضت له مركبة قيادة ذاتية تحمل علامة Tesla في ولاية فلوريدا، والتي عند مصادفتها لشاحنة بيضاء اللون تحت تأثير أشعة الشمس الساطعة، كان أن تسبب في سوء تقديرها؛ ما أدى إلى اصطدامها مباشرة بالشاحنة، ففي كلتا القضيتين، لم تتمكن القاطرتان من تقدير الظروف وفقا لما يعتبره الإنسان السوي تفسيرا منطقيا للظروف والمخاطر المحيطة به، ما دفع كلتا المركبتين لإجراء مناورات خطيرة لافتقادها للمعلومات الكافية التي تمكنها من فهم محيطها بشكل سليم ([50]).

وبالرغم من وجاهة بعض مرتكزات هذه الفكرة، فإنه يستخلص من تحليلها وجود اختلافات جوهرية بين الخيول وأنظمة القيادة الذاتية، ولعل من أهمها أن المركبات الذكية تتطلب قدرا أكبر من الاحتياط والتبصر من الشخص العادي مقارنة بالأحصنة، والتي تتطلب عادة درجة أقل من العناية في ظل ذات الظروف؛ لذا فإن تشبيه الراكب على الحصان بالسائق في السيارات المستقلة، لا يخضع لنفس معيار تقدير السلوك، وهذا ما يعرض هذه النظرية للنقد.

في نهاية هذا المطلب؛ نجد أن استجابة نظم المسئولية الحالية لتعويض مضار نظم الذكاء الاصطناعي محدودة، وحتى الآن يحمد لنظم المسئولية التقليدية ذلك، حيث لم تظهر للوجود تقنيات ذكية ذاتية التحكم مائة بالمائة حتى الساعة، ولكن ليس الصبح ببعيد، ولا بد من التفكير في الإشكالات القانونية التي يثيرها استعمال وتشغيل نظم الذكاء الاصطناعي غير المراقب.

المطلب الثاني

المسئولية المدنية المختارة لتعويض أضرار نظم الذكاء الاصطناعي

إن الذاتية الخاصة التي يتسم بها نظم الذكاء الاصطناعي تعد هي نقطة البداية لحث المشرع المدني على تطوير آليات المسئولية التقليدية، خاصة بعد أن دخلت نظم الذكاء الاصطناعي على جميع المجالات العلمية التقنية منها وحتى العلوم الإنسانية ([51]).

وبعد ثبوت أوجه القصور التي أبانت عنها النظم التقليدية للمسئولية في مجال الذكاء الاصطناعي، دعا الفقه المقارن إلى ضرورة التفكير في إصلاح شامل لقواعد المسئولية المدنية المؤطرة للذكاء الاصطناعي؛ فمنهم من دعا إلى إقرار نظام بفكرة الاعتراف للكيانات الذكية بالشخصية القانونية؛ لمساءلتها مباشرة عما تلحقه من أضرار ([52])، ومنهم من أراد وضع تصورات جديدة لفكرة المسئولية المدنية لنظم الذكاء الاصطناعي غير المراقب.

ولعله اتضح من التحليل السابق، الصعوبات التي يواجهها قانون المسئولية المدنية الحالي، لاستيعاب الحوادث الناجمة عن تقنيات الذكاء الاصطناعي، وتظهر هذه الاختلالات على ثلاثة مستويات: مستوى أول يخص مسألة تحديد مضمون «الفعل المرتب للمسئولية» في مجال الذكاء الاصطناعي، وثان يتعلق ب “معيار إسناد المسئولية”!، وثالث يتعلق بتأطير نظم مسئولية الذكاء الاصطناعي غير المراقب.

1-            تكييف الفعل المرتب لمسئولية نظم الذكاء الاصطناعي:

رجح في هذا الإطار بعض الفقه الفرنسي، فكرة اعتماد معيار أثبت الواقع العملي تفوقه بشكل لافت في تأطير الأضرار الفجائية التي يصعب تحديد طبيعة الفعل المرتب للمسئولية، وهو معيار الحادث”، ويصلح هذا المعيار في نظره لإعماله بصدد الحوادث الناجمة عن الذكاء الاصطناعي؛ لأنه يصرف النظر عن تحليل نمط سلوك هذه التقنيات خلافا لمفهومي الخطأ أو العيب، لترتيب مسئولية الكيانات الذكية ([53])، ويتلاءم مفهوم “الحادث” كمعيار موضوعي لإثارة المسئولية؛ لتعويض الأضرار التي تجد مصدرها في الأفعال الخارجية، الفجائية وغير المتوقعة، كما هو الحال بالنسبة للأضرار المترتبة عن حوادث السير. وهذا ينطبق على الحوادث الناجمة عن الذكاء الاصطناعي، خاصة منها الأضرار التي تتسبب فيها نظم الذكاء الاصطناعي المستعملة لتلبية حاجات شخصية في المنازل، بينما يصعب إعماله بصدد الروبوتات الطبية أو التي تستعمل في عمليات الجراحة؛ لأنه يصعب فيها تحديد عنصر “التسبب في الحادث”، فيما إذا كانجراء فعل نظم الذكاء الاصطناعي؛ أي سبب داخلي كامن فيه، أم لسبب خارجي يخص جسم المضرور أو حالته النفسية ([54]).

2-            إشكالية المعايير واجبة الإعمال لإسناد المسئولية:

لا زالت هيمنة مفهوم الخطأ راسخة في مجال المسئولية المدنية كمعيار لإسنادها، بما في ذلك النشاطات التي تسعى فيها القوانين إلى إرساء نظام للمسئولية الموضوعية أو بقوة القانون؛ لذا فمن الشائع طبعا للقواعد العامة إسناد مسئولية مصمم الذكاء الاصطناعي عن الأضرار التي تولدها. لذا فمن المحتمل جدا تقرير أن الأضرار المنجرة عن الذكاء الاصطناعي، تجد مصدرها في سوء تصميمه، وبالتالي فإن مصممه يعد مرتكبا لخطأ يستوجب المسئولية، لكن الإشكال الذي يثور بصدد أضرار الذكاء الاصطناعي، هو صعوبة تشخيص مصمم الذكاء الاصطناعي على انفراد، كما يصعب تحديد هوية الضحية أيضا. يضاف إلى ذلك، أنه من المحبذ في هذا المجال الاستغناء عن المنطق العقابي للمسئولية، والتركيز أكثر على مبتغى تعويض الأضرار؛ لأن الأهم هنا هو أن يكون الشخص المسئول ميسور الذمة، أي مؤمنا على ذمته المالية، ويمكن إعادة الاعتبار إلى الجانب العقابي عند ممارسة دعاوى الرجوع ضد المسئول عند تشغيل الضمان التأميني ([55]).

يعد نظام تعويض حوادث السير النموذج الأقرب لنستلهم منه؛ من أجل تأطير أضرار الذكاء الاصطناعي، بإسناد عبء تعويض الأضرار التي تتورط في إحداثها الأنظمة الذكية، انطلاقات من مبدأ مساءلة من أخذ بزمام الأمور لتشغيل الذكاء الاصطناعي، أي استخدام الروبوت أو تشغيله. ويمكن أن يعاضد هذا النظام بتغطيةتأمينية، تلتزم باكتتابها الأطراف المسئولة ([56]). كما يجب التأكيد من ناحية أخرى، على أنه لا مناص من اعتماد الفكرة التي دعا إليها بعض الفقه ([57])، بضرورة منح نظم الذكاء الاصطناعي الشخصية القانونية؛ لمساءلتها شخصيا عن الأضرار التي يمكن أن تسند إليها، فالغرض من وراء هذا الاعتراف أن يصبح لنظم الذكاء الاصطناعي ذمة مالية، أو أن تكون مسئوليته مغطاة بتأمين. من هذا المنطق فبدل الاعتراف بالشخصية القانونية لنظم الذكاء الاصطناعي، وجب تعيين شخص ضامن له أو يتعاقد نيابة عنه للتأمين عنه وعن أفعاله ([58]).

3-            تأطير نظم مسئولية الذكاء الاصطناعي غير المراقب:

أ/ المسئولية الفردية المباشرة للفاعلين في مجال الذكاء الاصطناعي:

من الممكن في إطار هذا النظام، إلحاق النتائج الضارة التي ترتبها تقنيات الذكاء الاصطناعي إلى شخص بذاته، بالنظر إلى السلطات التي يمارسها الفاعلون في هذا القطاع على الأنظمة الذكية. حيث يتم إسناد المسئولية بناء على معيار السلطات الفعلية التي يحوزها الشخص، كما هو الحال في القواعد العامة، بالنسبة لمعيار حراسة الأشياء أو معيار التبعية على الشخص. ويجب هنا استبعاد المعايير التي لا تستوعب خصوصيات الذكاء الاصطناعي، كمعيار الحراسة أو معيار السلطة، بل يجب أن نأخذ هنا بالحسبان خصوصيات الأنظمة الذكية، ونعرض هنا لثلاثة معايير يمكن إعمالها ([59]).

أول هذه المعايير يخص قواعد تشغيل وسير النظام الذكي، وفي هذه الحالة يمكن مساءلة الشخص الذي له القدرة على برمجة النظام أو تعديل بيانات تشغيله، كالشركة التي تقوم بتحديث النظام الذكي للروبوت المستعمل من شخص لأخر. ويمكن تحديد هذه الفئة إما بمصممي النظام الذكي باعتبارهم يمتلكون سلطة قيادة وتسيير النظام الذكي”، إلى معيار ثان متمثل في سلطة المبادرة بتشغيل النظام الذكي”، ويخص كلا من المشغل أو المستعمل باعتبار أنه الشخص الذي يخاطر باستعمال هذه الأنظمة. ويأتي كآخر خيار “معيار السيطرة المادية» على النظام الذكي ويتوقف على المكنة التي تمارس على الدعامة أو الجسم المادي الذي تجسد فيه قرارات النظام الذكي ([60]).

ب/ نظام المسئولية التدريجي للفاعلين في مجال الذكاء الاصطناعي:

جاء هذا النظام في مقترح المحامي الفرنسي المتخصص في هذا المجال Alain Bensoussan، بضرورة إقامة نظام مسئولية متتالية عن فعل الذكاء الاصطناعي، وفق خطة توزيع المسئولية على الفاعلين في قطاع الذكاء الاصطناعي، باعتبار أنهم أسهموا بمجملهم في إدماج هذا الخطر في المجتمع، وجب إذا مساءلتهم جميعا عن فعل الأضرار الناجمة، ولكن يجب الاعتداد هنا بنوع النظام الذكي وبطبيعة الضرر اللاحق لتقرير المسئول. فإذا كان النظام الذكي ذاتي التعلم وألحق أضرارا اقتصادية، اعتبر المالك المادي أو المشغل المسئول عن مثل هذه الأضرار، ولكن قد تلحق المساءلة جميع الفاعلين في السلسلة المنشأة للنظام الذكي، خاصة إذا ثبت أن الأضرار كانتجراء عيب في بنية النظام الذكي ([61]). علما أن هذا النظام يجد تطبيقات له في ميادين عديدة، كما في مجال المسئولية عن المنتجات المعيبة، أو المخالفات المرتكبة في مجال الصحافة، أو في مجال المخالفات المرتكبة بنشر محتويات غير قانونية عبر الإنترنت، وتقوم هذه الأنظمة على مبدا “المساءلة الاحتياطية”، تشبه مسئولية عديم التمييز الاحتياطية، بتعيين المسئول المفترض والأصلي عن الضرر، وفي حالة تعذر الوصول إليه يتم إسناد المسئولية إلى الشخص الأقرب في إلحاق الضرر، وتشبيهه بالمسئول المفترض قانونا ([62]).

ج/ نظام المسئولية الجماعية للفاعلين في مجال الذكاء الاصطناعي:

يعد هذا الخيار أكثر جرأة من سابقيه، باعتبار أنه يسعى لمساءلة عدة أطراف أسهموا في استحداث أو توجيه النظام الذكي، وهو يشبه مسئولية الشركاء في شركة التضامن، بصفة تضامنية وبدون خطأ، وكان الفقه الأمريكي السباق في طرح الفكرة، في مقدمتهم الأستاذ ([63])David Vladeck، مستلهما من فكرة “المسئولية الجماعية للمؤسسة”، والتي تقر بإمكانية مساءلة الأطراف الفاعلة في عمل المؤسسة، بصفة مشتركة وتضامنية عن فعل نشاطهم، والشيء الأكيد في هذا النظام هو قيام المسئولية بصفة آلية وبقوة القانون، على كاهل الفئات المعنية بتصميم النظام الذكي، وهذا مايزيد في الرفع من حرص وعناية المنتجين والمصممين الذي اشتركوا في تسويق الروبوت أو نظام الذكاء الاصطناعي. علما أن هذا سيكون لصالح الضحايا، كما سيدفع بالفئات المساهمة في صنع وتصميم هذه التقنيات، إلى الاشتراك في “تجمعات Pool“ يتم الاتفاق فيها بينهم لتغطية مسئولياتهم وتعويض آثارها ([64]).

الرأي المختار:

تجهيز صناديق خاصة للتعويض لمناوبة نظام المسئولية:

يمكن تعريف صندوق التعويض بأنه الجهاز الذي تخول له مهمة صرف بعض الأداءات لفائدة فئة من المضرورين في سياق خاص، وتكون لهذه الأداءات طابع تعويضي ([65]). ولعل ظهور هذه التقنية لها صلة بمبادئ تثمين حياة الإنسان وضمان سلامته بالاهتمام أكثر بوضعية المضرورين؛ استجابة لتوجه حديث متأثر بإيديولوجيا التعويض، وفق البند القائل: “مع كل ضرر هنالك تعويضا”، خاصة في ميدان الأضرار الجسمانية، هذا الواقع استدعى الاستعانة بالآليات الجماعية للتعويض؛ لتحقيق جاهزية أكبر حتى في حالة شغور قطاع التأمين ([66]).

حوادث المرور، الحوادث الطبية، حوادث البيئة أو حوادث الإجرام، هي مجالات شهدت اندماج نوع من صناديق للتعويض قيل إنها تصنف ضمن الأنظمة الاستباقيةلتعويض الأضرار Des dispositifs Retrospectifs“ ([67])، كصورة الصندوق الخاص المستحدث في فرنسا لتعويض الحوادث الطبية ([68])ONIAM، أو صندوق تعويض أضرار التلوث بسبب المحروقات FIPOL. حيث يمكن الاستلهام من هذه الحلول في مجال أضرار الذكاء الاصطناعي، خاصة الأضرار الجسدية- والتي تتطلب موارد مالية معتبرة لتعويض تبعاتها، وهذا ما يتم تغطيته في إطار صناديق التعويض الخاصة بواسطة تقنية “جمعية الأخطار”. كما توفر هذه الصناديق الخاصة في هذا المجال، حلولا لمالكي أو مستعملي الروبوتات الذين تضرروا منها، حيث يصعب على هؤلاء إثبات مسئولية البائع أو المنتج. كما يمكن مثلا في إطار السيارات الذكية، تمويل هذه الصناديق الخاصة من طرف المنتجين أو المالكين باقتطاع نسبة من ثمن بيع المنتجات ([69]).

ونحن نرى أنه يمكن تحديد المسئولية المدنية من أضرار نظم الذكاء الاصطناعي غير المراقب بحد أقصى مبلغ معين على غرار المسئولية المحدودة في النقل البحري، وذلك من خلال جهاز الحماية من نظم الذكاء الاصطناعي، كما سنرى بالتوصيات.

الخاتمة

يظهر بوضوح من معالجتنا لموضوع المسئولية المدنية عن أضرار نظم الذكاء الاصطناعي، أن المشرع المصري أمامه مهمة تغيير جذرية في الفكر التشريعي، وليس مجرد إضافة تعديلات في القواعد العامة؛ فالمطلوب مواجهة طوفان التكنولوجيا بما يحقق دعما للابتكار، مع عدم الإخلال بحقوق المضرورين.

أهم نتائج البحث

1-  النصوص القانونية المقارنة في موضوع المسئولية المدنية عن مضار نظم الذكاء الاصطناعي تبقى قاصرة، على اعتبار تلك النظم كالأشياء التي تحتاج في حراستها لعناية خاصة.

2-  نظم الذكاء الاصطناعي في نظر المشرع المصري آلة مهما بلغت حدة ذكائها، إلا أنها آلة تحاكي الذكاء البشري إلى الدرجة التي باتت فيها قواعد المسئولية المدنية التقليدية غير عادلة.

3-  منح المشرع الأوروبي نظم الذكاء الاصطناعي منزلة مستقبلية أرقى من الآلة الجامدة، إلا أنه لم ينص صراحة على الاعتراف بالشخصية الافتراضية لها.

4-    ينقسم الفقه بين فريقين؛ يرى الأول كفاية النصوص الحالية لاستيعاب مختلف حالات الخطأ والضرر بما في ذلك أضرار نظم الذكاء الاصطناعي، في حين يرى فريق آخر أنه لا بد من ثورة تشريعية لمجابهة نظم الذكاء الاصطناعي.

5-  محدودية نظم المسئولية الحالية لتعويض مضار نظم الذكاء الاصطناعي؛ ولذا لا بد من التفكير في الإشكالات القانونية التي يثيرها استعمال وتشغيل نظم الذكاء الاصطناعي غير المراقب.

التوصيات:

1-  نوصي المشرع المصري مؤقتا بتعديلات في قواعد المسئولية المدنية لتطويعها لاستيعاب نظم الذكاء الاصطناعي باعتبارها مرحلة وسطى بين الشخص والشيء.

2-  ضرورة فرض تأمين إجباري لمنتجي ومشتري نظم الذكاء الاصطناعي يشبه التأمين الإجباري الخاص بقانون المرور.

3-    نوصي المشرع المصري بوضع تشريع يتضمن أنظمة استباقية لتعويض الأضرار الناتجة عن نظم الذكاء الاصطناعي عن طريق إنشاء صندوق أضرار الذكاء الاصطناعي تحت إشراف وزير الاتصال وتكنولوجيا المعلومات، مع وضع حد أقصى للتعويضات.

4-  نوصي المشرع المصري بإنشاء جهاز حماية من أنظمة الذكاء الاصطناعي يشبه جهاز حماية المستهلك تكون مهمته رقابة نشاط تصنيع وتشغيل نظم الذكاء الاصطناعي في مصر.

قائمة المراجع

أولا: المراجع باللغة العربية:

أ‌.      الكتب

1-  أحمد إبراهيم الحيارى، المسئولية التقصيرية عن فعل الغير: دراسة تحليلية انتقاديه، ط 1، دار وائل للنشر والتوزيع، عمان الأردن، ٢٠٠٣م.

2-  عبد الرازق أحمد السنهوري، نظرية العقد، ج١، ج2، منشورات الحلبي الحقوقية، بيروت، ١٩٩٨م.

3-  محسن عبد الحميد البيه، النظرية العامة للالتزامات، الصادر غير الإرادية للالتزام، دار النهضة العربية، القاهرة، ٢٠١٨.

4-  مصطفي العوجي، القانون المدني- المسئولية المدنية، ج 2، ط 5، منشورات الحلبي الحقوقية، بيروت، ٢٠١١.

ب‌.  المجلات والبحوث:

1-  أنور أحمد الفريغ، مسئولية مصممي برامج الحاسوب التقصيرية، دراسة في القانون الكويتي المقارن، مجلة الحقوق، مجلس النشر العلمي، جامعة الكويت، ١٩٨١.

2-  محمد عرفان الخطيب، المركز القانوني للإنسآلة “الشخصية والمسئولية… دراسة تأصيلية مقارنة، مجلة كلية القانون الكويتية العالمية، السنة السادسة، العدد ٤، العدد التسلسلي 24.

3-  محمد يوسف الزعبي، ضمان الضرر في مجال المسئولية المدنية، مجلة دراسات العلوم الإنسانية، الجامعة الأردنية، عمان، العدد الخامس، ١٩٩٥.

4-  معمر بن طرية، مفهوم معيوبيه المنتوج في نظام المسئولية المدنية للمنتج والحلول التي يقدمها التأمين لتغطيته: دراسة مقارنة”، مجلة كلية القانون الكويتية العالمية، كلية القانون الكويتية العالمية، العدد 22، يونيو ٢٠١٨م.

5-    همام القوصي، إشكالية الشخص المسئول عن تشغيل الروبوت، مجلة جيل للأبحاث القانونية المعمقة، مركز جيل البحث العلمي، طرابلس، لبنان، العدد ٢٥، مايو ٢٠١٨.

– نظرية الشخصية الافتراضية للروبوت وفق المنهج الإنساني، دراسة تأصيلية تحليلية استشرافية في القانون المدني الكويتي والأوروبي، مجلة جيل للأبحاث القانونية، العدد ٣٥ سبتمبر ٢٠١٩.

ج. المؤتمرات:

1-  سامية قوره وآخرين، الذكاء الاصطناعي بين الواقع والمأمول، الملتقى الدولي “الذكاء الاصطناعي: تحد جديد للقانون “جامعة الجزائر، ٢٠١٨م.

2-  قادة شهيدة، تطور نظام المسئولية المدنية في المجال الرياضي: حقيقته، تبعاته، رهاناته، مداخلة قدمت في مؤتمر القانون والرياضة، كلية القانون بجامعة قطر، بالتعاون مع اللجنة الأولمبية القطرية، في الفترة من ١٩-٢٠ فبراير ٢٠١٧م.

3-  محمد حسين منصور، التأمين من المسئولية، بحث علمي مقدم إلى المؤتمر العلمي السنوي لجامعة بيروت المعنون: “الجديد في مجال التأمين والضمانفي العالم العربي” بتاريخ ٤ ٢-٤-2006، منشورات الحلبي الحقوقية، بيروت، ٢٠٠٧.

4-  معمر بن طريه، أضرار الروبوتات وتقنيات الذكاء الاصطناعي، حوليات جامعة الجزائر، عدد خاص، الملتقى الدولي الذكاء الاصطناعي: تحد جديد للقانون، نوفمبر ٢٠١٨م.

ثانيا: المراجع باللغات الأجنبية:

أ‌.      المراجع باللغة الفرنسية:

1.    A. Benabent et Th. Revêt et D. Mazeaud et autres, “Réforme du droit des contrats: quelles innovations?”,Revue des contrats, no Hors-série ,2016.

2.    Adrein BONNET, La responsabilité du fait de l’intelligence artificielle: Réflexion sur l’émergence d’un nouvel agent générateur de dommages, Mémoire de recherché (dir. N. MOLFESSIS), Paris 2 Panthéon- Assas, 2015.

3.    Allain BENSOUSSAN, Le droit de robots; de l’éthique au droit, Planète Robots, no 24, p. 137. consultable via: https://www.alain-bensoussan.com/wpcontent/uploads/23934921.pdf

4.    Gouvernance de l’intelligence artificielle, Enjeux juridiques dans les grandes enterprises, Enjeux managériaux, juridiques et éthiques, “Livre blanc”. Sous dir, A. Bensoussan En partenariat avec le cabinet Avocats Lexing et le CIGREF, réseau de Grandes Entreprises, Publie par le CIGREF, 2016.

5.    J. Huet, Une loi peut en cache rune autre: mise en perspective de la loi sur la responsabilité du fait des produits défectueux, Dalloz affaires, 1998.

6.    Jean-Sébastien Borghetti,”L’accident généré par l’intelligence artificielle autonome”le droit civil à l’ère du numérique,La Semaine juridique© LexisNexis SA décembre, 2017.

7.    Jonas KNETSCH Honas KNETSCH, Le droit de la responsabilité et les fonds d’indemnisation: Analyse en droits français, Bruyant, Belgique, 2015.

8.    KNETSCH Jonas, Le droit de la responsabilité et les fonds d’indemnisation: Analyse en droits français et allemande, Doctorat, Panthéon Assas, 2011.

9.    LASZLO-FENOUILLET (D.),”La conscience”, Thèse Paris II, L.G.D.J., 1993.

ب‌.  المراجع باللغة الإنجليزية:

1.    AL-MAJID, Waleed, Electronic Agents and Legal Personality: Time to Treat Them as Human، Beings, Proceeding of BILETA, Annual Conference, Herfordshire 16-17 April, 2007.

2.    ANDRADE, Francisco and NOVAIS, Paulo et al, Contracting Agents: Legal Personality and Representation, Artif Intell Law 15 (2007),

3.    A robot as a possessor of artificial intelligence (PAI)” See: SOLAIMAN, S. M., Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy, Artificial intelligence and Law, Vol. 25, No, 2017, page 29. see:http://ro.uow.edu.au/lhapaoers/3076 (3-4-2021).

4.    Danièle Bourcier,”From Artificial Intelligence to Virtual Personhood: The Emergence of a Legal Entity”,In Droit et société Volume 49, Issue 3, 2001.

5.    Howells Geraint, David G Owen, Products liability law in America and Europe. In: Howells G, Ramsay I, Wihelmsson T, Kraft D, Handbook of research on international consumer law. Edward Elgar Publishing, chap 9, 2009.

6.    Krasnow K. Waterman & Matthew T. Henshon, Imagine the Ramifications Assessing Liability for Robotics-based Car Accidents, ABA Sci Tech Law., Springer, 2009.

7.    ROBINETT, Warren, Electronic Expansion of Human Perception, Whole Earth Review Magazine, fall 1991.

8.    Newsom V. BRANCH BANKING AND TRUST COMPANY, United States District Court, E.D. North Carolina, Eastern Division, January 9, 2019.

9.    Ugo Pagallo, The Laws of Robots: Crimes, Contracts, and Torts, Springer, 2013

10.WETTING, Steffen and ZEHENDNER, Eberhard, The Electronic Agent: A Legal Personality under German Law? Proceeding of the Law and Electronic Agents workshop (LEA03), 2003.


([1])إلى جانب هذين النوعين من المسئولية يمكن أن نضيف المسئولية الأدبية الأخلاقية، انظر تفصيلا: محسن عبد الحميد البيه، النظرية العامة للالتزامات، المصادر غير الإرادية للالتزام، دار النهضة العربية، القاهرة، ٢٠١٨، ص٧.

([2])انظر نص المادة ١٦٣ من القانون المدني المصري.

([3])انظر نص المادة ١٦٣ من القانون المدني المصري.

([4])LASZLO-FENOUILLET (D.),”La conscience”, Thèse Paris II, L.G.D.J., 1993,P.3.

([5])محمد عرفان الخطيب، المركز القانوني للإنسآلة “الشخصية والمسئولية… دراسة تأصيلية مقارنة”، مجلة كلية القانون الكويتية العالمية، السنة السادسة، العدد ٤، العدد التسلسلي 24، ص١١٨.

([6])قريب من هذا المعنى: همام القوصي، إشكالية الشخص المسئول عن تشغيل الروبوت، مجلة جيل للأبحاث القانونية المعمقة، مركز جيل البحث العلمي، طرابلس، بنان، العدد 25، مايو ٢٠١٨، ص٨.

([7])محمد عرفان الخطيب، المرجع السابق، هامش صفحة ١١٩.

([8])أكدت دراسة استقصائية حديثة أجريت في عام ٢٠١٧ لأكبر عدد من العلماء المتخصصين في الذكاء الاصطناعي أن هناك احتمالية تصل لحدود 50 % بأن يتفوق الذكاء الاصطناعي على نظيره البشري بعد 45 عاما؛ راجع في ذلك: محمد عرفان الخطيب، المرجع السابق، ص١٢٠.

([9])قريب من هذا المعنى: معمر بن طرية، قادة شهيدة، أضرار الربوتات وتقنيات الذكاء الاصطناعي: تحدا جديد لقانون المسئولية المدنية الحالي، المتقي الدولي لجامعة الجزائر، نوفمبر ٢٠١٨، ص١١٩.

([10])أنور أحمد الفريغ، مسئولية مصممي برامج الحاسوب التقصيرية، دراسة في القانون الكويتي المقارن، مجلة الحقوق، مجلس النشر العلمي، جامعة الكويت، ١٩٨١، ص١٩٤.

([11])رؤوف وصفي، الروبوتات في عالم الغد، ط١، دار المعارف، القاهرة، ٢٠٠٨، ص٧٤.

 ([12])Gouvernance de l’intelligence artificielle, Enjeux juridiques dans les grandes enterprises, Enjeux managériaux, juridiques et éthiques, “Livre blanc”. Sous dir, A. Bensoussan En partenariat avec le cabinet Avocats Lexing et le CIGREF, réseau de Grandes Entreprises, Publie par le CIGREF, 2016, p, 45 s.

([13])نص المادة ١٤٧ من القانون المدني المصري.

([14]) En 23 mars 2016, Microsoft lançait un Agent conversationnel ou Chatbot, capable de discuter avec des internautes sur twitter en apprenant le langage. Dans la peau d’une adolescente, Tay avait envoyé 96000 tweets en 8 heures., Au contact d’internautes, elle avait répète etprononcé, de son plein gré, des phrases racistes, négationnistes ou d’une extrême vulgarité. Des lors, qui devra être rendu responsable de propos pénalement répréhensibles tenus par des robots? Voir: Les problématiques juridiques qui naissent avec l’intelligence artificielle. http://www.editions-legislatives.fr/ A peine lancée, unin intelligence artificielle de Microsoft dérape sur Twitter, http://www.lemonde.fr/pixels/article/201624/03//.

([15])A. Benabent et Th. Revêt et D. Mazeaud et autres, “Réforme du droit des contrats : quelles innovations ?”,Revue des contrats, no Hors-série, 2016, P.3.

لا سيما وأن المشرع المدني الفرنسي أدخل- وبعد طول انتظار- أحكام المسئولية القانونية عن التعويض عن الأضرار البيئية.

La réparation du préjudice écologique Articles (1246 à 1252). Code civil, éd 2017

([16])حول موقف المشرع العربي في القضية راجع: مصطفي العوجي، القانون المدني- المسئولية المدنية، ج٢، طه، منشورات الحلبي الحقوقية، بيروت، ٢٠١١، أحمد إبراهيم الحياري، المسئولية التقصيرية عن فعل الغير: دراسة تحليلية انتقادية، ط١، دار وائل لكشر والتوزيع، عمان، الأردن، ٢٠٠٣، عبد الرزاق أحمد السنهوري، نظرية العقد، ج١، ج٢، منشورات الحلبي الحقوقية، بيروت، ١٩٩٨؛ محمد حسين منصور، التأمين من المسئولية، بحث علمي مقدم إلى المؤتمر العلمي السنوي لجامعة بيروت المعنون: “الجديد في مجال التأمين والضمان في العالم العربي” بتاريخ ٤ ٢-٤-2006، منشورات الحبي الحقوقية، بيروت، ٢٠٠٧، ص١٨٩-200؛ محمد يوسف الزعبي، ضمان الضرر في مجال المسئولية المدنية، مجلة دراسات العلوم الإنسانية، الجامعة الأردنية، عمان، العدد الخامس، ١٩٩٥.

([17])J. Huet, Une loi peut en cache rune autre: mise en perspective de la loi sur la responsabilité du fait des produits défectueux, Dalloz affaires, 1998, p, 1160.

([18])في دراسة استقصائية حديثة جرت في عام ٢٠١٧ لأكبر عدد من العلماء المتخصصين في الذكاء الاصطناعي شملت حوالي ١٦٣٤ عالما، خلص ما يقارب ٣٥٢ منهم، أي ما نسبته ٢١% من العينة الإحصائية بنهاية مفهوم العمل البشري بعد أقل من قرن ونصف من الآن؛ أي بحلول العام ٢١٥٠، واضعين جدولا زمنيا للأعمال التي ستحل الإنسآلة محل الإنسان فيها، حيث ستكون الإنسآلة بحلول عام ٢٠٢٤ أسرع من المترجم البشري، وفي العام ٢٠٢٦، ستكون قادرة على كتابة النصوص العلمية كرسائل الماجستير والدكتوراه، وفي عام ٢٠١٧، سيمكنها القيام بجميع الأعمال التي تتعلق بالطرق والمرور، وستدخل عالم التجارة والاقتصاد في عام ٢٠٣٠، ومن ثم ستدخل عالم الكتابة الأدبية والروايات في العام ٢٠٤٩، تنتقل إلى العالم الطبي وتحل محل الأطباء الجراحين في عام ٢٠٥٣. كما أكدت الدراسة بأن هناك احتمالية تصل لحدود 50 % بأن يتفوق الذكاء الاصطناعي على نظيره البشري فقط بعد ٤٥ عاما. راجع في ذلك:

When Will Al Exceed Human Performance? Evidence from Al Experts. Katja Grace, Hohn Salvatier, Allan Dafore, Baobao Zhang, Owain Evan. Submitted on 24 May 2017. Voir aussi: La fin du travail d’ici un siecle? http://www.fredzone.org/la-fin-du-travail-dici-un-siecle-028.voir

aussi:H.devauplane, Transhumaisme, banque et finance, “Quand l’homme disparait face à la machine”, Revue banque. 2015, no783, p.18.

([19])يطلق على الروبوت العامل بالذكاء الاصطناعي اختصارا (PAI)، انظر:

“A robot as a possessor of artificial intelligence (PAI)” See: SOLAIMAN, S. M., Legal personality of robots, corporations, idols and chimpanzees: a quest for legitimacy, Artificial intelligence and Law, Vol. 25, No, 2017, page 29. see:

http://ro.uow.edu.au/lhapaoers/3076 (3-4-2021).

([20])وهو الأمر الذي نبه إليه جانب من الفقه الأمريكي منذ ٢٩ عاما من الآن، حيث أكد الأستاذ ROBINETT على أنه في التطبيقات التكنولوجية الخاصة بالواقع الافتراضي التي ظهرت عام ١٩٩١، يمكن للواقع الافتراضي أن يظهر في لعبة فيديو ثلاثية الأبعاد D3، تلك التي يمكن للشخص أن يدخلها عبر وضع أداة على الوجه بحيث تخدع هذه الأداة أحاسيس الشخص، ذلك إلى درجة إدراك بيئة معينة تحيط بالشخص من كل الجوانب”.

See: ROBINETT, Warren, Electronic Expansion of Human Perception, Whole Earth Review Magazine, fall 1991, page 1.

حيث إن تكنولوجيا الصورة ثلاثية الأبعاد قد يتم استخدامها لترفيه أو للخداع وفقا لمستوى إدراك الشخص والظروف المحيطة باستخدام هذه التكنولوجيا.

([21])ANDRADE, Francisco and NOVAIS, Paulo et al, Contracting Agents: Legal Personality and Representation, Artif Intell Law 15 (2007), P.357.

([22])المادة ١٦٣، من القانون المدني المصري.

([23])المادة ١٧٨ من القانون المدني المصري؛ المادة ٢٤٣، الفقرة ١، من القانون المدني الكويتي.

([24])Danièle Bourcier,”From Artificial Intelligence to Virtual Personhood: The Emergence of a Legal Entity”,In Droit et Société Volume 49, Issue 3, 2001/3, n.49, P.859.

([25])المادة ١٧٨، من القانون المدني المصري.

 ([26])Section 52, The EU Civil Law Rules on Robotics of 2017 متاح على الإنترنت

([27])Section AD, Introduction, The EU Civil Law Rules on Robotics of 2017.

([28]) WETTING, Steffen and ZEHENDNER, Eberhard, The Electronic Agent: A Legal Personality under German Law? Proceeding of the Law and Electronic Agents workshop (LEA03), 2003, Page 1.

([29])وللمزيد عن القواعد التي تحكم منح الشخصية القانونية حول العالم، يراجع: همام القوصي، نظرية الشخصية الافتراضية للروبوت وفق المنهج الإنساني، دراسة تأصيلية تحليلية استشرافية في القانون المدني الكويتي والأوروبي، مجلة جيل للأبحاث القانونية، العدد ٣٥ سبتمبر ٢٠١٩.

([30])”…. a specific human agent such as the manufacturer, the owner or the user….”. See: Section AD, The Eu Civil Law Rules on Robotics of 2017.

([31])Section 54, the EU Civil Law Rules on Robotics of 2017.

([32])Newsom V. BRANCH BANKING AND TRUST COMPANY, United States District Court, E.D. North Carolina, Eastern Division, January 9, 2019.

([33])”…. L’introductin du programme informatique Watson va aider les charges de clientele a traiter les abondants courriels qu’ilsrecoivent…”. Voir: Cour de cassation de France, Chambre sociale, 16-27866, 12 avril 2018. http://juricaf,org/ *20-4-2021).

([34])AL-MAJID, Waleed, Electronic Agents and Legal Personality: Time to Treat Them as Human،Beings, Proceeding of BILETA, Annual Conference, Herfordshire 16-17 April, 2007, page 1.

([35])”An electronic person who has legal duties and subjective rights is, in fact, a set of duties and rights, and the content of legal rights and obligations are the actions of artificial intelligence”. See: YASTREBOV, Oleg A., The Legal Capacity of Electronic Parsons: Theatrical and Methodological Approaches, Proceeding of the Institute of State and Law of the RAS, Volume 13. No. 2, Moscow, 2018, page 10.

مشار إليه: همام العوضي، المرجع السابق، ص 26.

([36])قريب من هذا المعنى: همام القوصي، المرجع السابق، نفس الموضع.

([37])معمر بن طرية، أضرار الروبوتات وتقنيات الذكاء الاصطناعي، حوليات جامعة الجزائر، عدد خاص، المتقي الدولي للذكاء الاصطناعي: تحدا جديد للقانون، نوفمبر ٢٠١٨، ص١٢٢.

([38])Ugo Pagallo, The Laws of Robots: Crimes, Contracts, and Torts, Springer, 2013, p. 98.

([39])The UNCITRAL secretariat on the United Nations Convention on the Use of Electronic Communications in International Contracts.

مشار إليه: معمر بن طرية، المرجع السابق، ص١٢٣.

([40])Ugo Pagallo, ibid, no77, p. 98.

([41])Ygo Pagallo, ibid.

([42])تفصيل أكثر حول هذا المفهوم ينظر: معمر بن طرية، مفهوم معيوبيه المنتوج في نظام المسئولية المدنية للمنتج والحلول التي يقدمها التأمين تغطيته: دراسة مقارنة»، مجلة كلية القانون الكويتية العالمية، كلية القانون الكويتية العالمية، العدد ٢٢، يونيو ٢٠١٨، ص٦٤٧.

([43])Howells Geraint, David G Owen, Products liability law in America and Europe. In: Howells G, Ramsay I, Wihelmsson T, Kraft D, Handbook of research on international consumer law. Edward Elgar Publishing, chap 9, 2009, p. 241.

([44])Ugo Pagallo, ibid., pp. 91-95.

([45])Mracek v Bryn Mawr Hospital, 610 F Sypp 2d 401 (ED Pa 2009), aff d, 363 F App’x 925 (3d Cir2010).

([46])معمر بن طرية، المرجع السابق، ص١٢٦.

([47])Krasnow K. Waterman & Matthew T. Henshon, Imagine the Ramifications Assessing Liability for Robotics-based Car Accidents, ABA Sci Tech Law., Springer, 2009, no15.

([48])بمعنى التحكم الذاتي المطلق.

([49])معمر بن طرية، المرجع السابق، ص١٢٧.

([50])معمر بن طرية، المرجع السابق، نفس الموضع.

([51])سامية قوره وآخرون، الذكاء الاصطناعي بين الواقع والمأمول، المتقي الدولي “الذكاء الاصطناعي: تحد جديد للقانون”، جامعة الجزائر، ٢٠١٨، ص١.

([52])معمر بن طرية، مرجع سابق، ص١٣٢.

([53])Jean-Sébastien Borghetti,”L’accident généré par l’intelligence artificielle autonome”le droit civil à l’ère du numérique,La Semaine juridique© LexisNexis SA décembre, 2017, p. 28.

([54])Ibid., no36, p. 29.

([55])Jean-Sébastien BORGHETTI, op.cit., no35, p. 28.

([56])Ibid, no39, p. 28.

([57])وهو الأمر الذي دعا إليه البرلمان الأوربي في قراره الصادر بتاريخ ٦ ١ فبراير ٢٠١٨، شخصيةروبوتية إلكترونية، ينظر:Philippe GLASER et Taylor Wessing, op. cit. p.4.

([58])Jean-Sébastien BORGHETTI, op.cit., no35, p. 28.

([59])Adrein BONNET, La responsabilité du fait de l’intelligence artificielle : Réflexion sur l’émergence d’un nouvel agent générateur de dommages, Mémoire de recherché (dir. N. MOLFESSIS), Paris 2 Panthéon-Assas, 2015, p. 43.

([60]) معمر بن طرية، المرجع السابق، ص 129.

([61])Allain BENSOUSSAN, Le droit de robots; de l’éthique au droit, Planète Robots, no 24, p. 137. consultable via:

([62])Ibid., pp. 43-44.

([63])David VLADECK, Machine without principles, Washington Law Review,

مشار إليه: معمر بن طرية، المرجع السابق، ص128.

([64])Ibid.

([65])Jonas KNETSCH Honas KNETSCH, Le droit de la responsabilité et les fonds d’indemnisation: Analyse en droits français, Bruyant, Belgique, 2015, p. 120.

([66])قادة شهيدة، تطور نظام المسئولية المدنية في المجال الرياضي: حقيقته، تبعاته، رهاناته، مداخلة قدمت في مؤتمر القانون والرياضة، كلية القانون بجامعة قطر، بالتعاون مع اللجنة الأولمبية القطرية، في الفترة من ١٩-٢٠ فبراير ٢٠١٧، ص٤.

([67])KNETSCH Jonas, Le droit de la responsabilité et les fonds d’indemnisation: Analyse en droits français et allemande, Doctorat, Panthéon Assas, 2011.

([68])Office national d’indemnisation des accidents médicaux, des affections iatrogènes et des infections nosocomiales (ONIAM).

([69])La solution est aussi suggérée par le rapport Robolaw (prec.) a propos des prothèses intelligentes. Adrien BONNET, op. cit, p. 45.

https://powderencouraged.com/zht6b3bs66?key=8523542c4aaf6f083ce56f74bd271319
https://powderencouraged.com/w3m6c9b5?key=af8b4909c0965493e9682d74bb50a646
https://powderencouraged.com/ksq5rgwdmh?key=b5b47a0d83f8742dcf71d4de8ef00494
https://powderencouraged.com/bkcduddx?key=0252cc21d0f4e0ae5f53245940611301
×
error: Content is protected !!