الطبيعة القانونية للمسؤولية المدنية عن أضرار الروبوتات
(دراسة تحليلية مقارنة)
إعداد
أ.د/ محمد ربيع أنور فتح الباب
أستاذ القانون المدني المساعد
كلية الحقوق – جامعة عين شمس
ومعار إلى كلية البريمي الجامعية
بسلطنة عمان
الملخص
تقدم هذه الورقة البحثية دراسة تحليلية مقارنة في الطبيعة القانونية للمسؤولية المدنية عن الأضرار التي تسببها الروبوتات، والتي تعد من أهم تطبيقات الذكاء الاصطناعي AI، الذي ظهر نتيجة الثورة الرقمية التي أفرزت، بجانب الذكاء الاصطناعي، نتائج أخرى، هي: إنترنت الأشياء، والبيانات الضخمة.
وقد ركزت هذه الورقة على محاولة البحث في الطبيعة القانونية للمسؤولية المدنية عن الأضرار التي يمكن أن تسببها الروبوتات للغير، من حيث مدى ملاءمة النظريات التقليدية في المسؤولية المدنية، والمنصوص عليها في القانون المدني المصري والقانون المدني الفرنسي، كالمسؤولية عن فعل الأشياء، والمسؤولية عن فعل الحيوان، للتطبيق والإعمال على حالة الروبوتات، مع الأخذ في الاعتبار الطبيعة الذاتية والخاصة والمتفردة للنوع الأكثر تطورا من هذه الروبوتات، وهو النوع الذي يتمتع بدرجة كبيرة من الاستقلالية في اتخاذ القرارات، وفق ما تفرضه عليه ملابسات وظروف المحيط الخارجي.
وقد كان لزاما عند البحث في الطبيعة القانونية للمسؤولية المدنية عن الأضرار التي يمكن أن تسببها الروبوتات، التعرض- كذلك- إلى المسؤولية عن المنتجات المعيبة، باعتبارها إحدى صور وتطبيقات المسؤولية الموضوعية، والمنصوص عليها في قانون حماية المستهلك المصري رقم (١٨١) لسنة ٢٠١٨، والقانون المدني الفرنسي.
غير أن البحث في الطبيعة القانونية للمسؤولية المدنية عن الأضرار التي يمكن أن تسببها الروبوتات الذكية للغير، كان يقتضي البحث أولا في الطبيعة القانونية لهذه الروبوتات، من حيث كونها مجرد أشياء أو آلات، أم يمكن اعتبارها أشخاصا اعتبارية،على غرار الشركات والجمعيات والهيئات، أم أنه يجب الاعتراف لها بشخصية قانونية مستحدثة، هي الشخصية القانونية الرقمية؟.
وقد خلصت الدراسة إلى صعوبة الاعتراف- في الوقت الحالي- بالروبوتات الذكية كأشخاص بالمعنى القانوني الدقيق لتلك الكلمة، كما أنه من الصعب كذلك- في الوقت الراهن- استحداث شخصية قانونية جديدة لها، والإبقاء من ثم على اعتبارها مجرد أشياء منقولة، لها طبيعتها الخاصة والمتفردة، مع فتح الباب لإمكانية الاعتراف القانوني لها مستقبلا بشخصية رقمية.
كما انتهت الدراسة إلى أن إمكانية إقرار نظرية المسؤولية الموضوعية، التي تقوم على أركان ثلاثة، هي: الحادث أو النشاط، والضرر، وعلاقة السببية، كأساس للمسؤولية المدنية عن الأضرار التي يمكن أن تسببها الروبوتات الذكية، وطرح النظريات التقليدية للمسؤولية المدنية، وكذلك المسؤولية عن المنتجات المعيبة، جانبا من نطاق المسؤولية المدنية عن أضرار الروبوتات الذكية، مع تأهب مشرعي دول العالم لإقرار نظام قانوني للمسؤولية المدنية عن أضرار أنظمة الذكاء الاصطناعي بوجه عام، من الممكن أن يحمل- مستقبلا- طابع المسؤولية عن الأفعال الشخصية، على أن يتم إقرار نظام تأمين- إجباري- يغطي ما عسى أن تحدثه هذه الأنظمة من أخطار يترتب عليها أضرار تصيب الغير.
المقدمة
كان للثورة الرقمية التي اجتاحت العالم في الآونة الأخيرة، بصورها الثلاث: الذكاء الاصطناعي، وإنترنت الأشياء ([1])، والبيانات الضخمة، بالغ الأثر في إحداث تغير هائل في مختلف المجالات، كالمجال الاقتصادي والمجال الاجتماعي والمجال العسكري ومجال النقل والمواصلات ومجال التعليم ومجال الصحة، وأيضا المجال القانوني، وتغير المفاهيم التقليدية بهذه المجالات، بصورة أدت إلى إحداث ثورة تقنية داخل جميع هذه المجالات.
ونتلقف من هذه الصور الثلاث للثورة الرقمية، الذكاء الاصطناعي، الذي يتمثل في نظام كمبيوتر يتمتع بقدرات تضاهي قدرات الإنسان. ووفق خبير الذكاء الاصطناعي “Jean-Gabriel Ganascia“، فإن الذكاء الاصطناعي يتكون من مجموعة من العمليات التي تنفذ بواسطة آلة، وتحتاج إلى ذكاء ([2])، الأمر الذي يفوح بمضمونه عن ثمة محاكاة للنشاط البشري بواسطة آلة ما، تقوم بأداء الأدوار المطلوبة منها على غرار ما يطلب من الإنسان البشري.
وتعود الشرارة الأولى لفكرة الذكاء الاصطناعي- Artificial Intelligence“، إلى العام ١٩٣٦؛ عندما أكد عالم الرياضيات “آلان تورينج – Alan Turing“، مؤسس “اختبار تورينج- Turing test“، أن هذا الاختبار يمكن استخدامه لإثبات أن الآلة تتمتع بالذكاء.
وحدثت الولادة الحقيقية للذكاء الاصطناعي في العام ١٩٥٦، عن طريق علماء الرياضيات: “جون مكارثي- John McCarthy“، و”مارفن لي مينسكي”، و”ناثانيلروشستر”، و”كلود شانون”، وذلك عندما قدموا ورقة علمية متعلقة بالذكاء الاصطناعي، في مؤتمر “دارتموث”، المنعقد في كلية دارثموت بالولايات المتحدة الأمريكية، في 18 يونيو من العام ١٩٥٦، والذي يعد الانطلاقة الحقيقية لأبحاث الذكاء الاصطناعي ([3]).
وتتنوع تطبيقات الذكاء الاصطناعي المستخدمة في العديد من المجالات، مثل: الطائرات التي تسير دون طيار، والسيارات ذاتية القيادة، ومنصة البلوكشين “ Blockchain“، تلك المنصة التي يتم من خلالها إجراء المعاملات المالية، باستخدام العملات الرقمية، وإبرام العقود ذاتية التنفيذ، والتي يطلق عليها مجازا اصطلاح “العقود الذكية- Smart Contracts“ ([4])، وكذلك الروبوتات الذكية، التي تعمل بذاتية واستقلالية عن الإنسان البشري، بحيث تستطيع التعامل مع البيئة الخارجية المحيطة بها من تلقاء نفسها، وبحسب الظروف والملابسات المختلفة.
ويعد علم الإنسان الآلي أو الروبوت أحد فروع الذكاء الاصطناعي الرئيسة، والذي يتألف من: الهندسة الكهربائية والهندسة الميكانيكية وعلوم الحاسب لتصميمإنسان إلى أو روبوت، والذي بموجب نظام الذكاء الاصطناعي يستطيع أن يقوم بجميع التصرفات التي يقوم بها الإنسان البشري، بل وبصورة تفوقه من حيث السرعة والدقة في إنجاز المهام المطلوبة منه.
وعلم الروبوتات، كما تعرفه لجنة مراجعة أبحاث العلوم والتكنولوجيا الرقمية Allistene لعام ٢٠١٤ (CERNA)، هو “ جميع المواد التي تساهم في فهم المبادئ وأداء الوظائف التي تجعل من الممكن إعطاء آلة ذات القدرات المتعلقة بالإدراك واتخاذ القرار والتفاعل والتكيف مع البيئة الخارجية المحيطة بها، والتي تجمع بين التصميمين: الميكانيكي، والتقني المتعلق بالذكاء الاصطناعي” ([5]).
وقد ظهر اصطلاح “الروبوت” لأول مرة في التاريخ عندما استعمله الكاتب المسرحي “كاريل تشابيك “Karel Chapek“ ([6])، وكان ذلك في مسرحيته “روبوتات ورسوم العالمية” “Rossumovi univerzàlni Roboti“،والمعروفة اختصارا باسم “.R.U.R“، والتي كتبها في العام ١٩٢٠.
وظهرت صناعة الإنسان الآلي أو الروبوت بالمعنى الحقيقي لهذه الكلمة في اليابان في العام ١٩٢٨، عندما صمم عالم الأحياء الياباني “ماكوتو نيشيمورا” الروبوت الآلي “Gakutensoku“ في مدينة أوساكا اليابانية، والذي كان يمكنه تحريك وجهه ورأسه ويديه عن طريق آلية ضغط الهواء، ألا أنه فقد أثناء جولة في ألمانيا في ثلاثينيات القرن العشرين ([7]).
ولعل أهم مثال حي يطالعنا به الواقع العملي للروبوتات الذكية، الروبوت “صوفيا” “Sophia Robot“، والذي صممته شركة “هانسون روبوتيكس” ومديرها الدكتور “ديفيد هانسون”، الموجودة في هونج كونج في 19 أبريل عام ٢٠١٥ وتم تشغيله لأول مرة في 14/2/2016، وقد حصل هذا الروبوت في 17 أكتوبر العام ٢٠١٧ على الجنسية السعودية، ليكون أول روبوت على مستوى العالم يحصل على جنسية ([8]).
أولا: أهمية موضوع الدراسة
يكتسب موضوع الدراسة أهمية بالغة من ناحيتين؛ الأولى: عملية أو واقعية، تتمثل في الاستخدام الواسع للروبوتات الذكية- خاصة في المستقبل القريب- في مختلف مجالات الحياة، كالمجال الاقتصادي، والمجال الطبي، والمجال العسكري، ومجال التعليم، وغيرها من أوجه الاستخدامات التي تنم عن ثمة إنسان اصطناعي يتمتع بذكاء يضاهي الذكاء البشري، وما قد يترتب على ذلك من أضرار تتسبب فيها هذه الروبوتات، سواء للبشر أم للأموال.
والثانية: قانونية، تتمثل في عدم وجود تنظيم تشريعي يعالج المسؤولية المدنية عن الأضرار التي تسببها الأنظمة الإلكترونية أو الرقمية بصفة عامة، والأنظمة الذكية المستحدثة، ومنها الروبوتات على وجه الخصوص، وما قد يدعونا ذلك إليه من البحث في القواعد العامة المنظمة للمسؤولية المدنية، ومحاولة الوقوف على مدى إمكانية إسقاطها على الروبوتات من عدمه، أم البحث في قواعد قانونية جديدة تنظم المسؤولية المدنية عن الأضرار التي تسببها الروبوتات، وما يتطلبه ذلك من البحثبداءة في مسألة الطبيعة القانونية للروبوت، من حيث كونه: شيئا أم شخصا بالمعنى القانوني الدقيق، أم أن طبيعته الذاتية والمتفردة قد تفرض علينا التوجه نحو ضرورة إقرار شخصية قانونية مستحدثة خاصة به.
ثانيا: إشكالية الدراسة
تدور الإشكالية المحورية للدراسة حول البحث في إطار قانوني يحكم المسؤولية المدنية عن أضرار الروبوتات الذكية، بما يتفق مع طبيعة أنظمة الذكاء الاصطناعي ذاتها، وتحديدا من حيث: الطبيعة القانونية لهذه الروبوتات، وكذا أساس المسؤولية المدنية عن الأضرار التي يمكن أن تحدثها للغير.
ويتفرع من تلك الإشكالية الرئيسة العديد من التساؤلات، لعل من أهمها:
– ما هو أساس المسؤولية المدنية عن الأضرار التي يمكن أن تسببها الروبوتات الذكية؟، وهل ثمة مسؤولية موضوعية يمكن تطبيقها على هذه الأضرار؟ أم أن هناك مسؤولية مدنية جديدة تلوح في الأفق في هذا الشأن؟.
– ما هي أركان المسؤولية المدنية عن الأضرار التي يمكن أن تسببها الروبوتات؟.
– من هو الشخص المسؤول عن أداء التعويض المحكوم به إلى المضرور؟، هل هو المنتج أو المصنع أم المبرمج أو المطور أم المستخدم؟.
– ماهي الطبيعة القانونية للروبوت؟، وهل يمكن اعتباره من قبيل الأشياء المنقولة؟، أم من قبيل الأشخاص الاعتبارية؟، أم أن طبيعته الذاتية تجعله لا يقبل أن يندرج تحت عباءة أي من هذين المفهومين؟.
ثالثا: منهجية الدراسة
لغاية معالجة الإشكالية الرئيسة المتقدمة لموضوع الدراسة، والإجابة عما سبق طرحه من تساؤلات بالدراسة، رأيت اتباع منهجين بحثيين، الأول: المنهج التحليلي،لأجل تحليل النصوص القانونية المتضمنة لقواعد عامة في شأن المسؤولية المدنية، والبحث في مدى إمكانية إنزالها على موضوع الدراسة، وكذا تحليل الأحكام القضائية الصادرة في شأنها، والآراء الفقهية التي قيلت في شأن موضوع الدراسة، ومحاولة الدلو بالرأي الخاص بالباحث في المسائل الخلافية، مع احترام ما تقرره النصوص القانونية من قواعد عامة في هذا الشأن.
والثاني: المنهج المقارن بين القانون المصري والقانون الفرنسي، وتحديدا فيما يتعلق بالقانون المدني المصري رقم (١٣١) لسنة ١٩٨٤، والقانون المدني الفرنسي الصادر عام ١٨٠٤، والمعدل بموجب المرسوم بقانون رقم (١٣١-٢٠١٦)، الصادر في العاشر من فبراير العام ٢٠١٦، والذي تم إقراره كقانون في العام ٢٠١٨، مع الاستعانة كذلك بقانون حماية المستهلك المصري الجديد رقم (١٨١) لسنة ٢٠١٨، والإشارة أيضا إلى التوجيه الأوروبي رقم (374/٨٥) المتعلق بالمسؤولية عن المنتجات المعيبة.
رابعا: خطة الدراسة
بناء على ما تقدم عرضه، وبسبب أن الوقوف على أساس المسؤولية المدنية عن الأضرار التي يمكن أن تسببها الروبوتات للغير، إنما يقتضي بالضرورة التعرض أولا إلى الطبيعة القانونية لهذه الروبوتات، رأيت تقسيم الدراسة على النحو الآتي:
المبحث الأول: الطبيعة القانونية للروبوت.
المبحث الثاني: أساس المسؤولية المدنية عن أضرار الروبوتات الذكية.
المبحث الأول
الطبيعة القانونية للروبوت
يلزم أولا للوقوف على الطبيعة القانونية للروبوت، تحديد تعريفه؛ ذلك أن التعريف إنما يفصح عن ذاتية وطبيعة وخصائص هذا الاصطلاح. ويعرف الاتحاد الدولي للروبوتات “IFR“ في المادة (٢-٦) منه الروبوت بأنه: “آلة مدفوعة قابلة للبرمجة في محورين أو أكثر بدرجة من الاستقلالية، ولها التنقل داخل محيطها لأداء المهام المقصودة” ([9]).
وتعرف دائرة البحوث بالبرلمان الأوروبي European Parliamentary “Research Service “ERPS، الروبوت بأنه: آلة مادية متحركة، قادرة على التصرف في محيطها، ويمكنها اتخاذ القرار” ([10]).
ومما سبق، نستطيع أن نقف على الطبيعة القانونية للروبوت، ونحللها، عنطريق تقسيم هذا المبحث إلى ثلاثة مطالب، على النحو الآتي:
المطلب الأول: الروبوت شيء.
المطلب الثاني: الروبوت شخص.
المطلب الثالث: الرأي الخاص في الموضوع.
المطلب الأول
الروبوت شيء
يتضح من التعاريف المتقدمة للروبوت، إذا ما أخذناها بمعناها الحرفي، أنه لا يعدو كونه آلة أو شئيا. ويقصد بالشيء، كل كائن له ذاتية في الوجود، سواء كان ماديا يدرك بالحواس، كالأرض والجماد والنبات، أم كان معنويا، كأفكار المؤلفين والاختراعات والعلامات التجارية. والشيء المادي يكون محلا للحق العيني، أما الشيء المعنوي، فيكون محلا للحق الشخصي والحق الذهني أو المختلط([11]).
ويعتبر الروبوت شيئا منقولا؛ إذ يمكن نقله من مكان إلى آخر دون تلف، وما في ذلك سوى تطبيق لنص المادة (٨٢/1) من القانون المدني المصري، والمادة (٥١٧) من القانون المدني الفرنسي.
غير أن ما سبق من تحليل إنما نستطيع أن نطبقه فقط على الروبوت التقليدي، ذلك الروبوت الذي لا يقوى على العمل باستقلالية عن الإنسان البشري، بحيث يأخذ جميع الأوامر من هذا الأخير، ومن دونه لا يستطيع التعامل أو التأقلم مع المحيط الخارجي به، فهذا النوع من الروبوتات بالتأكيد- ودون أدنى مراء ينطبق عليه وصف “الأشياء المنقولة”، ومن ثم ينطبق عليه نص المادة (١٧٨) من القانون المدني المصري من أن:” كل من تولى حراسة أشياء تتطلب حراستها عناية خاصة أو حراسة آلات ميكانيكية، يكون مسؤولا عما تحدثه هذه الأشياء من ضرر، ما لم يثبت أن وقوع الضرر كان بسبب أجنبي لا يد له فيه، هذا مع عدم الإخلال بما يرد في ذلك من أحكام خاصة”.
وتفسير ما سبق، هو أن الروبوتات التقليدية تعد من قبيل الآلات الميكانيكية، بل وفوق ذلك تتطلب حراستها عناية خاصة، ومن ثم يسأل حارسها عن أي ضرر تسببه للغير، غاية ما في الأمر أنه يشترط لقيام هذه المسؤولية، أن تكون للمسؤول عن الضرر الحراسة الفعلية لا القانونية، على نحو ما تم ترجيحه في الفقه والقضاء في هذا الشأن.
أما فيما يتعلق بالقانون المدني الفرنسي، ونتيجة عدم وجود نصوص خاصة تحكم المسؤولية عن الأشياء الخطرة أو الآلات الميكانيكية، من بين النصوص القانونية المنظمة للمسؤولية التقصيرية، وتحديدا من: المادة (١٢٤٠) حتى المادة (١٢٥٢) منه، فيمكننا في هذا الصدد تطبيق نوعين من المسؤولية المدنية:
النوع الأول: المسؤولية عن الأشياء بصورة عامة، خطرة كانت أم غير ذلك، والمنصوص عليها في المادة (١٢٤٢) من القانون الفرنسي، من أن الشخص مسؤول ليس فقط عن الضرر الذي يسببه فعله، وإنما أيضا عن……. الأشياء التي بحراسته. غير أن هذا النوع من المسؤولية التقصيرية يشترط أن يثبت المضرور الحراسة الفعلية للشخص على الروبوت التقليدي وقت وقوع الضرر.
النوع الثاني: المسؤولية عن المنتجات المعيبة، والمنصوص عليها في المواد من: (١٢٤٥) إلى (١٢٤٥-١٧) من القانون المدني الفرنسي، على اعتبار أن الروبوتات تعد في الأخير من قبيل المنتجات. ويشترط لإقامة هذا النوع من المسؤولية التقصيرية، وعلى وفق ما تقضي به المادة (١٢٤٥-٨) من القانون المدني الفرنسي، أن يقوم المضرور بإثبات وجود عيب في منتج الروبوت والضرر وعلاقة السببية بين العيب.
ولا يقدح في إقامة المسؤولية عن الروبوتات المعيبة، باعتبارها منتجا، عدم وجود خطأ في تصنيعه أو مطابقته للمعايير أو المقاييس المطلوبة، أو حصوله على ترخيص بالعمل، بل أن المسؤولية في هذا الصدد تقوم بمجرد إثبات وجود عيب، حتى ولو لم ينم هذا العيب عن ثمة خطأ، وما في ذلك سوى تطبيق لنص المادة (1245-٩) من القانون المدني الفرنسي، الأمر الذي يفهم منه أن المسؤولية في هذه الحالة تعد بذاتها مسؤولية موضوعية، يعفي في ظلها المضرور من إثبات ركن الخطأ، ويتم استبداله بركن آخر، هو ركن العيب، أي وجود عيب بالمنتج.
وتبين المادة (١٢٤٥-٣) من القانون المدني الفرنسي المقصود بالعيب، من أنه: “يكون المنتج معيبا، عندما لا يوفر الأمان الذي يمكن توقعه بصورة مشروعة……. ([12]).
وعودة مرة أخرى إلى الطبيعة القانونية للروبوت، وعلى وفق ما انتهينا إليه فيما تقدم من تحليل، نجد أنه إذا كان الروبوت التقليدي قد تسمح طبيعته الذاتية باعتباره شيئا، مما ينطبق عليه وصف الشيء المقرر في القانون المدني المصري وكذلك القانون المدني الفرنسي، إلا أن الأمر قد يختلف كثيرا حال توجيه النظر صوب الروبوت الذكي.
فالروبوتات الذكية- كما قدمنا- وإن كانت في الأخير لا تعدو سوى كونها أشياء أو آلات ميكانيكية، إلا أن المعول عليه في هذا المقام هو برامج الذكاء الاصطناعي ذاتها التي تتم تغذيتها بها، لا الإنسان الآلي، وآية ذلك أن تلك الروبوتات الذكية تستطيع- وبموجب هذه البرامج أو الأنظمة- العمل من تلقاء نفسها، والتكيف مع الوضع الخارجي بذاتية واستقلالية عن مالكها أو مشغلها أو حتى مطورها أو مبرمجها ([13])، ولا أدل على ذلك من تصريح خطير أدلى به “لوكادي أمبروجي”، وهو خبير في مجال الذكاء الاصطناعي، من أنه: “رغم أن البشر يتمتعون بمزايا عن الروبوتات، مثل: أنهم أكثر ديناميكية وتنوعا، إلا أن الإلكترونيات الذكية يمكن أن تتفوق على البشر في العديد من الوظائف خلال نصف قرن؛ ذلك أنها قد تمتلك وعيافي يوم من الأيام يجعلها تتعامل باعتبارها كائنات مستقلة”([14]).
كما حذر بعض الخبراء في مجال الذكاء الاصطناعي من أن الروبوتات قد تكون قاتلة إذا لم يتم التحكم فيها بصورة كبيرة من قبل البشر، وإنها قد تكون من أكبر التهديدات الوجودية التي قد يواجهها كوكب الأرض ([15]).
فهل رغم ما تقدم سنستمر في اعتبار الروبوتات الذكية مجرد آلات أو أشياء؟، تساؤل يستحق أن نفرد السطور القادمة للإجابة عنه بشيء من التفصيل والتحليل المناسبين للطبيعة الذاتية والمستقلة لهذه الروبوتات، مع الأخذ في الحسبان نظرية أشخاص القانون.
المطلب الثاني
الروبوت شخص
أثير التساؤل في هذا المقام حول مدى إمكانية اعتبار الروبوت من قبيل الأشخاص، وتحديدا الأشخاص الاعتبارية، ومنحها من ثم ذات الشخصية القانونية الممنوحة للشخص الاعتباري، على اعتبار أن الروبوت يعد من قبيل الكيانات، شأنه في ذلك شأن الشركات والجمعيات والهيئات.
ونستعيد من الذاكرة القانونية، ونحن بهذا المقام، وفي صدر الإجابة عن هذا التساؤل، أن القانون المدني المصري- وكذلك القانون المدني الفرنسي- يقسم الأشخاص إلى أشخاص طبيعيين وآخرين اعتباريين. والشخص الطبيعي هو الإنسان. أما الشخص المعنوي، فعلى وفق ما يطالعنا به نص المادة (٥٢) من القانون المدني المصري، هو الدولة والمديريات والمدن…….، والهيئات، والأوقاف، والشركات التجارية والمدنية، والجمعيات والمؤسسات، وكل مجموعة من الأشخاص أو الأموال تثبت لها الشخصية الاعتبارية بمقتضى نص في القانون. وعند هذه الفقرة الأخيرة نقف قليلا، خاصة في ظل عدم وجود نص قانوني يحكم أنظمة الذكاء الاصطناعي بوجه عام، والروبوتات على وجه الخصوص.
فالمعلوم أن الشخص الطبيعي يتمتع بعدة حقوق أو مميزات تنتج من الاعتراف له بشخصية قانونية، مثل: الاسم، والموطن، والحالة، والأهلية القانونية، في حين أنه يصعب توفر هذه الحقوق أو المميزات في الروبوتات. كما أن الأهلية القانونية، والتي تعتبر من مميزات الشخص الطبيعي، لا يتصور توفرها، بمفهومها القانوني الدقيق في الروبوتات، سواء كانت أهلية الوجوب Capacité de urissance أم أهلية الأداءCapacité d’exercise، خاصة أن الأخيرة تتقرر للشخص الطبيعي لمروره بمراحل عمرية- زمنية- معينة، وهو ما لا يتوفر بالتأكيد في الروبوت.
كذلك، يتمتع الشخص الاعتباري بالعديد من الحقوق إلا ما كان منها ملازما لصفة الإنسان الطبيعية، مثل: الذمة المالية المستقلة، وحق التقاضي، والموطن المستقل، وهو ما يصعب كذلك تصور توفره في الروبوتات.
ويفهم مما تقدم أن الروبوتات الذكية لا يمكن اعتبارها من قبيل الأشخاص ([16])، طبيعيين كانوا أم اعتباريين، كما لا يمكن اعتبارها من قبيل الأشياء بالمعنى الدقيق للشيء، لما تقدم عرضه من أسباب.
المطلب الثالث
الرأي الخاص في الموضوع
باستقراء ما انتهى إليه البرلمان الأوروبي في 17/2/2017، من توصيات ومبادئ توجيهية تتعلق بوضع قواعد وأحكام تنظم عمل الروبوتات، نجد أنه قد انتهى إلى التوصية بالاعتراف بشخصية قانونية إلكترونية أو رقمية للروبوتات الذكية، والتي تتمتع باستقلالية وحرية في اتخاذ القرارات ([17])، وكذلك إنشاء سجل خاص بالروبوتاتالذكية، تسجل فيه جميع المعلومات المتعلقة بكل روبوت، وأيضا إقرار نظام خاص للتأمين ضد مخاطر الروبوتات، وكذلك صعوبة تطبيق القواعد العامة للمسؤولية بوضعها الحالي على الأضرار التي تقع بسبب الروبوتات أو أنظمة الذكاء الاصطناعي، الأمر الذي يثير قدرا ليس بالهين من الشك والريبة حول مدى إمكانية استحداث شخصية قانونية للروبوتات الذكية، على غرار الشخصية القانونية الممنوحة للشخص الطبيعي والشخص الاعتباري، وما سيتطلبه ذلك من استحداث نظام قانوني خاص يحكم المسؤولية المدنية عن الأضرار التي تسببها أنظمة الذكاء الاصطناعي بوجه عام، ومنها الروبوتات الذكية.
وأرى أنه يصعب تطبيق ما تقدم ذكره من تصور على الأقل في الوقت الحالي؛ نظرا لأن انتشار الروبوتات الذكية في الوقت الحالي لم يصل بعد إلى الدرجة التي تفرض على المشرع أن يتدخل باستحداث نصوص قانونية خاصة تنظم عملها وأحكام التعويض عن الأضرار التي يمكن أن تسببها للغير، وإن كان من الممكن، وفي الوقت الحالي، الإبقاء على إدخال هذه الروبوتات، تقليدية كانت أم ذكية، داخل عباءة الأشياء في القانون، وتحديدا الأشياء المنقولة، في انتظار ما سيسفر عن الواقع العملي في المستقبل من زيادة الأدوار التي تقوم بها الروبوتات الذكية في مختلف مجالات الحياة، وطبيعة تلك الأدوار.
زد على ذلك، أن منح الروبوتات الشخصية القانونية سيؤدي إلى تقليل أو استبعاد مسؤولية الشركة المصنعة للروبوتات ومبرمجيها ومستخدميها، وبالتالي ستكون الروبوتات أكثر خطرا وأقل دقة في التصنيع؛ لأن استبعاد أو تقليل مسؤولية هؤلاء سيجعلهم لا يلتزمون بالدقة في تصنيع الروبوتات ([18]).
ولا يقدح في سبيل محاولة إقامة بنيان يعترض ما انتهينا إليه من إدخال الروبوتات الذكية داخل عباءة الأشياء باصطلاحها المنصوص عليه في المادة (١٧٨) من القانون المدني المصري، والمادة (١٢٤٢) من القانون المدني الفرنسي، الدفع بالصفة غير المادية لبرامج الذكاء الاصطناعي بوجه عام، ومنها البرامج التي يتم تغذية الروبوتات بها؛ ذلك أن هذه البرامج بمجرد أن توضع على دعامة رقمية، فإنها تكتسب الصفة المادية، ومن ثم ينطبق عليها وصف الأشياء بمعناه المقصود في هاتين المادتين.
وتدعم تحليلنا السابق بالحكم الصادر عن محكمة الدرجة الأولى بباريس من أن: “الصورة القابلة للاستنساخ والحفظ، تعتبر شيئا يندرج في إطار مفهوم المادة ١٣٨٤ من القانون المدني” ([19])، وهي المادة القديمة والتي أصبحت المادة (١٢٤٢) بموجب المرسوم بقانون رقم (١٣١-٢٠١٦).
وعلى وفق هذا الحكم، يمكن أن نستنتج أن الصورة غير المحفوظة لا تعتبر شيئا، إلا إذا تم تجسيدها في دعامة إلكترونية، وهو ما ينطبق بالقياس على المعلومات والبيانات المتعلقة بالذكاء الاصطناعي، والتي يتم تجسيدها أو تخزينها على دعامات تشكل في الأخير برامج أو أنظمة مؤتمتة- للذكاء الاصطناعي.
وننوه أخيرا إلى أمر مهم أيضا في هذا المقام، دفع به البعض لقياسه على حالة الروبوت الذكي فيما يتعلق بالطبيعة القانونية له، وهو نص المادة (١٢٤٣) من القانون المدني الفرنسي، من أن:” صاحب الحيوان أو من يستخدمه أثناء استخدامه، مسئول عن الضرر الذي أحدثه الحيوان، سواء كان الحيوان في حراسته أو ضل أوتسرب”، إذ حاول البعض ([20]) الدفع بهذا النص لأجل تشبيه الروبوت بالحيوان، ومن ثم إقامة المسؤولية المدنية عن الأضرار التي يسببها للغير على أساس من نص هذه المادة.
غير أننا لا نتفق مع هذا الرأي؛ ذلك لوجود اختلاف ذاتي بين الحيوان والروبوت؛ فالحيوان يعد في الأخير كائنا حيا، يتمتع بالإحساس على الرغم من فقدانه الإدراك والتمييز، في حين لا تتوفر تلك الطبيعة لدى الروبوت. كما أن الحيوان لا يستطيع- في جميع الأحوال- اتخاذ القرارات التي تتناسب مع كل موقف يتعرض له، بعكس الروبوت الذكي؛ الذي، بفضل ما يتمتع به من ذكاء اصطناعي، يستطيع فعل ذلك.
المبحث الثاني
أساس المسؤولية المدنية عن أضرار الروبوتات الذكية
ذكرت غير مرة، وفي أكثر من موضع سابق، أن البحث في أساس المسؤولية المدنية عن الأضرار التي تسببها الروبوتات، إنما كان يقتضي منا الوقوف أولا على الطبيعة القانونية للروبوت. ولماكنا قد انتهينا في شأن الطبيعة القانونية للروبوت إلى صعوبة اعتبار الروبوت الذكي بمثابة الشخص المعنوي، أو حتى استحداث شخصية قانونية إلكترونية أو رقمية جديدة له في الوقت الراهن، على الرغم مما انتهي إليه البرلمان الأوروبي من توصيات في شأن تأكيد مثل هذا الأمر، فإننا سنظل- حتى الآن- مستمرين في اعتبار الروبوت الذكي بمثابة الشيء المنقول.
ولما كان الأمر كذلك، فإن تحديد أساس المسؤولية المدنية عن أضرار الروبوتات الذكية لا يخلو من البحث في المسؤولية عن فعل الأشياء التي تتطلب حراستها عناية خاصة أو الآلات الميكانيكية، على اعتبار أن الروبوت الذكي إنما يعد من قبيل الأشياء التي تتطلب حراستها عناية خاصة أو من الآلات الميكانيكية، أو البحث في المسؤولية عن المنتجات المعيبة، باعتبارها إحدى صور أو تطبيقات المسؤولية الموضوعية، أي المسؤولية من دون خطأ. ونتناول فيما يلي كل أساس محتمل للمسؤولية المدنية عن الأضرار التي تسببها الروبوتات، وذلك من خلال المطلبين التاليين، على أن نبدي الرأي الخاص في المطلب الثالث والأخير.
المطلب الأول
المسؤولية المدنية عن الأشياء كأساس للمسؤولية
المدنية عن أضرار الروبوتات
تنص المادة (١٧٨) من القانون المدني المصري على أن: “كل من يتولى حراسة أشياء تتطلب حراستها عناية خاصة، أو حراسة آلات ميكانيكية، يكون مسؤولا عما تحدثه هذه الأشياء من ضرر، ما لم يثبت أن وقوع الضرر كان بسبب أجنبي لا يد له فيه، هذا مع عدم الإخلال بما يرد في ذلك من أحكام خاصة”.
ويتضح من النص القانوني السابق، أنه يشترط لإقامة مسؤولية حارس الأشياء التي تتطلب حراستها عناية خاصة أو حراسة الآلات الميكانيكية، توفر عدة شروط، من أهمها: أن تتوفر في حراسة الشيء العناية الخاصة، ويكون ذلك بالنظر إلى الظروف والملابسات المحيطة به والتي يتواجد فيها، لا بالنظر إلى طبيعته الذاتية فقط، أو أن يكون الشيء من قبيل الآلات الميكانيكية، أي الأشياء التي تزود بمحرك أو بقوة دافعة ([21])، ولعل هذا الشرط قد ينطبق على الروبوتات الذكية؛ إذ أنها في الأخير تعد من قبيل الآلات الميكانيكية، أو بمعنى آخر أدق، تعد من قبيل الأشياء المزودة بميكانيكية لازمة لأداء عملها، هذا كله إذا ما نظرنا إلى الهيكل الميكانيكي للروبوت ذاته، لا إلى ما تتم تغذيته به من أنظمة ذكاء اصطناعي.
كذلك يشترط أن يكون الروبوت الذكي في حراسة الشخص المسؤول عن تعويض الأضرار الناتجة منه. ويعد هذا الشرط هو أهم الشروط لإقامة المسؤولية عن فعل الأشياء؛ ذلك أن الحراسة هي جوهر المسؤولية. والحراسة بهذا الاصطلاح، وعلى وفق ما استقر عليه الرأي في الفقه ([22]) والأحكام القضائية ([23])، يقصد بها الحراسة الفعلية لا القانونية، تلك الحراسة التي تعني السيطرة الفعلية على الروبوت، حتى ولو لم يكن الحارس هو ذاته المالك أو المنتفع أو الحائز.
وقد قضت محكمة النقض المصرية في هذا الصدد بأن: “المقرر- في قضاء محكمة النقض- أن مفاد النص في المادة (١٧٨) من القانون المدني، أن الحراسة الموجبة للمسؤولية على أساس الخطأ المفترض طبقا لهذا النص، إنما تتحقق بسيطرة الشخص على الشيء سيطرة فعلية في الاستعمال والتوجيه والرقابة لحساب نفسه” ([24]).
وعند هذا الشرط المتطلب توفره لإقامة مسؤولية حارس الأشياء التي تتطلب حراستها عناية خاصة أو حراسة الآلات الميكانيكية نتوقف قليلا للتمحيص والتدقيق فيه، خاصة عند إنزاله على حالة الروبوتات الذكية، ولنا في ذلك ثلاثة أسباب:
السبب الأول: أنه من المعروف- وطبقا لما قدمناه من خصائص- أن الروبوتات الذكية تتمتع بدرجة عالية من الذاتية والاستقلالية في العمل، بحيث يصعب تحديد حارسها الذي تكون له عليها سلطات الرقابة والتوجيه ([25])، وحتى إن تم ذلك، فيكون ذلك لأول مرة فقط، وهي المرة التي يقوم فيها المبرمج أو المطور أو الشركة المصنعة بتغذية الروبوت الذكي بنظام أو برنامج الذكاء الاصطناعي، بحيث يستطيع الروبوت- الذكي- بعد ذلك أن يعمل بمفرده وباستقلالية كاملة وتامة، وأن يتعامل مع المحيط الخارجي بحسب الظروف والملابسات، ودون الحاجة إلى تدخل المبرمج أو المطور أو الشركة المصنعة.
السبب الثاني: أن الروبوتات الذكية، وإن كان من الممكن أن تخضع لفكرة الحراسة الفعلية بمعناها الذي يتضمنه نص المادة (١٧٨) من القانون المدني المصري، والمادة (١٢٤٢) من القانون المدني الفرنسي، هذا إذا ما نظرنا إليها على اعتبارها هيكلا أو جسما ميكانيكا، يجسد في الأخير شيئا ماديا، إلا أن الوضع سينعكس كثيرا ويتبدل حال نظرنا إليها على اعتبارها نظام أو برنامج ذكاء اصطناعي، فعندئذ ستعد من قبيل الأشياء غير المادية، ونقصد من ذلك بالتأكيد أنظمة أو برامج الذكاء الاصطناعي في حد ذاتها، والتي تعمل من خلالها تلك الروبوتات، لا الروبوت ذاته كآلة أو شيء، ومن ثم يصعب إخضاعها- والحالة هذه- بصورة كلية وتامة لفكرة الحراسة؛ ذلك أولا لكونها أشياء غير مادية، وثانيا لتمتعها باستقلالية تحول دون أي رقابةيمارسها مستخدمها أو مالكها. فبرامج الذكاء الاصطناعي في عمومها لا يمكن أن تخضع لفكرة الحراسة الفعلية، بما يتضمنه هذا المفهوم من رقابة وتوجيه، على الإطلاق.
ولعل ما يساندنا في هذا السبب، الحكم الصادر عن محكمة الاستئناف بفرنسا في قضية “Google Adwords“، والتي رفضت فيه المحكمة تقرير مسؤولية شركة Google عن الأضرار التي أصابت شركتي: “Terres d’aventure“،و”Voyageurs du mond“، ورفضت اعتبار شركة Google حارسا للمعلومات الموجودة على منصة Adwords، تأسيسا على أن المعلومات، باعتبارها أشياء غير مادية، يصعب إخضاعها لفكرة الحراسة الفعلية، ما لم يتم وضعها على دعامة إلكترونية ([26]).
كما أن برامج الذكاء الاصطناعي، وإن كانت تصلح لأن تكون محلا لحقوق الملكية الفكرية، إلا أنها لا تصلح أن تكون تحت الحراسة الفعلية- بمفهومها المتقدم- لأي شخص (
[27]).
وقد حاول البعض من الفقه الفرنسي ([28]) في سبيل إسناد أساس المسؤولية المدنية عن أضرار برامج الذكاء الاصطناعي بوجه عام إلى نظرية المسؤولية عن فعل الأشياء، التفرقة في عناصر الحراسة الفعلية بين الاستعمال والتوجيه من جهة، وبين الرقابة من جهة أخرى، فذهب إلى أن من يكون لديه عنصرا: الاستعمال والتوجيهللشيء، يكون هو الحارس الفعلي له، ودون الحاجة إلى أن يتوفر له عنصر الرقابة؛ ذلك أن هذا العنصر الأخير قد يغيب بحسب طبيعة الشيء نفسه.
غير أننا لا نستطيع تقبل هذا التحليل المتقدم، أو بمعنى آخر أكثر دقة وجرأة، الحيلة القانونية السابقة؛ ذلك أن الحراسة الفعلية تقوم على فكرة السلطة الفعلية للحارس على الشيء، وهذه السلطة تقتضي أن تتوفر للحارس ثلاثة عناصر مجتمعة، هي: الاستعمال والرقابة والتوجيه، ومن دون أي عنصر من هذه العناصر الثلاثة ينهدم قوام السلطة الفعلية، وينهدم معه بالتبعية قوام الحراسة الفعلية.
السبب الثالث: يكمن هذا السبب في صعوبة تحديد الحارس الذي تكون له سلطة فعلية على الروبوت الذكي، فحراسة برامج الذكاء الاصطناعي في عمومها، تحتوي على أمور فنية معقدة يصعب معها إسناد الشيء الذي تتم تغذيته بها إلى شخص معين.
وحتى وإن أخذنا بفكرة تجزئة الحراسة التي أقرتها محكمة النقض الفرنسية في حكمها الصادر في ٥ يناير ١٩٥٦، والتي بموجبه جزأت الحراسة إلى حراسة الاستعمال Garde du comportement، وحراسة التكوين Garde de la structure، واعتبرت بمقتضاها أن حراسة الاستعمال تكون للحائز في حدود ما يقتضيه استعمال الشيء، بينما تكون حراسة التكوين للمنتج أو المصنع في نطاق العيب أو الاختلال الموجود في هيكل الشيء، فإن تلك الفكرة قد تثير العديد من الصعوبات أمام المضرور في سبيل إثبات مصدر الضرر، هل هو بسبب عيب تقني ببرنامج الذكاء الاصطناعي الذي تتم تغذية الروبوت به أم بسبب سوء استعمال مستخدم أو مستعمل الروبوت؟، ومن ثم تعذر إسناد إحدى الحراستين لأي شخص، ومن ثم صعوبة تحديد الحارس، وصعوبة تحديد الشخص المسؤول عن الضرر، هذا كله إذا ما أخذنا بالحسبان احتمالية عدم إلمام المضرور بالأمور التقنية الذكية المستحدثة. ثم ما هوالحل حال كون مصدر الضرر مجهولا، فمن يكون عندئذ الحارس المسؤول عن وقوع الضرر عندئذ؟، وإن كنت أرى أفضلية إسناد الحراسة في هذه الحالة إلى حارس التكوين، وهو المبرمج أو الشركة المصنعة، على اعتبار أن برامج الذكاء الاصطناعي تتمتع بدرجة عالية من التقنية والتعقيد في ذات الوقت.
أمر آخر أريد أن أسترعي إليه الانتباه وأدفع به في هذا المقام، هو أن مرحلة تكوين الروبوتات الذكية قد يتدخل فيها أكثر من شخص، الأول، هو المسؤول عن تكوين أو تصنيع جسم الروبوت نفسه، أي الجزء الميكانيكي للروبوت، والآخر، هو المسؤول عن تغذية هذا الجسم الميكانيكي بأنظمة الذكاء الاصطناعي المختلفة، وهو المبرمج أو المطور، ولا شك أنه في هذه الحالة سيصعب- بل سيستحيل- إسناد حراسة التكوين ذاتها إلى شخص معين منهما؛ نظرا لاشتمال هذه المرحلة على تعقيدات تقنية وفنية كبيرة.
لما تقدم من أسباب تم الدفع بها من جانبنا في سبيل محاولة إزاحة نظرية المسؤولية عن فعل الأشياء من مجال الأضرار التي يمكن أن تسببها الروبوتات الذكية، كأساس للمسؤولية المدنية عنها، ننتقل إلى الأساس المحتمل الثاني لهذه المسؤولية، وهو المسؤولية الموضوعية.
المطلب الثاني
المسؤولية عن المنتجات المعيبة كأساس للمسؤولية
المدنية عن أضرار الروبوتات
ينظم قانون حماية المستهلك المصري الجديد رقم (١٨١) لسنة 2018 ([29])، المسؤولية عن الأضرار التي تحدثها المنتجات، حيث تنص المادة (٢٧) منه على أن: “يكون المنتج مسؤولا عن كل ضرر يلحقه المنتج أو يحدثه إذا ثبت أن الضرر نشأ بسبب عيب في المنتج يرجع إلى تصميمه أو صنعه أو تركيبه. ويكون المورد مسؤولا عن كل ضرر يلحقه أو يحدثه المنتج يرجع إلى طريقة استعماله استعمالا خاطئا، إذا ثبت أن الضرر بسبب تقصير المورد في اتخاذ الحيطة الكافية لمنع وقوع الضرر أو التنبيه إلى احتمال وقوعه. ويكون الموزع أو البائع مسؤولا عن كل ضرر يلحقه أو يحدثه المنتج إذا ثبت أن الضرر نشا بسبب عيب يرجع إلى طريقه إعداده للاستهلاك أو حفظه أو تعبئته أو تداوله أو عرضه. وفي جميع الأحوال تكون مسؤولية الموردين تضامنية”.
كما تنص المادة (67/1) من قانون التجارة المصري رقم (١٧) لسنة ١٩٩٩، على أن: “يسأل المنتج السلعة وموزعها قبل كل من يلحقه ضرر بدني أو مادي يحدثه المنتج، إذا أثبت هذا الشخص أن الضرر نشأ بسبب عيب في المنتج”.
كما ينظم القانون المدني الفرنسي المسؤولية عن المنتجات المعيبة في المواد من (١٢٤٥) إلى (١٢٤٥-١٧) منه. وينظم التوجيه الأوروبي رقم (374/85) الصادر في ٢٥ يوليو عام ١٩٨٥، بشأن تقريب القوانين واللوائح والأحكام الإدارية للدول الأعضاء فيما يتعلق بالمسؤولية عن المنتجات المعيبة ([30]).
والواقع أن المسؤولية عن الأضرار التي تسببها المنتجات المعيبة تعد صورة مستحدثة من صور المسؤولية الموضوعية؛ إذ لا يكلف المضرور من فعل المنتج سوى بإثبات الضرر وعلاقة السببية بينه وبين العيب، دون أن يكلف بإثبات خطأ من جانب المنتج، إذ أنه في بعض الأحوال قد يعتري المنتج عيب، دون أن يكون ذلك راجعا إلى ثمة خطأ في تصنيعه من قبل المنتج.
وتأكيدا لما سبق، تنص المادة (١٢٤٥-٨) من القانون المدني الفرنسي على أن: ا” يجب على المدعي إثبات الضرر والعيب والعلاقة السببية بين العيب والضرر”. كما تؤكد المادة (١٢٣٤-٩) من ذات القانون المضمون نفسه من أن:” المنتج قد يكون مسؤولا عن العيب على الرغم من أن المنتج قد تم تصنيعه وفقا للقواعد الفنية أو المعايير الحالية أو أنه كان موضوعا لترخيص إداري”. وهاتان المادتان بذلك تخرجان ركن الخطأ من نطاق إعمال المسؤولية عن المنتجات المعيبة، وتستبدلانه بركن العيب فقط.
والواقع أن المسؤولية الموضوعية هي مسؤولية مستحدثة في القانون المدني، ظهرت نتيجة وجود بعض الحالات التي يصعب فيها على المضرور إثبات ركن الخطأ ([31])، نظرا لاشتمالها على بعض الأمور الفنية التي يصعب معها على المضرور الإلمام بها. وتعرف المسؤولية الموضوعية بأنها:” المسؤولية التي تتوفر فيها أركان ثلاثة، هي: الفعل أو النشاط، والضرر، وعلاقة السببية بينهما”. ويفهم من ذلك أن المسؤولية الموضوعية تنحي ركن الخطأ جانبا من نطاقها، وتستبدله بركن الفعل أو النشاط، وبناء على ذلك، فإن المضرور- وفق نظرية المسؤولية الموضوعية- لايكلف سوى بإثبات الضرر وعلاقة السببية بينه وبين الفعل أو النشاط، حتى ولو لم يشكل هذا الأخير خطأ، أي حتى ولو لم يتضمن هذا الفعل أو النشاط انحرافا عن السلوك المألوف للرجل المعتاد.
وعودة مرة أخرى إلى البحث في مدى صلاحية نظرية المسؤولية عن المنتجات المعيبة كأساس للمسؤولية المدنية عن الأضرار التي تسببها الروبوتات، نورد بعض الملاحظات التي سننتهي من خلالها إلى مدى تناسب تلك النظرية مع حالة الروبوتات الذكية من عدمه:
الملاحظة الأولى: تطرح هذه الملاحظة تساؤلا يتعلق بمدى إمكانية إدخال الروبوتات ضمن اصطلاح “المنتج المنصوص عليه في المادة (27) من قانون حماية المستهلك المصري، والمادة (١٢٤٥) من القانون المدني الفرنسي.
وبالذهاب إلى قانون حماية المستهلك المصري الجديد، نجد أن المادة (١-٤) منه، تعرف المنتجات بأنها: “السلع والخدمات المقدمة من أشخاص القانون العام أو الخاص، وتشمل السلع المستعملة التي يتم التعاقد عليها من خلال مورد، عدا الخدمات المالية والمصرفية المنظمة بأحكام قانون البنك المركزي والجهاز المصرفي، وقانون تنظيم الرقابة على الأسواق والأدوات المالية غير المصرفية”.
كما تعرف المادة (١٢٤٥-٢) من القانون المدني الفرنسي، المنتج بأنه:” كل مال منقول، حتى ولو صار جزءا من عقار، بما في ذلك منتجات الأرض وتربية الماشية والصيد البحري ومنتجات صيد الأسماك. وتعتبر الكهرباء بمثابة منتج”([32]).
كما تعرف المادة الثانية من التوجيه الأوروبي رقم (374/٨٥)، المنتج بأنه: “جميع المنقولات، باستثناء المنتجات الزراعية الأولية والألعاب، حتى وإن كانت مدمجة في منقولات أخرى أو عقارات”. والمنتج يشمل الكهرباء”.
ومن النصوص القانونية المتقدمة، يتضح لنا بجلاء أنها أجمعت على اقتصار اصطلاح “المنتج” على الأشياء المنقولة فقط، وهي الأشياء المادية لا تكون مستقرة بحيزها أو ثابتة فيه، ويمكن نقلها من مكان إلى آخر دون تلف، الأمر الذي يثير التساؤل حول مدى إمكانية إدخال برامج الذكاء الاصطناعي ضمن هذا الاصطلاح.
وللإجابة عن هذا التساؤل، نشير بداءة إلى نص المادة (١٣٨) من الكتاب الثالث بعنوان “حقوق المؤلف والحقوق المجاورة”، من قانون حماية الملكية الفكرية المصري رقم (٨٢) لسنة ٢٠٠٢، من أنه:” في تطبيق أحكام هذا القانون، يكون للمصطلحات الآتية المعنى الوارد قرين كل منها: ١- المصنف: كل عمل مبتكر أدبي أو فني أو علمي أيا كان نوعه أو طريقة التعبير عنه أو أهميته أو الغرض من تصنيفه”. كما تنص المادة (١٤٠) من ذات القانون على أن:” تتمتع بحماية هذا القانون حقوق المؤلفين على مصنفاتهم الأدبية والفنية، وبوجه خاص المصنفات الآتية:…….. ٢- برامج الحاسب الآلي”.
أما بالنسبة إلى قانون الملكية الفكرية الفرنسي، فتنص المادة (٦١١-١٠) منه على أن:” لا تعبر الاختراعات التالية بالمعنى المقصود في الفقرة الأولى من هذه المادة:……..ج………….. وكذلك برامج الحاسوب”. ولكن تنص المادة (112-2) من ذات القانون على أن:” تعتبر على وجه الخصوص بمثابة أعمالا فكرية بالمعنى المقصود في هذا القانون:……………١٣- البرمجيات، بما في ذلك التصميم التحضيري.
كذلك، تنص المادة الأولى من التوجيه الأوروبي رقم 24/٢٠٠٩ الصادر عن البرلمان الأوروبي في ٢٣ أبريل عام ٢٠٠٩ في شأن الحماية القانونية لبرامج الحاسوب، على أن: “……….. تنطبق الحماية المنصوص عليها في هذا التوجيه على أي شكل من أشكال التعبير عن برامج الكمبيوتر……..”.
ويتضح من النصوص المتقدمة، أن برامج الذكاء الاصطناعي تعتبر من قبيل الملكية الفكرية الأدبية والفنية باعتبارها من برامج الحاسب الآلي أو البرمجيات، ومن ثم تحظي بالحماية القانونية المقررة للمصنفات في قانون حماية الملكية الفكرية([33])، بشرط أن تكون من قبيل المصنفات المبتكرة. ويعرف قانون حماية الملكية الفكرية المصري في المادة (١٣٨-٢) منه الابتكار بأنه: “الطابع الإبداعي الذي يسبغ الأصالة على المصنف” ([34]). هذا من جهة.
ومن جهة أخرى، يشترط لكي يتمتع أي مصنف- ومنه برامج الذكاء الاصطناعي- بالحماية القانونية المقررة للملكية الفكرية، أن ينفصل عن شخص مؤلفه، ويخرج إلى عالم الوجود في شكل محسوس يسمح بتوصيله للغير. ويعبر الفقه عن ذلك بضرورة أن يتجسد النتاج الذهني، بحيث يكون له وجود مادي محسوس،يمكن للأذهان الأخرى أن تدركه بأي حاسة من الحواس، كالسمع أو النظر أو اللمس، أو أي حاسة أخرى ([35]).
الأمر الذي يفهم منه إمكانية إدخال اصطلاح “البرمجيات” بوجه عام، واصطلاح “برامج الذكاء الاصطناعي” على وجه الخصوص، ضمن عباءة مفهوم اصطلاح “المنتج”، المنصوص عليه في قانون حماية المستهلك المصري والقانون المدني الفرنسي، شريطة أن تدمج تلك البرامج على دعامات، وهو ما يحدث بالفعل فيما يتعلق ببرامج الذكاء الاصطناعي.
ويدعمنا في هذا التحليل، نص المادة (١٢٤٥-٧) من القانون المدني الفرنسي، من أنه:” في حالة حدوث ضرر ناتج من عيب منتج مدمج في منتج آخر، فيكون كل من: منتج الجزء المكون، ومنتج الجزء المدمج، مسؤولين بالتضامن””.
كما تكمل المادة (١٢٤٥-١٠) من القانون المدني الفرنسي، قوام التحليل المتقدم، بالنص على أن:” لا يتحمل منتج الجزء المكون أيمسؤولية، إذا أثبت أن العيب يرجع إلى تصميم المنتج الذي تم فيه دمج هذا الجزء، أو إلى الإرشادات التي منتج هذا المنتج”.
كذلك ندفع في هذا المقام بالتصريح الذي أدلى به كل من: وزير العدل الفرنسي، والمفوضية الأوروبية، واللذان أشارا من خلاله إلى إمكانية تطبيق المسؤولية عن المنتجات المعيبة على البرامج، واعتبارها من قبيل المنتجات، على الرغم من عدم ماديتها.
الملاحظة الثانية: تطرح هذه الملاحظة تساؤلا يتعلق بمفهوم “العيب” المنصوص عليه في قانون حماية المستهلك المصري، والقانون المدني الفرنسي، والتوجيه الأوروبي رقم (374/٨٥)، ومدى إمكانية تطبيقه على حالة الروبوتات الذكية.
وفي صدر الإجابة عن هذا التساؤل، نشير إلى أن المادة (١-٧) من قانون حماية المستهلك المصري الجديد، تعرف العيب على أنه: كل نقص في قيمة أو منفعة أي من المنتجات بحسب الغاية المقصودة منها، ويؤدي بالضرورة إلى حرمان المستهلك، كليا أو جزئيا، من الاستفادة بها فيما أعدت من أجله، بما في ذلك النقص الذي ينتج من خطأ في مناولة السلعة أو تخزينها، وذلك كله ما لم يكن المستهلك قد تسبب في وقوع هذا النقص”.
كما تنص المادة (١٢٤٥-٣) من القانون المدني الفرنسي على أن:” يكون المنتج معيبا في مفهوم هذا الفصل، عندما لا يوفر الأمان الذي يمكن انتظاره منه بصورة مشروعة………….“.
كما تنص المادة السادسة من التوجيه الأوروبي رقم (٣٧٤-٨٥)، على أن:” يكون المنتج معيبا عندما لا يوفر الأمان الذي يحق للشخص أن يتوقعه، مع مراعاة جميع الظروف، بما في ذلك:
(أ) عرض المنتج.
(ب) الاستخدام الذي من المعقول توقع وضع المنتج فيه.
(ج) الوقت الذي تم فيه تداول المنتج…………”.
ويتضح من النصوص القانونية الثلاثة المتقدمة، أن العيب المقصود في أحكام هذه النصوص، هو ذلك العيب الذي لا يوفر الأمان الكافي للمستهلك، ويؤدي إلى الانتقاص من منفعة المنتج أو حرمان المستهلك من هذه المنفعة جزئيا أو كليا.
وبتطبيق ما تقدم من أحكام على حالة الروبوتات الذكية، نجد أنه قد يحدث ثمة تعارض بينهما؛ ذلك أن برامج الذكاء الاصطناعي- في عمومها -، وإن كانت تعتبر من قبيل الأشياء الخطرة، إلا أنه لا يشترط أن يعتريها عيب في التصنيع أو التكوين، أو بمعنى آخر، قد تكون رغم ذلك موفرة للأمان الكافي أو المطلوب، ورغم ذلك قد يتسبب تشغيلها في إصابة الغير بأضرار جراء ذلك، خاصة إذا ما أخذنا في الاعتبار الذاتية والاستقلالية التي تعمل بها هذه البرامج، مما قد يجعلها منبتة الصلة في الكثير من الأحيان عن منتجها أو مصنعها، أو حتى مشغلها.
فإقامة المسؤولية عن المنتجات المعيبة في جوهرها يستلزم توفر عيب في المنتج، إضافة إلى استلزام قيام المضرور بإثبات هذا العيب، وهو ما قد لا يتوفر في شأن الروبوتات الذكية لما قدمناه من أسباب.
الملاحظة الثالثة: تثير هذه الملاحظة تساؤلا فيما يتعلق بتحديد المنتج المسؤول عن العيب لأجل إقامة المسؤولية المدنية في جانبه.
وللإجابة عن هذا التساؤل، نشير إلى أن كلا من: المشرع المصري في المادة (27) من قانون حماية المستهلك، والمشرع الفرنسي في المادة (١٢٤٥-٦) من القانون المدني الفرنسي من أنه:” إذا تعذر تحديد المنتج، يكون البائع أو المؤجر، باستثناء المؤجر الممول أو المؤجر الذي يمكن أن يعتبر مؤجرا ممولا، أو مورد محترف آخر، مسؤولا عن العيب في سلامة المنتج، في إطار شروط المنتج ذاتها، إلاإذا حدده مورده الخاص أو المنتج، في مهلة ثلاثة شهور، اعتبارا من التاريخ الذي يبلغ فيه طلب المضرور…….“.
ويفهم مما سبق، أنه إذا تعذر تحديد شخص المنتج المسؤول عن العيب، فإن بائع المنتج أو مؤجره أو المورد المحترف الآخر، بحسب الأحوال، يكونوا مسؤولين عن هذا العيب، غير أننا قد نصطدم عند إسقاط هذه القاعدة على حالة الروبوتات الذكية بإشكالية صعوبة تحديد منتج الروبوت الذكي؛ إذ قد تتوزع عملية انتاجه بين المصمم والمصنع والمبرمج، فعملية إنتاج روبوت ذكي تعد- وبحق- عملية تقنية وفنية معقدة للغاية، يصعب من خلالها الوقوف على المنتج النهائي للروبوت الذكي.
ونستعيد مما سبق أن أوردناه في خضم التحليل الذي جاء بالملاحظة الأولى، نص المادة (١٢٤٥-٧) من القانون المدني الفرنسي، من أن:” في حالة حدوث ضرر ناتج من عيب منتج مدمج في منتج آخر، فيكون كل من: منتج الجزء المكون، ومنتج الجزء المدمج، مسؤولين بالتضامن” ([36])، وهذا النص قد يجيب- إلى حد ما عن التساؤل المطروح في الملاحظة الحالية، ولكن في حدود الفرض الذي يتم فيه الدمج بين جسم الروبوت ذاته وبين برامج الذكاء الاصطناعي التي تتم تغذيته بها، بحيث يكون منتج الروبوت ذاته والمبرمج أو مطور برامج الذكاء الاصطناعي مسؤولين بالتضامن قبل المضرور، وإن كان لمنتج الروبوت أن يرجع بعد ذلك على المبرمج أو مطور برامج الذكاء الاصطناعي على أساس المسؤولية العقدية، شريطة أن يثبت أركانها الثلاثة: الخطأ العقدي، والضرر، وعلاقة السببية.
ونورد في هذا الصدد ما يؤكد عدم تناسب نظرية المسؤولية عن المنتجات المعيبة كأساس للمسؤولية المدنية عن أضرار الروبوتات، ما وضعه البرلمان الأوروبي من قواعد خاصة بالروبوتات في العام ٢٠١٧، من أنه:” في حين أنه فيما يتعلق بالمسؤولية التقصيرية، فإن التوجيه الأوروبي رقم (374/85) يمكن أن يغطي فقط الضرر الناجم من عيوب التصنيع في الروبوت، بشرط أن يكون الشخص المضرور قادرا على إثبات الضرر الفعلي والعيب في المنتج والعلاقة السببية بين الضرر والعيب، وبالتالي قد لا تكون المسؤولية عن المنتجات المعيبة، أو المسؤولية دون إطار الخطأ كافية للتطبيق على حالة الروبوتات الذكية، والتي تكون لها القدرة على التعلم بشكل مستقل من خبرتها المتغيرة الخاصة، والتفاعل مع بيئتها بطريقة فريدة وغير متوقعة” ([37]).
لما تقدم من ملاحظات تضمنت طرح عدة تساؤلات، تم إيراد إجابات عنها، تشكل في معظمها رفضا لنظرية المسؤولية عن المنتجات المعيبة كأساس للمسؤولية المدنية عن الأضرار التي تسببها الروبوتات الذكية، بجانب ما تم الدفع به في المطلب السابق، من أسباب تفوح بوضوح عن ذات الرفض، تبين في المطلب التالي الرأي الخاص في مسألة الأساس القانوني للمسؤولية المدنية عن الأضرار التي يمكن أن تسببها الروبوتات الذكية.
المطلب الثالث
رأينا الخاص في أساس المسؤولية المدنية عن أضرار الروبوتات
نشير بداءة، وقبل إبداء الرأي الخاص في مسألة الأساس القانوني للمسؤولية المدنية عن أضرار الروبوتات الذكية، إلى أن البرلمان الأوروبي في القواعد الخاصة بالروبوتات، التي أصدرها في 16 فبراير من العام ٢٠١٧، قد طرح تساؤلا مهما في هذا الصدد، مفاده: “لما كانت الروبوتات الأكثر استقلالية لا يمكن اعتبارها أدوات بسيطة في أيدي جهات أخرى، مثل: الشركة المصنعة، والمشغل، والمالك، والمستخدم، فإن ذلك كفيل بطرح تساؤل حول ما إذا كانت القواعد العامة بشأن المسؤولية المدنية كافية بذاتها لإقامة المسؤولية عن أضرار الروبوتات على أساسها؟، أم أن هناك حاجة تدعو إلى إقرار قواعد جديدة لتوفير الوضوح بشأن المسؤولية المدنية لمختلف الجهات الفاعلة فيما يتعلق بالمسؤولية عن أفعال الروبوتات؛ إذ لا يمكن نسبة الضرر إلى فاعل بشري معين؟. كما أنه لا يمكن اعتبار الروبوتات مسؤولة في حد ذاتها عن الأفعال التي تسبب الضرر للغير، مع الأخذ في الاعتبار كذلك أنه في الحالة التي يمكن فيها للروبوت اتخاذ قرارات مستقلة، لن تكفي القواعد التقليدية لإثارة المسؤولية المدنية عن الضرر الذي يسببه الروبوت؛ لأنها لن تجعل من الممكن تحديد الطرف المسؤول عن تقديم التعويض ومطالبته بأدائه إلى المضرور”.
وتأكيدا لما أوصى به البرلمان الأوروبي في هذا الصدد، من ضرورة النظر في مسألة إقرار نظام قانوني جديد للمسؤولية المدنية عن أنظمة الذكاء الاصطناعي، ومنها الروبوتات، ذهب بعض الفقهاء، وحتى قبل إصدار هذه التوصيات، إلى تشجيع إنشاء نظام قانوني خاص بالروبوتات، حيث يؤكد الفقيه Alain Bensoussan في مؤلفه المشترك مع الفقيه Jérémy Bensoussan، بعنوان “”قانون الروبوتات- Droit des robots“، الصادر في العام 2015 ([38])، إلى ضرورة إقرار نظام مسؤولية مدنية جديد خاص بالروبوتات الذكية، بحيث يمكن أن تقوم معه المسؤولية التقصيرية عن الأفعال الشخصية للروبوتات، هذا كله بعد الاعتراف للروبوت بشخصية قانونية رقمية، تختلف في طبيعتها عن الشخصية القانونية الممنوحة للشخص الطبيعي، وكذلك الشخصية الاعتبارية.
غير أن بعض الفقهاء الفرنسيين اتخذ موقفا وسطا بين المسؤولية الموضوعية عن المنتجات المعيبة وبين المسؤولية التقصيرية عن الأفعال الشخصية، كالفقيه ([39])Maitre Alain، الذي اقترح إنشاء مسؤولية مدنية متتابعة أو هرمية، بحيث يتم تحديد الشخص المسؤول عن الضرر وفق مدى مساهمته في عملية تشغيل الروبوت، مع الاعتماد على سبب الضرر، وبحيث يتم تحميل المسؤولية أولا عن الأضرار التي يسببها الروبوت لمستخدمه؛ إذ أنه هو الذي يتفاعل مع الروبوت الخاص به، ولديه القدرة على تشغيله واستخدامه. وفي المرحلة الثانية، يتم تحميل المسؤولية الشركة المصنعة أو المنتجة للجسم الميكانيكي للروبوت ذاته، وذلك حال ثبوت أن الضرر كان بسبب فعل المكونات المادية لهذا الجسم، على أن يتم إعفاء الشركة المصنعة للجسمالميكانيكي للروبوت من المسؤولية، إذا ثبت أن حدوث العيب كان بسبب التقنية المستقلة الخاصة بنظام الذكاء الاصطناعي ذاته، والذي يتم تغذية الروبوت به.
وفي رأينا، ونظرا لعدم تناسب ما تم الدفع به من نظريات في المسؤولية المدنية كأساس للمسؤولية المدنية عن أضرار الروبوتات، للذاتية المتفردة والاستقلالية التي يتمتع بها الروبوت الذكي، أن مسألة إقرار نظام قانوني جديد أو مستحدث للمسؤولية المدنية عن أضرار الروبوتات، بما يجعلها مسؤولة مسؤولية شخصية عن أفعالها، إنما يتطلب بداءة الاعتراف لها بشخصية قانونية مستقلة، على غرار الشخصية القانونية الممنوحة للشخص الطبيعي، وكذا الشخص الاعتباري، وهو ما لم يستطع الواقع العملي في الوقت الراهن أن يفرضه على المشرعين؛ إذ أنه- أي الواقع العملي- لم يشهد حتى الآن تغلغل الروبوتات الذكية في جميع مجالات الحياة بصورة تجعله بمثابة الظاهرة التي تحتاج إلى تنظيم تشريعي خاص بها، ذلك أن الظاهرة تبدا أولا وتنتشر، ثم يأتي القانون بأحكام لكي ينظمها ([40]).
زد على ذلك، أن إقرار نظام قانوني جديد خاص بالروبوتات، سوف يحيلنا- بالتأكيد- إلى مسألة وفاء المدين بالتعويض المستحق أو المحكوم به، ولا يتصور عقلا إلزام الروبوتات- في الوقت الحالي- بأداء ثمة تعويض، وإن كنا نرى أنه يمكن أن يتصور ذلك مستقبلا، وذلك عن طريق إقرار نظام تأمين خاص بأنظمة الذكاء الاصطناعي- ومنها الروبوتات-، بحيث يغطي كافة الأخطار المحتمل حدوثها بسبب عمل هذه الأنظمة، بحيث تقوم ثمة حيلة قانونية في هذه الصدد، مؤداها إقامة المسؤولية المدنية، في صورتها الموضوعية التي لا يكلف فيها المضرور بإثبات ثمةخطأ، في جانب الروبوت عن أفعاله الشخصية، مع اقتضاء التعويض من مبلغ التأمين الذي يلتزم بسداده، وبالتضامن، كل من تدخل في عملية تكوينه، من: شركة مصنعة للجسم الميكانيكي للروبوت، والمبرمج أو المطور، وكذلك مستخدم الروبوت بوصفه مسؤولا عن عملية استعماله.
ولعل هذا هو ما أوصى به البرلمان الأوروبي من إنشاء نظام تأمين خاص بالروبوتات، على غرار نظام التأمين على المركبات، يغطي الأخطار المحتمل حدوثها للغير بسبب عمل هذه الروبوتات وتشغليها، مع الأخذ في الاعتبار ضرورة أن يترتب على حدوث تلك الأخطار أضرار، مادية أو أدبية، تصيب الغير.
خلاصة القول إذن، أن أساس المسؤولية المدنية عن الأضرار التي يمكن أن تسببها الروبوتات يختلف عما سبق طرحه وتحليله من نظريات خاصة بالمسؤولية المدنية، وإن كان أقرب تلك النظريات، في الوقت الراهن، نظرية المسؤولية الموضوعية عن المنتجات المعيبة، ولكن مع بعض الاختلافات التي تتفق مع طبيعة أنظمة برامج الذكاء الاصطناعي، والتي يمكن أن نوضحها على النحو الآتي:
– عدم اشتراط إثبات المضرور لعيب في الروبوت، واستبدال هذا الركن بركن الحادث أو النشاط ذاته، دون تطلب أن يقترن هذا الحادث أو النشاط بثمة خطأ، وما في ذلك سوى العودة مرة أخرى إلى القوام الرئيس والتاريخي الذي تقوم عليه نظرية المسؤولية الموضوعية.
وحجتنا في ذلك تكمن في أنه يتعذر على المضرور من أنظمة الذكاء الاصطناعي، بما تتضمنه من أمور تقنية معقدة، إثبات وجود ثمة عيب فيها من عدمه؛ إذ أن تلك المسألة لا لا يمكن الإلمام بها إلا من قبل الأشخاص المتخصصين في تلك الأنظمة.
– إقرار نظام تأمين إلزامي يغطي كافة الأخطار التي قد تقع مستقبلا بسبب عمل الروبوت الذكي، بحيث يساهم جميع الأشخاص الداخلين في عمليات: تصنيع الروبوت، وبرمجته، وكذلك استخدامه، في هذا النظام، على أن يستحق المضرور، متى أثبت وجود أركان المسؤولية الموضوعية، من: حادث أو نشاط، وضرر، وعلاقة سببية بينهما، التعويض من هذا النظام أو الصندوق، وذلك لأجل معالجة مشكلة شيوع المسؤولية بين الأشخاص المساهمين في إخراج الروبوت الذكي، وتعذر تحديد المسؤول عن الضرر بينهم من قبل المضرور.
وأخيرا، يجب أن يتأهب مشرعو الدول لما سيكشف عنه المستقبل القريب من إحلال الروبوتات الذكية محل البشر، والقيام بذات الأعمال التي يقوم بها الإنسان البشري، بل بكفاءة ودقة وسرعة تفوق البشر، ومن ثم النظر في مسألة مدى إمكانية منحها شخصيات قانونية رقمية أو إلكترونية مستحدثة، الأمر الذي سيتطلب معه- وبالتبعية- النظر في مسألة إقرار نظام قانوني خاص بالمسؤولية المدنية عن الأضرار التي يمكن أن تسببها الروبوتات الذكية للغير، ذلك النظام الذي يجب بالتأكيد أن يقوم على أساس من المسؤولية الموضوعية المجردة من ركن الخطأ أو حتى ركن العيب.
الخاتمة
بعد أن انتهينا من خوض غمار موضوع “الطبيعة القانونية للمسؤولية المدنية عن أضرار الروبوتات”، والتعمق فيه، وتحليل عناصره، نستطيع أن نخرج منه ببعض النتائج المهمة، ونوصي ببعض الأمور التي نراها يمكن أن تسد فراغا تشريعيا.
أولا: النتائج
– تعد الروبوتات الذكية أحد أهم تطبيقات الذكاء الاصطناعي، والذي كانت ولادته الحقيقية في العام ١٩٦٥. وقد تم استخدام اصطلاح “روبوت”، لأول مرة من قبل الكاتب المسرحي “Karel Chapek“ في العام ١٩٢٠، كما تمت صناعة أول روبوت في التاريخ في اليابان، في العام ١٩٢٨، تحت اسم Gakutensoku.
– تعتبر الروبوتات التقليدية من قبيل الأشياء التي تتطلب حراستها عناية خاصة أو من قبيل الآلات الميكانيكية، بالمعنى الدقيق لاصطلاح الأشياء المنصوص عليه في المادة (١٧٨) من القانون المدني المصري، والمادة (١٢٤٢) من القانون المدني الفرنسي؛ ذلك أن هذا النوع من الروبوتات يفتقر لنظام الذكاء الاصطناعي، بحيث لا يكون قادرا على التعامل مع البيئة الخارجية باستقلالية، ولا يكون قادرا على اتخاذ القرارات المناسبة من تلقاء نفسه، ومن ثم تخضع الروبوتات التقليدية، من حيث أساس المسؤولية المدنية عن الأضرار التي تسببها للغير، لنظرية المسؤولية عن فعل الأشياء المنصوص عليها في هاتين المادتين، متى توفرت شروط قيام هذه المسؤولية، ومن أهمها الحراسة الفعلية، أو لنظرية المسؤولية عن المنتجات المعيبة، المنصوص عليها في المادة (27) من قانون حماية المستهلك المصري الجديد، والمواد من: (١٢٤٥: ١٢٤٥-١٧) من القانون المدني الفرنسي، والتوجيه الأوروبي رقم (374/85)، متى تخلف ركن الحراسةالفعلية، وتوفرت شروط إعمال تلك المسؤولية، وخاصة فيما يتعلق بوجود عيب فيها، بالمعنى الدقيق له والمنصوص عليه في هذين القانونين والتوجيه الأوروبي.
– أما بالنسبة إلى الروبوتات الذكية، وهي تلك الروبوتات التي تتمتع باستقلالية في اتخاذ القرارات المناسبة بحسب الظروف والملابسات المحيطة بها، فيمكن اعتبارها في الوقت الحالي وبصورة مؤقتة- من قبيل الأشياء المنقولة، خاصة إذا ما تم وضع أنظمة الذكاء الاصطناعي التي تعمل من خلالها على دعامة رقمية، ولكنها تظل أشياء منقولة ذات طبيعة خاصة، وبحيث لا تخضع، فيما يتعلق بالمسؤولية المدنية عن الأضرار التي تسببها للغير، لمفهوم الحراسة الفعلية- أو حتى القانونية- بالمعنى المفهوم من نص المادة (١٧٨) من القانون المدني المصري، والمادة (١٢٤٢) من القانون المدني الفرنسي، وإنما تخضع لنظرية المسؤولية الموضوعية، التي تكتفي بركن الحادث أو النشاط، بجانب ركني: الضرر، وعلاقة السببية، ودون اشتراط أن يشكل هذا الحادث أو النشاط ثمة خطأ.
ثانيا: التوصيات
من منطلق حرصنا على عدم الاكتفاء بما وصلت إليه برامج الذكاء الاصطناعي بوجه عام، وصناعة الروبوتات على وجه الخصوص، في الوقت الحالي، وإنما الأخذ في الاعتبار ما ستصل إليه تلك البرامج أو الصناعة في المستقبل القريب، من تطور تقني سيكون بالتأكيد ملحوظا. ولما كان القانون يستقبل الظواهر الاجتماعية، فيعنيها بالتنظيم، أوصي المشرع المصري، في هذا الصدد، بالآتي:
– النظر في مسألة الاعتراف التشريعي بما يتم إجراؤه من معاملات تتم باستخدام برامج الذكاء الاصطناعي، مثل: المعاملات المالية التي تتم عبر منصة “سلسلةالكتل- Blockchain“، وكذلك العقود- الذكية- التي تبرم عبرها، وأيضا المعاملات التي تتم باستخدام العملات الرقمية، مع النص على ضوابط معينة تكفل حسن تحقيق أغراضها المشروعة.
– النظر في مسألة منح حقوق براءات الاختراع عن برامج الذكاء الاصطناعي، متى توفرت الشروط المتطلبة لذلك، والمنصوص عليها في قانون حماية الملكية الفكرية.
– النظر في مدى إمكانية استيعاب “نظرية الشخص الاعتباري “الأنظمة الذكاء الاصطناعي، والبحث في مدى الحاجة إلى إنشاء شخصية قانونية جديدة تتناسب مع الطبيعة الذاتية والمتفردة لتلك الأنظمة.
– النظر في مسألة إقرار المسؤولية الموضوعية في مجال الأضرار الإلكترونية والتقنية بصورة عامة، بحيث يتم استبعاد ركن الخطأ من مجال قيامها وإعمالها؛ نظرا لصعوبة- وربما استحالة- نجاح المضرور في إثبات ثمة أخطاء فيها، لاحتوائها على أمور فنية وتقنية معقدة.
قائمة المصادر والمراجع
أولا: المصادر
١- التوجيه الأوروبي رقم (374/85) الصادر في ٢٥ يوليو عام ١٩٨٥، بشأن تقريب القوانين واللوائح والأحكام الإدارية للدول الأعضاء فيما يتعلق بالمسؤولية عن المنتجات المعيبة.
2- التشريعات الداخلية
– القانون المدني المصري رقم (١٣١) لسنة ١٩٤٨ وتعديلاته.
– قانون حماية المستهلك المصري رقم (١٨١) لسنة ٢٠١٨.
– قانون حماية الملكية الفكرية المصري رقم (٨٢) لسنة ٢٠٠٢.
– قانون التجارة المصري رقم (١٧) لسنة ١٩٩٩.
– القانون المدني الفرنسي الصادر عام ١٨٠٤، وتعديلاته عام ٢٠١٦.
٣- الأحكام القضائية
– حكم محكمة النقض المصرية، الدوائر المدنية، الصادر في الطعن رقم (٣٩٢٦) لسنة ٧٩ القضائية، جلسة يوم 1/٦/2020.
– حكم محكمة النقض المصرية، الدوائر المدنية، الصادر في الطعن رقم (٦٤٢٠) لسنة 64 القضائية، جلسة يوم 8/٦/2019.
– حكم محكمة النقض المصرية، الدوائر المدنية، الصادر في الطعن رقم (٩١٩٥) لسنة ٨٧ القضائية، جلسة يوم 23/3/2019.
– حكم محكمة النقض المصرية، الدوائر المدنية، الصادر في الطعن رقم (٢٠٠٥) لسنة 81 القضائية، جلسة يوم 9/5/2018.
– Cass.comm. 5 avril 2018, no (13-21001), www.courdecassation.fr
– Cass.civ., 1ère, 3 mai 2018., no (16-26531), www.courdecassation.fr.
– Cass.civ., 1ère, 6 juillet 2017., Arrêt no 909 (16-77.217), www.courdecassation.fr.
٤- مواقع الانترنت
https://ar.wikipedia.org/wikiكاريل تشابيك
https://www.wikipedia.org/wiki/Gakutensoku
https://www.ar.wikipedia.org> صوفيا-روبوت
– https://al-ain.com/article/artificial-intelligence-robots- humans-century
https://hrw.org/ar/news/2020/01/03/337058.
ثانيا: المراجع
١- المراجع باللغة العربية
– د. السيد عيد نايل، “مصادر الالتزام غير الإرادية”، مكتبة كلية الحقوق- جامعة عين شمس، ٢٠١١.
– د. حسام الدين كامل الأهواني، “مصادر الالتزام غير الإرادية”، دار النهضة العربية، القاهرة، ٢٠٠٨.
– د. طلبة وهبة خطاب، “النظرية العامة للالتزام- مصادر الالتزام غير الإرادية”، دار النهضة العربية، القاهرة، ٢٠٠٣.
– د. عبد الهادي فوزي العوضي، المدخل لدراسة القانون المصري والعماني، دار النهضة العربية، القاهرة، ٢٠١٤.
– د. محمد ربيع فتح الباب، د. مها رمضان بطيخ، المدخل لدراسة القانون- نظرية الحق، دار النهضة العربية، القاهرة، ٢٠١٦.
2- المراجع باللغات الأجنبية (الانجليزية- الفرنسية)
– BALKIN (J.M): “The path of Robotics law”, California law Review, Vol. 6., June 2015,
– CALO (R.): “Artificial Intelligence Policy, A primer and Roadmap”, University of California Davis Law Review, 2017, vol.51,
– CHONÉ (A.S.), et GLASER (P.H.): Responsabilité Civile du Fait du Robot done 13 intelligence Artificielle: Faut-il créer une personnalité robotique?, CCC, 10 1, Janvier 2018.
– CINDY (V.R.): “Liability of robots: legal responsibility in cases of errors or malfunctioning”, Ghent University, Faculty of Law, 2018
– DOSQUET (E), DOSQUET (F.), MOYSAN (Y.), et SCIBETTA (F.): L’ internet des objets et la data, L.G.D.J., 2018.
– El Kaakour (N.): “ L’intelligence artificielle et la responsabilité civile délictuelle”., Université Libanaise., Faculté de droit et des sciences politiques et administratives filière francophone., 2017.,
– Mendoza-Caminade (A.): “ Le droit confronté à l’IA des robots: vers l’émergence de nouveaux concepts juridiques?”., Recueil Dalloz., no 8., 2016
– NATHALE NEVEJANS: “Le Statut Juridique du Droit du Robot doit-il évoluer?”, décembre 2019, https://lajauneetlarouge.com
– Schulpen (R.W.H.G): “Smart contracts in the Netherlands- A legal research regarding the use of smart contracts within Dutch contract law and legal framework”., Tilburg University., 2018.,
([1]) DOSQUET (E), DOSQUET (F.), MOYSAN (Y.), et SCIBETTA (F.): L’ internet des objets et la data, L.G.D.J., 2018, P. 7 et s.
([2]) Ganascia (J.G): “L’intelligence artificielle”., Éditions le cavalier bleu., 2007., p.9; Cité par: El Kaakour (N.): “ L’intelligence artificielle et la responsabilité civile délictuelle”., Université Libanaise., Faculté de droit et des sciences politiques et administratives filière francophone., 2017., p.1.
([3]) CALO (R.): “Artificial Intelligence Policy, A primer and Roadmap”, University of California Davis Law Review, 2017, vol.51, p.397.
([4]) Schulpen (R.W.H.G): “Smart contracts in the Netherlands- A legal research regarding the use of smart contracts within Dutch contract law and legal framework”., Tilburg University., 2018., P. 8.
([5]) <<Éthique de la recherche en robotique>>., Rapport no 1 de la CERNA., novembre 2014., p.54; Citè par: El Kaakour Nour., op.cit., p. 6.
([6])https://ar.wikipedia.org/wikiتشابيك كاريل
([7]) https://www.wikipedia.org/wiki/Gakutensoku
([8]) https://www.ar.wikipedia.org> (صوفيا- (روبوت.
([9])“A robot is an actuated mechanism programmable in two or more axes with its environment to perform indented tasks”. Referred to in: BALKIN (J.M): “The path of Robotics law”, California law Review, Vol. 6., June 2015, P. 50.
([10])Referred to in: CINDY (V.R.): “Liability of robots: legal responsibility in cases of errors or malfunctioning”, Ghent University, Faculty of Law, 2018 P. 13.
([11])د. محمد ربيع فتح الباب، د. مها رمضان بطيخ، المدخل لدراسة القانون- نظرية الحق، دار النهضة العربية، القاهرة، ٢٠١٦، ص: (٢٦٠).
([12]) Art (1245-3):” Un produit est défectueux au sens du présent chapitre lorsqu’il n’offre pas la sécurité à laquelle on peut légitimement s’attendre………”.
([13]) CALO (R.):” Robots in American Law”, Legal Studies Research Paper, nº 2016-04, SSRN, 2016, p.6 et s.
([14])https://al-ain.com/article/artificial-intelligence-robots-humans-century
([15])https://hrw.org/ar/news/2020/01/03/337058.
([16]) NATHALE NEVEJANS: “Le Statut Juridique du Droit du Robot doit-ilévoluer?”, décembre 2019, https://lajauneetlarouge.com
([17]) راجع: نص المادة (٥٩) من توصيات البرلمان الأوروبي في هذا الصدد، والتي تنص على أنه: ” “يطلب من اللجنة عند إجراء تقييم لأثر التشريع المقبل أن تستكشف وتحلل وتدرس آثار جميع الحلول القانونية الممكنة مثل:………… و. إنشاء وضع قانوني محدد للروبوتات على المدى الطويل، حتى يمكن إثبات أن الروبوتات المستقلة الأكثر تعقيدا على الأقل لها وضع الأشخاص الإلكترونيين المسؤولين عن إحداث أي ضرر قد يتسببون فيه، وربما تطبيق الشخصية الإلكترونية على الحالات التي تتخذ فيها الروبوتات قرارات مستقلة تتفاعل مع أطراف ثالثة بشكل مستقل”.
([18]) CHONÉ (A.S.), et GLASER (P.H.): Résponsabilité Civile du Fait duRobot doné d’ intelligence Artificielle: Faut-il créer une personnalitérobotique?, CCC, nº 1, Janvier 2018.
([19]) Cité par: Danjaume (G.): “ La responsabilité du fait de l’information,. J.C.P.G., nº 1., 1996.,
([20]) Mendoza-Caminade (A.): “ Le droit confronté à l’IA des robots: vers l’émergence de nouveaux concepts juridiques?”., Recueil Dalloz., no 8,. 2016., p.445; Cité par: El Kaakour Nour., op.cit., p. 88.
([21])د. محمد ربيع فتح الباب، د. مها رمضان بطيخ، مصادر الالتزام غير الإرادية، دار النهضة العربية، القاهرة، ٢٠١٥، ص: (١٦٥).
([22]) د. طلبة وهبة خطاب، ” النظرية العامة للالتزام- مصادر الالتزام غير الإرادية”، دار النهضة العربية، القاهرة، ٢٠٠٣، ص: (١٨٦)؛ د. حسام الدين كامل الأهواني، “مصادر الالتزام غير الإرادية”، دار النهضة العربية، القاهرة، ٢٠٠٨، ص: (٢٦٤)؛ د. السيد عيد نايل، “مصادر الالتزام غير الإرادية”، مكتبة كلية الحقوق- جامعة عين شمس، ٢٠١١، ص: (١٩٩).
حكم محكمة النقض المصرية، الدوائر المدنية، الصادر في الطعن رقم (٣٩٢٦) لسنة ٧٩ القضائية، جلسة يوم 1/6/2020.
حكم محكمة النقض المصرية، الدوائر المدنية، الصادر في الطعن رقم (٩١٩٥) لسنة ٨٧ القضائية، جلسة يوم 23/3/2019.
حكم محكمة النقض المصرية، الدوائر المدنية، الصادر في الطعن رقم (٢٠٠٥) لسنة 81 القضائية، جلسة يوم 9/5/2018.
جميع هذه الأحكام القضائية منشورة على الموقع الإلكتروني لمحكمة النقض المصرية، عبر الرابط الإلكتروني الآتي:
https://www.cc.gov.eg/civil_judgments.
([24]) حكم محكمة النقض المصرية، الدوائر المدنية، الصادر في الطعن رقم (٦٤٢٠) لسنة 64 القضائية، جلسة يوم 8/6/2019، المرجع السابق.
([25])Nathalie Nevejans., article précédent.
([26])Loiseau (G): “ Quelle responsabilité de Google pour le fonctionnement du système Adwords”., CCE., no 6., juin 2014.
([27]) El Kaakour Nour., op.cit., p. 46.
([28]) Nathalie Nevejans: “Traité de droit et d’éthique de la robotique civile,. LEH., éd., 2017. P.613.
([29])تم نشره بالجريدة الرسمية، العدد (٣٧) تابع، الصادر في ٣ ١ سبتمبر ٢٠١٨.
([30]) https://eur-lex.europa.eu/legal-content/EN/TXT.
([31]) د. محمد ربيع فتح الباب، “المسؤولية المدنية عن أضرار التلوث الاشعاعي النووي- دراسة مقارنة”!، دار النهضة العربية، القاهرة، ٢٠١٦، ص: (١٢٣) وما بعدها.
([32]) Art (1245-2):” Est un produit tout bien meuble, même s’il est incorporé dans un immeuble, y compris les produits du sol, de l’élevage, de la chasse et de la pêche. L’électricité est considérée comme un produit”.
([33])Cass.comm. 5 avril 2018, nº (13-21001), http://www.courdecassation.fr
Cass.civ., 1ère, 3 mai 2018., no (16-26531), http://www.courdecassation.fr.
Cass.civ., 1ère, 6 juillet 2017., Arrêt no 909 (16-77.217), http://www.courdecassation.fr
([34]) قضت محكمة النقض المصرية في حكمها الصادر في 28/3/2019 بأن: “الابداع والابتكار يعدان نمطا من أنماط التفكير، ومستوى متقدم في سلم القدرات الذهنية للإنسان يتميز به من غيره بالخروج عن المألوف. والابتكار، سواء المطلق أم النسبي، لازمه وجود خلق ذهني جديد. أما مجرد الأفكار المجردة والمفاهيم والمبادئ والاكتشافات والبيانات؛ فتنتفي لها الحماية القانونية”. حكم محكمة النقض المصرية، الدائرة المدنية، جلسة 28/3/2019، في الطعن رقم (٧١٣٣) لسنة ٨٨ القضائية، الموقع الإلكتروني لمحكمة النقض المصرية eg.gov.cc.www.
([35]) مشار إليه: د. عبد الهادي فوزي العوضي، المدخل لدراسة القانون المصري والعماني، دار النهضة العربية، القاهرة، ٢٠١٤، ص: (٣٤١).
([36]) Art (1245-7):” En cas de dommage causé par le défaut d’un produit incorporé dans un autre, le producteur de la partie composante et celui qui a réalisé l’incorporation sont solidairement responsables”.
([37]) Art (AH):” whereas, as regards non-contractual liability, Directive 85/374/EEC can cover only damage caused by a robot’s manufacturing defects and on condition that the injured person is able to prove the actual damage, the defect in the product and the causal relationship between damage and defect, therefore strict liability or liability without fault framework may not be sufficient”.
Art (AI):” whereas, notwithstanding the scope of Directive 85/374/EEC, the current legal framework would not be sufficient to cover the damage caused by the new generation of robots, insofar as they can be equipped with adaptive and learning abilities entailing a certain degree
of unpredictability in their behaviour, since those robots would autonomously learn from their own variable experience and interact with their environment in a unique and unforeseeable manner”.
([38]) Bensoussan (A.) et Bensoussan (J):” Droit des robots, Éd Lrcier., 2015., p.51.
([39]) Cité par: El Kaakour Nour., op.cit., p.86.
([40]) د. نبيل إبراهيم سعد، المدخل إلى القانون (نظرية الحق)، دار الجامعة الجديدة، الإسكندرية، ٢٠١٦، ص: (١١)



