مسئولية حارس الآلات المسيرة بالذكاء الاصطناعي وما يجب أن يكون عليه
التشريع المصري

إعداد

المستشار- د/ مصطفى محمد محمود عبد الكريم
وكيل هيئة قضايا الدولة
المستشار القضائي لمحافظة الدقهلية

مقدمة

المسؤولية المدنية هي مجموعة القواعد التي تلزم من سبب للغير ضررا بجبر هذا الأخير، نتيجة إخلاله بالتزام سابق رتبه القانون أو العقد، وهكذا فان المسؤولية المدنية تنشأ عند امتناع المسؤول عن تنفيذ ما تعهد به من التزامات تعاقدية، أو عدم القيام بالتزام قانوني مقتضاه ألا يضر الإنسان غيره، وبذلك فهي تنقسم إلى مسؤولية عقدية مناطها العقد، ومسؤولية تقصيرية مناطها القانون، وهذه الأخيرة يتحملها المسؤول بسبب الأضرار اللاحقة بالغير نتيجة فعله الشخصي، أو فعل من هو مسؤول عنهم باعتباره مكلفا برقابتهم أو بصفته متبوعا، أو نتيجة فعل الأشياء المملوكة له أو التي تحت حراسته، وأصبحت المسؤولية عن فعل الأشياء تكتسب أهمية بالغة بعد ظهور الثورة الصناعية، فاتسع مجالها ليشمل أغلب الأضرار التي تسببها الأشياء المختلفة والآلات الصناعية، ووسائل النقل المختلفة، والأدوات الطبية وغيرها.

يشير مصطلح “الذكاء الاصطناعي عموما إلى جميع الأنظمة الإلكترونية وأجهزة الكمبيوتر التي تعمل من خلال محاولة تكرار أو تقليد مبادئ التفكير أو الذكاء أو ببساطة أكثر حركات معينة إلى فرعين: – الأول ويشمل التعرف على الكلام والتعرف على الأنماط (“الرؤية”) “النظم الخبيرة” ^([1]) وأنظمة التعلم؛- والثاني “الروبوتات” ويجمع بين أنظمة التعرف على الأشكال مع الميكانيكا. من الناحية القانونية يجب التمييز بين هذين الفرعين على أساس أن الفرع الأول أنظمة الخبراء تثير قضايا معقدة تتعلق بالملكية والحماية الفكرية وكذلك قضايا المسؤولية المدنية، في حين أن الفرعالثاني الروبوتات لا تثير إلا قضايا أساسية نسبية تتعلق بالمسؤولية المدنية ^([2]). ولكن لا ينبغي إهمال عواقبها حتى الآن.

يجد الذكاء الاصطناعي مصادره في عصور ما قبل التاريخ لعلوم الكمبيوتر ^([3])، لأن رواد هذه التقنية مثل آلان تورينج تساءلوا عما إذا كانت الآلات يمكن أن تفكر في يوم من الأيام مثل الإنسان في أوائل الخمسينيات، وحاول مهندسون مثل نوربرت وينر ووارن ماكولوتش تطوير آلات تعيد إنتاج وظائف الدماغ البشري تقريبا وفي عام ١٩٥٦ عقد اجتماع للباحثين في كلية دار تموث حول موضوع محاكاة الفكر عن طريق أجهزة الكمبيوتر، وطور جوزيف في عام ١٩٦٦ برنامج محلل نفسي يستجوب مريضه، وتم تعديل هذا البرنامج وعنوانه دكتورا في وقت لاحق كأداة عمل محتملة من قبل العديد من الأطباء، وظهرت عدة أنظمة للخبراء في السبعينيات أشهرها، Emycin، تم تطويرها بواسطة كلية الطب بجامعة ستانفورد لتشخيص التهاب السحايا والالتهابات البكتيرية ووصف العلاجات المناسبة.

وكشفت دراسة حديثة ^([4]) أجراها باحثون من جامعتي أوكسفورد البريطانية وييل الأمريكية أن هناك احتمالا بنسبة ٠ ٥% بأن يتفوق الذكاء الاصطناعي على الذكاء البشري في جميع المجالات في غضون 45 عاما، كما من المتوقع أن يكون قادرا على تولي كافة الوظائف البشرية في غضون 120 عاما. ولا تستبعد نتائج الدراسة أن يحدث ذلك قبل هذا التاريخ. ووفقا للدراسة فإن “الآلات ستتفوق على البشر في ترجمة اللغات بحلول عام ٢٠٢٤، وكتابة المقالات المدرسية بحلول عام ٢٠٢٦، وقيادة الشاحنات بحلول عام ٢٠٢٧، والعمل بتجارة التجزئة في ٢٠٣١، بل وفي كتابة واحد من أفضل الكتب مبيعا بحلول عام ٢٠٤٩، وفي إجراء الجراحات بحلول عام 2053” وشددت الدراسة على أن الذكاء الاصطناعي يحسن قدراته بسرعة، ويثبت ذاته على نحو متزايد في المجالات التي يسيطر عليها الإنسان تاريخيا، وعلى سبيل المثال، فإن برنامج “ألفا جوا!، المملوك لشركة جوجل، هزم مؤخرا أكبر لاعب في العالم في اللعبة الصينية القديمة المعروفة باسم “جو” وفي الإطار ذاته، تتوقع الدراسة أيضا أن تحل تكنولوجيا القيادة الذاتية محل الملايين من سائقي سيارات الأجرة.

وتركز الدراسة على تداعيات وانعكاسات التطور السريع لتطبيقات الذكاء الاصطناعي على المادة ١٧٨ من القانون المدني المصري، ومدى الحاجة إلى تعديل هذه المادة بالإضافة لكي توافر الحماية المدنية للمضرور؟ ويشمل التطور في مجال الآلات المسيرة بالذكاء الاصطناعي ومنها تعزيز قدرات محركات البحث، وتطوير المساعدات الشخصية القادرة على التعرف على الأوامر الصوتية وتحليلها والاستجابة لها، وتقنيات التعرف على الوجوه وتطبيقات ترشيح المنتجات التي تستخدمها بعض منصات البيع الإلكتروني، مثل أمازون وبرامج التنبؤ بأسعار الأسهم، بالإضافة للتطور في مجالات الرقابة والمتابعة والرصد والقيادة الذاتية للسيارات والتصنيع والمنازل الذكية، ووصلت الاختراعات إلى الروبوتات الذي تساعد في العديد من الإنجاز الذي يجعل الإنسان أكثر راحة، وليس لراحة الإنسان فقط، بل نجدها هامة في جعل الإنسان يسيطر عليها لقضاء أصعب المهام ^([5]).

الدراسات السابقة في موضوع البحث

إشكالية الشخص المسؤول عن تشغيل الروبوت تأثير نظرية “النائب الإنسان” على جدوى القانون في المستقبل -دراسة تحليلية استشرافية في قواعد القانون المدني الأوروبي الخاص بالروبوتات ^([6]) –

ووفقا لهذه الدراسة “فما زال الفقه التقليدي يكيف المسؤول عن الروبوت بوصف حارس الأشياء الميكانيكية الخطرة مع افتراض الخطأ، وبعد أن قمنا بتحليل نصوص القانون المدني الأوروبي الخاص بالروبوتات الصادر في فبراير ٢٠١٧، وجدنا أن المشرع الأوروبي قد اعتمد على نظرية: “النائب الإنساني” المسؤول عن تعويض المضرور بسبب تشغيل الروبوت على أساس الخطأ واجب الإثبات على النائب الذي قد يكون صانع أو مشغل أو مالك أو مستعمل الروبوت. وهذا يدل على منح الروبوت مكانة قانونية تسمح بأن يكون منابا وليس شيئا محل حراسة، والتأسيس

لحالة قانونية مستقبلية خاصة بالروبوت قد تؤدي إلى منحه الشخصية الإلكترونية القانونية، الأمر الذي يوجب دراسة تأثير نظرية النائب الإنساني المسؤول عن الروبوت على جدوى القانون بمفهومه التقليدي في المستقبل.

وانتهى البحث إلى هذه التوصيات: – فرض المسؤولية عن تعويض الأضرار المتأتية ^([7]) بسبب تشغيل الروبوت على “النائب البشري” وفقا لنوع الروبوت، كالتالي: بخطأ مفترض على النائب المسؤول عن تعويض المتضرر من تشغيل الروبوت الميكانيكي ذو الحركة المادية الخطرة دون استثناء الصانع بخطأ واجب الإثبات على النائب المسؤول عن تعويض المتضرر من تشغيل الروبوت الافتراضي ذو التشغيل الرقمي على الإنترنت دون حركة مادية خطرة. اعتبار النائب البشري مسؤولا وفقالظروف الحادث وسبب انفلات الروبوت عن الاستخدام الآمن. حظر تطوير هندسة الروبوتات إلى الدرجة التي يصل معها الذكاء الاصطناعي إلى مرحلة الاستقلال التام

عن البشر حظر تأسيس شركة تصنيع وتطوير الروبوتات بشكل الشركة محدودة المسؤولية؛ حتى لا يتم تضييق الذمة المالية الضامنة لتعويض تجاوزاتها. إبرام معاهدة دولية تحظر تطوير الروبوتات بما يتعارض مع استمرار السيطرة البشرية وإنشاء منظمة دولية تكون مهمتها رقابة نشاط تصنيع الروبوتات.

“نظرية الشخصية الافتراضية” للروبوت وفق المنهج الإنساني دراسة تأصيلية تحليلية استشرافية في القانون المدني الكويتي والأوروبي ^([8]) فالمشرع الكويتي الطامح لرؤية كويت جديدة ٢٠٣٥- ينظر للروبوت على أنه آلة خطرة تحتاج إلى إنسان حتى يحرسها ويسأل عن أعمالها غير المشروعة وفق نظام الخطأ المفترض، في حين أن للروبوت القدرة الذاتية على تجاوز المخاطر بما يختلف عن الآلات التقليدية الخطرة. وقام المشرع الأوروبي بتغيير النظرة نحو “كيان الروبوت”، فارضا نظرية النائب الإنساني التي حظرت افتراض الخطأ. وانتهت إلى توصيات ^([9]) عدم الاعتراف بشخصية الروبوت الافتراضية إذا لم يواكب ذلك قيود تشريعية وطنية ودولية تحظر تطوير هندسة الروبوتات إلى مستوى يرتقي عن مستوى الإنسان غير المميز، عندها فقط يمكن منح الروبوت الشخصية الافتراضية غير المميز اعتماد قواعد النائب الإنساني للروبوت فيما يتعلق بالمسؤولية المدنية ضد أفعال الروبوت غير المشروعة.

لدى منح الشخصية الافتراضية غير المميزة للروبوت حتى يكون شخصا قانونيا مع ذمة مالية مستقلة، فيجب عدم تحديد مسؤولية النائب الإنساني عن أفعال الروبوت غير المشروعة في إطار هذه الذمة، بل يجب أن تمتد المسؤولية المدنية إلى ذمة الإنسان، ولكن يمكن فرض ترتيب الرجوع على ذمة الروبوت أولا. فرض رقابة القضاء على إدارة المالك لذمة الروبوت المالية المستقلة؛ حرصا على التوازن المالي، والأشخاص المتعاقبين في ملكية الروبوت، والأشخاص حسني النية.

وهناك العديد من الأبحاث الأجنبية التي اهتمت بهذا الموضوع وتحديد المسئولية المدنية، ودرات على ابتكار أفكار جديدة لتحديد المسئولية المدنية عن الأضرار الناجمة عن الآلات المسيرة بالذكاء الاصطناعي، ووصل الأمر إلى الاقتراحبفرض الشخصية القانونية للروبراتات ^([10])، وقامت “لجنة الشؤون القانونية في الاتحاد الأوروبي بإنشاء مجموعة عمل للإجابة عن الأسئلة التي قد طرحها تشغيل الروبوت والذكاء الاصطناعي في أوروبا عام ^([11]) ٢٠١٥، وبعد نقاش طويل، أصدرت مجموعة العمل تقريرها النهائي المتضمن مجموعة من التوصيات إلى اللجنة القانونية التي قامت بدورها بإصدار: “قواعد القانون المدني على الروبوتات فبراير ٢٠١٧، ودعا البرلمان الأوروبي في قراره الصادر في 16 فبراير ٢٠١٧ بتوصيات إلى لجنة القانون المدني بشأن الروبوتات وفتح سبل للتفكير، كما أصدرت اللجنة الاقتصادية والاجتماعية الأوروبية رأي المبادرة الخاصة في ٣١ مايو ٢٠١٧ حول تأثير الذكاء الاصطناعي على السوق الموحدة (الرقمية)، وإنتاج والاستهلاك والعمالة والمجتمع، وتعتمد استراتيجية الاتحاد الأوربي على ثلاث ركائز هي: تحفيز الاستثمار ^([12])، وإعدادالتغييرات الاجتماعية والاقتصادية، وإنشاء إطار أخلاقي وقانوني مناسب، والهدف المعلن هو تحقيق الثقة والتعهد بتطوير الذكاء الاصطناعي، وكان من أهم المخرجات عن البرلمان الأوربي بشأن المسئولية المدنية، والتوصل إلى فكرة النائب الإنساني، وذلك في اطار قواعد القانون المدني الأوربي للروبوتات.

اعتمد البرلمان الأوربي في 12 فبراير ٢٠١٩، في ستراسبورغ، قرارا جديدا بشأن سياسة صناعية أوروبية عالمية بشأن الذكاء الاصطناعي. في هذه الوثيقة، المليئة بالعديد من الأفكار الرائعة حول هذا التغيير التكنولوجي الكبير، ويصر البرلمان على الحاجة إلى وضع إطار قانوني للذكاء الاصطناعي والروبوتات، على أساس تحديد المبادئ الأخلاقية، مع استحضار من المهم لأوروبا أن تكون رائدة في هذا المجال ^([13]).

وهناك بعض المقالات الأجنبية تناولت هذا الموضوع وهناك خلاف بين هذه الأبحاث فيما يتعلق بمنح الروبرت الشخصية القانونية، ونشير اليها في البحث.

إشكاليات البحث: –

صعوبة البحث تتثمل في ندرة المراجع العربية في هذا المجال، وبالرغم من أهميته هذا الموضوع، ومن أهم الإشكاليات التي نحاول طرحها والبحث عن حل لها، وهو ما مدى الحاجة إلى تعديل المادة ١٧٨ من القانون المدني المصري في ظل التطور الرهيب في الآلات المسيرة بالذكاء الاصطناعي؟ أو بمعنى أخر هل المادة ١٧٨ من القانون المدني كافية لحماية المضرور حال الحاق به ضرر من قبل الآلات المسيرة بالذكاء الاصطناعي؟ ومن جانب أخر وفي حالة الحاجة إلى تعديل المادة ١٧٨ من القانون المدني ما هو التعديل المقترح؟ وهل تعديل المادة ١٧٨ ن القانون المدني بكافي لحماية المضرور من ضرر الآلات المسيرة بالذكاء الاصطناعي؟ ومن جانب أخر هل منح الشخصية القانونية للروبرت بقيود محدد يمكن أن يرى النور مستقبلا؟ ومع الأخذ في الاعتبار أن التشريع يعبر عن سيادة كل دولة، وما يصلح لدولة ما لا يعنى أنهيصلح ويحقق الأهداف المرجوة منة في دولة أخرى، وهذا أمر بديهي، وذلك نظر لاختلاف المصالح، ففي الدول المتقدمة تسعى هذه الدول إلى حماية المنتج باعتباره الأولى بالرعاية، أما بالنسبة للدول الأكثر استهلاك للآلات المسيرة بالذكاء الاصطناعي فأنها تميل إلى حماية المضرور باعتباره الأولى بالرعاية.

خطة البحث: –

قمنا بتقسيم هذا البحث إلى مبحثين

المبحث الأول: – نطاق الحراسة على الأشياء الآلات المسيرة بالذكاء الاصطناعي

المبحث الثاني: – موقف القانون المدني الأوربي وما يجب أن يكون عليه التشريع المصري.

النتائج والتوصيات.

المبحث الأول
نطاق الحراسة على الأشياء
الآلات المسيرة بالذكاء الاصطناعي

بحث فقهاء الشريعة الإسلامية في مبدأ المسؤولية الذي لم يحظ بنظام خاص مستقل يتناول جميع جوانبه، فاقتصرت الدراسة في ذلك على الأضرار التي تسببها الحيوانات، وكذا ما ينجم عن تهدم البناء، نظرا لطبيعة البيئة آنذاك، فعرفت في البداية ما يسمى ب: “المسؤولية عن جناية الحيوان تحت عنوان: ٢ جناية البهيمة”، وذلك لأن أغلب الأشياء التي كانت ذات الاستعمال الواسع، والأكثر احتمالا وقوع الأضرار بسببها هي الحيوانات التي كانت تستخدم في مجالات النقل والانتقال، فإذا استخدم الإنسان حيوانا في قضاء مصالحه، وأصاب الغير بأضرار خلال ذلك الاستعمال، يسأل عما يسببه الحيوان من ضرر للغير فيكون مسؤولا شخصيا عن جناية الحيوان، وكأنه ارتكب الفعل الضار بنفسه، إذا نسب الإتلاف إلى عمل الحيوان، ولا يضمن صاحب الحيوان ما وراء ذلك، عملا بقول الرسول صلى الله عليه وسلم: “العجماء جرمها جبار.” رواه أبو هريرة ^([14]).

كما عرف فقهاء الشريعة الإسلامية المسؤولية عن تهدم البناء تحت عنوان ” الحائط المائل ” أو البناء المائل”، وذلك أن من بنى جدارا مائلا إلى ملك الغير أو إلى الطريق العام يكون مسؤولا عن الأضرار الناشئة عن تهدم هذا الحائط، على أساس نظرية الضمان، لأن بناء هذا الحائط المائل إلى ملك الغير أو إلى الطريق العام يعد تعد على الجار، أو على من له حق المرور في الطريق غير أن المسؤولية عن الأشياء غير الحية لم يتعرض لها فقهاء الشريعة الإسلامية لعدم وجود حوادث ناشئة عن الأشياء الجامدة إلا ما تعلق منها بالأضرار التي تحدثها بعض الأشياء الخطرة كالسيف والذي يسأل عنه الإنسان الذي يحمله إذا كان مقصرا في ذلك. ويستخلص من كل هذا أنه يستوي عند الفقه الإسلامي أن يكون التعدي من فعل الشخص نفسه أو بسبب الشيء.

واهتمت التشريعات عن المسئولية عن حراسة الأشياء، فبعضها وضع لها أحكاما خاصة في القوانين المدنية، وبعضها من خصها بقوانين خاصة تختلف باختلاف الأشياء، وخلال السنوات الأخيرة، تطور علم الذكاء الاصطناعي ليدخل في جميع مجالات حياتنا وخصوصا في مجال الأعمال والصناعة، وهنا ونتيجة التطور الكبير في مجال صناعة الآلات المسيرة بالذكاء الاصطناعي، هل تكفي القواعد المنصوص عليها في المادة ١٧٨ من القانون المدني المصري لحماية المضرور؟ وبمعنى أخر إذا أحدثت آلة مسيرة بالذكاء الاصطناعي ضرر بالغير هل يمكن جبر الضرر بتطبيق المادة ٨ ٧ ١ من القانون المدني؟ وهنا الأمر يتطلب تحديد نطاق الحماية للمضرور من الأشياء وفقاللمادة ١٧٨ من القانون المدني، وتحديد مفهوم الآلات المسيرة بالذكاء الاصطناعي، للتمهيد وللتمكن من الإجابة على هذه الإشكاليات، وبناء علية نقسم هذا المبحث إلى مطلبين: –

المطلب الأول: – نطاق الحراسة على الأشياء.

المطلب الثاني: – الآلات المسيرة بالذكاء الاصطناعي.

المطلب الأول

نطاق الحراسة على الأشياء

تنص المادة ١٧٨ من القانون المدني على أن ” كل من تولى حراسة أشياء تتطلب حراستها عناية خاصة أو حراسة آلات ميكانيكية يكون مسئولا عما تحدثه هذه الأشياء من ضرر، ما لم يثبت أن وقوع الضرر كان بسبب أجنبي لا يد له فيه، هذا مع عدم الإخلال بما يرد في ذلك من أحكام خاصة.”

وعرفت محكمه النقض المصرية حراسة الأشياء بأنها ^([15]) –”مفاد النص في المادة ١٧٨ من القانون المدني أن الحراسة الموجبة للمسئولية على أساس الخطأالمفترض طبقا لهذا النص إنما تتحقق بسيطرة الشخص على الشيء سيطرة فعلية في الاستعمال والتوجيه والرقابة لحساب نفسه كما قضت محكمة النقض المصرية بأن ” الحراسة الموجبة للمسئولية طبقا لنص المادة ١٧٨ من القانون المدني- وعلى ما جرى به قضاء هذه المحكمة- إنما تتحقق بسيطرة الشخص الطبيعي أو المعنوي على الشيء سيطرة فعلية في الاستعمال والتوجيه والرقابة لحساب نفسه”^([16]) كذلك قضت محكمه النقض بان “أن النص في المادة ١٧٨ من القانون المدني على أن “كل من تولى حراسة أشياء تتطلب حراستها عناية خاصة أو حراسة آلات ميكانيكية مسئولا عما تحدثه هذه الأشياء من ضرر، ما لم يثبت أن وقوع الضرر كان بسبب أجنبي لا يد له فيه……….. يدل على أن الحارس الذي يفترض الخطأ من جانبه هو ذلك الشخص الطبيعي أو المعنوي الذي تكون له السيطرة الفعلية على الشيء في الاستعمال والتوجيه والرقابة لحساب نفسه”^([17])

وبالبناء على ما سبق يمكن القول بأن الحراسة على الأشياء تعني السيطرة الفعلية المستقلة على الشيء الذي يمكن صاحبه من الرقابة والتوجيه والتصرف في الشيء لحساب نفسه، ويقصد بالسيطرة الفعلية الممارسة المستقلة للإمكانيات التي يوفرها الشيء، فمثلا يمارس السلطة على آلة المصنع مالك المصنع أو المستغل للمصنع وليس العامل، لأن مستغل المصنع يصدر الأمر بتشغيلها وتوقيفها، وبالتالي فهو صاحب سلطة مستقلة عليها، والسيطرة الفعلية على الشيء تقتضي أن يكون للشخص السلطة المعنوية عليه، أما السلطة المادية فليست بكافية، فمثلا: السائق لهسلطة مادية على السيارة، ولكنه لا يملك السلطة المعنوية عليها، ولذا تكون الحراسة للمالك، ولكن لو خرج السائق عن حدود عمله وقاد السيارة لمنفعته الشخصية بدون علم المتبوع، فإنه يعتبر مغتصبا وتنتقل إليه الحراسة، كما أن العامل في المصنع له سلطة مادية على الآلة، ولكنه لا يملك السلطة المعنوية عليها.

وبناء على ذلك فهناك شقان للحراسة على الأشياء، الأول شق فني، والثاني شق إداري والذي يحدد شخصية الحارس هو البعد الإداري في استعمال الشيء، وليس البعد الفني، فالحارس هو الذي يملك حق إعطاء الأوامر بتحريك الشيء أو عدم تحريكه مثال: السائق لا يستطيع القيادة (قيادة السيارة) إلا بأمر من المالك (الحارس)، أما كيفية قيادة السيارة، فلا تؤثر في تحديد الحارس، لأنها أمر فني مع ملاحظة انه قد يتركز الشق الفني والشق الإداري في يد شخص واحد، وذلك عندمنا يقود السيارة المالك بنفسه.

انتقال الحراسة

الأصل أن تكون الحراسة للمالك ^([18])، ولذا لا يكلف المضرور بإثبات هذه الصفة فيه، غير أنه يجوز للمالك أن يثبت أن الشيء وقت وقوع الضرر كان في حراسة غيره، فقد تنتقل الحراسة من المالك إلى غيره برضاه، كما في انتقالها إلى المستأجر أو المستعير بشرط انتقال السيطرة الفعلية إليهما على الشيء، وكما في انتقالها للدائنالمرتهن رهن حيازة. وتنتقل الحراسة عند بيع الشيء بالتسليم، وتنتقل الحراسة إلى الحائز، ولا تنتقل الحراسة إذا كان الحائز يؤدي خدمة مجانية للمالك، كالمودع لديه بدون أجر، وتنتقل الحراسة بغير رضا المالك، كما في سرقة الشيء أو اغتصابه… فالسارق أو المغتصب هو الحارس، ولا أثر لكون سيطرته على الشيء غير مشروعه… فالعبرة بالسيطرة الفعلية وليس القانونية… فمالك السيارة ليس مسؤولا عما يحدثه السارق من ضرر إلا على أساس القواعد العامة، ويقع على عاتق المالك عبء أثبات انتقال الحراسة لغيره، فان لم يمكنه ظل مسئولا باعتباره حارس الشيء فثمة قرينة أساسها الوضع الغالب على أن المالك هو الحارس لأنه هو الذي يستعمل الشيء عادة فاذا لم يقم المالك بأثبات انتقال الحراسة لغيره ظل مسئولا باعتباره حارسا.

وقضت محكمة النقض بأن ^([19]) ” كان الثابت في الدعوى أن المصعد الذي أحدث الضرر مملوك للشركة الطاعنة وهى التي تسيطر عليه سيطرة فعلية وتتولى استعماله واستغلاله لحسابها وكان قيام شركة الإسكندرية الميكانيكية للمصاعد الكهربائية بالصيانة والإصلاح اللازمين لتشغيل المصعد مقابل جعل مادي تتقاضاه من الطاعنة شهريا- على نحو ما هو ثابت من العقد المبرم بين الطاعنة والشركة المشار إليها والمودع ملف الطعن- ليس من شأنه أن يخرج هذا المصعد من السلطة الفعلية للطاعنة وبالتالي يظل في حراستها ولا تنتقل هذه الحراسة الشركة الإسكندرية الميكانيكية للمصاعد الكهربائية. ذلك بأن هذا العقد تمارس الطاعنة من خلاله سلطتها في الرقابة والتوجيه والإشراف على ما تجريه هذه الشركة من أعمال والتي تقوم فيه بالعمل لحساب الطاعنة، فإن مؤدى ذلك أن تكون الطاعنة هي الحارس للمصعد وبالتالي تضحى مسئولة عن الضرر الذي يحدثه مسئولية أساسها خطا مفترض طبقا للمادة ١٧٨ من القانون المدني ولا تنتفي عنها هذه المسئولية إلا إذا أثبتت أن وقوع الضرر كان بسبب أجنبي لا يد لها فيه”

وبالتطبيق على ذلك وعلى فرض بالنسبة إلى أحد الآلات المسيرة بالذكاء الاصطناعي التي أحدثت الضرر وهى مملوك لشركة ما، وهى التي تسيطر عليها سيطرة فعلية وتتولى استعمالها واستغلالها لحسابها وكانت تقوم شركة أخرى بالصيانة والإصلاح اللازمين لتشغيلها مقابل مادي تتقاضاه ليس من شأنه أن يخرجها من السلطة الفعلية للشركة المالكة، وبالتالي يظل في حراستها ولا تنتقل هذه الحراسة إلى الشركة المختصة بالصيانة، وبالتالي تضحى الشركة الملكة للألة المسيرة بالذكاء الاصطناعي مسئولة عن الضرر الذي يحدثه مسئولية أساسها خطأ مفترض طبقا للمادة ١٧٨ من القانون المدني، ولا تنتفي عنها هذه المسئولية إلا إذا أثبتت أن وقوع الضرر كان بسبب أجنبي لا يد لها فيه، أو بخطأ الغير، أو بخطأ المضرور.

–      تعدد الحراس ^([20])

الأصل هو عدم تعدد الحراس على الشيء، إلا إذا اتحد السند في الحراسة، فليس هناك ما يمنع من تعدد الحراس وعند تعدد الأشخاص الذين يملكون الشيء محل الحراسة، ما داموا قد استندوا إلى نفس السلطة، وليس تعدد الحراسات بتجزئة سلطاتها، وتثبت الحراسة لأكثر من شخص، فيصبحون جميعا حراسا للشيء، ما دام لم يستقل أي منهم بالسيطرة عليه، والاشتراك في الحراسة لا يعني إمكانية اختصاص كل حارس بنوع معين من الحراسة، بل يشتركون جميعا في حراسة واحدة، فالحراسةيمكن أن تكون مشتركة ولكنها لا تتجزأ إلى عدة حراسات، كما في حال الملكية على الشيوع.

ويقصد بالشيء كل شيء مادي غير حي، وكل شيء بهذا المفهوم فيما عدا البناء يدخل في نطاق نص المادة 178 مدني ما دامت حراسته تقتضي عناية خاصة وهي تكون كذلك بحكم تكوينها وتركيبها، وقد أفترض القانون المصري أن الآلات الميكانيكية كالسيارات والآلات الصناعية خطرة بطبيعتها تتطلب حراستها عناية خاصة دائما لما ركب فيها من محرك ذاتي ^([21])، ومفاد ما تقدم أنه يشترط لتحقق المسئولية عن حراسة الأشياء طبقا لنص المادة ١٧٨ من القانون المدني قبل شخص ما أن نكون بصدد شيء تقتضي حراسته عناية خاصة وأن يكون لهذا الشخص السيطرة الفعلية على الشيء بأن يكون له سلطة الاستعمال والتوجيه والرقابة لحاسب نفسه وليس لحساب الغير.

ويقصد بالشيء في هذه المسؤولية في القانون المدني السوري: كل شيء مادي غير، حي إذا كان بطبيعته أو بسبب ظروف محيطة به في حاجة إلى عناية خاصة، مع ملاحظة أن الآلات الميكانيكية تعتبر دائما في حاجة إلى هذه العناية الخاصة بحكم القانون ومن الأشياء التي تعد بطبيعتها في حاجة إلى عناية خاصة: المواد الكيمائية، والأسلاك الكهربائية، والأدوات الطبية، والأشعة والأسلحة، والزجاج، والمفرقعات. وفقا للمادة ١٧٩ من القانون المدني السوري، كما لم يفرق المشرع بين الأشياء المتحركة (سواء كانت حركتها بفعل الإنسان كالدراجة، أم كانت متحركة بقوتها الذاتية كالسيارة) وبين الأشياء الساكنة.

وبالترتيب على ذلك يخرج عن مفهوم الشيء ما يلي: الحيوانات والمباني، الإنسان وما يصدر عنه من أفكا ر، الأشياء المشتركة التي لا مالك لها: فهذه الأشياء لا يمكن أن تكون محلا للحراسة، كمداخل الأبنية، والسلم المشترك، وانهيار الثلج المتراكم على سطح المبنى.

ويشترط لقيام مسؤولية حارس الشيء أن يكون الضرر راجعا إلى فعل هذا الشيء، غير أنه لا يشترط لاعتبار الضرر ناشئا عن فعل الشيء أن يتصل هذا الشيء اتصالا ماديا بالمضرور. فمثلا: إذا أراد أحد عابري السبيل تحاشي سيارة مسرعة، فزلت قدمه فجرح، فإن الضرر يعتبر راجعا إلى الفعل الإيجابي للسيارة، بالرغم من عدم حصول أي اتصال مادي بينهما كذلك لو أن سيارة وقفت فجأة فاضطرت سيارة تسير وراءها للانحراف عن الطريق لتحاشي الاصطدام، فارتطمت بشجرة، فإن الضرر يعتبر راجعا إلى الفعل الإيجابي للسيارة الأولى، بالرغم من عدم حصول أي اتصال مادي بينهما يجب تدخل الشيء تدخلا إيجابيا في إحداث الضرر: فلا تتحقق علاقة السببية، ولا تقوم بالتالي المسؤولية الناشئة عن الأشياء، إذا كان دور الشيء سلبيا بحتا في وقوع الضرر.

على سبيل المثال إذا اصطدم أعمى بسيارة واقفة بشكل نظامي، أي في المكان الطبيعي المعد لها، فأصيب بضرر، فلا يكون للسيارة دور إيجابي في إحداث الضرر، بل يكون دورها سلبيا بحتا، ولا تكون هي محدثة الضرر، وإنما من ارتطم بها، وبالتالي لا تمكن مساءلة الحارس استنادا لمسؤولية حارس الشيء الجامد، وإنما استنادا للمسؤولية عن الأعمال الشخصية القائمة على الخطأ الواجب الإثبات. كذلك إذا ارتطم طفل بالأسلاك الشائكة فأصيب بضرر، فإن دور السلك في الحادث يكون سلبيا، لأنه ثابت في موضعه (في حالة سكون) كذلك إذا خاف شخص من سيارة ضخمة موجودة في كراج خاص لها، وأثناء الهرب منها أصابه ضرر، فلا تمكن في هذه الحالة مطالبة الحارس بالتعويض استنادا لمسؤولية حارس الشيء، ولا يشترط لتحقق الدور الإيجابي للشيء أن يكون الضرر راجعا إلى فعل ذاتي مستقل له، بل يتحقق الدور الإيجابي للشيء، ولو كان الشيء وقت حدوث الضرر موجها من الإنسان، فلا تحول قيادة الشخص للسيارة أو إدارته الآلة، دون اعتبار السيارة أو الآلة محدثة الضرر، كذلك لا يشترط لتحقق علاقة السببية بين الشيء والضرر- وبالتالي لاعتباره مسببا له- أن يرجع الضرر إلى عيب ذاتي فيه، فيمكن أن يكون الشيء هو الذي سبب الضرر ولو لم يكن معيبا.

ولكن: ما هو معيار التمييز بين التدخل السلبي والتدخل الإيجابي؟

يرى فريق من الفقه أن تدخل الشيء يعتبر سلبيا إذا كان وقت وقوع الضرر في حالة سكون. ولكن هذا الرأي ليس صحيحا بشكل مطلق، فمثلا السيارة إذا كانت واقفة في غير وضعها الطبيعي وقت حدوث الضرر، فإن تدخلها يعتبر إيجابيا، وفي الحالتين كانت السيارة في حالة سكون. أي إذا اصطدم شخص بسيارة واقفة على الرصيف، فهنا تطبق مسؤولية حارس الشيء الجامد، على الرغم من أن الشيء لم يقم بفعل إيجابي لأنه ساكن، لكن هذا السكون اقترن بوضع شاذ جعل الشيء وكأنه يقوم بفعل إيجابي.

والرأي السائد أن تدخل الشيء يعتبر إيجابيا إذا كانت هناك علاقة سببية بين الشيء والضرر وعلاقة السببية تقوم كلما كان الشيء في وضع أو حالة تؤدي عادة إلى إحداث الضرر، كما لو كانت السيارة مثلا في حالة حركة، أو كانت واقفة في غير مكانها الطبيعي، أو كانت مطفأة الأنوار ليلا، وهنا يدور التساؤل عن مدى انطباق مفهوم الشي وفقا للمادة ١٧٨ من القانون المدني على الآلات المسيرة بالذكاء الاصطناعي؟ وللإجابة على هذا التساؤل يتطلب التطرق لطرح مفهوم الآلات المسيرة بالذكاء الاصطناعي: –

المسؤولية القانونية على حارس الأشياء

تعد هذه المسؤولية من أهم وأخطر مواضيع المسؤولية، بسبب دخول الآلة في هذا العصر حياة الإنسان بمختلف نشاطاته وتتصف هذه الآلة التي يستخدمها الإنسان بأنها ذات منفعة كبيرة، كما أنها لا توضع في الاستعمال إلا بعد خضوعها لفحوصات واختبارات كثيرة تثبت صلاحيتها للعمل، فمثلا لو أن سيارة جديدة أصيبت بعطل فني بعد وضعها في الاستعمال بفترة قصيرة من الزمن فسببت ضررا للغير، فهل يستطيع المضرور الحصول على تعويض؟ إذا أردنا تطبيق القواعد العامة للمسؤولية المدنية، فإن هذا سيؤدي إلى عدم حصول المضرور على تعويض إلا إذا أثبت ركن الخطأ في سلوك مالك السيارة، وهذا الأمر يحمل في طياته صعوبة كبيرة، ولهذا وضع المشرع أحكاما خاصة للمسؤولية عن الضرر الناجم عن تلك الأشياء، وسماها مسؤولية حارس الأشياء الجامدة.

ويؤسس الرأي الراجح هذه المسؤولية على الخطأ في الحراسة، فإذا ألحق الشيء ضررا بالغير، فيفترض أنه أفلت من زمام حارسه، وهذا هو الخطأ المفترض الذي لا يكلف المضرور بإقامة الدليل عليه، بل يكفي أن يثبت أن الضرر قد وقع بفعل آلة ميكانيكية أو بفعل شيء آخر تتطلب حراسته عناية خاصة، فإن أثبت ذلك فيفترض أن الشيء تدخل تدخلا إيجابيا في إحداث الضرر، إلا إذا أثبت الحارس أن تدخله كان سلبيا.

دفع مسؤولية حارس الأشياء ^([22])

الخطأ هنا مفترض افتراضا لا يقبل إثبات العكس، أي توجد قرينة قانونية قاطعة على خطأ الحارس، وهذه لا تقبل الدليل العكسي، بمعنى أنه لا يجوز للحارس في سبيل دفع المسؤولية عن نفسه إثبات أنه قام بواجب العناية بالشيء، لأن هناك التزاما قانونيا على كل حارس بأن يبقى الشيء تحت سلطته الفعلية، وهذا الالتزام هو التزام بتحقيق نتيجة، وليس ببذل عناية، فإن لم ينفذ الحارس هذا الالتزام فقد تحقق الخطأ دون الحاجة للبحث عن سببه، ولذا لن يفيد الحارس شيئا إثبات أنه لم يقصر في تنفيذ هذا الالتزام، وليس أمام الحارس إذا أراد دفع مسؤوليته سوى نفي علاقة السببية بين الخطأ المفترض والضرر، ويكون ذلك بإثبات السبب الأجنبي: أي بإثبات القوة القاهرة، أو خطأ الغير، أو خطأ المضرور ^([23])

المطلب الثاني

الآلات المسيرة بالذكاء الاصطناعي

مما لا شك فيه أن تحديد مفهوم الآلات المسيرة بالذكاء الاصطناعي له أهمية كبيرة، وذلك لتحديد الأساس القانوني لحصول المضرور على التعويض حال الحاق به ضرر من قبل الآلات المسيرة بالذكاء الاصطناعي، وبمعنى أخر هل الآلات المسيرة بالذكاء الاصطناعي تعد من قبل الآلات الميكانيكية في مفهوم المادة ١٧٨ من القانون المدني؟ وتظهر أهمية الإجابة على هذا السؤال بأنه في حالة القول بأن الآلات المسيرة بالذكاء الاصطناعي تعد من قبل الآلات الميكانيكية، فمؤدي إلى نتيجة مفادهما عدم الحاجة إلى تعديل المادة ١٧٨ من القانون المدني، وفي حالة الفرض العكسي يوصلناإلى نتيجة مؤداها الحاجة إلى تعديل المادة ١٧٨ من القانون المدني بالإضافة لكي تواكب التطور التكنولوجي الرهيب.

الآلات المسيرة بالذكاء الاصطناعي كما هو مفهوم، هي في الحقيقة برامج حاسوبية تختزل عددا هائلا من الخوارزميات والتعليمات التي تجسد عمليات اتخاذ القرار لتنفذها الآلة، والتي يحددها البشر في نهاية المطاف، وقد تسمح للآلة بابتكار وخلق قرارات لم تبرمج من قبل، إما لتغير المحيط أو نتيجة التعلم والتطوير الذاتي عن طريق برامج المحاكاة والتجربة.

طرح نموذجين من الآلات المسيرة بالذكاء الاصطناعي النموذج الأول السيارات الذاتية القيادة ^([24]) مثلا، يمكنك النظر إلى مقدار السيطرة علىالسيارة الذي يملكه السائق، إذا لم يكن للسائق أي سيطرة، فإنك تتوقع وضع مسؤولية أكبر على عاتق المصنع والشركات الأخرى المشاركة في تجميع السيارة، ويصبح الأمر أكثر تعقيدا عندما تكون للسائق سيطرة أكبر، وحينئذ يمكن أن تبحث عمن اتخذ القرار الذي أدى إلى الحادثة، وهل المادة ١٧٨ من القانون المدني سوف تكون كافية لتحقيق التوازان بين المصالح المختلفة وجبر الضرر؟ أم نحتاج إلى تعديل التشريع؟

السيارات ذاتية القيادة لا تبدو مثل الروبوتات كما تظهر في تجارب سيارات جوجل التي تجوب الشوارع محملة بالكاميرات والرادارات، ولكنها سيارات ذكية مزودة بتقنيات “خفية” تسمح لها باتخاذ القرار المناسب، وبمناسبة ذكر جوجل فهي تعد الشركة الأولى في هذا المجال حاليا والتي قطعت سياراتها ذاتية القيادة حتى الآن 1.3 مليون كيلومتر في المدن دون أي حوادث تذكر! ^([25]) فالكاميرات والرادارات وأجهزة الاستشعار والليزر ونظام تحديد المواقع وغيرها من التقنيات تعمل على خلق رؤية خاصة بالسيارة بعد معالجة هذه الرؤية، ويمكن للسيارة أن تتخذ القرار الصحيح دون أي أخطاء، مكابح الطوارئ الآلية تتميز بقدرتها الدقيقة على الضغط على المكابح“الفرامل” بالقدر الكافي وفي الوقت المناسب، وتعتمد تلك التقنية على الرادار الذي يحدد العوائق والعقبات التي تحتاج بالضرورة إلى استخدام فرامل الطوارئ الآلية، ولكن من عيوب تلك التقنية اعتمادها على الرادار الذي يمكن أن تعوق بعض الظروف الجوية عمله، ولحل تلك المشكلة تمت إضافة أدوات استشعارية إضافية، فمثلا في سيارة مرسيدس S-Class تمت إضافة كاميرات وأجهزة استشعار فوق صوتية، والرادار، والليدار، كما يستخدم الضوء بدلا من موجات الراديو في الظروف الصعبة.

وبادرت بعض الدول إلى إصدار التشريعات المنظمة للسيارات ذاتية القيادة، فغي التاسع عشر من يوليو ٢٠١٨م، صدر القانون البريطاني بشأن المركبات ذاتية القيادة والكهربائية، ويتضمن ثلاثة أبواب: (الأول) المركبات ذاتية القيادة: مسئولية شركات التأمين وغيرها. (الثاني) شحن المركبات الكهربائية. (الثالث) أحكام عامة ومتنوعة. وفي الولايات المتحدة الأمريكية، وبتاريخ السابع من يوليو ٢٠١٧م، تقدم أحد أعضاء مجلس النواب بمشروع القانون المعروف اختصارا باسم قانون القيادة الذاتية ^([26])

ووضع الفقيه الفرنسي جوليان موتشيلي افتراض خاليي بالنسبة للسيارات ذاتية القيادة ^([27])، التي تسيطر عليها الذكاء الاصطناعي، وهو يفترض أننا في عام ٢٠٤٠، وحصل حادث قتل فيه أكثر من خمسين شخصا وجرح العديد، ناتج عن فشل الذكاء الاصطناعي وهذه السيارة ذاتيه القيادة اسمها يوريكا، والمستخدم السيد فيجي، الذي رأى سيارة تندفع نحوه، قام بتنشيط زر الطوارئ. تسبب رد فعل الجهاز في هذاالحادث الهائل، ويرى أن السيد فيجي يتم الحكم علية لخمس سنوات من السجن، وبالنسبة ليوريكا، ستواجه عقوبة قدرها ٤ ملايين يورو وحلها.

وبعد ذلك بدء بطرح الأسئلة هل يوجد سائق للسيارة المستقلة؟ وإذا كان الأمر كذلك، فمن هو السائق؟ هل كان الذكاء الاصطناعي لا يزال السائق بعد الضغط على زر الطوارئ (الفرامل)، من قبل السيد فيجي؟ في هذه الحالة من المسؤول؟ وبدء بالمحاولة للإجابة على هذه التساؤلات بالقول من يقود مركبة يوريكا هو السائق عن بعد للسيارة، المستخدم موجود فقط للاستمتاع بالرحلة كما يمكنه أيضا استخدام زر حالة الطوارئ للتحكم بالسيارة، ومن هنا يري رفض المسؤولية المدنية للسيد فيجي، ويجب إعلان إطلاق سراحه، وتوجيه المسئولية إلى يوريكا(الذكاء الاصطناعي).، فهي عقلانية، ووهبت بقوة الإرادة إنها تحلل كل شيء، وتتوقع كل شيء، وتخطط كل شيء، وهي قادرة على تجاوز برنامج معين، إن قلة رد فعلها تدل على أنها اتخذت قرارا غير حكيم ولم تقم بالعناية الواجبة: هذا هو العنصر الأخلاقي، وبالتالي المدعي العام يطلب بتطبيق عقوبة الحل أي عقوبة الإعدام على يوريكا لكونها المسؤولية قانونيا ^([28]).

وبالتطبيق من خلال الافتراض السابق على المادة ١٧٨ من القانون المدني فأن المالك هو المسئول عن حراسة السيارة ذاتية القيادية والمسيرة بالذكاء الاصطناعي، وذلك لأنه يملك السطلة المعنوية عليها بالتوجيه والقيادة عن بعد، وهناك بعض الافتراضيات التي يصعب معها تطبيق المادة ١٧٨ من القانون المدني المصري على السيارات ذاتية القيادية، وذلك بأثبات خطأ الغير، بمعنى يجوز لمالك هذه السيارة نفي مسئولية المدنية عن حارسة هذه السيارة بخطأ المصنع المنتج للسيارة حال خروجها عن سيطرة المالك أو المستغل، كما في حالة عدم الاستجابة إلى الأوامر الصادرة من المالك أو المستغل وتنفيذها وهذا بالأمر الصعب وليس بالأمر السهل، كما أن الرجوع بالتعويض على الشركة المصنعة للسيارة المسيرة بالذكاء الاصطناعي ووفقا للقواعد العامة ووفقا للمادة ١٦٣ من القانون المدني أمر صعب ومرهق للمضرور، وخاصة ويكون المصنع أجبني، وليس له محل إقامة في مصر وغيرها من الصعوبات الأخرى، ومن جانب أخر قد يكون الضرر الذي وقع كبير ولا تغطي الذمة المالية لمالك للسيارة المسيرة بالذكاء الاصطناعي التعويض، ومن ثم يكون نظام المسئولية الحالي يقف في صف المنتج، ويلقي بأغلب الإشكاليات على المالك أو المستغل.

النموذج الثاني الإنسان الآلي (الروبوت) ^([29]) الروبوت يعد من إحدى المجالات التي دخل فيها الذكاء الاصطناعي، حيث إن الروبوت هو جهاز ميكانيكي مصمم لأداء الأعمال التي يقوم بها الإنسان بشكل عام، وقد أدى اختراع الروبوتات الحديثة إلى ظهور الأجهزة والآلات التي لا حصر لها، والتي تحل محل عمل الأفراد، من الجدير بالذكر أن معظم الروبوتات مبنية على برمجيات للعمل بشكل مستقل عن السيطرةالبشرية المباشرة، ويستخدم المصطلح أيضا للمركبات وغيرها من الآلات التي يتم التحكم بها عن بعد من قبل المشغل البشري.

ترمز كلمة “روبوت” في اللغة التشيكية إلى العمل الشاق، فهناك أنواع عديدة من الإنسان الآلي، منها ما يستعمل في القطاع الصناعي ^([30]) والطبي ^([31]) والتعليمي وحتى في تنظيم المرور والقطاع الرياضي ^([32])، والمنزلي، ^([33]) والاجتماعي ^([34])، كما حدث تطوركبير بروبوتات الخدمة العسكرية وهي وحدات مستقلة مسلحة من الرجال الآليين والطائرات دون طيار وأجهزة آلية أخرى، وقادرة على توجيه ضربات نوعية تساهم في تقليل الخسائر البشرية، كما تساهم في تسهيل عمل فرق مكافحة الإرهاب وتفكيك القنابل بتركيبتها المدعومة بأحدث التقنيات العسكرية. وأعلن خبراء الذكاء الاصطناعي أن الإنسان سيتمكن من الزواج بالروبوت، ويختار زوجة “آلية” أو تختار الزوجة “زوجا آليا” في حدود ٢٠٥٠ ^([35])

دخلت الروبوتات إلى مفاصل حياتنا الأساسية، وهو ما جعلها مفروضة على حياتنا فرضا بغض النظر عن مدى تقبل مجتمعنا العربي لها، أو انتمائنا إلى الاتجاه المتفائل أم المتشائم بخصوص مستقبل الروبوتات؛ وذلك بسبب الطموح الدائم إلى الأداء المثالي دون أخطاء بشريه وما يمنح الآلة قدرة التفكير واتخاذ القرار بشكل ذاتي وأداء مثالي هو مرورها بمراحل البرمجة التي يفرضها: “الذكاء الاصطناعي”، حيث يعتبر إنتاج الروبوت أحد المجالات الفرعية لتكنولوجيا الذكاء الاصطناعي.

وتعد برمجة الروبوت أهم مرحلة وتقوم على تعلم الآلة حيث يتم زرع طريقة التفكير البشرية، ونماذج المواقف، والأفكار، والتصورات، والقرارات النموذجية، وحتى طريقة التعبير الكلامية والحركية في البرمجة الآلية التي تحرك الروبوت، وبلغ الذكاء الاصطناعي من التطور مبلغ استخدامه لتنمية تفكير الاستدلال البشري، إلا أنهذا الذكاء الاصطناعي مهما بلغت درجة دفته في وقتنا الراهن- فلن يصل مستوى موثوقية الذكاء البشري من حيث محاكاة طبيعة الحياة العملية؛ وقد وصل إل التفوق على الأنسان في بعض التطبيقات ما قد يوقع الروبوت في الأخطاء أو الاستغلال، وبالمقابل فإن وصول الروبوت إلى الإدراك العاطفي مستقبلا سيجعله يحب ويكره؛ وهذا ما قد يدفعه للقيام بأفعال عدائية أو انتقامية تسبب أضرار المستخدمة أو للغير، الأمر الذي يطرح على بساط البحث كيفية تحديد المسئولية المدنية عن الأضرار التي يسببها للغير وتطبيقا لمسئولية حارس الأشياء؟

تطبيق المسئولية الشيئة على الآلات المسيرة للذكاء لاصطناعي

الآلات المسيرة بالذكاء الاصطناعي لها مخاطر محتملة لانتهاك الحريات وازدادت هذه الأخطار من خلال التعلم العميق، الذي تم الكشف عن تحيزاته تدريجيا في السنوات الأخيرة، ومما زاد خطر الآلات المسيرة بالذكاء الاصطناعي القوي هو الخيال العلمي، وبالرغم من ذلك فإن الذكاء الاصطناعي في شكله الحالي، بما في ذلك تعلم الذكاء الاصطناعي، يعرض مخاطر انتهاك المصالح الخاصة، وكذلك بعض المصالح العامة ^([36])..

ويثول التساؤل عن تحديد المسؤولية المدنية لجبر الضرر الذي يلحق بالغير من قبل الآلات المسيرة بالذكاء الاصطناعي؟ فمسؤولية المصنع أو المبرمج أيضا يصعب انطباقها، ^([37]) فالضحايا مطالبون بإثبات الخطأ والضرر والعلاقة السببية في تشغيل وبرمجة الآلات المسيرة بالذكاء الاصطناعي، أو إثبات الإهمال الذي وقع أثناء أداء واجب إدارة الخطر والحادث المتوقع أو غير المتوقع، في حالة تطبيق القواعد العامة لحصول المضرور على التعويض، حال استبعاد المادة ١٧٨ من القانون المدني من التطبيق، كما أن العلاقة بين المستغل أو مالك الآلات المسيرة بالذكاء الاصطناعي من جانب وبين المنتج أو المبرمج أو البائع كطرف ثاني وتربطهما ببعض رابطة عقدية ومحلهما أحد الآلات السيرة بالذكاء الاصطناعي، وفي حالة حدوث أخلال بهذا العقد فان دعوى المسئولية تتقادم يمضى خمسة عشر سنة ما لم ينص القانون على مدة اقصر ولا تضامن بين المسئولين إلا بنص أو اتفاق ولا يسأل الشخص إلا عن تعويض الضرر المتوقع ما لم يرتكب غشا أو خطأ جسيما فيسال أيضا عن تعويض الضرر غير المتوقع وانه يجوز الاتفاق على الإعفاء من المسئولية العقدية أو تخفيفها أو الحد منها ما لم يرتكب المدين غشا أو خطأ جسيما ويجوز أيضا الاتفاق على إعفاء المدين من المسئولية العقدية عن الغش أو الخطأ الجسيم الذي يقع من أشخاص يستخدمهم في تنفيذ التزامه ووفقا للمادة ٢١٧ من القانون المدني، أما إذا كانت المسئولية تقصيرية فلا يجوز الاتفاق على الإعفاء من المسئولية ولو كان الخطأ يسيرا ويتضامن المسئولون عن الفعل الضار بقوة القانون ويلتزم المسئول بتعويض الضرر المتوقع وغير المتوقع ولو كان خطؤه يسيرا، فمدى ملائمة هذه القواعد لموكبه التطور في صناعة الآلات المسيرة بالذكاء الاصطناعي بغية حماية المضرور؟

وتوجد معوقات أخرى تقنية، وأهمها ضرورة توفير الخبراء المتخصصين في مجال فحص الآلات المسيرة بالذكاء الاصطناعي ومعوقات وإجرائية تزيد من محدوديتها، ليس أقلها أن الحكومات المالكة لتلك التكنولوجيا تبقي أفراد جيشها والمتعاقدين معه محصنين إلى حد كبير من الدعاوى المدنية، ومثال ذلك القانون الأمريكي، فقد سبق أن منعت الإدارة الأمريكية ورثة ضحايا الرحلة الجوية ٦٥٥ من مقاضاة الحكومة بسبب الحصانة السياسية للمقاتلين ^([38]).

تحديد مفهوم ركن خصوصية الآلات المسيرة بالذكاء الاصطناعي وإبرازه إلى حيز الوجود أمر في غاية الأهمية بالنسبة لأركان المسؤولية، وبينما ذهب التشريع الفرنسي إلى إطلاق هذا المفهوم ليشمل جميع الأشياء، بحيث عد كل شيء تحت حراسة شخص يسبب ضررا للغير تنشأ مسؤولية حارسه، نجد المشرع المصري قد حدد هذه الأشياء بالآلات الميكانيكية والأشياء التي تتطلب حراستها عناية خاصة، ومن خلال استعراضنا بشكل مبسط للآلات المسيرة بالذكاء الاصطناعي وجدنا أن الأشياء التي يملكها المستخدم، ويملك بالتالي عليها سلطة فعلية، تمكنه من استخدامهاورقابتها وتوجيهها والهيمنة عليها، وبالتالي مسؤولا عنها وفق قواعد المسؤولية عن الأشياء في وقتنا الحاضر.

أما بالنسبة للآلات المسيرة بالذكاء الاصطناعي، ويكون لملكها عليها سلطة فعلية، تمكنه من استخدامها ورقابتها وتوجيهها والهيمنة عليها، فالمضرور يكون أمام خيارين، إما أن يثبت فعل الشيء، أو أن يثبت علاقة السببية بين الشيء والضرر، ويقع على المدعي عبء إثبات خطأ المدعى عليه، وذلك وفقا للقواعد العامة للحصول على التعويض، أما الخيار الثاني أثبات الضرر الذي أصابه، لننتقل إلى ركن تقصير الحارس في واجب العناية في المسؤولية عن فعل الآلات المسيرة بالذكاء الاصطناعي. وحيث ذهب كل من المشرع الفرنسي والمصري إلى إيجاد قرينة قاطعة غير قابلة لإثبات العكس، بأنه لا يجوز لحارس الآلات المسيرة بالذكاء الاصطناعي أن ينفي الخطأ عن نفسه، بأن يثبت أنه لم يرتكب خطأ، أو أنه قام بما ينبغي عليه من العناية، حتى لا يفلت زمام الشيء من يده، إلا أن بعض التشريعات آثرت دفع الحارس إلى هذه المسؤولية، من خلال إثبات قيامه بواجب العناية اللازمة التي يقوم بها «الرجل المعتاد»، أي ما يقوم به رجل الشارع من دون حاجة إلى تدليل أنه قصر في الحماية الفنية والتقنية.

أما بالنسبة للآلات المسيرة بالذكاء الاصطناعي، ولا يملك عليها سلطة فعلية، تمكنه من استخدامها ورقابتها وتوجيهها والهيمنة عليها، وبالتالي لا يوجد مسؤولا عنها وفق قواعد المسؤولية عن الأشياء وفقا للمادة 178 من القانون المدني المصري.

ويظهر هدف هذا البحث في حال إشكالية طبيعة الشخص المسؤول عن الأضرار التي قد يتسبب بها الروبوت بغاية استشراف الواقع القانوني المستقبلي وفقا للقانون المدني الأوروبي الخاص بالروبوتات، وذلك بما يتلاءم مع طبيعة القواعد القانونية الروبو-بشرية، تلك التي تحكم العلاقة بين كائنين، وليس بين كائن وشيء خاضع له مسلوب الشخصية والأهلية كما في نظرية حارس الأشياء، وهذا ما يفرضه الواقع الآن وما سيتعمق حتما في القريب الآجل. وتظهر أهمية هذا البحث في أن هذا الواقع التكنولوجي المتسارع في التطور قد يؤدي بالقانون إلى جعله غير قابل للتطبيق في المستقبل بسبب عدم مناسبته لتنظيم وقائع غير بشرية أو مشتركة بين البشر والروبوتات؛ وهكذا فقد يخسر القانون جدوى وجوده لعدم مناسبته للتطبيق، ولاندثار فلسفته التقليدية، أو لعدم وجود سلطة قادرة على فرضه على الروبوتات أصلا في المستقبل.

وحيث أن الآلات المسيرة بالذكاء الاصطناعي متصلة بالإنترنت، هي أجهزة معرضة للاختراق والقرصنة، ودخلنا في عصر إنترنت الأشياء، حيث بات كل شيء متصلا بالإنترنت، من جهاز الكمبيوتر إلى الهاتف الذكي، من المنزل الذكي المتصل والأدوات المنزلية المتصلة إلى السيارات المتصلة، بالإضافة للأجهزة الذكية التي نرتديها، فكل هذه الأشياء المتصلة بالإنترنت هي معرضة للاختراق والقرصنة، مما يشكل تهديدا لبياناتنا وخطرا على خصوصيتنا ^([39]). وهو ما يطرح علينا القول بضرورة البحث عن حلول لمواجهة هذه المشكلة، ومدى توفقها مع النظام القانوني المصري وتحقيق التوازن بين العلاقات الخاصة، وهذا ما يكون محل البحث في المبحث الثاني من الدراسة.

المبحث الثاني
موقف القانون المدني الأوربي
وما يجب أن يكون علية التشريع المصري

بعض الآلات المسيرة بالذكاء الاصطناعي اليوم قادرة على اتخاذ القرارات بشكل مستقل، وقادر على إظهار قدرات التكيف والتعلم التي تؤدي إلى عنصر غير متوقع في سلوكهم، تتعلم الروبوتات من تجاربها، والتي تختلف من واحدة إلى أخرى، وتتفاعل مع بيئتها، ولكونها لا تخضع للرقابة والتوجيه والسيطرة عليها ومن ثم لا ينطبق عليها المادة ١٧٨ من القانون المدني المصري، ولما كانت كما سبق أن قواعد المسئولية المدنية الحالية ليست كافية في حالات مختلفة لجبر الضرر، فضلا عن صعوبة أثبات المسؤولية القانونية عن الأضرار التي تسببها هذه الآلات، من المسلم به، كما ننوه بأن الإطار القانوني بشأن المسؤولية عن المنتجات المعيبة ^([40]) هل يقع المسئولية على الشركة المصنعة للمنتج النهائي، منتج المادة الخام، أو الشركة المصنعة لجزء مكون، أو الشخص الذي ألصق اسمه أو علامته التجارية أو أي علامة مميزة أخرى على المنتج المعني المسؤولية عندما يكون الضرر ناجما عن الخلل في المنتج؟ كما أن المسؤولية غير التعاقدية التي تغطي فقط الأضرار الناجمة عن عيوب الآلات المسيرة بالذكاء الاصطناعي، هذا يفترض أيضا أن الضحية تقدم بديلا على حقيقة الضرر، والعيوب في المنتج وعلاقة السبب والنتيجة بينهما، ولهذه الإشكاليات، فما هي الكيفية التي يمكن من خلالها حل هذه الإشكاليات؟ وهذا ما نتناوله في هذا المبحث من خلال تقسيم المبحث إلى مطلبين: – المطلب الأول: – موقف القانون المدني الأوربي.

المطلب الثاني: – ما يجب أن تكون عليه التشريع المصري.

المطلب الأول

موقف القانون المدني الأوربي^([41])

اعتمد البرلمان الأوروبي في  16 فبراير ٢٠١٧ قرارا يتضمن توصيات بشأن قواعد القانون المدني المنطبقة على الروبوتات، حيث اتخذت لجنة الشؤون القانونية التابعة للبرلمان الأوروبي في ١١٥ يناير ٢٠١٥ مبادرة لتشكيل مجموعة عمل معنية بالقضايا القانونية والأخلاقية المتعلقة بتطوير الروبوتات والذكاء الاصطناعي، وأرست المبادئ العامة الحاكمة للآلات المسيرة بالذكاء الاصطناعي وأهمها التعريفات ومعايير التصنيف لمختلف الفئات والفئات الفرعية للروبوتات المستقلة، وإنشاء سجل تسجيل إلزامي على مستوى الاتحاد الأوربي، ويتم إسناد إدارتها إلى وكالة جديدة مسؤولة عنالروبوتات، وتقوم بتوفير الخبرة الفنية والأخلاقية والتنظيمية للسلطات العامة ^([42]). ويشدد البرلمان الأوروبي على الدور الأساسي الذي يمكن أن يلعبه الاتحاد “في تعريف المبادئ الأخلاقية الأساسية التي يجب احترامها في تصميم وبرمجة واستخدام الروبوتات ^([43]) والذكاء الاصطناعي ” ويقترح ” تطوير إطار مرجعي أخلاقي واضح وصارم وفعال ^([44]).

ولما كان البرلمان الأوروبي أوصى في قراره المؤرخ 16 فبراير ٢٠١٧، بأن تعتمد المفوضية صكا قانونيا مناسبا بشأن الجوانب القانونية لتطوير واستخدام الروبوتات، وان كانت غير ذات طبيعة ملزمة، مثل المبادئ التوجيهية ومدونات السلوك في بعض المجالات، ويري البعض إلى أن صياغة التشريعات ستكون سابقة لأوانها كونها غير إلزاميه، ويكمن الهدف هو ضمان تعاون مصنعي ومصممي الروبوت مع السلطات العامة وجميع أصحاب المصلحة الآخرين يجب أن تركز على حماية الخصوصية والبيانات وكرامة الإنسان وعدم التمييز والأمن والأخلاقيات في صناعة الروبوتات وكذلك الاستخدام المناسب الروبوتات والذكاء الاصطناعي في الحياة اليومية، وهذا التشريع غير ذات طبيعة ملزمة، مثل المبادئ التوجيهية ومدونات السلوك، والهدف هو ضمان تعاون مصنعي ومصممي الروبوت مع السلطات العامة وجميع أصحاب ذوي الشأن الآخرين. وتركز هذه الأدوات على الحلول “التي تضمن حماية الخصوصية والبيانات وكرامة الإنسان وعدم التمييز والأمن والأخلاقيات في صناعة الروبوتات وكذلك الاستخدام المناسب الروبوتات والذكاء الاصطناعي في الحياة اليومية ^([45]).

اعتمد البرلمان الأوربي على نظام: ” النائب الإنساني ” المسؤول عن تعويض المضرور بسبب تشغيل الروبوت على أساس الخطأ واجب الإثبات على النائب الذي قد يكون صانع أو مشغل أو مالك أو مستعمل الروبوت وهذا يدل على منح الروبوت مكانة قانونية تسمح بأن يكون منابا وليس شيئا محل حراسة، والتأسيس لحالة قانونية مستقبلية خاصة بالروبوت قد تؤدي إلى منحه الشخصية الإلكترونية القانونية، الأمرالذي يوجب دراسة تأثير نظرية النائب الإنساني المسؤول عن الروبوت على جدوى القانون بمفهومه التقليدي في المستقبل.

وتبدو الصعوبة من التكييف القانوني والقضائي الحال للآلات المسيرة بالذكاء الاصطناعي على أنها شيء، وأن مالكه مجرد حارس أشياء يقع عليه عب الخطأ المفترض تماما مثل مالك السيارة التقليدية، رغم أن الآلات المسيرة بالذكاء الاصطناعي تتحرك ذاتيا بمحاكمة عقلية شبه بشرية ذات منطق واتزان؛ ولذلك فهو ليس بكائن مسير منقاد كالآلة الصماء التي يطلق عليها تسمية: “الشيء”، وهذا باتت أمر واقع في الوقت الراهن، ولذلك أصبح تطوير القواعد العامة التقليدية للقانون المدني أمر ضروري، في اطار معالجة إشكالية طبيعة الشخص المسؤول عن أفعال الآلات المسيرة بالذكاء الاصطناعي وقواعد المسؤولية عن تشغيلها؛ فهل تسأل الآلات المسيرة بالذكاء الاصطناعي وهي الآلات لا شخصية قانونية لها، أم يسأل المالك وفقا لنظرية تنتمي لعصر الآلات التقليدية، وهو لا يسيطر سيطرة الحراسة أو حتى التوجيه والرقابة عليه كما في باقي الأجهزة الميكانيكية أو ذات العناية الخاصة التي قصدتها نظرية حارس الأشياء؟ كما أن إقامة المسؤولية على صانع أو مبرمج الآلات المسيرة بالذكاء الاصطناعي غير منطقية في بعض الحالات؛ لأن خروج الآلة عن السلوك غير مرتبط بالصناعة أو البرمجة بل بظروف الواقع المتغيرة والتي لا حصر لنماذجها فلا يمكن زرعها كلها في برمجة الروبوت.

وفقا للمشرع الأوروبي فالروبوت ليس جمادا أو شيئا، كما أنه ليس بكائن لا يعقل، وذلك بدليل وصف الإنسان المسؤول عن الروبوت بالنائب ^([46])، وليس الحارس أوالرقيب، هذا بالإضافة إلى اعتبار الاتحاد الأوروبي أن مشكلة عدم فرض المسؤولية على الروبوت تكمن في”الإطار القانوني الحالي وليس في الروبوت ذاته، ففكرة النائب الإنساني عن الروبوت وفقا للمشرع الأوروبي لا تتطابق مع نظرية حارس الأشياء الميكانيكية أو ذات العناية الخاصة أو الحيوانات، وذلك بدليل وصف “النائب” المغاير لوصف “حارس الشيء، كما لم يمس بأهلية الآلات المسيرة بالذكاء الاصطناعي، حيث استخدام مصطلح “النائب” وليس “الوصي” أو “القيم “ ”الرقيب” على القاصر؛ كما أن الشخص معدوم أو ناقص الأهلية هو شخص معترف به أمام القانون وله حقوق وقد تقع عليه واجبات بحسب إدراكه ومدى نقصان أهليته، واكتفي بمنح الآلات المسيرة بالذكاء الاصطناعي منزلة قانونية خاصة

الروبوت ليس بمركز التابع القانوني للإنسان وفقا للقانون الأوروبي؛ لأن المتبوع لديه إشراف تام على التابع كامل الأهلية، كما بإمكان المتبوع الرجوع على التابع، فالقانون الأوروبي قد فرض المسؤولية المدنية على النائب الإنساني، كما أن النائب الإنساني ليس بمحال عليه من الروبوت المدين ضمن حوالة دين؛ لأن حوالة الدين تنشأ عن التزام موجود يلتزم بموجبه المحال عليه بتوفير مبلغ الالتزام الملقي على المحيل ذو الأهلية، وهي تتطلب موافقة الدائن، أما في حالة نائب الروبوت فلا ينشأ الالتزام في ذمة النائب الإنساني إلا إن قام هذا الروبوت بخطأ يستتبع التعويض للمتضرر دون أخذ موافقته.

ويختلف نظام النائب الإنساني عن الكفيل؛ لأن الكفالة تتضمن تعهدا للدائن بأن يقوم الكفيل بالوفاء بهذا الالتزام إذا لم يف به المدين نفسه، وإن كان الدين مستقبليا، وذلك يتعارض مع انعدام وجود الاتفاق مع الدائن المتضرر من تشغيل الآلات المسيرة بالذكاء الاصطناعي، ولا يجوز إلزام أحد على أن يكون كفيلا بقوة القانون كما هو الحال مع إلزام النائب الإنساني بالتعويض.

ويختلف نظام النائب الإنساني عن فكرة النيابة القانونية ^([47]) في أن النائب ينوب بقوة القانون دون وجود اتفاق مع المناب- عن شخص معترف به أمام القانون ولكن قد يكون ناقص الأهلية أو معدمها أوقد يكون كامل الأهلية كالناخب، ومن جانب أخر فطبيعة النيابة حتى ولو كانت قانونية وذلك بغاية تمثيل المناب وليس تحمل المسؤولية عنه. ^([48])، أما بخصوص النائب الإنساني فهو فضلا عن تمثيل الآلات المسيرة بالذكاء الاصطناعي يمثل المسئولية المدنية عن الأضرار الناشئة عنها، ففكرة النائب الإنساني تقوم على نقل المسؤولية من الآلات المسيرة بالذكاء الاصطناعي عديمة الشخصية والأهلية إلى الإنسان بقوة القانون، حيث استخدام المشرع الأوروبي لمصطلح نقل عبء المسؤولية إلى النائب الإنساني؛ ويهدف المشرع الأوربي إلى الانتقال من نظام حارس الأشياء أو رقيب الشخص ناقص الأهلية ذات الخطأ المفترض، إلى النيابة مع نقل المسؤولية من الآلات المسيرة بالذكاء الاصطناعي إلى الإنسان

نطاق تطبيق نظرية النائب الإنساني المسؤول هو فعل أو إهمال الروبورت خلال حالة التشغيل التي تمنحه استقلال الحركة والتفكير والتنفيذ كالبشر؛ أي أن أساس مسؤولية النائب الإنساني هو الخطأ في التصنيع أو الإدارة الذي يؤدي إلى انحراف أدائه خلال وضعية التشغيل أو عدم تفادي ذلك رغم توفع النائب لذلك، ما دام لم يكن في حالة حركة، فيما يعنى أن الروبورت في حالة السكون تخضع للمسئولية عن حراسة الأشياء.

ووضع المشرع الأوروبي نماذج عن النائب الإنساني المسؤول عن أخطاء تشغيل الروبوت، كالتالي “صاحب المصنع يسأل عن عيوب الآلة الناتجة عن سوء التصنيع في حالة انفلات الروبوت وقيامه بأفعال خارجة عن إطار استخدامه الطبيعي؛ ولا يستطيع صاحب المصنع الرجوع على العامل الذي قام بالتصنيع لحساب المصنع، وبالنسبة للمشغل وهو الشخص الذي يقوم على استغلال الروبوت، فقد يحدث خطا مثلا في إدارة حسابات العملاء، أو كمشغل الطائرة دون طيار، رغم أن تلك الطائرة لا تدخل دوما ضمن مفهوم الروبوت نظرا لعدم القطع بسيرها الذاتي وبالنسبة للمالك الذي يقوم بتشغيل الروبوت شخصيا لخدمته أو لخدمة عملائه؛ كالطبيب مالك المستشفى الذي يملك ويشغل روبوتا طبيا للقيام بالعمليات الجراحية. قانون الروبوت الأوروبي وضع المالك بعد الصانع والمشغل، على عكس نظام مسئولية حارس الأشياء التي تفترض المسؤولية على المالك حيث تقوم عليه قرينة حراسة الشيء حتى وإن حصل الحادث مع المشغل ^([49]).

أما بالنسبة للمستعمل، وهو الشخص التابع الذي يقوم على استعمال الروبوت من غير المالك أو المشغل، والذي يكون مسؤولا عن سلوك الروبوت الذي يسبب ضررا للغير، وبالتالي يختلف نظام مسئولية النائب الإنساني بالنسبة للمستعمل عن نظام مسؤولية حارس الأشياء التي كانت تفرض المسؤولية على المالك وإن تسبب التابع بالحادث إثر استعماله للشيء، وأيضا على خلاف نظام مسؤولية المتبوع(المالك) عن أعمال التابع (المستعمل) ^([50])، وخلافا أيضا لاعتبار المالك حارسا مفترضا في جانبه الخطأ وفقا للقواعد العامة.

كما حرص المشرع الأوربي على توقع وجود بعض الحالات والتي من المحتمل خروجها عن نطاق نظام النائب الإنساني كما لو كان المستعمل “منتفعا,, بالروبوت؛ فقد يحدث أن يستعمل الحافلة ذاتية القيادة مجموعة من الأشخاص المسافرين عبر لوحة إلكترونية، فيقوم أحدهم بإرسال أمر خاطئ للحافلة ما يتسبب بحادث مروري، أو يتخذ المشغل المحترف مستخدما بشريا لاستعمال الروبوت بحيث يكون مساعدا له؛ فقد يقاضى المستعمل وهو مستخدم تابع لدى الشركة المشغلة للروبوت بسبب إهمالها في صيانته، واقترح القانون الأوروبي أيضا فرض التأمين الإلزامي على المالك أو الصانع في سبيل نقل المسؤولية المدنية عن كاهلهم مهما كانت طبيعتها، وذلك كحل لنقل عبء المسؤولية عنهم.

تكون طبيعة مسؤوليات النائب الإنساني للروبوت وفقا للقانون المدني الأوروبي الخاص بالروبوتات تبعا للأضرار التي قد يسببها الروبوت بمفهومه العام- كالسيارة ذاتية القيادة- بعد إثبات الخطأ والضرر والعلاقة السببية دون افتراض الخطأ. وتم استثناء صراحة صانع الروبوت من نظام المسؤولية الصارمة أو المسؤولية دون نظام الخطأ، وهكذا يجب على المضرور إثبات الضرر، وعيب الروبوت المنتج والعلاقة السببية بينهما لإقامة مسؤولية الصانع ^([51]).

الاتجاه نحو منح الشخصية القانونية للروبوت: –

بفضل التطور في صناعة الآلات المسيرة بالذكاء الاصطناعي وظهور “كائنات” جديدة حقيقة واقعة، كما أن “الآلات الذكية” هي اليوم أكثر بكثير من مجرد أدوات أوتوماتيكية بسيطة حيث وصلت قدراتهم المتنامية تقودهم إلى التعاون الحقيقي مع البشر، وأصبحت قادرة على اتخاذ القرارات بشكل تلقائي، بل الأكثر من ذلك لن يكون الروبوت قادرا على اتخاذ قرار فحسب، بل سيكون قادرا أيضا على اكتساب خبرة شخصية، والتي تميز الجهاز الذكي عن البرمجة الأولية البسيطة، وهكذا ستتفاعل الروبوتات مع بيئاتها وستتعلم من تجاربها الشخصية بشكل غير مراقب ولا محدود بأية نماذج بشرية، ما سينشئ مخاوفا من عواطف هذه الروبوتات، وما قد يزيد من خطورة هذه الرؤية المستقبلية هو أن الروبوتات الافتراضية ليس لها وجود مادي أمام الإنسان، رغم ما ستتمتع به من قدرات ذهنية مستقبلا وغيرها وما قد يزيد من مخاطر صور الأجيال الجديدة من الروبوتات في واقع الذكاء الاصطناعي، هو ما يسمى ب: “إنترنت الأشياء وهو عبارة عن نظام يربط الأشياء الذكية ببعضها؛ فتقوم بإرسال معلومات وتعليمات إلى بعضها البعض، ويتم إنشاء حلقة اجتماعية آلية قادرة على القيام بدائرة عمليات كاملة، مثل القيام بدورة إنتاج السيارات دون أي تدخل بشري. مما دفع بعض الفقه إلى القول بأنه سيتم منح الشخص الآلي بشخصية قانونية خاصه، وفريدة فيما يتعلق بمجال المسؤولية المدنية والجنائية ^([52]).

وأكد القانون المدني الأوروبي للروبوت على أن استقلال الروبوت المستقل الموجب لتغيير طبيعة البيئة القانونية الحالية، وتوحي ضمنيا بمعنى ضرورة الاعتراف بالأهلية الكاملة لهذا الشخص غير البشري، وحيث انتهت لجنة الشؤون القانونية في الاتحاد الأوروبي إلى اعتماد “الأهلية الكاملة المؤجلة” للروبوت في مواجهة الإنسان، مع افتراض وجود نيابة بينهما تنتقل بموجبها مسؤولية التعويض عن الأضرار التي يرتكبها الروبوت إلى النائب الإنساني.

وتوقع المشرع الأوروبي للروبوت سيناريو إنتاج الروبوتات ذات القدرة على التفكير والتعلم والتأقلم ثم اتخاذ القرار المستقل تماما سيجعل من قواعد المسؤولية الحالية غير مناسبة بالمطلق؛ فالعلاقة السببية ستنتفي عندئذ بين خطأ الروبوت وإدارة التصنيع أو التشغيل نظرا لاستقلال خطأ الروبوت المنفلت تماما عن إرادة الصانع أو المشغل، وهذا ما يدق ناقوس الخطر على جدوى المنظومة القانونية الحالية برمتها في مثل هذا المستقبل.

ويرى جانب من الفقه عن المخاطر القانونية لولادة الشخص الإلكتروني هو تساؤل محرج؛ لأن السماح بتطبيق فكرة “الشخصية القانونية الإلكترونية يحتاج إلى تعديل جذري في متن وروح النص التشريعي، وهو ما سيؤدي إلى منح الأهلية للروبوت فائق التطور، وتمكينه من ذمة مالية خاصة به، ثم إلزامه بالتعويض المدني، وفرض العقوبة الجنائية عليه شخصيا، وهذا التحول القانوني سيؤدي بالنتيجة إلى إيجاد مجتمع آخر غير بشري، له حقوقه وواجباته، وقد ينحرف هذا المجتمع الإلكتروني عن سلطة القانون البشري، ويرفض تنفيذه، فما جدوى وجود القانون من الأساس إن أقر هذا القانون ذاته بوجود الشخصية الإلكترونية، وسمح له بالخروج من عباءة سيطرة الإنسان؟، فمن سيضمن حينئذ خضوع الروبوتات المستقلة تماما للسلطة التنفيذية البشرية بعد أن ترث منه السعي للسيادة؟ أو من سيعارض فكرة تحول الاقتصادي بشكل كامل إلى رأس مال دون عمالة إن استأثرت روبوتات الذكاء الاصطناعي بفرص العمل، تلك القضية الاقتصادية بالغة الحساسية والخطورة!، عندها فقط سنكتشف مدى تأخرنا في تنظيم هذا الذكاء، فهل يكون هذا التقاعس هو سوء التقدير الذي يسبق عادة الكوارث العالمية؟

ويري جانب من الفقه إلى رفض منح الروبرت الشخصية القانونية، ويرى أن هناك تناقضا في معاملة الروبوت في وقت واحد كشخص وشيء حتى لو كانت شخصيته تقنية بحتة، في الواقع فإن قانون المنتجات المعيبة أو قانون المسؤولية عن الأشياء سيكون بالفعل مناسبة لتغطية الضرر الناجم عن الآلات المسيرة بالذكاء الاصطناعي ^([53])، ويري أن الأصنام والطبيعة، الكائنات بحكم التعريف بدون إرادة، ومنحها الشخصية القانونية في نهاية الخيال، هناك دائما إنسان يتكلم بالنسبة إلىالروبوتات، فإن المشكلة أكثر إزعاجا لأن خاصية الروبوت هي بالتحديد تقليد الأعمال البشرية. وبالتالي قد لا يكون اكتساب الشخصية مفهوما تماما كخيال.

ونرى من جانبا أن منح الشخصية القانونية للروبرت كواقع هي محل خلاف بين الفقه الأن وهذا أمر طبيعي، لأنها فكرة جديدة على الواقع القانوني، وعلى سبيل المثال فمنح الشخصية القانونية للشخص المعنوي والشخص الاعتباري كانت في بدء الأمر محل خلاف بين الفقه، ثم أصبحت واقع قانوني، كما كان الأمر في بداية طرح فكرة الشخصية المعنوية، والاستعانة بالحلية القانونية، لتطبيق فكرة الشخصية المعنوية، وبالبناء على ذلك وان كانت منح الشخصية القانونية للروبوت الأن غير مقبولة فأنها قد تكون مقبول في المستقبل، ومطلوبة تطبيقها بأسس وقواعد خاصة تختلف عن الشخصية القانونية للأفراد والأشخاص المعنوية، بمعنى أخر قد يتم منح الروبرت الشخصية القانونية بمفهوم خاص مستقبلا أما الأن فهي غير مقبولة وهذا ما يتلازم مع التطور التكنولوجي القادم، وبعد ذلك نطرح السؤل ما يجب أن يكون علية التشريع المصري بنطاق المسئولية عن حراسة الأشياء وفقا للمادة ١٧٨ من القانون المدني لمواجهة التطور التكنولوجي بخصوص الآلات المسيرة بالذكاء الاصطناعي؟ ومدى وجوب إدخال التامين الإجباري على الآلات المسيرة بالذكاء الاصطناعي؟ وهذا ما نتناوله في المطلب الثاني.

المطلب الثاني

ما يجب أن تكون عليه التشريع المصري

بعض عرض رأي الفقه وموقف المشرع الأوربي من التطور الرهيب في مجال الآلات المسيرة بالذكاء الاصطناعي، وما سبق ذلك من تحديد نطاق المادة 1٨٧ من القانون المدني المصري، ما يجب أن تكون علية المادة ١٧٨ من القانون المدنيالمصري، وهل تعديل المادة ١٧٨ من القانون المدني أمر كافي لحماية المضرور؟ وهذا محور المطلب الأخير من البحث. ويجب أن ننوه أن كل مشرع يسعي إلى تحقيق المصالح الأولى بالراعية وحيث ما يناسب دولة ما لا يناسب دولة أخرى، فيما يعني أن الحلول التي أتي بها المشرع الأوربي قد تناسب الاتحاد الأوربي وهذا لا يعني أنها تناسب باقي الدول الأخرى.

الدول المتقدمة التي تعمل في مجال تصنيع الآلات المسيرة بالذكاء الاصطناعي تسعى دائما إلى توفير الحماية المطلقة للمنتج كما تعمل على تخفيض الضرائب على هذه المشروعات ^([54])، وتعمل على تشجيع الاستثمار في هذه المجالات بغية تحقيق طفرة اقتصادية، بل ألا بعد من ذلك فقد سعى المشرع الأوربي على العمل بكل قوة من وضع الحماية وعلى قصر الاستثمار على الأوربيين دون دول العالم الثالث بما مفاده السعي نحو احتكار العمل في مجال الآلات المسيرة بالذكاء الاصطناعي على العالم المتقدم وبل حرمان حتى الشركات الكبرى والتي تنتمي بجنسيتها إلى دول العالم الثالث وبالرغم من عملها بالاتحاد الأوربي غير مسموح لها بالعمل والاستثمار في هذا مجال تصنيع الآلات المسيرة بالذكاء الاصطناعي، ووفقا للائحة رقم ٢٠١٩/٤٥٢ المؤرخة 19 مارس ٢٠١٩ الصادرة عن الاتحاد الأوربي، والتي تضع إطارا لتصفية الاستثمار الأجنبي المباشر في الاتحاد الأوربي حيث تهدف إلى إنشاء إطار لفحص الاستثمار الأجنبي المباشر في الاتحاد الأوروبي فيما يتعلق فقط بالاستثمارات التي يتم إجراؤها داخل الاتحاد الأوروبي من قبل شخص طبيعي من بلد ثالث أو شركة من بلد ثالث ^([55]).

وانطلاقا مما سبق يدور التساؤل حول ما يجب أن تكون علية المادة ١٧٨ من القانون المدني المصري في ظل التطور المذهل في مجال الآلات المسيرة بالذكاءالاصطناعي؟ وهذا ما نحول الإجابة علية في ظل عرض تسلسل الدراسة، ولما كان موقف مصر من التصنيف باعتبارها من الدولة المستهلكة للآلات المسيرة بالذكاء الاصطناعي، مما يعنى أنه يتعين تغليب مصلحة المضرور من الآلات المسيرة بالذكاء الاصطناعي على مصلحة المنتج أو المصنع، أو المستغل، بمعني أخر تغليب مصلحة المضرور على كل من المنتج أو المصنع أو المستغل للآلات المسيرة بالذكاء الاصطناعي، وهو عكس ما ذهب الية المشرع الأوربي بخصوص قواعد القانون المدني المتعلقة بالآلات المسيرة بالذكاء الاصطناعي، سالفة الإشارة اليها.

وبالبناء على ذلك نقترح تعديل بالإضافة بخصوص المادة ١٧٨ من القانون المدني المصري وليكون نصها بعد التعديل كما يلي “كل من تولى حراسة أشياء تتطلب حراستها عناية خاصة أو حراسة آلات ميكانيكية والآلات المسيرة بالذكاء الاصطناعي يكون مسئولا عما تحدثه هذه الأشياء من ضرر، ما لم يثبت أن وقوع الضرر كان بسبب أجنبي لا يد لهفيه” ^([56])

ونرى أهمية هذا التعديل بالإضافة وذلك بالنظر إلى حماية المضرور مستقبلا من الآلات المسيرة بالذكاء الاصطناعي، وحتى يمتد نطاق مسؤولية حارس الأشياء على الآلات المسيرة بالذكاء الاصطناعي، لمواجه الحالات التي يترتب عليها استبعاد المسئولية عن حارسة الأشياء بخصوص الآلات المسيرة بالذكاء الاصطناعي، كما هو الحال في حالة عدم خضوع الآلات المسيرة بالذكاء الاصطناعي للتوجيه والرقابة والسيطرة الفعلية عليها، وتوفير الحماية للمضرور من إعفاءه من أثبات خطأ الآلاتالميسرة بالذكاء الاصطناعي، لانعقاد المسئولية لحارس الآلات الميسرة بالذكاء الاصطناعي، على أساس الخطأ المفترض.

وبعد ذلك نطرح السؤال الثاني، هل الأمر يتطلب وجود حماية إضافية للمضرور من الأضرار المحتملة جراء انتشار الآلات المسيرة بالذكاء الاصطناعي في مصر مستقبلا؟ أو بمعنى أخر هل التعديل المقترح بالمادة ١٧٨ من القانون المدني المصري يكفي لحماية المضرور من الآلات المسيرة بالذكاء الاصطناعي، وهذا ما نحاول الإجابة عنة.

مما لا شك انه قد تسبب الآلات المسيرة بالذكاء الاصطناعي أضرار جسيمة قد يعجز المسئول عن الحقوق المدنية تعويض المضرورين، لأي سبب ما كتعسره أو ارتفاع حجم التعويضات وخروجها عن نطاق ذمته المالي، ومن جانب أخر قد يتعذر على المضرور الحصول على التعويض في بعض الحالات كعدم معرفته المسئول عن الحقوق المدنية وغيرها، كما أن اللجوء إلى القضاء والحصول على التعويض يحتاج إلى وقت كبير ومجهود ومصاريف الأمر الذي يتطلب سرعة صرف حتى ولو جزء من التعويضات ولاسيما أن الأضرار قد تكون جسيمة بالمضرور، كما يجب أن ننوه إلى أن مصر من الدول المستهلكة للآلات المسيرة بالذكاء الاصطناعي، بما مفاده أنه يتعين أن ينضم التشريع إلى جانب المضرور وتوفير الحماية الكاملة له،

وعلى هذا الأساس نقترح بأن يكون هناك تامين إجباري على حوادث الآلات المسيرة بالذكاء الاصطناعي ومن ثم يجب تعديل قانون التأمين الإجباري عن المسئولية المدنية الناشئة عن حوادث مركبات النقل السريع داخل جمهورية مصر العربية رقم ٧٢ لسنة ٢٠٠٧ وعلى هذا الأساس نقترح بإضافة مادتين إلى هذا القانون

المادة الأولى “يعمل بأحكام القانون ٢ لسنة ٢٠٠٧ في شأن التأمين الإجباري عن المسئولية المدنية الناشئة عن حوادث الآلات المسيرة بالذكاء الاصطناعي داخل جمهورية مصر العربية، وتكون قيمة التعويض ثلاث أضعاف المبالغ المنصوص عليها في القانون، ويغطى التامين كافة الأضرار التي تصيب ممتلكات الغير، وتحفظ وثائق التأمين المشار إليها في هذا القانون ومستندات تجديدها بالجهة التي تحددها اللائحة التنفيذية في الملف الخاص بالألة المسيرة بالذكاء الاصطناعي (ورقيا أو إلكترونيا) ولا يجوز سحبها أو إلغاؤها ما دام ترخيصها قائما ولا يترتب على هذا الإلغاء إن وقع أي أثر بالنسبة للغير

وتضاف مادة أخري لهذا القانون، يختص وزير الاستثمار أو من يفوضه بمنح ترخيص الآلات المسيرة بالذكاء الاصطناعي وتجددها، وتحدد اللائحة التنفيذية الآلات المسيرة بالذكاء الاصطناعي، وشروط الترخيص، ومدته، ويعاقب بالحبس وبغرامة لا تقل عن 2٠ ألف جنية والمصادرة كل من يخالف هذه المادة

مما لا شك فيه أن فرض التأمين الإجباري ^([57]) على الآلات المسيرة بالذكاء الاصطناعي له أهمية كبير وتتمثل في تغطية حوادث الآلات المسيرة بالذكاءالاصطناعي التي تقع منها كما أن ووفقا للمادة 20 من القانون ٧٢ لسنة ٢٠٠٧ سوف يغطى الصندوق الحكومي وفقا لنص المادة ٤ من القانون رقم 10 لسنة ١٩٨١ لتغطية الأضرار الناتجة عن حوادث الآلات المسيرة بالذكاء الاصطناعي في هذه الحالات:

1. عدم معرفة الالة المسيرة بالذكاء الاصطناعي المسئولة عن الحادث.
2. عدم وجود تأمين على الالة المسيرة بالذكاء الاصطناعي لصالح الغير.
3. حوادث الالة المسيرة بالذكاء الاصطناعي المعفاة من إجراءات الترخيص.
4. حالات إعسار شركة التأمين كليا أو جزئيا.
5. الحالات الأخرى التي يصدر بها قرار من مجلس إدارة الهيئة المصرية للرقابة على التأمين.

ويؤدى الصندوق مبلغ التأمين للمستحقين، ويحق له في الرجوع على مالك الالة المسيرة بالذكاء الاصطناعي أو المتسبب في الضرر بقيمة مبلغ التأمين الذي أداه، في حالتين وهما- عدم وجود تأمين على الالة المسيرة بالذكاء الاصطناعي لصالح الغير، وفي حوادث الالة المسيرة بالذكاء الاصطناعي المعفاة من إجراءات الترخيص.

بذلك يكون تم توفير الحماية للمضرور من حوادث الآلات المسيرة بالذكاء الاصطناعي حال خضوعها للتأمين الإجباري، حيث يكون أمام المضرور ضمانات عدة لحصوله على التعويض حال إصابة بالضرر من قبل الآلات المسيرة بالذكاء الاصطناعي، وبذلك يكون المشرع حال أخذه بهذه التعديلات انحيازه لجانب المضرور من حوادث الآلات المسيرة بالذكاء الاصطناعي، وهو ما يحقق للصالح العام بالنظر إلى أن مصر من الدولة المستهلكة للآلات المسيرة بالذكاء الاصطناعي، ومن جانب أخر وأهم وهو فرض الحماية والرقابة من الدولة على الآلات المسيرة بالذكاء الاصطناعي وفرض ترخيصها حتى تبسط الدولة رقبتها على هذه الآلات خشية استخدمها بالأضرار بالأمن القومي بالدولة.

النتائج والتوصيات

1-              أضحت المادة 1٨٧ من القانون المدني المصري عاجزه عن إقامة قواعد مسؤولية عادلة بخصوص أضرار الآلات المسيرة بالذكاء الاصطناعي في التطور العلمي والتكنولوجي؛ وذلك لأن نظرية الحارس قد وجدت لمواجهة الآلة التقليدية التي مهما بلغت تقنياتها فهي لن تسير بالمنطق البشري كما هو الحال في الروبوت، ولذلك فإن هذه النظرية تهدر أي كيان أو اعتبار لخصوصية الآلة الذكية التي تتمتع بالذكاء الاصطناعي.

2-              الأضرار التي قد تتسبب فيها الآلات المسيرة بالذكاء الاصطناعي في الوقت الراهن لا حصر لاحتمالاتها، ولا إمكانية لتوضيح مدى آثارها الجسيمة على البشر. وتطور الآلات المسيرة بالذكاء الاصطناعي قد تكون قوى عمياء لا يسيطر عليها الأنسان كل السيطرة، فهي إذا ما أفلتت من يده وكثيرا ما تفلت لا يلبث أن يكون ضحيتها.

3-              ابتكر قواعد القانون المدني الأوروبي الخاص بالروبوتات نظرية النائب الإنساني؛ حيث تنتقل المسؤولية عن الروبوت إلى النائب الإنساني بقوةالقانون؛ فهذا النائب مسؤول عن التعويض في مواجهة المضرور من تشغيل الروبوت، ويفرض المسؤولية على الشخص الذي تسبب بخطأ الروبوت سواء بموجب سوء التصنيع أو البرمجة أو سوء الاستخدام دون افتراض الخطأ، وذلك وفق مدى مساهمة النائب الإنساني في حدوث فعل أو إهمال الروبوت الذي أدى لحدوث الضرر.

4-            المنزلة القانونية المستقبلية الخاصة بالروبوتات في القانون الأوروبي ما هي إلا تمهيد للاعتراف بالشخصية القانونية للروبرت بنطاق خاص، نتيجة قدرة الروبوت على التكيف والإدراك والتفكير المنطقي والمصلحي والعاطفي التي يتم تطويرها حاليا، وقد تؤدي إلى إيجاد مجتمع إلكتروني نظير للمجتمع البشري، واختلاف الفقه بين مؤيد ومعارض لمنح الروبرت الشخصية القانونية.

التوصيات:

1-            نوصي بتعديل بالإضافة بخصوص المادة ١٧٨ من القانون المدني المصري وليكون نصها بعد التعديل كما يلي “كل من تولى حراسة أشياء تتطلب حراستها عناية خاصة أو حراسة آلات ميكانيكية والآلات المسيرة بالذكاء الاصطناعي يكون مسئولا عما تحدثه هذه الأشياء من ضرر، ما لم يثبت أن وقوع الضرر كان بسبب أجنبي لا يد له فيه” ^([58])

2-            نوصي بتعديل قانون التأمين الإجباري عن المسئولية المدنية الناشئة عن حوادث مركبات النقل السريع داخل جمهورية مصر العربية رقم 72 لسنة ٢٠٠٧ بإضافة مادتين إلى هذا القانون المادة الأولى “يعمل بأحكام القانون 72 لسنة ٢٠٠٧ في شأن التأمين الإجباري عن المسئولية المدنية الناشئة عن حوادث الآلات المسيرة بالذكاء الاصطناعي داخل جمهورية مصر العربية، وتكون قيمة التعويض ثلاث أضعاف المبالغ المنصوص عليها في القانون، ويغطى التامين كافة الأضرار التي تصيب ممتلكات الغير، وتحفظ وثائق التأمين المشار إليها في هذا القانون ومستندات تجديدها بالجهة التي تحددها اللائحة التنفيذية في الملف الخاص بالألة المسيرة بالذكاء الاصطناعي (ورقيا أو إلكترونيا) ولا يجوز سحبها أو إلغاؤها ما دام ترخيصها قائما ولا يترتب على هذا الإلغاء إن وقع أي أثر بالنسبة للغير. وتضاف مادة أخري لهذا القانون، يختص وزير الاستثمار أو من يفوضه بمنح ترخيص الآلات المسيرة بالذكاء الاصطناعي وتجددها، وتحدد اللائحة التنفيذية الآلات المسيرة بالذكاء الاصطناعي، وشروط الترخيص، ومدته، ويعاقب بالحبس وبغرامة لا تقل عن 20 ألف جنية والمصادرة كل من يخالف هذه المادة.

وأخر دعونا أن الحمد لله رب العالمين

([1])https://www.dalloz.fr/documentation/Document?id=ACTION/DROITAUTEUR/

([2])En effet, alors que les systèmes experts soulèvent des problems complexes de propriété et de protection intellectuelle ainsi que des questions de responsabilité civile, la robotique ne soulève que des problèmes relativement élémentaires de responsabilité civile. Mais leurs conséquences ne doivent pas être négligées pour autant puisque, à ce jour, plusieurs personnes ont déjà été tuées par des robots qui se sont brusquement emballés. https://www.dalloz.fr/documentation/Document?id=ACTION/DROIT-AUTEUR/2010/PLAN/T1C103-

([3])في عام ١٧٧٠ صنع شخص مجري آلة تلعب الشطرنج بمستوى عالي من الذكاء. الآلة عبارة عن تمثال مكتسي بلباس من الطراز العثماني ويجلس أمام صندوق يحوي تروس وأجزاء ميكانيكية مترابطة تتحكم بالتمثال لتحريك قطع الشطرنج. أطلق عليه اسم “الترك” ثم بدأ يتحدى فيه الناس وبسرعة اكتسب شهرة كبيرة وجال أوروبا وأمريكا وكان من أشهر منافسيه الجنرال الفرنسي نابليون بونابارت والمخترع الأمريكي بينجمن فرانكلن وعالم الرياضيات البريطاني شارلز بابج. كان “الترك” مثيرا للدهشة والإبهار حيث يحكى أن نابليون قام بحركة غير قانونية ليختبر ردة فعل الجهاز، لينصدم برؤية يد “الترك” تمر فوق الرقعة مسقطة القطع اعتراضا على غش الجنرال! كما ألهمت قدرات “الترك” الذهنية شارلز بابج ليبتكر أول حاسب ميكانيكي عرفه الإنسان. بقي مفهوم عمل هذه الآلة سرا لمدة 80 سنه حتى اكتشف أنها خدعة من صنع “ساحر” خدع بها أعين الناس، فالقطع الميكانيكية كانت مجرد تمويه ولكن في الواقع من يتحداك هو شخص (قصير القامة أو مبتور الساقين) يتحرك داخل الصندوق ليتخفي عن الحضور في فقرة الكشف الأولى. الجدير بالذكر أن شركة أمازون استوحت اسم تقنيتها (The Mechanical Turk)القائمة على جهود بشرية لتقديم خدماتها من هذه القصة-.د إبراهيم المسلم، حوكمة الذكاء الاصطناعي سن التشريعات والقوانين لضمان تبني أخلاقي وآمن لتقنية،https://www.nmthgiat.com/%D

([4])بقلم هاني زايد بتاريخ ٣ يوليو 2017 الذكاء الاصطناعي يتفوق على البشر في غضون ٥ ٤ عاما ومتاح على هذا الموقع بتاريخ ٢٥-١-٢٠٢٠

https://www.scientificamerican.com/arabic/artides/news/al-wiU-be-/

([5])ومع الاستمرار في التطور توصل الحاسوب إلى ما يرغب الجميع وقام بالمعالجة لأشياء عديدة فق تمكن الحاسوب من اللعب ضد الإنسان في لعبة الشطرنج ولكن الأهم أنه غلبه بالفعل، وهذا دليل على التطور داخل الحاسوب بشكل جيد، وليس هذا فقط بل كانت هذه البداية بالفعل للاستفادة من هذا الحاسوب بشكل عملي، فقد استطاع الحاسوب أيضا أن يصل إلى مرحلة هائلة في التعلم. نجد أنه لا يوجد ما يقارن بالعقل البشري بكل تأكيد، ولكن نجد أيضا أن من فعل هذا الحاسوب هو الإنسان لكي يساعده في العديد من المجالات التي بالفعل لا يمكن أن يقوم بها الإنسان بمفرده، فالآن أصبح الحاسوب في كل منزل، ولا يوجد أي قدرة على التخلي عنه مهما حدث، فكل فترة أصبح هناك تطور يدخل به إلى أن وصل إلى المطلوب.

([6])١- د/ همام القوصي، مقال نشر في مجلة جيل الأبحاث القانونية المعمقة، إشكالية الشخص المسؤول عن تشغيل الروبوت تأثير نظرية “النائب الإنساني ((على جدوى القانون في المستقبل- دراسة تحليلية استشرافية في قواعد القانون المدني الأوروبي الخاص بالروبوتات العام الثالث العدد ٢٥ مايو ٢٠١٨ العدد ٢٥ الصفحة ٧٧. ومتاح على هذا الموقع بتاريخ ٢٥-١-٢٠٢٠

([7])١- د/ همام القوصي، مقال نشر في مجلة جيل الأبحاث القانونية المعمقة، إشكالية الشخص المسؤول عن تشغيل الروبوت تأثير نظرية “النائب الإنساني((على جدوى القانون في المستقبل- دراسة تحليلية استشرافية في قواعد القانون المدني الأوروبي الخاص بالروبوتات العام الثالث العدد ٢٥ مايو ٢٠١٨ العدد ٢٥ الصفحة ٧٧. ومتاح على هذا الموقع بتاريخ ٢٥-١-٢٠٢٠ https://jilrc.com/

([8])١- د/ همام القوصي، مقال نشر في مجلة جيل الأبحاث القانونية المعمقة، نظرية الشخصية الافتراضية” للروبوت وفق المنهج الإنساني دراسة تأصيلية تحليلية استشرافية في القانون المدني الكويتي والأوروبي العام الرابع العدد ٣٥ سبتمبر ٢٠١٩ العدد ٢٥ الصفحة ١١. ومتاح على هذا الموقع بتاريخ ٢٥-١-٢٠٢٠https://jilrc.com/

([9])١- د/ همام القوصي، مقال نشر في مجلة جيل الأبحاث القانونية المعمقة، نظرية الشخصية الافتراضية« للروبوت وفق المنهج الإنساني دراسة تأصيلية تحليلية استشرافية في القانون المدني الكويتي والأوروبي العام الرابع العدد ٣٥ سبتمبر ٢٠١٩ العدد ٢٥ الصفحة ١١. ومتاح على هذا الموقع بتاريخ ٢٥-١-٢٠٢٠ https://jilrc.com/

([10]) Alain Bensoussan, La personne robot, https://www.dalloz.fr/documentation/Document?id=RECUEIL/CHRO N,- Anne Meyer-Heine, Robots, personnes âgées et droit de l’union européenne, Revue de l’Union européenne 2019 p.246

([11])Alexandra Bensamoun. Stratégie européenne sur l’intelligence artificielle : toujours à la mode éthique… https://www.dalloz.fr/documentation/Document?id=RECUEIL/CHRON/2018/2104&ctx

([12])تعزيز الضوابط على الاستثمار الأجنبي هو اتجاه عالمي في جميع أنحاء العالم. على المستوى الأوروبي، نشرت المفوضية الأوروبية في عام ٢٠١٧ مشروع لائحة تهدف إلى إنشاء إطار قانوني مشترك وآلية تعاون بين الدول الأعضاء والمفوضية الأوروبية من أجل “”تصفية” الاستثمار الأجنبي داخل الاتحاد الأوروبي. الاتحاد الأوروبي. هذا المشروع قيد المناقشة حاليا (P.Bine، الاستثمارات الأجنبية: الاتجاهات الجوهرية في مراقبة الاستثمار الأجنبي، JCP 2018, 405). في فرنسا، فإن الاتجاه نفسه آخذ في الظهور. لقد صدر بالفعل مرسوم مؤرخ 29 نوفمبر ٢٠١٨ لتوسيع قائمة القطاعات التي يغطيها الترخيص المسبق بموجب مرسوم، من أجل تحسين حماية ما يسمى القطاعات المستقبلية. ويستهدف الذكاء الاصطناعي والروبوتات، على وجه الخصوص (ديسمبر 2018-٥٧ ١٠، ٢٩ نوفمبر ٢٠١٨، ١ ديسمبر، ١ ديسمبر).

مشروع قانون نمو المؤسسات وتحولها (PACTE)، حيث يهدف إلى تعزيز حماية المصالح العامة عند الاستثمار في الشركات الحساسة، هو جزء من هذا الاتجاه (P. Bine،٣ أسئلة: السلطات الجديدة للأمر الزجري ومعاقبة وزير الاقتصاد في مجال مراقبة الاستثمارات الأجنبية، JCP E 2018, 640). وهو ينص على تعزيز سلطة الأمر الزجري لوزير الاقتصاد في حالة إجراء استثمار أجنبي يخضع ترخيص مسبق دون هذا الترخيص. يتم وضع ثلاثة أنواع من الأوامر الزجرية: الأمر الزجري للمستثمر لتقديم طلب للحصول على إذن، أو استعادة الوضع السابق على نفقته الخاصة، أو تعديل الاستثمار. هذه الأوامر قد تكون مصحوبة بعقوبة.

Le renforcement du contrôle des investissements étrangers constitue une tendance de fond à travers le monde. À l’échelle européenne, la Commission européenne a rendu public en ٢٠١٧ un projet de règlement visant à mettre en place un cadre juridique commun et un mécanisme de coopération entre les États membres et la Commission européenne pour le « filtrage » des investissements étrangers au sein de l’Union européenne. Ce projet est actuellement en discussion (P. Bine, Investissements étrangers. Les tendances de fond en matière de contrôle des investissements étrangers, JCP 2018, 405). En France, une même tendance se dessine. Un recent décret du 29 novembre 2018 est déjà venu procéder à l’élargissement de la liste des secteurs relevant du régime d’autorisation préalable par décret, afin de mieux protéger les secteurs dits d’avenir. Il vise l’intelligence artificielle et la robotique, en particulier (décr. n° 1057-2018, 29 nov. 2018, JO 1er déc.). Circulation des capitaux : paiements internationaux et investissements – Claude J. BERR – Octobre 2009 (actualisation : Juin 2019)

7https://www.dalloz.fr/documentation/Document?id=ENCY/COMR/RUB0

([13])Intelligence artificielle : nouvelle résolution du Parlement européen https://www.dalloz.fr/documentation/Document?id=ACTU0194579&ctxt=0_YSR0M

([14])بفتحات (ابن عبد الرحمن، عن أبي هريرة رضي الله عنه: أن رسول الله صلى الله عليه وسلم قال: العجماء): بفتح العين المهملة وسكون الجيم وبالمد؛ أي: البهيمة سميت بذلك؛ لأنها لا تتكلم. (جبار): أي: غير مضمون، ولمسلم: (جرمها جبار)، وهو يبن أن في حديث البخاري تقيرا؛ أي: جرح العجماء جبار؛ لأنه لا معنى لكون العجماء نفسها جبارا، ولا يختص كونها جبارا بجرحها بل هو مثال. والمراد: أنها إذا أرسلها وحدها من له عليها يد ولو غير مالكها في صحراء، كما صححه في (الروضة) وأتلفت زرعا أو غيره نهارا لم يضمن صاحبها، ما لم تكن بين مزارع أو ليلا ضمن، فإن أرسلها في البلد ضمن ليلا أو نهارا؛ خلافا لما اقتضاه كلام الشيخين من أنهيضمن نهارا لا ليلا: بخلاف ما لو كان معها، فبته يجمن إتلافه. نفسا ومالا ليلا ونهارا وبخلاف ما لو أحكم ربطها فانفلتت وأتلفت شيئا؛ فإنه لا يضمن مطلقا، وكذا لا ضمان لو كان راع مع دواب فتفرقت لنحو هيجان ريح أو ظلمة لا لنحو نوم وأتلفت شيئا. ولو كان معها سائق وقائد أو عليها راكبان ضمنا سوية أو سائق، صحيح البخاري، ص ٤٣٠.

([15])(الطعن رقم ١٢١٢٤ لسنة ٨٣ جلسة ٢٧-٥-٥ ٢٠١ متاح على موقع محكمة النقض المصرية بتاريخ ١١-١٢-٢٠١٩

https://www.cc.gov.eg/Courts/Cassation_Court/All/Cassation_Court_AllCases.aspx

كما قضت بأن المقرر- في قضاء هذه المحكمة- أن النص في المادة ١٧٨ من القانون المدني يذل على أن الحارس الذي يفترض الخطأ في جانبه على مقتضى هذا النص هو ذلك الشخص الطبيعي أو المعنوي الذي تكون له السيطرة الفعلية على الشيء قصدا واستقلالا لأن العبرة في قيام الحراسة الموجبة للمسئولية هي بسيطرة الشخص على الشيء سيطرة فعليه لحساب نفسه. (الطعن رقم ٥٥٥ لسنة ٦٠ جلسة ٨-٥-٨ ١٩٩٤ س ٤٥ ع ١ ص ٨٠٥ ق ١٥٣)

([16])[الطعن رقم ١١٠٧- لسنة ٧٥ ق- تاريخ الجلسة ٠٥/ ٠٣/ ٢٠٠٦] (منشور بالموسوعة الإلكترونية الصادرة عن المجموعة الدولية للمحاماة والاستشارات القانونية)

([17])[الطعن رقم ١٤٦- لسنة ٧٣ ق- تاريخ الجلسة ١٤/ ٠٣/ ٢٠٠٤] (منشور بالموسوعة الإلكترونية الصادرة عن المجموعة الدولية للمحاماة والاستشارات القانونية)

([18])المستشار/ محمد عزمي البكري، موسوعة الفقه والقضاء والتشريع، القانون المدني الجزء الثالث، مصادر الالتزام، ص ١٨٤ وما بعدها. وقضت محكمة النقض بأن ” المقرر- في قضاء محكمة النقض- أن الأصل أن تكون الحراسة لمالك الشيء إلا إذا باشر شخص آخر خلافه السيطرة على الشيء في الاستعمال والتوجيه والرقابة لحساب نفسه فإن الحراسة تكون له دون مالكه وسواء انتقلت له السيطرة الفعلية على الشيء بإرادة المالك أو دون إرادته. (الطعن رقم ٥٤٠٥ لسنة ٨٠ جلسة ١٢-٢-٨ ٠٢٠١ متاح على موقع محكمة النقض المصرية بتاريخ ٢٠-١- ٢٠٢٠.

([19])(الطعن رقم ٣٤٩٢ لسنة ٦٢ جلسة ٢٣-٣-٢٠٠٠ س ٥١ ع ١ ص ٤٦٤ ق ٨٢) متاح على موقع محكمة النقض المصرية بتاريخ ٢٥-٢٠٢٠.

https://www.cc.gov.eg/Courts/Cassation_Court/All/Cassation_

([20])المستشار/ محمد عزمي البكري، المرجع السابق ص ١٧٦.

([21])(التقنين المدني في ضوء الفقه والقضاء، أ/محمد كمال عبد العزيز ج ١ طبعة نادي القضاة ص ٧١٢)

([22])وحيث إن مسئولية حارس الشيء المقررة بنص المادة ١٧٨ من القانون المدني تقوم على أساس خطأ مفترض وقوعه منه افتراضا لا يقبل إثبات العكس وترتفع عنه- وعلى ما جرى به قضاء هذه المحكمة- إذا أثبت أن وقوع الضرر كان بسبب أجنبي إذا لا يد له فيه وهذا السبب لا يكون إلا قوة قاهرة أو خطأ المضرور أو خطأ الغير، وأن مفاد نص المادتين ٤٥٦ من قانون الإجراءات الجنائية، ١٠٢ من قانون الإثبات رقم ٢٥ لسنة ١٩٦٨ أن الحكم الصادر في المواد الجائية تكون له حجيته قبل الكافة وأمام المحكمة المدنية كلما كان قد فصل فصلا لازما في وقوع الفعل المكون للأساس المشترك بين الدعويين المدنية والجنائية وفي الوصف القانوني لهذا الفعل ونسبته إلى فاعله، فإذا فصلت المحكمة الجنائية في هذه الأمور وأسست قضاءها ببراءة قائد السيارة من تهمة القتل أو الإصابة الخطأ على السبب الأجنبي، وكان فصل الحكم الجنائي في سبب وقوع الحادث لازما لقضائه بالبراءة فتكون له قوة الشيء المحكوم فيه أمام المحاكم المدنية فيمتنع عليها أن تعيد بحثها ويتعين عليها أن تتقيد بها وتلتزمها في بحث الحقوق المدنية المتصلة بها كي لا يكون حكمها مخالفا للحكم الجنائي السابق صدوره، ومؤدى ذلك أنه إذ نفي الحكم الجنائي علاقة السببية بين الفعل والنتيجة لقيام السبب الأجنبي انتفت بذلك قرينة الخطأ المفترض في جانب حارس الأشياء المنصوص عليها بالمادة ١٧٨ المشار إليها سلفا فيمتنع على القاضي المدني إعمالها بعد نفيها لأن السبب الأجنبي سبب قانوني عام للإعفاء من المسئولية جنائية كانت أو مدنية وسواء تأسست على خطأ شخصي واجب الإثبات أو على خطأ مفترض في جانب المسئول، أما إذا أسس الحكم الجنائي قضاءه بالبراءة على نفي الخطأ عن المتهم ووقف عند هذا الحد دون أن يثبت ويصرح بأن الحادث وقع نتيجة السبب الأجنبي، فإن مؤدى ذلك أن المحكمة الجنائية لم تفصل في الأساس المشترك بين الدعويين الجنائية والمدنية لأن قوام الأولى خطأ جنائي واجب الإثبات ومنسوب إلى مرتكب الحادث في حين أن قوام الثانية خطأ مفترض في حق الحارس ومسئوليته تتحقق ولو لم يقع منه أو من تابعه خطأ شخصي لأنها مسئولية ناشئة عن حراسة الشيء وليست ناشئة عن الجريمة بما لا يمنع المحاكم المدنية من بحث تلك المسئولية المفترضة والقضاء بالتعويض حال ثبوتها. لما كان ذلك، فإن الهيئة تنتهي إلى الأخذ بهذا النظر بالأغلبية المنصوص عليها في الفقرة الثانية في المادة الرابعة من قانون السلطة القضائية والعدول عن الأحكام التي ارتأت غير ذلك، وتعيد الطعن إلى الدائرة المحيلة للفصل فيه على ضوء ما انتهت الهيئة. (الهيئة العامة لحكمة النقض المصرية- الطعن رقم ٤٧٢٤ لسنة ٧٤ ق- جلسة 31/٥/٢٠١٤)

([23])النص في المادة ١٧٨ من القانون المدني يدل وعلى ما جرى به قضاء هذه المحكمة أن المسئولية المقررة بموجبه تقوم على أساس خطأ مفترض وقوعه من حارس الشيء افتراضا لا يقبل إثبات العكس ومن ثم فإن هذه المسئولية لا تدرأ عن الحارس بإثبات أنه لم يرتكب خطأ أو أنه قام بما ينبغي من العناية والحيطة حتى لا يقع الضرر من الشيء الذي يتولى حراسته وهي لا ترتفع إلا إذا أثبت الحارس أن وقوع الضرر كان بسبب أجنبي لا يد له فيه وهذا السبب لا يكون إلا قوة قاهرة أو خطأ المضرور أو خطأ الغير. (الطعن رقم ١٠٥٢ لسنة ٥٣ جلسة ٣١-١-٢٠٠٨ س ٣٥ ع ١ ص ٣٥٧ ق ٧١) متاح على موقع محكمة النقض المصرية.

([24])من ضمن الفوائد التي سنراها عند انتشار استخدام السيارات ذاتية القيادة ما يلي: زيادة سبل الأمان: 1.2 مليون شخص يموتون سنويا حول العالم جراء الحوادث المرورية. وبحسب موقع ”LifeHack“ فقد أظهرت الدراسات أن التحول الجزئي للقيادة الآلية يمكن أن يزيد من درجة الأمان على الطرقات وبالتالي تخفيف عدد الوفيات بشكل ملحوظ. فعلى سبيل المثال؛ نجد أن بعض المركبات مزودة بأنظمة التحذير من الاصطدام الأمامي والتي تعمل على تحذير السائق أو تقوم بضغط المكابح آليا أسهمت بالفعل بتقليل الحوادث إلى حد ما. وبالتالي فإن السيارات ذاتية القيادة ستقوم بإلغاء العامل البشري المتسبب بنسبة تصل ل٩٠ % من الحوادث المرورية، سيقلل تلك الحوادث بشكل ملحوظ. لكن علينا أن نذكر هنا أنه من المحتمل أن يحتاج السائق لرخصة قيادة مطورة بحيث تسمح له التدخل عند الحاجة عند استخدامه السيارات ذاتية القيادة.

–                 تقليل الازدحامات المرورية: من المتوقع أن يعمل انتشار السيارات ذاتية القيادة على تقليل الازدحامات المرورية. فمن خلال طريقة عمل تلك السيارات، فإنه سيمكنها من التخاطب مع السيارات من حولها ومعرفة الطرق الأنسب تسلكها بحيث تصل لوجهتها بأقرب وقت ممكن. وبما أن السيارات ستسير بانتظام فهذا سيؤدي إلى تقليل الحاجة لضغط المكابح التي تعد من الأسباب الرئيسية لحدوث الاختناقات المرورية. فضلا عن هذا، فإن تقليل الازدحامات المرورية سيسهم بالحفاظ على صحة المرء؛ حيث تبين أن الاختناقات المرورية تتسبب بالإصابة بارتفاع ضغط الدم والاكتئاب والتوتر، فضلا عن ضعف بالقدرة على النوم الصحي.

–                 تقليل الانبعاثات الكربونية: تتسبب الانبعاثات الناتجة عن وسائل المواصلات في أميركا بما نسبته ٣٠ % من الانبعاثات المتسببة بالاحتباس الحراري. لكن السيارات ذاتية القيادة يمكن أن تكونالحل لهذه المشكلة؛ حيث تقوم تلك السيارات بالتعرف على الطرق ومعرفة أماكن الإشارات المرورية وأماكن الازدحامات وبالتالي اختيار الطرق الأنسب تسلكها والتي تساعدها على الحد من استهلاك الوقود. وقد أشارت إحدى الدراسات إلى أن استخدام سيارات أجرة ذاتية القيادة يمكن أن تقلل الانبعاثات الكربونية بما نسبته ٨٧-94 % لكل ميل، مما يعني نتائج مشجعة جدا في هذا المجال. https://alghad.com/%D9%81%D9%88%D8%A7%D

([25])Les véhicules sont autonomes, contrôlés par des intelligences artificielles. Mais le 5 février, un immense accident tue cinquante personnes et fait des centaines de blessés. Huit mois plus tard, l’IA est sur le banc des prévenus. Julien Mucchielli, Procès du carambolage du siècle : «L’intelligence artificielle a-t-elle une éthique ? » https://www.arageek.com/ibda3world/how-smart-cars-works

([26])https://www.elwatannews.com/news/details/4187438

([27])Julien Mucchielli, : « L’intelligence artificielle a-t-elle une éthique, https://www.dalloz.fr/documentation/Document?id=ACTU0192519&ctxt=0_YSR0MT1pbnRlb

([28])Peine de mort pour Euréka , Quant à Euréka, elle est rationnelle, c’est une IA forte, elle est dotée de volonté. Elle analyse tout, anticipe tout, prévoit tout. Elle est en capacité d’aller au-delà d’une programmation donnée. Son absence de réaction démontre qu’elle a pris une decision imprudente et n’a pas accompli de diligence normale : c’est l’élément moral. L’avocate générale demande la peine de dissolution. Peine de mort pour Euréka. Julien Mucchielli, : « L’intelligence artificielle a-telle une éthique, https://www.dalloz.fr/documentation/ Document?id=ACTU0192519&ctxt=0_YSR0MT1pbnRlb

([29])وتطورت صناعة الروبوتات بشكل كبير في السنوات الماضية، فنجد بعضها قادرا على إعادة تجميع نفسه بصورة شبه مستقلة، كأن يقوم بتصغير حجمه للمرور خلال نفق ضيق، وهناك أيضا أنواع من الروبوتات مخصصة للقيام بالأعمال المنزلية، وتعليم الأطفال، ولعب الشطرنج، وهذا النوع من الروبوتات يطلق عليه اسم “الروبوت الاجتماعي”.

([30])روبوت صناعي: هناك العديد من الاستخدامات الروبوتات التي تعمل بعاديا، خاصة في مجال العميات الصناعية الخطرة، وكذلك في المسابك وورش الحدادة ومجال المكابس والأعمال الهندسية الثقيلة، كتلك التي يتم فيها التعامل مع المصبوبات الساخنة، وكذلك إدخال قطع الشغل إلى الآلات الخطرة، وتكون وظيفة الإنسان في هذه العميات التشغيل والبقاء في أمان على بعد مسافة كافية.

([31])روبوت طبي: يمكنه القيام بجميع الإجراءات الجراحية التي يمكن القيام بها عن طريق تنظير البطن في كل التخصصات المختلفة، وبالتالي فإن كل الجراحات التي يعرفها العامة باسم الجراحات المغلقة يمكن إجراؤها بالروبوت، وكان أول روبوت جراحي في العالم “”Heartthrob، والذي تم تطويره واستخدامه للمرة الأولى في مدينة فانكوفر في مقاطعة كولومبيا البريطانية.

([32])روبوت رياضي: ظهر روبوت رياضي جديد باسم” “ Drone-ovic، والذي يقوم بقذف الكرات للاعبي التنس أثناء اللعب بطريقة معينة تساعدهم على عمل ضربات قوية ومؤثرة، ويتم استخدام هذا الروبوت حاليا لمساعدة اللاعبين أثناء التدريبات، حيث يقوم بإلقاء الكرات لهم في أماكن وزوايا محددة تساعدهم على تحسين لعبهم، كما تم تزويده بكاميرا 4kلتصوير اللاعبين من أعلى، مما يسمح لهم بمشاهدة هذه الفيديوهات فيما بعد، ومراجعة أدائهم أثناء اللعب.

([33])روبوت منزلي: ابتكر عدد من الخبراء إنسانا آليا للترفيه المنزلي متعدد المهام والأنشطة، وقد أطلق عليه اسم “هوم بود”، ويتمتع بالقدرة على التحرك من تلقاء نفسه، ويستطيع تحويل أي حائط إلى شاشة عملاقة، كما كشفت شركة “أسوس” عن روبوت باسم “”Zenbo بمثابة مدير منزل ذكي وحارس أمن ومساعد في المطبخ ومصور للعائلة، ويقوم بالتفاعل مع المستخدمين بطريقة سهلة ومرحة، إضافة إلى تشغيل الأغاني وقراءة قصص تعليمية بطريقة إبداعية.

([34])رعاية المسنين: يعتبر “وكمارو” إنسانا آليا من صنع شركة “ميتسوبيشي” اليابانية لتوفير الرعاية بالمسنين بالدرجة الأولى، ولون الروبوت أصفر، وطوله متر واحد، ووزنه 30 كيلوغراما، وتم بيعه لأول مرة بقيمة 14.000 دولار أمريكي، كما يدار “وكمارو” بنظام التشغيل لينكس، ويمتلك قدرة على النطق بشكل محدود بصوت ذكر وأنثى، ويمتلك قدرة التعرف على الكلام، وتشمل مهام الروبوت التذكير بمواعيد أخذ العلاج وطلب المساعدة عند اشتباه وجودمشكلة. ومن الجدير بالذكر أن هناك نوع جديد من الروبوتات أطلق عليه “الروبوت الشريك “، وهو قادر على أداء كل المهام الزوجية، مما يعزز نظرية إمكانية زواج الإنسان من الروبوت مستقبلا، وجعله كالإنسان تماما،

([35]) أ- مصطفي السداوي، متاح على هذا الموقع بتاريخ ١-١-2020

https://www.sayidaty.net/node/623601/%D8%A3%D8%B3%D8%B1%D8%A9

([36])فقد صادف أن عالجت محكمة العدل الدولية إحدى الوقائع يوم ٣ يوليو سنة ١٩٨٨ حين كان طراد أمريكي- يطلق عليه اسم «الطراد الروبوتي»- يجوب الخليج العربي حيث كان يشتغل بنظام «إيجيس» Aegis وهو نظام حاسوبي يشتمل على أربعة أوضاع، من بينها الوضع العفوي حيث ينفذ النظام ما يراه الأفضل في الهجوم والدفاع، وحدث أن رصد رحلة الخطوط الجوية الإيرانية رقم ٦٥٥ وهي طائرة مدنية من طراز «إيرباص» تبث إشارات لاسلكية تشير إلى أنها طائرة مدنية، غير أن النظام كان مصمما لإدارة المعارك ضد القاذفات السوفيتية في أعالي بحر الشمال، وليس لتعامل مع أجواء مكتظة في الخليج، وقد تم تكييفها على أنها مقاتلة من طراز –F14 وبالتالي عدو مفترض، لكن الطاقم البشري لم يرغب بالتشكيك في قدرة الروبوت، وتركوا له القرار بإطلاق النار، وكانت النتيجة تدمير الطائرة، ما أسفر عن مقتل جميع الركاب والطاقم الذين بلغ عددهم ٢٩٠ فردا منهم ٦٦ طفلا، واكتفت المحكمة بالحكم بتعويض لصالح جمهورية إيرانالإسلامية. الأستاذ/ العشاش إسحاق، الآلة عندما تشن الحرب. الروبوتات القاتلة والحاجة السيطرة بشرية هادفة آذار/ مارس ٢٥، ٢٠١٩، العدد ٤ ٦/ قانون الحرب/ وجهات نظر، متاح على هذا الموقع بتاريخ ١٢-١٢- 2019،

https://blogs.icrc.org/alinsani/2019/03/25/2768/

([37])الأستاذ/ العشعاش إسحاق، الآلة عندما تشن الحرب… الروبوتات القاتلة والحاجة إلى سيطرة بشرية هادفة آذار/ مارس ٢٥، ٢٠١٩، العدد ٦٤/ قانون الحرب/ وجهات نظر، متاح على هذا الموقعبتاريخ ١٢-١٢-٢٠١٩،

https://blogs.icrc.org/alinsani/2019/03/25/2768/

([38])لاري جرينماير، مسئولية الذكاء: حين يخفق الذكاء الاصطناعي، قد تكون أنت الملوم، متاح على هذا الموقع بتاريخ ١٤-١-٢٠٢٠

https://www.scientificamerican.com/arabic/articles/news/intelligent-to-afault-when-ai

 ([39])https://www.mc-doualiya.com/chronicles/email

([40])د/ أهمام القوصي، مقال نشر في مجلة جيل الأبحاث القانونية المعمقة العدد ٢٥ ص ٧٧.

 ([41])Le Parlement européen a adopté, le 16 février 2017, une resolution contenant des recommandations relatives aux règles de droit civil applicables en matière de robotique. En janvier 2015, la commission des affaires juridiques du Parlement européen avait pris l’initiative de mettre en place un groupe de travail sur les questions juridiques et éthiques liées au développement de la robotique et de l’intelligence artificielle. Elle avait rendu son rapport en début d’année. Soumis au vote du Parlement européen, ce texte, amendé, a été adopté par 396 voix pour, 123 contre et 85 abstentions. Par leur résolution, les deputes demandent à la Commission de proposer des règles sur la robotique et l’intelligence artificielle afin d’exploiter pleinement leur potential économique et garantir un niveau standard de sûreté et de sécurité.https://www.dalloz.fr/documentation/Document?id=ACTU018 3646&ctxt=0_YSR0MT1yw6hnbGVzIGRlIGRyb2l0IGNpdmlsIHN1ciB sYSByb2JvdGlxdWXCp3gkc2Y9cGFnZS1yZWNoZXJjaGU=&ctxtl=0_cyRwYWdlTnVtPTHCp3MkdHJpZGF

 ([42])Xavier Delpech Vers un droit civil des robots https://www.dalloz.fr/documentation/Document?id=AJCA/CHRON/2017/0110&ctxt=0_\

([43])ولتحقيق هذه الغاية، تقترح “ميثاق الروبوتات” الذي يحتوي على مبادئ يجب أن تعتمد عليها اللجنة لتطوير أعمالها القانونية. ويتكون من مدونة قواعد سلوك أخلاقية لمهندسي الروبوتات، ومدونة أخلاقيات لوحات أخلاقيات البحث، و”تراخيص” للمصممين والمستخدمين. يقترح أيضا تزويد كل روبوت ب صندوق أسودا! يحتوي على البيانات الخاصة بكل عملية يتم تنفيذها بواسطة الجهاز، بما في ذلك المنطق الذي ساهم في عملية صنع القرار”. أخيرا، كون الموضوع حساسا بشكل خاص من حيث الصحة، فهو يريد إنشاء لجان أخلاقية في المستشفيات ومؤسسات الرعاية الأخرى.

([44])La société internationale est essentiellement décentralisée. Les pouvoirs de création du droit et d’application du droit n’appartiennent pas à une entité centralisée. Il n’y a pas d’État mondial, et les principaux sujets de droit sont aussi les principaux créateurs du droit.Le droit international a trois sources principales: les traités internationaux,. la coutume,. Les principes généraux du droit,” DisPonible à http://fr.wikipedia.org/wiki/Trait%C3%A9_(droit_international_public) http://books.google.com.eg/books?id=cc3XzkFt-IUC&dq=International+ Law&.

([45])Anne Meyer-Heine, Robots, personnes âgées et droit de l’union européenne, Revue de l’Union européenne 2019 p.246.

([46])“Notons qu’en vertu du cadre juridique européen en vigueur, les robots intelligents ne peuvent être tenus responsables de leurs actes ou de leurinaction en cas de dommages causés à des tiers. Par ailleurs, les règles en matière de responsabilité impliquent que l’acte dommageable ou l’inaction fautive du robot soit imputé à un acteur humain précis(68). La directive de 1985 n’est donc pas appropriée pour identifier la partie responsable pour le versement de dommages et intérêts en cas de préjudice causé par un robot autonome susceptible d’interagir avec son environnement et d’adapter son comportement et ses actes en function du contexte. Anne Meyer-Heine, Robots, personnes âgées et droit de l’union européenne, Revue de l’Union européenne 2019 p.246.

([47])١- د/ همام القوصي، مقال نشر في مجلة جيل الأبحاث القانونية المعمقة، إشكالية الشخص المسؤول عن تشغيل الروبوت تأثير نظرية “النائب الإنساني” على جدوى القانون في المستقبل- دراسة تحليلية استشرافية في قواعد القانون المدني الأوروبي الخاص بالروبوتات العام الثالث العدد ٢٥ مايو ٢٠١٨ العدد ٢٥ الصفحة ٧٧. ومتاح على هذا الموقع بتاريخ ٢٥-١-٢٠٢٠https://jilrc.com/

([48])وقضت مكمة النقض بأن “المقرر- في قضاء محكمة النقض -أن تمثيل الدولة في التقاضي- وعلى ما جرى به قضاء هذه المحكمة -هو نوع من النيابة القانونية عنها، وهى نيابة المرد في تعيين مداها وبيان حدودها، وإنما يكون بالرجوع إلى مصدرها وهو القانون والأصل أن الوزير هو الذي يمثل الدولة في الشئون المتعلقة بوزارته، وذلك بالتطبيق للأصول العامة باعتباره المتولي على الإشراف على شئون وزارته والمسئول عنها، وله وحده مراقبة العاملين لديه والإشراف على أعمالهم ومحاسبتهم على الخروج عليها، إلا إذا أسند القانون صفة النيابة القانونية فيما يتعلق بشئون هيئة معينة أو وحدة إدارية معينة إلى غير الوزير الذي تتبعه.

(الطعن رقم ١١٣١٦ لسنة ٨٧ جلسة ١٨-٢-٩ ٢٠١ متا على موقع محكمة النقض المصرية بتاريخ ١١-٢-٠٢٠٢٠، وتنص المادة ١٩٦ من الدستور المصري الحالي على أن ” قضايا الدولة هيئة قضائية مستقلة، تنوب عن الدولة فيما يرفع منها أو عليها من دعاوي، وفي اقتراح تسويتها وديا في أي مرحلة من مراحل التقاضي، والإشراف الفني على إدارات الشئون القانونية بالجهاز الإداري للدولة بالنسبة للدعاوي التي تباشرها، وتقوم بصياغة مشروعات العقود التي تحال إليها من الجهات الإدارية وتكون الدولة طرفا فيها، وذلك كله وفقا لما ينظمه القانون. ويحدد القانون اختصاصاتها الأخرى، ويكون لأعضائها كافة الضمانات والحقوق والواجبات المقررة لأعضاء السلطة القضائية، وينظم القانون مساءلتهم تأديبيا”

([49])حتى أن جانب من الفقه البلجيكي يرى فرض “المسؤولية المحدودة”“ Limited Liability-Responsabilité Limitée“على مالك الروبوت ذو القرار المستقل؛ فيتم مساءلة المالك في حدود قيمة الروبوت دون الرجوع على كامل ذمته المالية، وذلك بغرض حصر مخاطر تشغيل الروبوت في قيمة هذا الاستثمار

Steven DE SCHRIJVER, “The Future Is Now: Legal Consequences of Electronic Personality for Autonomous Robots”, January 2018.

([50])وقضت مكمة النقض بأن ” المقرر- في قضاء محكمة القض أن مسؤولية المتبوع عن الضرر الذي يحدثه تابعه بعمله غير المشروع تقوم على خطأ مفترض في جانب المتبوع فرضا لا يقبل إثبات العكس متى كان العمل قد وقع منه أثناء تأدية وظيفته أو بسببها أو ساعدته هذه الوظيفة أو هيأت له إتيان فعله غير المشروع، وتقوم علاقة التبعية كلما كان للمتبوع سلطة فعلية على التابع في الرقابة والتوجيه، ولو كانت هذه الرقابة قاصرة على الرقابة الإدارية. (الطعن رقم ٢٤٨٤ لسنة 65 جلسة ١ -٨-2019 متاح على موقع محكمة النقض المصرية.

([51])١- د/ همام القوصي، مقال نشر في مجلة جيل الأبحاث القانونية المعمقة، إشكالية الشخص المسؤول عن تشغيل الروبوت تأثير نظرية “النائب الإنساني” على جدوى القانون في المستقبل- دراسة تحليلية استشرافية في قواعد القانون المدني الأوروبي الخاص بالروبوتات العام الثالث العدد ٢٥ مايو ٢٠١٨ العدد ٢٥ الصفحة ٧٧. ومتاح على هذا الموقع بتاريخ ٢٥-١-٢٠٢٠ https://jilrc.com/

([52])intégrant la création, à terme, d’une personnalité juridique spécifique aux robots, « pour qu’au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques responsables » et que soit conférée « la personnalité électronique à tout robot qui prend des décisions autonomes ou qui interagit de manière indépendante avec des tiers ». Alain Bensoussan, La personne robot, Recueil Dalloz 2017 p.2044, https://www.dalloz.fr/documentation/Document?id=RECUEIL/CHRON

([53])بتاريخ ٧ ١ مايو ٢٠١٨، مسئولية الذكاء: حين يخفق الذكاء الاصطناعي، لاري جرينماير بقلم قد تكون أنت الملوميرى خبير قانوني أن التفاعل المتبادل بين البشر والآلات الذكية يطرح أسئلة صعبة حول المسؤولية وتحمل التبعات.، متاح على هذا الموقع بتاريخ ١٢-١٢-٢٠١٩،

https://www.scientificamerican.com/arabic/articles/news/intelligent

([54])Art. 39 decies B (L. no 2018-1317 du 28 déc. 2018, art. 55, applicable aux exercices clos à compter du 1er janv. 2019) I. — Les petites et moyennes entreprises soumises à l’impôt sur les sociétés ou à l’impôt sur le revenu selon un régime réel peuvent déduire de leur résultat imposable une somme égale à 40 % de la valeur d’origine des biens inscrits à l’actif immobilisé, hors frais financiers, affectés à une activité industrielle, lorsque ces biens relèvent de l’une des catégories suivantes:

1o Équipements robotiques et cobotiques;

2o Équipements de fabrication additive;

3o Logiciels utilisés pour des opérations de conception, de fabrication ou de transformation;

4o Machines intégrées destinées au calcul intensif;

5o Capteurs physiques collectant des données sur le site de production de l’entreprise, sa chaîne de production ou son système transitique;

6o Machines de production à commande programmable ou numérique;

7o Équipements de réalité augmentée et de réalité virtuelle utilisés pour des opérations de conception, de fabrication ou de transformation.

La déduction est applicable aux biens mentionnés aux 1o à 7o acquis àl’état neuf à compter du 1er janvier 2019 et jusqu’au 31 décembre 2020 qui ont fait l’objet d’une commande ferme à compter du 20 septembre 2018. Elle s’applique également aux biens mentionnés aux mêmes 1o à 7o fabriqués à compter du 1er janvier 2019 et jusqu’au 31 décembre 2020 pour lesquels la direction de l’entreprise a pris la decision définitive de les fabriquer à compter du 20 septembre 2018.

([55])Alexandra Bensamoun, Stratégie européenne sur l’intelligence artificielle : toujours à la mode éthique Recueil Dalloz 2018 p.1022, https://www.dalloz.fr/documentation/Document?id=RECUEIL/CHRON/2018/2104&ctx, Loi PACTE : renforcement du contrôle des investissements étrangers en France – Xavier Delpech – 16 avril,2019 https://www.dalloz.fr/documentation/Document?id=ACTU0195426&ctxt=0_YSR0MT1yb2JvdGlxdWXCp3gkc2Y9c2ltcGxlLXNlYXJjaA

([56])نص المادة ١٧٨ من القانون المدني المصري “كل من تولى حراسة أشياء تتطلب حراستها عناية خاصة أو حراسة آلات ميكانيكية يكون مسئولا عما تحدثه هذه الأشياء من ضرر، ما لم يثبت أن وقوع الضرر كان بسبب أجنبي لا يد له فيه”

([57])(١) هناك نوعين رئيسين للتامين على المركبات: أولا: التأمين ضد الغير: (Third party) ويسمى تأمين الطرف الثالث حيث تتحمل شركة التامين تعويض الإضرار الناتجة عن الحوادث للطرف الآخر (غير صاحب التأمين). أما المؤمن له فلا تتحمل شركة التامين أي أعباء تجاه الأضرار التي حصلت له. هذا النوع من التامين إلزامي من المرور في السعودية وعدد من دول العالم والذي يغطي الضرر على الأطراف الأخرى إذا كان هناك حادث وكان الخطأ عليك. يعني هذا النوع يغطي تكاليف الأضرار التي حدثت للأخرين من تكاليف إصلاح السيارة والعلاج الطبي وغيره لكنه لا يغطي تكاليف الأضرار التي حصلت لك أو لسيارتك. فرضا لو عملت حادث والخطأ عليك وليك هذا النوع من التأمين فانه يحميك من دخول الحجز (سجن المرور) في السعودية لكن إذا كنت لا تملكه فانك تدخل الحجز حتى تدفع قيمة الضرر على الطرف الآخر. كما أن بعض معاملات المرور لا تتم ألا بهذا النوع من التامين كتجديد الاستمارة أو نقل ملكية أو نحوه. غالبا سعر هذا النوع من التأمين لا يخضع لقيمة السيارة لكنه يعتمد على نوع السيارة والمدينة والعمر وتاريخك فيالحوادث. ثانيا: التامين الشامل: (Comprehensive) وهو اختياري في السعودية هو والذي يغطي الضرر عنك وعن الأخرين فهو عبارة عن تأمين ضد الغير وكذلك تأمين لك. يعني لو صار لك حادث وكنت تتحمل الخطأ في ال حادث فإن شركة التأمين تقوم بتغطية تكاليف الأضرار اللاحقة بك أو بسيارتك والأضرار التي لحقت بالآخرين. التأمين الشامل يكون سعره أغلي من التأمين ضد الغير ويعتمد على سعر السيارة (نسبة من سعر السيارة). عادة هذا النوع من التأمين يكون فيه قيمة تحمل معينة عند مطالبة شركة التأمين بتغطية الأضرار التي حصلت لك. الفرق بين الشامل وضد الغير أن الشامل يشمل سيارتك وضد الغير لا يشملها وكذلك تستفيد من التأمين الشامل في حالات أخرى ك الحوادث مجهولة الطرف الثاني مثل وجدت سيارتك مصدومة ولا تعرف من الذي صدمها والسرقة.

([58])نص المادة ١٧٨ من القانون المدني المصري “كل من تولى حراسة أشياء تتطلب حراستها عناية خاصة أو حراسة آلات ميكانيكية يكون مسئولا عما تحدثه هذه الأشياء من ضرر، ما لم يثبت أن وقوع الضرر كان بسبب أجنبي لا يد له فيه”