مدى المسؤولية الجزائية لتقنيات الذكاء الاصطناعي في المجال الطبي (دراسة مقارنة)
م.د.غسان علوان خضير الزيرجاوي
كلية القانون – جامعة العين العراقية
الملخص:
أشار موضوع المسؤولية الجنائية لتقنيات الذكاء الاصطناعي الى العديد من الصعوبات لاسيما فيما يتعلق بالمسؤولية الجزائية عن اعمال هذه البرامج في مختلف القطاعات ومنها الصحية ومدى ملائمة التشريعات الحالية وقدرتها على استيعاب الخصائص الفريدة لهذه التقنية، وبناء عليه فأن هذه الدراسة تسعى الى مناقشة بعض التحديات الحالية للذكاء الاصطناعي او تلك التي يمكن ان تثور في المستقبل، وبخاصة اذا تطورت تقنية الذكاء الاصطناعي واستخدمت على نطاق واسع، فالهدف من هذه الدراسة تقنين اوضاع جرائم الذكاء الاصطناعي لتحديد المسؤولية الجزائية عن تلك الجرائم وتوقيع الجزاء عليه، وتكمن اهمية الموضوع في ان عصرنا الحالي لا يخلو مجال فيه من الذكاء الاصطناعي فمع هذا الانتشار الواسع سوف تزيد الجرائم المتعلقة به، وبالتالي كان من الاهمية ان نبحث في المسؤولية الجزائية عن الجرائم المرتكبة في هذا المجال وعلى من تقع المسؤولية لتحديد المرتكب الحقيقي حتى تطبق عليه العقوبة القانونية.
الكلمات المفتاحية: (التطبيق، المسؤولية الجزائية، الجرائم، الذكاء الاصطناعي).
Criminal Liability for Artificial Intelligence Technologies in the Medical Field
-A comparative Study-
M.D. Ghassan Alwan Khudair Al-Zirhawi
Al -Ayen Iraqi University
Abstract :
Using Robots and artificial intelligence programs indifferent sectors generates considerable difficulties epically with regard to the attribution of liability for the actions of such programs and whether or no of the current law adequately accommodates the unique aspects of artificial intelligence technology. This study thus explores the a rise if such technology evolves, or is commonly used a larger scale. So we aim from this study legalization of artificial intelligence crimes to determine the responsible for those crimes and the penalty is imposed on it. The importance of the subject in that at this time there is no fields of life that artificial intelligence did not interfere, and with this widespread, the crime related to it will increase. It was therefore necessary to examine criminal liability for crimes committed by artificial intelligence , and who will be responsible to determine the real perpetrator to be subjected to legal punishment.
Keywords: )application- criminal liability- crimes- artificial intelligence(.
المقدمة:
يعد الذكاء الاصطناعي من اهم صور التكنولوجيا الحديثة والمتطورة في العصر الراهن وعلى الرغم من مزاياه الا ان اعتماد الادارة عليه في كافة الانشطة التي تقوم بها وما يترتب عليها من آثار قانونية قد يكون محفوفا بالمخاطر وذلك بين الاخطاء التي قد تنجم عن الذكاء الاصطناعي، ومن ثم يؤدي الى الاضرار بالمتعاملين مما يلزم ضرورة البحث عن التكيف القانوني للفعل المرتكب بما يتناسب مع المعطيات الجديدة والنظر الى المسؤولية الجديدة الناشئة عن اخطاء الذكاء الاصطناعي الا ان هناك شخص مسؤول عن تشغيل هذه المنظومة سواء أكان الموظف المختص ام المصنع أم المبرمج وعلى اثر ذلك تنتج جرائم تخضع لأحكام المسؤولية الجنائية.
اشكالية الدراسة
يشير نظام الذكاء الاصطناعي الكثير من التساؤلات القانونية، ففي بادئ ذي بدء يجب تحديد ماهية الذكاء الاصطناعي وكذلك التكيف القانوني لطبيعة شخصية الذكاء الاصطناعي وهل يسأل جزائيا عن اعمال الذكاء الاصطناعي وهل تقع هذه المسؤولية على المصنع ام المبرمج ام المشغل ام المستخدم؟ ام ان منظومة الذكاء الاصطناعي هي التي تتحمل المسؤولية الجزائية عن خطأ ذلك النظام، وبالتالي يثور لدينا السؤال التالي ما هو القانون الواجب التطبيق على اعمال الذكاء الاصطناعي؟ هل يمكننا الرجوع الى القواعد العامة للأحكام القانون الجنائي وتطبيقها على الخطأ المرتكب من قبل هذه المنظومة، ام انها غير ملائمة لمواجهة هذا التطور وبالتالي فإذا لم تطبق القواعد العامة فنحتاج تشريع قانون خاص ينظم عمل الذكاء الاصطناعي والمسؤولية المترتبة عليه.
منهج البحث
اتبعنا في هذه الدراسة المنهج الوصفي المقارن في احكام المسؤولية الجزائية للذكاء الاصطناعي وذلك من خلال دراسة مقارنة وفقا للتشريع العراقي والاماراتي والقوانين الاخرى.
خطة الدراسة
سوف نقسم هذا الموضوع الى مطلبين وفرعين.
المطلب الاول
ماهية الذكاء الاصطناعي
إن البحث عن ماهية الذكاء الاصطناعي قد شغلت الكثير من الفلاسفة قبل اكثر من الفي عام وقد حاول الكثير من الفلاسفة دراسة هذه الانظمة من خلال رؤية الاشياء وكيف يتم التعلم والتذكر والتعليل، ومع حلول استخدام جهاز الحاسوب في الخمسينات تحولت هذه البحوث الى انظمة واقعية وظهرت تطبيقات عديدة سواء كانت ذات اغراض عامة مثل الادراك والتعليل المنطقي او كانت ذات غرض خاص مثل التشخيص الطبي.
وغالبا فأن الخبراء والعلماء يتوجهون الى انظمة الذكاء الاصطناعي وذلك لمعرفة خبراتهم وتجاربهم التي قضوا بها حياتهم فإن الذكاء الاصطناعي مجال عالمي يصلح لجميع التوجهات ويعني بدراسة كيفية توجيه الحاسب الآلي للأداء اشياء يؤديها الانسان بشكل افضل.
لذا بعد بيان ماهية الذكاء الاصطناعي لابد لنا من تقسيم هذا المطلب الى فرعين الفرع الاول تعريف الذكاء الاصطناعي ويليه الفرع الثاني مفهوم الذكاء البشري والفرق بينه وبين الذكاء الاصطناعي.
الفرع الاول
تعريف الذكاء الاصطناعي
يعرف الذكاء الاصطناعي بأنه “احد افرع علوم الكمبيوتر المعنية بكيفية محاكاة الآلات لسلوك البشر فهو علم انشاء اجهزة وبرامج كمبيوتر قادرة على التفكير بالطريقة نفسها التي يعمل بها الدماغ البشري تتعلم مثلما تتعلم وتقرر كما تقرر وتتصرف كما تتصرف)([1]).
كما عرفه المشرع الاردني (الذكاء الاصطناعي) في قانون المعاملات الالكترونية رقم 15 لسنة 2015 من المادة الثانية من القانون على ان الوسيط الالكتروني هو (البرنامج الالكتروني الذي يستعمل لتنفيذ اجراء او الاستجابة للإجراء بشكل تلقائي بقصد انشاء رسالة معلومات او ارسالها او تسليمها)([2]).
اما ما جاء به المشرع العراقي فقد عرف الذكاء الاصطناعي من خلال قانون التوقيع الالكتروني والمعاملات الالكترونية رقم 78 لسنة 2012 في المادة (اولا/ ثامنا) تعريف الوسيط الالكتروني على انه (برنامج الحاسوب او أي وسيلة الكترونية اخرى تستخدم من اجل تنفيذ اجراء او الاستجابة بقصد انشاء او ارسال وتسلم معلومات)([3]).
وكذلك عرفه المشرع الاماراتي في المادة 1 من قانون المعاملات والتجارة الالكترونية الاماراتي رقم 1 لسنة 2000 الوسيط الالكتروني بأنه “برنامجا او نظاما الكترونيا كحاسب آلي يمكن ان يتصرف بشكل مستقل كليا او جزئيا من دون اشراف أي شخص طبيعي في الوقت الذي يجري فيه التصرف او الاستجابة له)([4]).
من تحليل المفاهيم الآنفة الذكر نجد بأن المشرع الاردني والعراقي والاماراتي قد قدم مفهوما واحدا من انظمة الذكاء الاصطناعي ولم يتطرق الى الكافة ، وقد حدد في هذا المفهوم العناصر التي يشترك فيها الوسيط الالكتروني مع الثوابت الفنية لتقنيات الذكاء الاصطناعي المتمثلة بالنظام الالكتروني للحاسب الآلي، وبالتالي نرى ان من الصعب وجود تعريف جامع مانع وقانوني يحدد مفهوم الذكاء الاصطناعي وذلك لقلة الدراسات القانونية عن هذا المفهوم في الوطن العربي.
كذلك يعرف الذكاء الاصطناعي بأنه “هو ذلك الفرع من علوم الحاسوب الذي يمكن بواسطته خلق وتصميم برامج الحاسبات التي تحاكي اسلوب الذكاء الاصطناعي الانساني لكي يتمكن الحاسب من اداء بعض المهام بدلا من الانسان والتي تتطلب التفكير والتفهم والسمع والتكلم والحركة بأسلوب منطقي ومنظم)([5]).
ويعرف الذكاء الاصطناعي بأنه “دراسة وتصميم انظمة ذكية تستوعب بيئتها وتتخذ اجراءات تزيد من فرص نجاحها).
وقد عرف الذكاء الاصطناعي (جون ماركثي) بأنه “هو الذكاء الذي تبديه الآلات والبرامج بما يحاكي القدرات الذهنية البشرية وانماط عملها مثل القدرة على التعلم والاستنتاج ورد الفعل على اوضاع لم تبرمج في الآلة، وهو كذلك اسم المجال الاكاديمي يعني بكيفية صنع حواسيب وبرامج قادرة على اتخاذ سلوك ذكي)([6]).
ويعرف الذكاء الاصطناعي (محاكاة لذكاء الانسان وفهم طبيعته عن طريق عمل برامج للحاسب الآلي قادرة على محاكاة السلوك الانساني المتسم بالذكاء، ويوجد الذكاء الاصطناعي حاليا في كل مكان حولنا بداية من السيارات ذاتية القيادة، والطائرات المسيرة بدون طيار وبرمجيات الترجمة او الاستثمار وغيرها الكثير من التطبيقات المنتشرة في الحياة)([7]).
وأخيرا يعرف الذكاء الاصطناعي (هو عملية محاكاة الذكاء البشري عن انظمة الكمبيوتر وتتم من خلال دراسة سلوك البشر عبر اجراءات تجارب على تصرفاتهم موضعهم في مواقف معينة ومراقبة رد فعلهم ونمط تفكيرهم وتعاملهم مع هذه المواقف ومن هذه ثم محاولة محاكاة طريقة التفكير البشرية عبر انظمة كمبيوتر معقدة ومن ثم تتسم آلة برمجة الذكاء الاصطناعي لابد ان تكون قادرة على التعلم وجمع البيانات وتحليلها واتخاذ قرارات بناء على عملية التحليل هذه بصورة تحاكي طريقة تفكير البشر)([8]).
ومن تحليل المفاهيم السابقة نرى بأن الذكاء الاصطناعي هو محاكاة للعقل البشري ويتم من خلال الحاسب الآلي الذي يترك اثره في كل مكان من حولنا في المجالات كافة ومنها الصناعية والادارية ووسائط النقل البرية والجوية وحتى في مجال الأمن.
الفرع الثاني
مفهوم الذكاء البشري والفرق بينه وبين الذكاء الاصطناعي
يمكن تعريف الذكاء البشري: “هو البراعة الفكرية للبشر والتي تتميز بالوظائف المعرفية المعقدة والمستويات العالية من الدوافع والوعي الذاتي بين الذكاء البشري يمتلك البشر القدرات المعرفية للتعلم او صياغة المفاهيم والفهم واستعمال المنطق بما في ذلك القدرة على التعرف على الانماط وفهم الافكار والتخطيط وحل المشكلات واتخاذ القرارات والاحتفاظ بالمعلومات واستخدام اللغة للتواصل)([9]).
وكذلك يعرف الذكاء البشري “هو الذكاء الانساني المرتبط بالقدرات العقلية مثل القدرة على التكييف مع ظروف الحياة والاستقامة من التجارب والخبرات السابقة والتفكير والتحليل والتخطيط وحل المشاكل والاستنتاج السليم والاحساس بالآخرين والتفاعل مع غيرنا من البشر)([10]).
وتكمن اهمية الفرق بين الذكاء الاصطناعي والذكاء البشري:
ان الذكاء الاصطناعي يتم انشائه من قبل البشر باستخدام خوارزميات الكومبيوتر ولغات البرمجة انه نتاج الابداع البشري والبحث العلمي.
الذكاء الاصطناعي تعلم انظمة الذكاء الاصطناعي من البيانات باستخدام خوارزميات التعلم الآلي يمكنهم تكييف وتحسين ادائهم بمرور الوقت من خلال التدريب المستمر.
اما من حيث القدرة والنطاق الذكاء الاصطناعي تتفوق انظمة الذكاء الاصطناعي في اداء المهام المحددة صممت من اجلها في حين ان الذكاء الاصطناعي العام اذا تحقق يمتلك ذكاء شبيه بالبشر عبر مهام متنوعة.
الذكاء البشري فهو واسع وعام لكافة الاغراض مما يمكن البشر من اداء مجموعة واسعة من المهام المعرفية بما في ذلك المشكلات والابداع والعاطفة والتفاعلات الاجتماعية.
الذكاء البشري يتعلم البشر من الخبرات والتعليم والتفاعلات مع العالم يمكنهم تكييف سلوكهم بناء على المعلومات الجديدة والطرق المتغيرة.
اما من حيث العواطف فأن الذكاء الاصطناعي يفتقر الى الوعي والعواطف في حين ان بعض انظمة الذكاء الاصطناعي يمكنها محاكاة المشاعر لتطبيقات محددة الا انه لا تملك فهما عاطفيا حقيقيا.
الحدس والابداع فأن الذكاء الاصطناعي يفتقر الى الحدس والابداع بنفس الطريقة التي يمتلكها البشر بينما يمكن للذكاء الاصطناعي انشاء حلول جديدة بناء على انماط البيانات الا انه ليس مبدعا او بديهيا حقا اما الذكاء البشري يسمح الحدس البشري باتخاذ قرارات سريعة بناء على الغرائز والمعرفة المتراكمة يظهر البشر ابداعا ويولدون افكارا اصلية وتعبيرات فنية.
الاخلاق: ان منظمة العفو الدولية يحدث على ان الذكاء الاصطناعي يفتقر الى التفكير الاخلاقي والحكم الاخلاقي تعمل على اساس الخوارزميات والبيانات دون الشعور بالصواب او الخطأ، اما الذكاء البشري يمتلك البشر بوصلة اخلاقية ويمكنهم اتخاذ قرارات اخلاقية بناء على القيم والتعاطف والاعراف المجتمعية([11]).
وتحليلا لما تقدم
بعد بيان وجه المقارنة بين الذكاء الاصطناعي والذكاء البشري نرى بان هناك فرق كبير بينهما والحاجة لهما معا ضرورة حتمية فإذا كان استنتاج الذكاء البشري اقوى فلن يكون كافيا امام السرعة والجودة التي يوفرها الذكاء الاصطناعي هذا من جهة.
اما من جهة اخرى فان الذكاء البشري يمتاز بالفطنة والتدبر في جمع وتحليل المعلومات والبيانات يقوم بها الدماغ البشري للوصول الى استنتاجات صحيحة تمكن من اتخاذ القرارات الصائبة.
اما الذكاء الاصطناعي الكمبيوتر يحاكي عمل الدماغ البشري ويقوم بنفس الشيء على اقل تقدير.
المطلب الثاني
استخدام الذكاء الاصطناعي في المجال الطبي
تعددت صور استخدام الذكاء الاصطناعي في المجال الطبي ويكمن هذا التعدد على ان انشطة القطاع الطبي اصبحت تشمل افق واسعة من عمليات التشخيص ووصف العلاج وكذلك اجراء الجراحات والعلاجات في كل مراحل الحياة ، حيث تبدأ من التدخل في التعامل في التلقيح الصناعي وتحديد نوع الجنين واجراء عمليات نقل وزراعة الاعضاء والعمليات الجراحية وعمليات التجميل وغيرها من الانشطة الطبية لذا يمكن ان نقسم هذا المطلب الى فرعين: الفرع الاول صور استخدام الذكاء الاصطناعي في المجال الطبي، ويليه الفرع الثاني النطاق الفقهي والقانوني للذكاء الاصطناعي.
الفرع الاول
صور استخدام الذكاء الاصطناعي في المجال الطبي
يمكن ان نوجز صور استخدام الذكاء الاصطناعي وفقا للآتي:
أولا: القيام بتشخيص الامراض.
تعمل انظمة الذكاء الاصطناعي على تشخيص الامراض حيث حقق هذا المجال تقدما ملحوظا على مستوى التشخيص المبكر واكتشاف الامراض التي تكون في اولى مراحلها وربما قبل حدوثها او انتشارها وتفاقمها من خلال تحليل صور الاشعة حيث ان امكانية التنبؤ بالأمراض وتفشيها من خلال استخدام تحليلات الذكاء الاصطناعي يعتمد على تحليل البيانات والتنبؤ بالأمراض ومنها مرض السرطان([12]) .
ففي ظل التقدم الفني غير المسبوق في القطاع الصحي على مستوى استخدامات الذكاء الاصطناعي فان ذلك سيسهم في تقديم نهج علمي يعتمد على المعلومات الطبية والتقدم العلمي([13])، لذا تقوم اجهزة الكمبيوتر باستخدام ذكاء يشبه ذكاء الانسان لأداء مهام دقيقة في الكشف عن العديد من الامراض التي تهدد الحياة مثل الامراض المعدية والسرطان، فيتم تحليل الصور الطبية لتشخيص الامراض من خلال استخدام خوارزميات التعلم العميق وهي شكل منعدم التقنية تعلم الآلة بحيث يتم درس وتحليل مجموعات من الصور الطبية المصحوبة بمعلومات وتعلم كيفية تصنيفها واكتشاف ما يميزها لتتمكن لاحقا من فهم الصور المتشابهة وتقديم التشخيص المناسب للحالة المرضية كما تستخدم العديد من التطبيقات والاجهزة القابلة للارتداد تقنيات ذكاء اصطناعي ترصد اضطرابات المؤثرات الحيوية للجسم ويمكنها من التنبؤ باحتمالية وقوع ازمة صحية قبل حدوثها([14]).
ثانيا: تحديد الدواء المناسب.
ان المقصود هنا في هذا العنوان هو الطب الشخصي أي بمعنى انه يتم تحديد الدواء او بروتوكول العلاج المناسب لكل حالة مرضية بناء على التكوين الجيني الخاص بالمريض وبحسب نمط حياته واختلاف استجابته للعلاج([15]).
وبالرجوع الى التجارب والدراسات القائمة في هذا الشأن يثبت التكامل فيما بين الطبيب المعالج مع خوارزميات الذكاء الاصطناعي حيث يمكن لتقنيات التعلم العميق تحليل البيانات الجينية للأعداد كبيرة من الافراد وتحديد التباين الشخصي في الاستجابة للعقاقير الطبية بما يسهم في دعم القرارات السريرية وبالتالي تقديم توجيهات حول انسب العقاقير لكل شخص واجراء التجارب الناجحة في هذا المجال افضت الى القيام بالمزيد من الاستخدامات فتم جمع بيانات صحية ضخمة لتحليلها باستخدام الذكاء الاصطناعي بهدف تطوير مجال الطب الدقيق([16]).
ثالثا: اجراء العمليات الجراحية.
ان طبيعة التكامل بين الذكاء البشري والذكاء الاصطناعي من خلال الروبوت المستخدم في غرفة العمليات والذي يمكن ان يصل الى ما لاتصل اليه يد الجراح هذا الجراح القادر على تحريك اذرع الروبورت والوصول الى المكان المحدد فيساعد الاطباء على التخطيط للتدخل الجراحي بالتفصيل مما يعكس هذا التكامل في غرف العمليات([17]).
واليوم تتنافس الشركات فيما بينها من اجل التوصل الى روبورتات اكثر تطورا واطلاق خدمات طبية مبتكرة تساعد الفريق الطبي في اداء بعض المهام الروتينية وتخفيف العبء عنهم ولقد بات من الممكن الآن دمج هذه التكنولوجيا المتطورة لمساعدة الطاقم الطبي في تقديم رعاية صحية تفوق توقعات المرضى([18]).
وبالتالي فان التكنولوجيا في الطب والتطبيقات الآلية في المستشفيات تشهد تنوعا كبيرا فهناك اليوم الروبورتات الجراحية والروبورتات التي تقدم الرعاية الى جانب سرير المريض كما يتوفر روبورتات لطرد العدوى من الغرف وتعقيمها واخرى لأخذ عينات المختبرات ونقلها وتحليلها وتحضير جرعات العقاقير والروبورتات التي هي اجهزة مراقبة التواجد عن بعد([19]).
رابعا: القيام بالتجارب والاختبارات العلمية.
ان الاختبارات والتجارب العلمية والابحاث السريرية القائمة حول العالم استفادت وبشكل كبير من انظمة الذكاء الاصطناعي حيث توجه العلماء والباحثون الى استخدام البيانات التي يتم جمعها بواسطة تقنيات الذكاء الاصطناعي من السجلات الصحية الالكترونية والاجهزة القابلة للارتداء ما اسهم في توفير الاموال الضخمة التي كانت تصرف في هذا المجال كما تسمح هذه التقنيات بالبحث في التقارير الطبية عن الاشخاص المؤهلين للمشاركة في التجارب الطبية([20]).
وبالتالي فان تطبيق الذكاء الاصطناعي في التجارب السريرية يساعد العلماء في تحليل البيانات والمعلومات العلمية وامكانية تقييم المرض والنتائج المتوقعة بخصوص شفائهم وتعزيز عمليات التحليل واتخاذ القرار من البيانات وذلك من اجل تعزيز معدلات النجاح للتجارب الطبية([21]).
خامسا: القيام بالعمل الاداري داخل المنشأة الطبية العامة والخاصة.
ان ادارة الملفات وتنظيم العمل داخل المؤسسات الطبية لطالما تشكل معضلة اساسية للقطاع الصحي ففي ما تشهده الكثير من المستشفيات من ازدحام يؤدي الى ضغط متزايد على الاطباء والممرضين وكذلك المسؤولين عن الاعمال الادارية وهو ما يزيد من احتمالية الوقوع في الخطأ([22]).
ومن هنا استفادت المستشفيات من تقنيات الذكاء الاصطناعي لإدارة العمل وتنظيم ملفات المرضى بعد ادخال مجموعة من البيانات الضخمة الى انظمة الحواسيب ما يسمح بالوصول الى المعلومة في فترة زمنية اسرع([23]).
كما ان السجلات الطبية الالكترونية جعلت عملية استخراج البيانات ودراسة انواع العلاج اسهل بكثير فتحولت ملفات المرضى والوصفات الطبية الورقية المكتوبة بخط اليد الى شيء من الماضي فازدادت بيانات الرعاية الصحية الالكترونية بشكل هائل وبالتالي فات تحليل تلك البيانات التي تضم معلومات حول المرضى يمكن ان يتم انجازه بشكل اسرع ويمكن انقاذ المزيد من الارواح عبر تشغيل خوارزميات تم تصميمها باستخدام الذكاء الاصطناعي وهذه الايجابية من شأنها ان تساعد اخصائي الرعاية الصحية والعاملين في اقسام الطوارئ من الوصول الى كميات كبيرة من المعلومات وفرزها خلال مدة زمنية قصيرة مما يسهم في تقليص الوقت الذي يتم تكريسه لمريض الواحد بالشكل الأمثل([24]).
وتعتمد المؤسسات الصحية والمستشفيات حول العالم على هذه الانظمة في بنيتها التحتية لتقنية العمل ورقمنته بما يعزز الكفاءة ويزيد من دقة الرعاية الصحية، لتتحول بذلك الى مستشفيات تعمل بآلية مترابطة فيما بينها من خلال منصات تعرض بيانات تتعلق بالمرضى الى الحد المسموح به قانونيا مع الحفاظ على خصوصية المريض وهي خطوة غاية في الاهمية بحيث يمكن للتطبيق ان يعرض المعلومات المتعلقة بمريضه قبل تحديد آلية العلاج وهو ما يضمن حصوله على رعاية صحية دقيقة وعالية الجودة بوقت اسرع([25]).
نستنتج مما تقدم
بعد بيان صور الذكاء الاصطناعي نجد بأن التقدم العلمي والتقني كان له الفضل الاكبر في زيادة استخدام الذكاء الاصطناعي في كثير من الحالات ومنها القيام بتشخيص المرض قبل تفاقمه وكذلك تحديد الدواء المناسب لهذه الامراض، فيساعد الاطباء على التدخل الجراحي وتخفيف العبء عنهم، علاوة على ذلك يدخل في مجال الاختبارات والتجارب العلمية والقيام بالعمل الاداري داخل المنشأة الطبية بما يخفف الضغط على الموظفين وتنظيم ملفات المرضى بما يسمح للوصول الى المعلومة في فترة زمنية اسرع.
الفرع الثاني
النطاق الفقهي والقانوني للذكاء الاصطناعي
في ظل تزايد استخدامات الذكاء الاصطناعي في المجال الطبي وتزايد حدوث الجرائم من خلال الذكاء الاصطناعي من هنا نشأ الجدل الفقهي حول اقرار المسؤولية الجزائية لتقنيات الذكاء الاصطناعي في المجال الطبي وجعل القضاء له دور فعال في فرض العقوبات بحق الربورت عند ارتكاب خطأ طبي بحق احد الاشخاص.
لذا يمكن ان نقسم هذا الفرع الى نقطتين الاولى الجدل الفقهي حول اقرار وعدم اقرار المسؤولية الجزائية للذكاء الاصطناعي في المجال الطبي، والثانية التكييف القانوني لتقنية الذكاء الاصطناعي.
أولا: الجدل الفقهي حول اقرار او عدم اقرار المسؤولية الجزائية للذكاء الاصطناعي في المجال الطبي.
تعددت آراء الفقهاء حول اقرار او عدم اقرار المسؤولية الجنائية للذكاء الاصطناعي فقد رأى من الفقهاء على ان الروبوت يتمتع بالشخصية القانونية المحدودة فيكون له اسم ويتمتع بالذمة المالية المستقلة ويكون له جنسية([26])، وله القدرة على اتخاذ قرار بشكل منفرد ومن ثم يمكن ان يرتكب جريمة طبية، فتقوم بشأنه المسؤولية الجزائية.
وذهب آخرين الى الاعتراف للروبوت بالمسؤولية الجزائية استنادا الى ذلك يعد ضرورة واقعية ويبني اصحاب هذا الاتجاه رأيهم على حجج واقعية([27]) يمكن ايجازها على النحو التالي:
1-مع الاعتراف للروبوت بأنه آلة، الا انه يجب مع ذلك الاعتراف ايضا بأن لهذه الآلة ادراك وذكاء اصطناعي وقدرة على التصرف، وكذلك له القدرة على اتخاذ القرار المنفرد فأن هذا الروبوت يمتلك القدرة على القيام بالأفعال بعلم وارادة حيث تخزن بداخله البيانات والمعلومات ويقوم بتحليلها ويصدر فعله بوعي اصطناعي بناء على هذه البيانات.
2-ان الاعتراف بالمسؤولية الجزائية لتقنيات الذكاء الاصطناعي هو نتيجة حتمية للتحليل الدقيق لطبيعة الروبوتات التي اصبحت لها الشخصية القانونية حتى ولو كان ذلك بشكل محدود ويعد ذلك وسيلة لا غنى عنها لحماية مصالح المجتمع، فليس صحيحا الاحتجاج بأن الروبوت لا ارادة له فأن ساغ هذا القول عند من يرون في الروبوت مجرد آلة او اداة فهو غير مقبول في منطق النظرية الواقعية التي اسود الفقه الحديث وترى ان الروبوت وجودا حقيقا قائما([28])ويمكنه اتخاذ القرار المنفرد والتصرف بحرية وارادة([29]).
3-ان انكار المسؤولية الجزائية للروبوت يتعارض مع نصوص القانون المدني الاوربي الخاص بالروبوتات الصادر في فبراير 2017 والذي يميل نحو منح بعض من الشخصية القانونية المحدودة لتقنيات الذكاء الاصطناعي.
4-ان القول بأن العقوبات التي يعرفها قانون العقوبات قد وقعت خصيصا للآدميين فلا يتصور تطبيقها على الروبوتات فهذا القول لا يصدق على العقوبات المالية كالغرامة او المصادرة بحسبان وان للروبوت ذمة مالية مستقلة ويستطيع المشرع حرمانه من بعض عناصرها، ومن جهة اخرى فإن بإمكان المشرع ان يضع عقوبات تناسب الروبوت كالتعطيل او المنع من الاستخدام.
5-اعتراف للروبوت بالمسؤولية الجزائية يعد امرا طبيعيا في ظل الاعتراف له بأنه قد يكون مجنيا عليه في بعض الجرائم([30])، فهذا لتطور المتصل في الذكاء الاصطناعي يجعل من الروبوت شخصا جديدا يتمتع بحقوق محدودة نظرا لما يتمتع به من ادراك حسي ووعي وردود فعل ذكية.
6-يتمتع الروبوت في حالات معينة بالاستقلالية عن صانعه او مستخدمه فيستطيع الروبوت ان يأخذ القرار بمفرده ومن جهة اخرى فهناك حالات يستحيل فيها تحديد المسؤول الحقيقي عن الجريمة ممن اشتركوا فيها مع الروبوت وهل هو المستخدم ام المبرمج ام الصانع.
الاتجاه الرافض.
يرى جمع من الفقه على ان المسؤولية بوجه عام هي حال او صفة من يسأل عن امر تقع عليه تبعته فهي تحمل الفرد تبعة افعاله حال مخالفته للقانون([31])، وحيث اصبح من الممكن ان يرتكب الروبوت جريمة طبية حال ممارسته لبعض الانشطة الطبية من خلال اجراء عملية جراحية او نقل العدوى من خلال نقل دم ملوث او الغسيل الكلوي او زرع عضو مصاب بفيروس معد او الخطأ اثناء العمليات الجراحية.
بعد الاطلاع على آراء الفقهاء نجد بأن المسؤولية الجزائية لا تثبت الا للإنسان الطبيعي اما الروبوت فهو آلة تكون في يد الطبيب الشرعي وبما ان هذه الآلة يتم التحكم بها من قبل الطبيب فأن المسؤولية الجزائية تقع على عاتق الطبيب المختص كونه لا يتقن العمل بها.
وان كل ما جاء من تأييد للآراء الفقهاء حول ترتيب المسؤولية الجزائية بحق الروبوت يمكن دحضها وفقا لما ذكر اعلاه.
ثانياً: التكييف القانوني للجرائم التي ترتكب بواسطة تقنيات الذكاء الاصطناعي.
عند قيام الذكاء الاصطناعي بارتكاب جريمة ما فهنا يتم البحث عن الجاني فيمكن ان يكون الجاني هو المصنع ام المشغل ام المستخدم ام تقع المسؤولية على الشركة ام بين خطأ في البرمجة او خطأ في التشغيل ولتعدد اطراف الجريمة وبالتالي اينما تقع عليه المسؤولية الجنائية عند ارتكاب فعل ما، لذا سوف نوضح هذه المراحل وفقا للآتي:
1- المسؤولية الجزائية للمصنع او المبرمج.
يقوم المبرمج بتطوير برمجيات الروبوت واحداث وتصميم برنامج لارتكاب جرائم بواسطة الروبوت فيعمل على وضع برنامج لإشعال النيران في موقع ما لا يتواجد فيه السكان، فيقوم الروبوت بتنفيذ البرنامج وبالتالي فهل تقع المسؤولية الجزائية على الروبوت لكون هو من قام بوضع النار وتنفيذ الجريمة([32]).
نرى ان من يسأل عن ارتكاب هذه الجريمة هو المبرمج وذلك لأن الأخير هو من قام ببرمجة الروبوت لارتكاب هذا الفعل.
اما المصنع اذا قام بتصنيع الروبوت وتبين بخطأ في البرمجة او بالتكوين الداخلي للروبوت وعلى اثرها تبين بحدوث جريمة جنائية فهنا يكون المصنع هو المسؤول جنائيا عما ارتكب من فعل ما وبالتالي على من تضرر ان يطالب بالتعويض.
وهذا ما نجده في المادة (67/ فقرة1) من قانون التجارة المصري المرقم 17 لسنة 1999 على انه “يسأل منتج السلعة وموزعها قبل كل من يلحقه ضرر بدني او مادي يحدثه المنتج اذا ثبت هذا الشخص ان الضرر نشأ بسبب عيب في المنتج”.
أما عن موقف المشرع العراقي فانه لم يتطرق الى تنظيم مسؤولية المنتج للسلعة في القانون المدني العراقي وانما رجع الى القواعد العامة فقط، ولكن المشرع الفرنسي قد اشار الى تعريف المنتج في نص المادة 1386/1 والدالة على التزام المنتج بضمان السلامة من اجل وضع اساساً قانونياً سليماً بالتزام المنتج والذي يستفاد منه المضرور والمتعاقد مع المنتج والغير في الوقت نفسه، نود التنويه الى نص المادة 1386/1 من القانون الفرنسي والتي تنص “يكون المنتج مسؤولاً عن الاضرار التي تسببها منتجاته المعيبة سواء ارتبط بالعقد…الخ([33]).
وبالتالي نرى ان هناك اختلاف بين القانون المصري والعراقي والفرنسي كون ان المشرع العراقي لم يفرد نصاً بحق المنتج فعلى المشرع العراقي ان يحذو حذو القوانين التي ذكرت اعلاه، فضلاً عن ان المنتج والمبرمج الالزام بمراعاة الجودة وفقا للمواصفات المطلوبة ولا يكون همه الاكبر هو تحقيق الربح فقط مما ينعكس سلبا على المجتمع ويؤدي الى حدوث اضرار يتسبب فيها الذكاء الاصطناعي بسبب عدم مراعاة الجودة في الانتاج.
2- المسؤولية الجزائية للمستخدم.
يعرف مستخدم الذكاء الاصطناعي: هو الشخص الذي يتمتع بتقنياته فيمكنه استخدامه والاستفادة من قدراته الهائلة ومن المتوقع ان يقوم المالك او المستخدم بإساءة استخدام برنامج الذكاء الاصطناعي مما يترتب عليه حدوث جريمة معينة يعاقب عليها القانون.
ومن تحليل المفهوم اعلاه نكون هنا امام عدة احتمالات وهو الشخص الذي ر يقوم ببرمجة الروبوت وانما هو من يقوم باستخدامه لتنفيذ مصالحه الخاصة فيشتري المستخدم روبوت خادم مصمم لتنفيذ أي امر من صاحبه او يحدد الروبوت مستخدمه او صاحبه على انه الموجه، فيأمره هذه الموجه بمهاجمة فيقتل المتسلل وفي هذه الحالة فإن من قام بالتنفيذ هو الروبوت ولكن المستخدم هو من اعطى الامر ومن ثم هو المسؤول جزائيا([34]).
وبالتالي، نرى ان ارتكاب الجريمة من قبل الروبوت ولم يقم المستخدم بتنفيذه وفقا للنموذج القانوني للسلوك الاجرامي فهنا نكون امام صورة من صور المسؤولية الجزائية للفاعل المعنوي فعندما يستخدم المبرمجون او المستخدمون للروبوت على هذا النحو فإن يقوم به الاخير هو يسئ الى المستخدم وذلك لتوافر الركن المعنوي لارتكاب الجريمة وذلك لتوافر نية ارتكاب الجريمة لدى المستخدم عندما وجه الروبوت لقتل من يتسلل اسوار المنزل ليلا وان الفاعل الاصلي في هذه الجريمة هو المستخدم.
لذا نرى ان هناك مسؤولية جزائية بجانب المسؤولية التقصيررية التي تنشأ وفقاً لاحكام القانون المدني المصري في المادة 1630 وتنص على “كل خطأ يتم ارتكابه ويسبب اذى للغير فعليه يلزم التعويض على من ارتكبه”، أم في القانون المدني العراقي فقد نصت المادة 204 “كل تعدٍ يصيب الغير بأي ضرر يستوجب التعويض وبالتالي نجد ان هناك اتفاق ما بين القانونين المصري والعراقي على تعويض المتضرر من الفعل المرتكب.
3- المسؤولية الجزائية للروبوت بتصرفه المباشر.
ان التصور في الواقع العلمي على ان الروبوت يرتكب السلوك الاجرامي بناء على تطوره الذاتي دون تدخل الشخص الطبيعي الذي قام بتصنيعه او برمجته او تشغيله وذلك لأن التقدم العلمي والتكنولوجيا في مجال تقنيات الذكاء الاصطناعي قد يؤدي الى اتخاذ قرارات خاطئة وارتكاب سلوك اجرامي بصورة مستقلة فعلى سبيل المثال جرائم فصل اجهزة التنفس الاصطناعي عن المريض او غلق وريد المريض مما يؤدي الى تجلط الدم او وصف دواء خاطئ وحقن ابر غير مطابقة في الجسم او اتخاذ قرار غير مناسب للحالة المرضية او غيرها من الصور الاجرامية الاخرى.
ففي هذه الحالة يطغى الخطر ويزداد الضرر اذا كانت برامج او آليات الذكاء الاصطناعي تتمتع باستقلالية كاملة وتتخذ قراراتها دون الرجوع الى الانسان، اذا يتصرف الروبوت بمفرده بقصد تغير الظروف الواقعية المحيطة ويكون هذا التصرف بإدراك اصطناعي وعلى قدر من الاختيار المبرمج.
وبالتالي نحن نرى على انه يجب ان يكون للروبوت وضع قانوني معين يتجاوز وضع الآلة او الاداة بالإضافة لذلك امتلاكه القدرة على التصرف واتخاذ القرار بحرية واقتدار دون تدخل من خارج انظمته الداخلية، أي بمعنى يجب ان يتحرر الروبوت من أي مؤثرات خارجية مما يجعله يتصف بالقدرة الذاتية وكذلك الذكاء الاصطناعي الذي يؤهله للقيام بتطوير نفسه والتعلم المثمر وله القدرة على اصدار قرارات ذاتية تكون خارجة عن النظام الذي يضعه المبرمج.
ونوجز بعض الامثلة الواقعية على هذه الحالات قيام الروبوت الجراح بفصل جهاز الاوكسجين عن المريض او ضخ كمية كبيرة من الدم في جسد المريض مما يصيبه بالتجلط، وكذلك السيارات ذاتية القيادة كما لو قامت سيارة ذاتية القيادة لها كامل السيطرة على حركتها بالتحرك من مكان الى اخر وفي طريقها قامت بصدم شخص ما من المارة وتسببت بإصابته او مقتله.
او تسبب روبوت بأحد المصانع بقطع يد احد العاملين في المصنع بسبب خطأ في تقدير الروبوتات التي تعمل بشكل منفرد عن الانسان ولها كامل السيطرة على افعالها وقراراتها الذاتية([35]).
نستنتج مما تقدم
بعد تزايد استخدام الذكاء الاصطناعي في جميع مجالات الحياة وخاصة في المجال الطبي يستلزم تبعا لذلك تطوير المنظومة التشريعية للتماشى مع التطور الهائل في تقنيات الذكاء الاصطناعي والاخذ بنظر الاعتبار في تطبيق النص العقابي حسب ظرف كل جريمة، فاذا أخل المستخدم والمبرمج والمصنع في التزامه بتقنية الذكاء الاصطناعي(الروبوت) فهنا تنهض المسؤولية الجزائية بحق هؤلاء وانزال العقوبة بما يتناسب والفعل المرتكب هذا من جهة، أما من جهة اخرى فان اهمال حق المجنى عليه المتمثل بالمريض من بعد ارتكاب الجريمة يشكل سابقة طيرة تقع على عاتق المجتمع وبالتالي فان الشركة المصنعة لجهاز الروبوت يقع عليها العبء الاكبر عندما تقوم ببيع الجهاز الى الجهات الطبية، ويجب ان يعزز بضمانات وغالبا ما تكون هذه الضمانات سنوية تمتد الى اكثر من خمس سنوات على اقل تقدير، فاذا ارتكبت الجريمة بحق المريض خلال فترة الضمان بسبب خلل طرأ على منظومة الجهاز فهنا تنهض المسؤولية الجزائية بحق صاحب الشركة المصنعة، كونه قد قدم ضمانات سابقة من خلال التعاقد مع الجهة الطبية المستورد للجهاز. وبالتالي نحن بحاجة الى تدخل تشريعي وافراد نص خاص بحق الجريمة المرتكبة للذكاء الاصطناعي على ان يذكر في النص(بأن الجرائم المرتكبة من قبل الذكاء الاصطناعي في المجال الطبي تعد ظرفاً مشدداً بحق مرتكبيها).
الخاتمة
بعد اكمال البحث توصلنا الى جملة من النتائج والمقترحات كالآتي:
اولاً: النتائج:
1-إن اعتراف الفقهاء بالشخصية القانونية للذكاء الاصطناعي والذمة المالية المستقلة يعد اعترافاً غير صحيح ، كون ان المعيارين غير متحققان في الواقع العملي وذلك لأن الروبوت هي آلة ويمكن ان تتناول ملكيتها من شخص الى آخر.
2-ان ترتب المسؤولية الجنائية بحق المصنع او المبرمج او المستخدم لأجهزة الروبوت اذا كان ارتكاب الجريمة بفعل عمدي وبالتالي تطبق عليه احكام المسؤولية الجزائية.
ثانياً: المقترحات
1-تقترح بشأن الاستخدام بتشريع قانون خاص يعالج الجرائم المرتكبة من قبل تقنيات الذكاء الاصطناعي وكذلك الاعتراف بالوجود القانوني للروبوت، ووضع نصوص مشددة لمعالجة تلك الجرائم سواء كانت عمدية ام غير عمدية للحد من استغلال التكنولوجيا في ارتكاب الجرائم المتنوعة من حيث المصلحة المحمية التي تمسها.
2-محاولة استفادة المشرع في تطوير فكرة الفاعل المعنوي التي وردت في نص المادة 47 الفقرة 3 من قانون العقوبات العراقي والتأكيد على امكانية استغلال قدرات هذه الاجهزة في ارتكاب الجرائم حيث يبقى الفاعل المعنوي ليس باعتباره مستخدما (لأداة تقليدية) يرتكبها في الجريمة وانما مناقشة مقدار الخطورة المتأتية من استخدام هذا النوع من الادوات ذات الطبيعة الذكائية التي قد تسهل من ارتكاب الجرائم بشكل اكثر انتاجا للجريمة من استخدام ادوات تقليدية في ارتكابها.
الهوامش:
([1])احمد ابراهيم محمد ابراهيم، المسؤولية الجنائية الناتجة عن اخطاء الذكاء الاصطناعي في التشريع الاماراتي دراسة مقارنة، اطروحة دكتوراه، جامعة عين شمس، مصر، 2020، ص34.
([2])انظر: قانون المعاملات الالكترونية الاردني المرقم 15 لسنة 2015.
([3])انظر: قانون التوقيع الالكتروني والمعاملات الالكترونية العراقي رقم 78 لسنة 2012.
([4])انظر: قانون المعاملات والتجارة الالكترونية الاماراتي رقم 1 لسنة 2006.
([5])محمد ذيب حمود العتيبي، اكتشاف الوصول غير الشرعي لجذر الرئيسي باستخدام الذكاء الاصطناعي، جامعة الامام محمد بن مسعود الاسلامية، الرياض، 2005، ص17.
([6])عادل عبد النور، اساسيات الذكاء الاصطناعي، منشورات مواقف، بيروت، 2017، ص201.
([7])عبد الرزاق السالمي، نظم المعلومات والذكاء الاصطناعي، دار النشر، عمان، 1999، ص43.
([8])عبد الحميد بسيوني، الذكاء الاصطناعي والوكيل الذكي، البيطاش للنشر والتوزيع، الاسكندرية، 2005، ص41.
([9])خالد ممدوح ابراهيم، التنظيم القانوني للذكاء الاصطناعي، دار الفكر الجامعي، الاسكندرية، ط1، 2021.
([10])د. خالد ممدوح ابراهيم، مرجع سابق، ص26.
([11])مقال حول الفرق بين الذكاء البشري والذكاء الاصطناعي عبر الموقع تمت الزيارة اليه في 10/6/2024
https://mothem.com/@/technology
([12])عبد الله موسى، د. احمد جلال، الذكاء الاصطناعي، ثورة في تقنيات العصر، ط1، دار الكتب المصرية، القاهرة، ص95، 2019.
([13])د. عبد الله موسى، د. احمد بلاب، الذكاء الاصطناعي، ثورة في تقنيات العصر، مرجع سابق، ص98.
([14])د. احمد شوقي عمر ابو خطوة، القانون الجنائي والطب الحديث دراسة تحليلية مقارنة لمشروعية نقل وزرع الاعضاء البشرية، دار النهضة العربية، 2007، ص844.
([15])د. محمد حسين منصور، المسؤولية الطبية، منشأة المعارف، الاسكندرية، ط1، 2001، ص49.
([16])د. اسماء محمد السيد، تطبيقات الذكاء الاصطناعي ومستقبل تكنولوجيا التعلم، رسالة دكتوراه، كلية التربية، جامعة المينا، 2020، ص124.
([17])د. محمد حسين منصور، المسؤولية الطبية، مرجع سابق، ص42.
([18])د. احمد ابراهيم محمد ابراهيم، المسؤولية الجنائية عن اخطاء الذكاء الاصطناعي التشريع الاماراتي، دراسة مقارنة، اطروحة دكتوراه، جامعة عين شمس، 2020، ص144.
([19])د. عبد الله موسى، احمد بلال، الذكاء الاصطناعي، مرجع سابق، ص101.
([20])د. نفين فاروق فؤاد، الآلة بين الذكاء الطبيعي والذكاء الاصطناعي دراسة مقارنة، مجلة البحث العلمي في الآداب كلية البنات، جامعة عين شمس، العدد 13، الجزء3، 2012، ص174.
([21])د. احمد ابراهيم محمد ابراهيم، المسؤولية الجنائية الناتجة عن اخطاء الذكاء الاصطناعي في التشريع الاماراتي، مرجع سابق، ص144.
([22])د. فايز النجار، نظم المعلومات الادارية منظور اداري، دار الحامد للنشر والتوزيع، ط4، د. ت، 2010، ص65.
([23])د. اسماء محمد السيد، تطبيقات الذكاء الاصطناعي ومستقبل التكنولوجيا التعليم، مرجع سابق، ص133.
([24])د. عبد الله موسى، د. احمد بلاب، الذكاء الاصطناعي، ثورة في تقنيات العصر، مرجع سابق، ص101.
([25]) Gabriel Hanery, the criminal of the artificial intelligence entities-from scince fiction legal social control of cite, 20010.
([26])انظر: الروبوت صوفيا هواشر، روبوت حتى الآن صممته شركة هاتسون روبوتيكس الكائنة في هونج كونج صممت شبيه بالبشر ولها القدرة على التعلم والتأقلم مع السلوك البشري والتعامل معه وحصلت صوفيا على الجنسية السعودية في اكتوبر 2017.
([27])انظر: الى المذهب الوصفي الذي يرى ان اساس المسؤولية الجزائية هو الحتمية وعوامل خارجة عن ارادة الانسان، انظر: د. محي الدين عون، مصدر سابق، ص218.
([28])انظر في عرض نظرية الحقيقة Plariol, Ripertet Bonlanger: Traitee Lerenwataire de droit civil 17(1948), no 706, P.270.
([29])د. حمد محي الدين عوض، المشكلات السياسية الجنائية المعاصرة في جرائم نظم المعلومات للكمبيوتر، بحث مقدم للمؤتمر السادس للجمعية المصرية للقانون الجنائي، ص217.
([30])احمد محمودة، ازمة الوقوع في الاثم الجنائي في القانون الجزائري والقانون المقارن، الجزء الاول، دار هومه، الجزائر، ط4-5، ص56.
([31])د. احمد ابراهيم محمد ابراهيم، المسؤولية الجنائية الناتجة عن اخطاء الذكاء الاصطناعي في التشريع الاماراتي، مرجع سابق، ص71.
([32])د. يحيى ابراهيم دهشان، المسؤولية الجنائية عن جرائم الذكاء الاصطناعي، بحث منشور، مجلة الشريعة والقانون، العدد 82، ابريل 2020.
([33])انظر المادة 67/ فقرة1 من قانون التجارة المصري المرقم 17 لسنة 1999.
([34])د. وفاء محمد ابو المعاطي صقر، المسؤولية الجنائية عن جرائم الذكاء الاصطناعي- دراسة تحليلية استشرافية، مجلة روح القوانين، العدد 96، اكتوبر 2021، ص60.
أولاً: الكتب العربية
- احمد شوقي عمر ابو خطوة، القانون الجنائي والطب الحديث دراسة تحليلية مقارنة لمشروعية نقل وزرع الاعضاء البشرية، دار النهضة العربية، 2007.
- احمد محمودة، ازمة الوقوع في الاثم الجنائي في القانون الجزائري والقانون المقارن، الجزء الاول، دار هومه، الجزائر، ط4.
- حمد محي الدين عوض، المشكلات السياسية الجنائية المعاصرة في جرائم نظم المعلومات للكمبيوتر، بحث مقدم للمؤتمر السادس للجمعية المصرية للقانون الجنائي.
- خالد ممدوح ابراهيم، التنظيم القانوني للذكاء الاصطناعي، دار الفكر الجامعي، الاسكندرية، ط1، 2021.
- الروبوت صوفيا هواشر، روبوت حتى الآن صممته شركة هاتسون روبوتيكس الكائنة في هونج كونج صممت شبيه بالبشر ولها القدرة على التعلم والتأقلم مع السلوك البشري والتعامل معه وحصلت صوفيا على الجنسية السعودية في اكتوبر 2017.
- عادل عبد النور، اساسيات الذكاء الاصطناعي، منشورات مواقف، بيروت، 2017.
- عبد الحميد بسيوني، الذكاء الاصطناعي والوكيل الذكي، البيطاش للنشر والتوزيع، الاسكندرية، 2005.
- عبد الرزاق السالمي، نظم المعلومات والذكاء الاصطناعي، دار النشر، عمان، 1999.
- عبد الله موسى، د. احمد جلال، الذكاء الاصطناعي، ثورة في تقنيات العصر، ط1، دار الكتب المصرية، القاهرة، 2019.
- فايز النجار، نظم المعلومات الادارية منظور اداري، دار الحامد للنشر والتوزيع، ط4، د. ت، 2010،
- محمد حسين منصور، المسؤولية الطبية، منشأة المعارف، الاسكندرية، ط1، 2001.
- محمد ذيب حمود العتيبي، اكتشاف الوصول غير الشرعي لجذر الرئيسي باستخدام الذكاء الاصطناعي، جامعة الامام محمد بن مسعود الاسلامية، الرياض، 2005.
- الى المذهب الوصفي الذي يرى ان اساس المسؤولية الجزائية هو الحتمية وعوامل خارجة عن ارادة الانسان.
ثانياً: الكتب الاجنبية
- Gabriel Hanery, the criminal of the artificial intelligence entities-from scince fiction legal social control of cite, 20010.
- Plariol, Ripertet Bonlanger: Traitee Lerenwataire de droit civil 17(1948), no 706, P.270.
ثالثاً: الرسائل والاطاريح
- احمد ابراهيم محمد ابراهيم، المسؤولية الجنائية الناتجة عن اخطاء الذكاء الاصطناعي في التشريع الاماراتي دراسة مقارنة، اطروحة دكتوراه، جامعة عين شمس، مصر، 2020.
- اسماء محمد السيد، تطبيقات الذكاء الاصطناعي ومستقبل تكنولوجيا التعلم، رسالة دكتوراه، كلية التربية، جامعة المينا، 2020.
رابعاً: البحوث المنشورة
- نفين فاروق فؤاد، الآلة بين الذكاء الطبيعي والذكاء الاصطناعي دراسة مقارنة، مجلة البحث العلمي في الآداب كلية البنات، جامعة عين شمس، العدد 13، الجزء3، 2012.
- يحيى ابراهيم دهشان، المسؤولية الجنائية عن جرائم الذكاء الاصطناعي، بحث منشور، مجلة الشريعة والقانون، العدد 82، ابريل 2020.
- وفاء محمد ابو المعاطي صقر، المسؤولية الجنائية عن جرائم الذكاء الاصطناعي- دراسة تحليلية استشرافية، مجلة روح القوانين، العدد 96، اكتوبر 2021.
خامساً: القوانين
- قانون المعاملات الالكترونية الاردني المرقم 15 لسنة 2015.
- قانون التوقيع الالكتروني والمعاملات الالكترونية العراقي رقم 78 لسنة 2012.
- قانون المعاملات والتجارة الالكترونية الاماراتي رقم 1 لسنة 2006.
- قانون التجارة المصري المرقم 17 لسنة 1999.
سادساً: المواقع الالكترونية
- مقال حول الفرق بين الذكاء البشري والذكاء الاصطناعي عبر الموقع تمت الزيارة اليه في 10/6/2024 https://mothem.com/@/technology




