المسؤولية الجنائية عن جرائم الذكاء الاصطناعي

إعداد

د./ رحاب علي عميش

دكتور متعاون مع الأكاديمية العربية للعلوم والتكنولوجيا

كلية الحقوق فرع القرية الذكية

الملخص

حدث في منتصف القرن الماضي ما سمي بالثورة المعلوماتية التي نقلت العالم من عصر الصناعة إلى عصر المعلومات فظهر مجال افتراضي للمعاملات ومسرح إليكتروني للجرائم تجاوز مادية السلوك وعبر حدود الزمان والمكان، شكلت هذه الثورة تحديا كبيرا لقوانين صدرت في عصر الصناعة واستلزمت صدور حزمة جديدة لمواجهة ما استجد من تطورات، لكن ظل الأنسان رغم هذا التحول الحضاري الجديد هو اللاعب الرئيسي للسلوك، وظلت أرادته هي أساس المسؤولية الجنائية، كما استمرت الدولة بأجهزتها الرسمية هي المتحكم من الناحية التقنية في البيانات المخزنة مركزيا على أجهزتها الخادمة من جهة، وهي المسيطر من خلال النظام القانوني لها من جهة أخرى، في هذه الأثناء أخذت التقنية المعلوماتية تتطور في اتجاهين خطيرين شكلا ملامح عصر جديد ذو تحديات مختلفة عن تلك التحديات التي أفرزتها الثورة المعلوماتية الأولى، تمثل الاتجاه الأول في تقنية سلسلة الكتل أو البلوك تشين Block chain، وتمثل الثاني في تقنية الذكاء الاصطناعي (Artificial Intelligence (AI بالنسبة للبلوك تشين أو نظام سلسلة الكتل الأمنة فهو عبارة عن نظام للتخزين الحوسبي الموزع بشكل لامركزي لتسجيل الأحداث والمعاملات والعناوين مما يستحيل معه تزوير أو تغيير أي بيانات مخزنة أو التلاعب فيها، أو السيطرة عليها لأنها تسمح بتسجيل كل معاملة تحدث وأرسالها لكل مستخدم أو مشترك في ذلك النظام المعلوماتي مما مهد لما سمي بالعملة الرقمية اللامركزية خارج سيطرة المؤسسات المالية الرسمية لأول مرة في التاريخ وذلك عندما بدأت هذه العملة في الانتشار والتداول بين الأفراد عبر هذه الشبكة بعيدا عن الأجهزة الرقابية للدول لتشكل بذلك تحديا كبيرا للنظم القانونية للنقد والحماية الجنائية للأموال عامة وقوانين مكافحة غسل الأموال بصفة خاصة، أما بالنسبة للتقنية الأخرى فهي تقنية الذكاء الاصطناعيAIوهي تتمثل في خصائص معينة تتسم بها بعض البرامج الحاسوبية تجعلها تحاكي القدرات الذهنية البشرية وأنماط عملها مثل القدرة على الاستنتاج ورد الفعل واتخاذ بعض القرارات مثل السيارات والطائرات ذاتية القيادة وبعض الأجهزة الطبية من جهة، وبعض البرامج والتطبيقات المتعلقة بتداول الأسهم المالية من جهة أخرى، لتصبح الألة هي المتخذ للقرار وصاحبة السلوك حيث يثور الجدل حول القواعد التقليدية للمسؤولية الجنائية التي تعتمد على إرادة الأنسان وقصده الجنائي. فهل يشكل انتشار هاتين التقنيتين ثورة معلوماتية ثانية؟ وهل أصبحنا في حاجة لإعادة النظر في النظم القانونية الصادرة في حقبة الثورة المعلوماتية الأولى؟ هذا ما سنحاول الإجابة عليه في هذه الورقة حيث يخصص المبحث الأول منها للتحدي المعلوماتي لسلسة الكتل والعملة الرقمية، ويخصص المبحث الثاني للتحدي المعلوماتي للذكاء الاصطناعي. قانون العقوبات وتحديات الثورة المعلوماتية الثانية.

كان اختراع الالة الذي شهده منتصف القرن الماضي إيذانا ببداية الثورة الصناعية التي نقلت العالم من عصر الزراعة إلى عصر الصناعة، وقد شكل ذلك تحولا حضاريا كبيرا اثر في جميع المجالات فظهرت نظم ومفاهيم قانونية جديدة لم يعرفها عصر الزراعة، مثل الملكية الصناعية وبراءات الاختراع والمسؤولية عن إصابات العمل والجرائم الاقتصادية مما كان له كبير الأثر على النظم القانونية السائدة في ذلك الوقت ولم يلبث هذا التطور حتى افرز تقنيتيتن صناعيتين كبيرتين هما تقنية الاتصالات من جهة وتقنية المعلومات وعلوم الحاسب الألي من جهة أخرى، أخدت كل من هاتين لتقنيتين تتطور منفردة إلى أن حدث بينهما الاقتران التقني الخطير الذي شكل ملامح الثورة المعلوماتية في بداية تسيعينيات القرن الماضي وهي الثورة التكنلوجية التي نقلت العالم بدورها من عصر الصناعة إلى عصر المعلومات، ليتحول العالم بفضل هذا الفتح المعلوماتي الجديد إلى قرية عالمية واحدة تذوب فيها الحدود القومية وتتقلص فيها الحدود الأيديولوجية لصالح أفكار عالمية موحدة تتجاوز كل الأفكار والحدود التقليدية، فلم تعد القوانين التي عرفها العالم في عصر الصناعة كافية لمواجهة التحديات القانونية الجديدة الناتجة عن ظهور مفاهيم جديدة من جهة، وتطور مضمون البعض الأخر من جهة أخرى، فظهرت الجريمة الإلكترونية وملكية المواقع الافتراضية وأصبحت الدول تتسابق لتأسيس الحكومة الإلكترونية والمستند الإلكتروني فتطور مفهوم السلوك الإجرامي بعد أن اصبح للجريمة مسرحا إليكترونيا، وللمعاملات عالما افتراضيا، فتقلص مفهوم سيادة الدولة على أراضيها بعد أن تغير مفهوم الصراعات السياسية وانتقلت الحروب من ساحات المعارك التي تخوضها الجيوش العسكرية إلى السباق على امتلاك المعلومات واحتكارها، كما تطور أيضا مفهوم الملكية وحرمة الحياة الخاصة للأفراد فلم يعد للحياة الخاصة للأفراد مضمونا ضيقا كذلك الذي عرفته الحماية الجنائية للحياة الخاصة في عصر الصناعة، والذي اقتصر على وسائل الاتصالات التقليدية فأصبحت البيانات الشخصية التي تحصل عليها أي مؤسسة مالية أو طبية تشكل جزءا كبيرا من الحياة الخاصة للأفراد، وأصبحت المواقع والحسابات الإلكترونية محلا للحقوق العينية، من هنا كانت الحاجة إلى قوانين العقوبات الإلكترونية وقوانين المعاملات التجارية والمدنية الإلكترونية، وقوانين النظم القانونية للنقود الإلكترونية، فأخذت الأموال والعملات النقدية المختلفة تتدفق عبر شبكة الأنترنت بسرعة الضوء لتغطية معظم المجالات التجارية حول العالم، ولعل أهم ما ميز هذه الثورة، هو السرعة الكبيرة في التحولات التي تشهدها، فهذه الثورة تتطور بشكل يفوق بمرات عدة التقدم الذي شهدته هذه الثورة في بداياتها، ويعجز كثيرون حتى من المتابعين لها والمهتمين بها عن ملاحقة التغيرات التي تشهدها هذه التقنية المتطورة خاصة خلال العقدين الماضيين.

حدث كل ذلك لكن ظل الإنسان هو اللاعب الرئيس للسلوك، وظلت إرادته هي الأساس العام للمسؤولية الجنائية والمدنية في جميع النظم القانونية، كما استمرت هي الكيان المعنوي الأقوى والعملاق الإداري الأكبر والأكثر تحكما في هذه التقنية من خلال سيطرتها على الأجهزة الحاسوبية الخادمة الكائنة في أراضيها والتي تخزن بها البيانات بشكل مركزي يسمح للدولة بحجب ما تشاء من مواقع، وظلت هذه الأجهزة الخادمة هي المستودع الرئيس للبيانات المختلفة، والمركز المتاح للهجوم والاختراق من قبل مرتكبي الجرائم الإلكترونية، نظرا لمركزية التخزين من الناحية التقنية، في هذه الأثناء وكأن التاريخ الحضاري يعيد نفسه بحلة جديدة كما حدث في الثورة المعلوماتية في منتصف تسعينات القرن الماضي، أخذت التقنية المعلوماتية تتطور في اتجاهين خطيرين شكلا ملامح مرحلة تقنية ومعلوماتية عصرية جديدة، تحمل تحديات مختلفة عن تلك التحديات التي أفرزتها الثورة المعلوماتية الأولى، تمثل الاتجاه الأول في تقنية سلسلة الكتل أو البلوك تشين Block Chain من جهة، وتمثل الثاني في تقنية الذكاء الاصطناعي Artificial intelligence من جهة أخرى.

فهل يشكل انتشار هاتين التقنيتين ثورة معلوماتية ثانية؟ وهل تكفي المفاهيم القانونية الصادرة أبان الثورة المعلوماتية الأولى أم أننا في حاجة لإعادة النظر في النظم القانونية الصادرة بعد الثورة المعلوماتية الأولى؟ هذا ما سنحاول الإجابة عليه في هذه الورقة بعد أن يخصص المبحث الأول منها للتحدي المعلوماتي لسلسة الكتل الأمنة والعملة الرقمية، ويخصص المبحث الثاني للتحدي المعلوماتي للذكاء الاصطناعي.

المبحث الأول

التحديات القانونية لتقنية سلسلة الكتل الآمنةBloockchain

نعرض في هذا المبحث إلى الحديث عن مفهوم تقنية البلوك تشين وأهم خصائصها قبل أن ننتقل للحديث عن أهم تطبيقاتها.

المطلب الأول

مفهوم تقنية البلوكتشين

يمكن تعريف تقنية البلوك تشين أو نظام سلسلة الكتل الآمنة Block chain بأنها عبارة عن تقنية جديدة تستند إلى خوارزمية تسمح للمشاركين في شبكة تكنولوجيا المعلومات بمعالجة وتخزين ومشاركة البيانات عبر نقاط متعددة دون الحاجة إلى أي وسيط، على الأقل من أجل ضمان سلامة البيانات التي يتم التعامل معها. ^([1])فهي نظام لتسجيل كل معاملة تحدث وأرسالها لكل مستخدم أو مشترك في ذلك النظام المعلوماتي وقد اعتقد البعض في البداية أن هذه التقنية هي مجرد نوع جديد في حفظ البيانات لكنها تعتبر ثورة جديدة في عالم التوثيق تختلف في تصميمها عن قاعدة البيانات التقليدية، فهي تقنية تعمل على هيئة نظام سجل إلكتروني عام لامركزي لمعالجة الصفقات والبيانات وتدوينها أي هي بمثابة الدفتر الأستاذ الذي يتيح لكل الأطراف تتبع البياناتوالمعلومات عبر شبكة آمنة لا تستدعي التحقق من طرف ثالث وهي أخذة في الانتشار بشكل كبير حيث يتوقع التقنيون أنها ستصبح حديث العديد من القطاعات حول العالم قريبا فهي قاعدة بيانات أو أسلوب جديد لتنظيم البيانات إلا أن طريقة التعامل معها مختلفة^([2])حيث تتم عملية التخزين وحفظ البيانات فيها بطريقة سميت بالكتل، فهي قواعد للبيانات تتميز بأنها تستطيع إدارة عدد غير نهائي من البيانات، ولذلك سميت بسلسلة من الكتل الآمنة لأنها تسمح باستنساخ فوري وتلقائي لأي عملية ويسمح بتحقيق نظام نسخ لامركزي في تسجيل الأحداث والعناوين وكل عملية تحدث وتسجل في هذا النظام تسمى كتلة أو بلوك Block، وكل بلوك منها تحتوي على بعض المعلومات التي تشير إلى الكتلة السابقة، ولا يمكن تعديلها من قبل أي طرف، ويمكن لهذه التقنية أن تقوم بأي نوع من المعاملات التي تفكر بها، بدءا من تحويل الأموال إلى نقل البضائع والملكيات، واستخداماتها غير المحدودة^([3])وهو ما فتح أفاقاُ كبيرة أمام تداعيات عميقة على النظام الاقتصادي العالمي بما فيها الاستغناء عن الوسطاء (كالبنوك مثلا) في إتمام المعاملات التجارية نظرا لعد الحاجة اليهم من خلال التخزين اللامركزي واسع النطاق الذي يستحيل معه التزوير أو التحريف مما اصبح يؤثر تأثيرا كبيرا على مجريات التجارة العالمية كما نعرفها اليوم ^([4]).

تأسيسا على ما تقدم وللمزيد من التأصيل نحتاج إلى بيان أهم خصائص هذه التقنية في المطلب التالي:

المطلب الثاني

أهم خصائص تقنية البلوك تشين ومجالات استخدامها

1. الأمن: تعد تقنية البلوك تشين Block chain الأكثر أمانا في تخزين وتشفير البيانات حتى الأن نظرا لأن البيانات التي يتم نقلها باستخدام البلوك تشين، يتم تشفيرها قبل أرسالها أو انتقالها من مكان لآخر، فإنها أكثر أمنا من وسائل الحماية العادية ككلمة المرور واسم المستخدم، ذلك لأن هذه الكتل تجعل من البيانات أو العمليات التي يتم تسجيلها عبر لشبكة منسوخة في كل الأجهزة المرتبطة بهذا لترابط حتى في حالات اختراق أحد هذه الأجهزة أو تدميره فلا يمكن لهذا الاختراق أو التدمير أن يطال الأجهزة الأخرى وهو ما يطلق عليه^([5])cyber security حيث تصبح المعاملة أو الأصل غير قابل للتغيير نظريا لأنه سيكون من المستحيل تقريبا تغيير جميع السجلات في السلسلة في الوقت نفسه^([6])وهي أهم وأخطر مميزات البلوك تشين، بل أنها احدى أهم مقومات الثورة المعلوماتية الثانية لما يترتب على ذلك من إمكانية القضاء على تزييف البيانات وتدميرها.
2. اللامركزية: كان أساس مبدأ شبكة الإنترنت منذ إنشائها مبنيا على فكرة رئيسية واحدة وهي وجود مركز للبيانات به مجموعة من الخوادمServersيتصل بها الناس لجلب المعلومات منه. فالبريد الإلكتروني مثلا هو عبارة عن مركز رئيسي للبيانات يتصل به المستخدم للاطلاع على «علبة الوارد»، والأمر ذاته ينطبق على المواقع الإخبارية أو محركات البحث. وعلى النقيض من ذلك، تعتبر تقنية البلوك تشين شيئا مختلفا تماما عما عهدناه من قبل ويمكن اعتبارها تقنية منافسة لطريقة عمل الإنترنت^([7])فالجميع هنا متساوون في القدرة على الوصول إلى المعلومة من حيث الجودة والتوقيت ^([8])فهي بمثابة الدفتر الأستاذ لكنه عالمي من حيث توثيق المعلومة يتيح للجميع الوصول إليها والتحقق منها
3. السرعة والفعالية: غالبا ما تستخدم تقنية البلوكشينس لتحقيق السرعة والفعالية لعدم الحاجة إلى الوساطة في العديد من الخدمات الحكومية في أطار الحكومة الإلكترونية وتقليص استخدام الأوراق والسجلات التقليدية في الإدارات الحكومية^([9])
4. الشفافية والانفتاح لكل من البيانات والعمليات والمشاركة الزائدة للبيانات عبر جميع الإدارات المشتركة في شبكةblockchamعامة مع قابلية التحكم في الحركة ومراقبة العمليات المالية والتتبع والتدقيق بسهولة، تجدر الإشارة هنا إلى انه تم اطلاق مرصد ومنتدى بلوك تشينBlockchainمن قبل مفوضية الاتحاد الأوروبي بدعم من برلمان الاتحاد الأوروبي بهدف “تسليط الضوء على التطورات الرئيسية لتكنولوجياblockchain، بعد الاعتراف بهذه التقنية باعتبارها “طفرة كبيرة” من شأنها أن تغير الكيفية التي يتم بها إنجاز العديد من الأعمال في العديد من المجالات والأنشطة المالية المختلفة، لما لهذه التقنية من فوائد تقليل التكاليف العامة والعمل على زيادة الثقة وإمكانيات التتبع والتحقيق والأمن وقد أعلن المرصد بانه يقوم بمراقبة تطورات تقنية البلوكتشينblockchain، وتمويل المشروعات الخاصة بها والعمل على ضمان التعاون عبر الوطني، وتوحيد الخبرات، والتصدي للتحديات الناشئة عن استخدام التقنية^([10])

الاستخدامات المحتملة لتكنولوجياblockchain : تعد مجالات استخدام هذه التقنية واسعة النطاق وتشمل المجالات التالية^([11])يعى موطور وتقنية البلوكتشين إلى التسع في تطبيقها في مجالات مختلفة بدأت الدول تتسابق في تلقفها وهي

1. أعمال إدارة الهوية: تسعى الدول اليوم إلى استخدام تقنية التشفير الخاصة بالبلوك تشينblockchainالمتطورة لتشمل التطبيقات العملية في تنظيم الهوية القابلة للتحقق مثل رخص القيادة، والمدفوعات الضريبية، والتصويت، والخدمات الحكومية الإلكترونية الأخرى في مجال الخدمات المدنية في الدولة

يمثل استخدام الهوية الرقمية أهم تطبيقات البلوكشين للخدمات الحكومية، فتوثيق بيانات الهوية هو الشرط الأساس لتقديم الخدمات، والاعتراف بالحقوق أو الملكية، كما يتوقف عليها تحديد الواجبات والالتزامات المفروضة على المواطنين المطلوبة أو المنفذة.

ليس من المفاجئ إذن أن تحظى هذه الهوية بقدر كبير من الاهتمام من الحكومات على مستوى العالم كتطبيق لسلسلة الكتل. الهوية سؤال مهم للعديد من السيناريوهات، العامة أو الخاصة، ولكن الأهم من ذلك بالنسبة لسياق التفاعل مع الدولة؛ الملكية والصحة والتصويت والتمويل والضرائب والتعليم وما إلى ذلك، جميعها ذات صلة كبيرة بحياة الفرد، وهناك آثار كبيرة، وغالبا ما تكون قانونية، للتفاعلات بين الأفراد والحكومة في هذه المجالات.

2. الرعاية الصحية: يسعى مطورو هذه التقنية إلى استخدامها في مجال الخدمات الطبية لحظ بيانات المرضى وسجلات الرعاية الصحية الخاصة بهم، واستخدامتكنولوجياblockchainللأجهزة الطبية “إنترنت الأشياء^([12])، وزيادة مساءلة مقدمي الرعاية الصحية عن طريق تسهيل المصادقة وحفظ السجلات.
3. الخدمات القانونية والشرطية في الدولة-والمقصود بها استخدام هذه التقنية في أعمال الاستدلال والبحث الجنائي، والتحقق، والمصادقة، وحفظ سجلات المحكمة، ومكافحة غسل الأموال، توثيق العقود، والقروض، والعناوين، والرهون العقارية، والسجلات. هذا من شأنه أن يسمح “بالعقود الذكية «التي يتم التحقق منها بواسطة وتسجيلها على تكنولوجياblockchainكسجلات غير قابلة للتغيير، مما يتيح الشفافية للمستخدمين.
4. الخدمات المالية ومكافحة التهرب الضريبي-تستخدم تقنيةblockchainبالفعل على نطاق واسع في صناعة الخدمات المالية للمدفوعات وأسواق رأس المال والتمويل التجاري، وتستعد لإزالة مليارات الدولارات من النفقات العامة ورسوم وخدمات الوساطة. وهو ما يمهد لمكافحة التهرب الضريبي حيث يتاح للدولة والجهات الرقابية مكافحة التهرب الضريبي لأن جميع الأموال والممتلكات الخاصة بالأفراد والعمليات المالية التي يقومون بها ستظهر علىالشبكة ما يتيح للدولة تحقيق حصيلة ضريبية بنسبة ١٠٠/١٠٠ لسهولة المراقبة والتتبع في هذه الحالة^([13]).

إذا كانت المجالات السابقة هي أهم الاستخدامات المحتملة للبلوك تشين ما يعد ما يعد ثورة جديدة على مستوى وسائل الأثبات القانونية التقليدية، وكانت الدول الأن بصدد دراسة هذه الاستخدامات المستقبلية للبلوكتشين، فإن ذلك يعني أن أثبات البيانات وتوثيقها لا مركزيا سوف يقلص الحاجة إلى حمل الوثائق التقليدية سواء كان ذلك في صورتيها الورقية والإلكترونية، لتحل محلها الشفرات والرموز الإلكترونية التي تكون متاحة لجميع مستخدمي النظام الإلكتروني المعني.

فاذا كانت المجالات السابقة هي أهم استخدامات تقنية البلوكتشين فو كان المجال لا يتسع للتعرض لها جميعا فإن أهم تطبيق لفت الأنظار لهذه التقنية هو تطبيق العملة الإلكترونية، وهو ما نعرض له في المطلب التالي.

المطلب الثالث

العملة الإلكترونية (الافتراضية) أو (الرقمية)

لما كانت اللامركزية والأمن هما أهم سمات تقنية البلوك تشين فكيف ساهمت هاتين الميزتين في استحداث العملة الرقمية الجديدة؟ وكيف كانت البداية؟؟ وهنا نعرض أولا إلى بداية العملة الافتراضية وتعريفها قبل أن نصل إلى نظامها القانوني.

أولاً: بداية العملة الافتراضية ومفهومها

حدثت الأزمة المالية في عام ٢٠٠٨، حيث فشلت العديد من البنوك والمؤسسات المالية في جميع أنحاء العالم، في الوفاء بالتزاماتها فاهتزت ثقة العديد من العملاء في البنوك، نتيجة عجز هذه الأخيرة عن الوفاء بودائع العملاء، أدى كل ذلك إلى ظهور حالة من عدم الثقة في العملات الورقية، وهي العملات المدعومة من قبل الحكومات،، مثل الدولار الأمريكي والجنيه الإسترليني واليورو، فقد شكل ذلك بداية حقيقة للفت الأنظار إلى أهمية التداول المالي خارج نطاق السلطات الرسمية لأي دولة، وكانت هي البداية التي اهتدى إليها ساتوشي ناكاماتو^([14])(شخص مجهول الهوية) بدأ التفكير في طريقة للتحويلات المالية بالعديد عن البنوك والمؤسسات الرسمية الحكومية. فقام هذا الأخير باستحداث برنامج خاص يعتمد على ضرورة استيفاء عمليات رياضية وحسابية معقدة يؤدي النجاح في حلها إلى اكتساب قيمة مالية معينة اسماها Bitcoin كنوع من المكافاة، وبذلك يتمكن أي شخص من الحصول عليها بهذه الطريقة فكانت أول عملة إلكترونية تستخرج بهذه الطريقة التي سميت فيما بعد بالتعدين فإذا ما تم استخراجها تصبح ملكا للشخص الذي استخرجها يمكنه بيعها وتداولها لغيره بين مستخدمين يقومون بخصم أو إيداع حساباتهم الرقمية بهذه الوحدات الافتراضية دون الإفصاح عن هويتهم لأن هذا التداول يتم عبر نظام البلوكتشين Blockchain. حيث يظهر العملاء عبر هذه الشبكة برموز مشفرة لا تدل على هوياتهم الحقيقية لكنها تكفي لأنشاء المعاملة، وقد كان ذلك تحولا اليكترونيا لعصر معلوماتي جديد يتمثل في استحداث عملة لامركزية وطرحها للتداول لأول مرةسنة ٢٠٠٨، وفي عام ٢٠١١ كانت قيمة وحدة “البتكوين” تساوي دولارا أمريكيا واحدا، لكنها ارتفعت بشدة إلى أن وصلت إلى ألف دولار أمريكي في عام ٢٠١٣، ووصل حتى 20 الف دولار في ٢٠١٧ و هو حتى كتابة هذه الأسطر اليوم 2/2/2020 سجل 10.000 دولار حسب البورصات العالمية ^([15])، ومن المتوقع أيضا عدد المتسوقين عبر الإنترنت من ٦٤,١ مليار إلى ٢ مليار ٢٠٢٠.

وقد كانت هذه المرة الأولى التي يشهد فيها العالم تداول عملة ليس لها وجود فيزيائي، وليست قابلة للطبع كما هو الحال بالنسبة للنقود التقليدية، فهي تختلف عن النقود الإلكترونية المثبتة على بطاقات الدفع والائتمان في أن هذه الأخيرة تمثل وتحمل نقودا حقيقية، وعملات نقدية تصدرها مصارف مركزية وتخضع لسياسة نقدية خاصة تعكس النظام الاقتصادي والسياسي للدولة المصدرة لها، ولا يشكل الجانب الإلكتروني فيها إلا وعاء حاملا لها لتسهيل تحويلها فقط، والمتثل في البطاقة الإلكترونية لها لكنها تظل عملة نقدية تقليدية كأي عملة من العملات المستخدمة كل يوم، أما العملات الافتراضية Virtual Currency وهناك من اطلق عليها العملة المشفرة أو “المعماة ” فيمكن تعريفها بانها “عبارة عن كود أو رمز أو رقم تسلسلي داخل الحاسوب أو الهاتف المحمول في محفظة إلكترونية لصاحبها يتم تدالوها عبر الإنترنت ويستخدم هذا الكود في خصم ثمن الأشياء التي تقوم بشرائها بدلا من دفع نقود ملموسة أو يستخدم في تحويل الأموال وجميع المعاملات المالية الأخرى ” وعرفها البنك المركزي الأوروبي بانها نوع من الأموال الرقمية غير المنظمة تصدر وتدار من قبل مطوريها تقبل وتستعمل من قبل أعضاء الشبكات الافتراضية^([16])وقد ذهبت هيئةالرقابة المالية، في ألمانيا إلى تعريف البتكوين بانه وحدة حساب، أي «أداة مالية» تستخدم في تبادل السلع يمكن أن تكون محلا لنشاطات إجرامية دون أن يمكننا تطبيق القواعد التقليدية للقانون الجنائي^([17])

ويمكن أجمال أهم خصائص هذه العملة هي:

1. اللامركزية: العملة الرقمية عملة لامركزية يجوز لأي شخص إصدارها من جهازه الخاص مما يعد أخطر خصائص العملة الرقمية، حيث يمكن تداولها في أي مكان في العالم دون أي اعتبار لأي حدود جغرافية أو سياسية وذلك بفضل نظام سلسلة الكتل أوBlock chainوما تتمتع به من طبيعة لامركزية كسجل إلكتروني عالمي.^([18])فلا يصدرها أي مصرف مركزي وليس لها سياسة نقدية مركزية، وهو ما جذب طلاب الخصوصية والسرعة في المعاملات البنكية وتحويل الأموال، فبدأت بعض الجهات والمؤسسات الخاصة تقبل التعامل به كعملة نقدية مقابل بعض السلع والخدمات منها مؤسسة ميكروسوفت وبعض الجامعات في الولايات المتحدة الأمريكية حتى بلغت القيمة السوقية لهذه العملة مئات الملايين من الدولارات^([19]).
2. عدم الخضوع لأي نظام مصرفي وطني أو حكومي: وهو ما يشكل جوهر العملة الرقمية وأهم أسباب الأقبال عليها، حيث يتحرر المالك من أي سيطرة لأي مؤسسة حكومية أو مصرفية فلا تخضع إلا لحركة العرض والطلب سواء كان هو مالكها الأصلي الذي قام بتعدينها أم مشتر لها وبذلك تسمح هذه العملة بإلغاء الحاجة إلى الوسيط في تأكيد المعاملة، مما يعني أن تعميق هذه التكنلوجيا سوف يؤدي إلغاء الحاجة إلى البنوك في نقل الأموال^([20]).
3. الأقبال عليها: تتميز بإقبال كبير ورواج قوي لعدة اعتبارات أهمها ألازمات الاقتصادية وما تؤدي إليه من انهيار لقيمة العملة الوطنية أو تراجعها، ما يجعلها قد تمثل بديلا عن العملة الوطنية، وعلى مستوى النمو الاقتصادي، يلاحظ أن نظام “بتكوين” يشجع، ليس فقط التجارة الإلكترونية، ولكن أيضا يشجع على توليد أنواع جديدة من التجارة لم توجد من قبل مثل الشركات التي توفر فرصا لتبادل عملة “بتكوين” بعملات مالية والعكس، وشركات لتبادل “بتكوين” بسلع وخدمات أو تحويلها من شخص لآخر، كما تمتاز بالسهولة وعدم التعقيد في عملية نقل الأموال التي تتم خلال دقائق معدودة ودون الحاجة إلى إي موافقات من أي جهات أخرى. ونظرا لهذه الميزات تطورت العديد من العملات الافتراضية فالبتكوين كانت هي البداية أما الأن فالعملات الرقمية تقدر بالألاف لكن اشهرها البتكوين والريبل والايثيريوم^([21]).

ثانيا: النظام القانوني للعملة الإلكترونية

يقتضي التطرق إلى النظام القانوني للعملة الإلكترونية إلقاء الضوء على كل من موقف التشريع المقارن والتعرض لموقف المشرع المصري، والموقف الدولي من هذه العملة:

موقف التشريعات المقارنة ترددت الدول أمام تنظيم هذه المسالة تشريعيا بشكل واضح حيث اكتفت العديد من الدول والحكومات بإصدار تعليمات من المصرف المركزي بها بالتحذير من التعامل بهذا النوع من العملات ^([22])استنادا إلى أنها تخل بسيطرة الدول والجهات المسئولة عن الإشراف على الأسواق المالية منها جمهورية مصر العربية ^([23])والإمارات وذهبت دول أخرى إلى تجريم التعامل بها مثل كوريا الجنوبية وبنغلاديش وكذلك بوليفيا وإكوادورو ايسلند والهند وروسيا التي جرمت التعامل «البيتكوين» وتايلاند وفيتنام^([24]).

إلا أن المتتبع لمواقف الدول يلاحظ بدون عناء التردد الواضح حيال هذه العملة بسبب عدم الدقة في تقويمها والإرباك في التعامل بها وعلى الرغم من ذلك فإن انتشار البتكوين بات أمرا قائما ومفروضا ما دفع عددا من الدول إلى محاولة سبر أغوار هذا الموضوع خوفا من التخلف عن مواكبة الفتح التقني الجديد، إلا أن الرغبة في خوض هذا المضمار اخذ مظاهر مختلفة اظهر الارتباك والتردد في التعامل القانوني مع المسالة، فقد اتجهت بعض الدول إلى السماح بالتعامل بالعملة الرقمية فأعلنت خمس دول ذات اقتصادات قوية، بريطانيا وفنزويلا وروسيا واليابان، والإمارات العربية عن إصدار عملاتها الرقمية الخاصة.^([25])وهنا تجدر الإشارة إلى أن الإعلان عن اطلاق عملة رقمية محلية تعبير غير دقيق من الناحية القانونية لأن العملات الرقمية التي اكتسبت شهرة معينة مثل البتكوين والربل والايثيريوم يتمثل سر الإقبال عليها في انتشارها وخروجها عن سيطرة الحكومات والمؤسسات المالية الرسمية للدول فضلا عن مستوى عال من الخصوصية الذي يسمح به تداول هذه العملات، ولما كان ذلك فان الإعلان عن اطلاق عملة رقمية محلية امر تعوزه الدقة فإذا إخذنا الأمارات العربية مثالا باعتبارها من الدول الرائدة عربيا في هذه المجال نجد أنها إنشات نظامها الخاص لبدء بطاقات (EM-CASH)، لتسريع التعاملات والصفقات، وتسهيل الحياة اليومية على الناس^([26]). وهو نظام يعمل بتقنيتين الأولى وهي تقنية البطاقة مسبقة الدفع قابلة لإعادة الشحن، إذ أنها تسهل وتسرع عملية السداد أكثر من أي وقت مضى، فهي بطاقة غير قابلة للتخصيص لذلك يمكن استخدامها من قبل أي شخص في حال استنفذ رصيد البطاقة، يمكن شحنها بالرصيد مجددا وتعتبر أم كاش محفظة إلكترونية غير محمية بكلمة مرور، في حال فقدانها سيفقد العميل المبلغ المتبقي أن وجد ^([27]). أما التقنية الثانية فهي تقنية الــ NFC (Near field) communication وهي تقنية نقل الملفات الموجودة في معظم الهواتف النقالة تعمل بتلامس جهازين فيجب أن يلمس هاتف المحمول بهاتف آخر يدعم هذه التقنية، أولمس الهاتف المحمول بالجهاز الذي يدعم هذه التقنية ليبدأ استقبال وإرسال البيانات بسرعة كبيرة جدا^([28])وهنا لا نجد أي عملة افتراضية أو إلكترونية فعليه تصدر عن الأجهزة الرسمية بالإمارات العربية، وما يعزز هذا الفهم هو تجدد التحذير الصادر من البنك المركزي الإماراتي^([29])من استخدام أي عملة إلكترونية ونفي أي اعتماد لها في البيان الصادر عنه بتاريخ ٨ ديسمبر ٢٠١٩ مما يؤكد أن ما تهدف إليه الأمارات هو السعي إلى الحد من التعامل بالعملات الورقية من جهة والعمل على تسريع الحوالات المالية من حيث تطوير عملية توثيقها وتقليل عدد الوسطاء في إدائها من جهة أخرى، وهو ما يتم من خلال استخدام تقنية سلسلة الكتل البلوكتشين والنقل عن طريق تقنية ال NFC بتلامس الأجهزة المعنية.

موقف المشرع المصري:

يذكر أن البنك المركزي المصري أصدر العام الماضي تحذيرا رسميا من التعامل في كل أنواع العملات الافتراضية المشفرة وفي مقدمتها «البيتكوين» نظرا لعدم إصدارها من جانب أي بنك مركزي، أو أي سلطة إصدار مركزية رسمية يمكن الرجوع إليها، فضلا عن كونها عملات ليس لها أصول مادية ملموسة، ولا تخضع لإشراف أي جهة رقابية على مستوى العالم، وبالتالي تفتقر إلى الضمان والدعم الحكومي الرسميالذي تتمتع به العملات الرسمية الصادرة عن البنوك المركزية ^([30])وقد نصت المادة ٢٠٦ من مشروع قانون البنوك المصري الجديد المحال إلى مجلس النواب ^([31])، والذي جاء فيه تعريف للنقود الإلكترونية بأنها قيمة نقدية، مقومة بالجنيه المصري أو بإحدى العملات المصدرة من سلطات إصدار النقد الرسمية، مستحقة على المرخص له بإصدارها، وتكون مخزنة إلكترونيا ومقبولة كوسيلة دفع أما العملات المشفرة فقد عرفها بأنها عملات مخزنة إلكترونيا، غير مقومة بأي من العملات الصادرة عن سلطات إصدار النقد الرسمية، ويتم تداولها عبر شبكة الإنترنت. كما نص على حظر إنشاء أو تشغيل منصات لإصدار أو تداول العملات المشفرة أو النقود الرقمية، أو الترويج لها بدون الحصول على ترخيص من مجلس إدارة البنك المركزي المصري، وفقا للقواعد والإجراءات التي يحددها، وهو ما يعني أن اقتناء هذه العملات الرقمية في حد ذاته غير محظور بالنسبة للأفراد من حيث المبدا، لكن إنشاء أو تأسيس مواقع خاصة للإصدار أو للمضاربة تجاريا بهذه العملات هو ما يحتاج إلى ترخيص من البنك المركزي، وهو ما يعني أن المشرع المصري بصدد دراسة دخول هذا المعترك التكنلوجي ما يعد ضروريا لأن حظر التعامل بهذه العملة وحده لن يمنع الأفراد من الإقبال عليها ومن ثم بقائهم بعيدا عن إمكانية المتابعة ورصد السلطات المالية لحركة هذه الأموال والتحويلات المالية، أما السماح بتداولها كنشاط من النشاطات التجارية هو ما يتيح للمؤسسات المالية الرسمية من وضع التدابير اللازمة لمراقبة حركة هذه الأموال والتحويلات المالية.

موقف البنك المركزي الأوروبي

تجدر الإشارة هنا إلى أن البنك المركزي الأوروبي، لم يعرب عن قلقه من العملات الافتراضية في التقرير الصادر عنه سنة ٢٠١٢ بعد وقت قصير من إصدارها وأشار إليها بانها عملة “عملة افتراضية” تشبه الأموال من حيث أنظمة الدفع والتبادل إلا أنه بدا يستشعر مخاطرها على البنوك المركزية في التقرير الصادر عنه سنة ٢٠١٥ لأنها غير منظمة تشريعيا وقد تشكل تحديا للسلطات العامة بسبب استخدامها في غسل الأموال والوسائل الاحتيالية ويمكن أن تؤثر على البنوك المركزية بعد أن لوحظ الزيادة الهائلة في عدد العملات الافتراضية اللامركزية والمخاطر المتزايدة من نظام الدفع، وعدم الكشف عن هوية العملاء، كما أعرب عن قلقه من عدم تنسيق الجهود الحكومية السلطات للتخفيف من هذه المخاطر وحث الدول على ضرورة توضيح الوضع القانوني للعملات الافتراضية ووضع الأطر التشريعية والتنظيمية والرقابية اللازمة لها ^([32])

موقف القضاء المقارن

تعد الأحكام القضائية قليلة في ظل تردد الدول في التصدي لهذه المسألة وتنظيمها تشريعيا ويبدو أن تعريف هيئة الرقابة المالية الألمانية السابق الإشارة إليه هو ذات التعريف الذي تبنته محكمة تكساس الفدرالية^([33])فعرفت البتكوين بانه ” يشكل عملة رقمية لامركزية لشراء السلع والخدمات وتبادل العملات عبر الأنترنت بشكل سري أسسها المخترع ساتوشي ناكاماتو صممت لتدار بشكل لامركزي ودون مدير أو متحكم فردي، وقد تطورت القيمة المادية للعملة وارتفع سعرها الذي بدا ب ٢ دولار للبتكوين الواحد ليصل عند النطق بهذا الحكم إلى ١٢٠٠ دولار (ثم تراجعت مع بداية سنة 2018/2019) إلى ٤٠٠٠ دولار لتعاود الصعود مرة أخرى مع بداية شهر يونيو ٢٠١٩ إلى ٩٠٠٠ دولار.”

وتتمثل خطورة هذا الحكم في أن المحكمة اعتبرت أن البتكوين هنا عملة ولو كان وجودها رقمي إلكتروني غير ملموس، مما قد يثور معه التساؤل حول مدى صحة تصديها لهذه المسالة لأن تحديد ما يعتبر (currency العملة) كأداة أو وسيلة للتبادل، حتى ولو استخدمت لتبادل السلع والخدمات هي من اختصاص المؤسسات الرسمية للدولة أي أنه عمل تنفيذي، والجهة المنوط بها ذلك هي المصرف المركزي لأي دولة وليست من اختصاص القضاء.

وفي سبتمبر ٢٠١٦ صدر حكما أخر من محكمة مانهاتن في السياق ذاته حيث رفضت المحكمة تهمتان تتعلقان بعملية Coin.mx المزعومة، استنادا على أن عملة البيتكوين لا توصف بأنها “أموال بموجب القانون الاتحادي الذي يحظر تشغيل الشركات غير المرخصة التي تنقل الأموال لكن المحكمة انتهت إلى إن العملة الافتراضية تستوفي هذا التعريف وبان بيتكوين هي الأموال ضمن المعنى الواضح لهذا المصطلح، استنادا إلى قبوله كدفعة للسلع والخدمات أو شراؤها مباشرة من بورصةمع حساب مصرفي. ولذلك فهي تعمل كموارد مالية وتستخدم كوسيلة للتبادل وكوسيلة للدفع”^([34])

نصل بذلك إلى أن تقنية البلوكتشين أصبحت تشكل فتحا تقنيا كبيرا يمهد إلى تغيير العالم بسبب ما تتيحه من الطابع اللامركزي لتوثيق الأحداث والتصرفات القانونية المختلفة، بالإضافة لما تتيحه من تطبيقات حديثة كالعملة الإلكترونية وما تشكله من فتح تقني في مجال الصيرفة والمعاملات المالية، فهل ترسم تقنية البلوكتشين وحدها ملامح ثورة تكنلوجية جديدة تفوق الذكاء الاصطناعي أم أن الاثنين يعبران عن فتح حضاري جديد تتكشف ملامحه يوما بعد يوم؟

المبحث الثاني

التحديات القانونية لتقنية الذكاء الاصطناعي

تتمثل تقنية الذكاء الاصطناعي في خصائص معينة تتسم بها بعض البرامج المعلوماتية تجعلها تحاكي القدرات الذهنية البشرية وأنماط عملها، مثل القدرة على الاستنتاج ورد الفعل واتخاذ بعض القرارات مثل السيارات والطائرات ذاتية القيادة وبعض الأجهزة الطبية من جهة، وبعض البرامج والتطبيقات المتعلقة بتداول الأسهم المالية من جهة أخرى، لتصبح الألة هي المتخذ للقرار وصاحب السلوك، حيث يثور الجدل حول القواعد التقليدية للمسؤولية الجنائية التي تعتمد على إرادة الأنسان وقصده الجنائي.

يعبر الذكاء الاصطناعي عن الأدوات والتقنيات المتعددة التي يمكن دمجها بطرق متنوعة للإحساس والإدراك والأداء مع القدرة على التعلم من التجربة والتكيف مع مرور الوقت، فهي الأنظمة أو الأجهزة التي تحاكي الذكاء البشري لأداء المهام والتي يمكنها تطوير أدائها وتحسينه نتيجة الممارسة، ويتمثل جوهره في القدرة على تحليل البيانات اكثر منه أداء وظيفة معينة، وعليه يمكن تعريفه بانه فئة من برامج الكمبيوتر المصممة لحل المشكلات التي تتطلب التفكير الاستدلالي، وصنع القرار بناء على تحليل البيانات، والتصنيف، والتحسين^([35])، ويمكن تعريفه كتقنية بانه عبارة عن استحداث آلة تتمكن من ميكنة النشاطات يتطلب الذكاء الإنساني لتنفيذها مثل القدرة على حل المشكلات، واتخاذ القرارات،.^([36])وتتميز عن غيرها من الأجهزة الآلية بانها مدعمة بوظائف حسية وحركية لتعزيز إمكانيات الأنسان للعمل بالإضافة إلى كونها تعمل بهامش من الحرية والاستقلال الذاتي^([37]). فالذكاء الاصطناعي اليوم يغزو حياتنا في جميع المجالات فأصبح يستخدم في المطارات والمؤسسات الحساسة للتعرف على الهوية وتطوير الشبكات الأمنية، كما أصبح يستخدم في مجال القانون والعدالة الجنائية كأجهزة الشرطة والبحث الجنائي التي تعمل على كشف الجرائم وجمع الأدلة وتحليلها مثل تقنية التعرف على الوجوه وتصور تطور الملامح حسب المراحل العمرية المختلفة يستخدم أيضا في مؤسسات الإصلاح وتنفيذ العقاب، وتسهيل التنفيذ الفعال لدوريات الشرطة بالإضافة إلى المساعدة في أعمال البحث العلمي في مجال دراسات علم الإجرام للحد من الجريمة وأبحاث توقع حدوث الجرائم وأماكن تركزها بناء على تحليل البيانات الواردة في الإحصائيات الجنائية^([38])تستخدم تقنيات الذكاء الاصطناعي أيضا في التقارير الخاصة بالسجناء في مجال تحليل البيانات المجمعة عليهم في مؤسسات الإصلاح ومعالجتها لتقييم تطور سلوكهم، للوصول إلى القرارات السليمة للإفراج الشرطي واختصار مدة العقوبة^([39])انتشرت هذه التقنية في الآونة الأخيرة أيضا في مجال الأعلام والصحافة فأصبحت تستخدم في جمع الأخبار وكتابتها بل وقراءتها أيضا في محاولة جادة للتقليل من عدد العاملين في هذا المجال^([40])فانتشرت الصحف الإلكترونية المزدة بتقنية القراءة والكتابة الآلية التي لا تحتاج مذيع كم أتاحت أيضا القدرة على التفاعل مع الجمهور وما تجمعه منهم من بيانات تخص أبداء الراي وتحديد اتجاهات الأفراد وميولهم المختلفة لاستخدام هذه البيانات في الأغراض الدعائية. ^([41])إلا أن أهم ما ميز هذه التقنية اليوم عن الآلة التقليدية أو البرنامج العادي هو الغموض أو ما عبر عنها بعض المعلقين بخاصية الصندوق الأسود BlackBox حيث تتسم بعدم الشفافية في عملية صنع القرار وعدم القدرة على التنبؤ بقرارات الذكاء الاصطناعي أو مخرجاته حتى من قبل المصمم أو المبرمج لهذه الأنظمة لأن هذه الخوارزميات لديها القدرة على التعلم من ممارساتها^([42])فتتخذ مثل هذه التكنولوجيا، قرارات بناء على ما تعلمته من قبل وهذا يجعل من الذكاء الاصطناعي لا يمكن التنبؤ بتصرفاته أي أن الذكاء الاصطناعي قد يخترع استراتيجيات أو يتخذ قرارات غير متوقعة، ومع ذلك قد يحدث أن يتعلم الذكاء الاصطناعي خطأ فيصدر قرارا خاطئا تترتب عنه ارتكاب جريمة مما يحتم اتخاذ اكبر قدر من الاحتياط^([43])وهو ما يكون له كبير الأثر على إثبات أهم أركان الجريمة المتمثل في الركن المعنوي في صورتيه العمد أو الخطأ، ولما كان ذلك وكان الركن المعنوي للجريمة هو أساس المسؤولية الجنائية فإن التحدي الذي يواجه القائمين على التشريع، أو البحث القانوني هي فكرة المسؤولية الجنائية، وأسناد الفعل في الجرائم الناتجة عن تقنية الذكاء الاصطناعي،. فما هي اهم برامج الذكاء الاصطناعي التي تثير هذا الجدل؟ وكيف يمكن تحديد المسؤول عن الجرائم الواقعة منها؟ وهو ما سنعرض له في الحديث عن تطبيقات الذكاء الاصطناعي قبل الحديث عن الجدل القائم عن أطراف المسؤولية الجنائية عن الجرائم الناتجة عن استخدامه.

المطلب الأول

تطبيقات الذكاء الاصطناعي في حياتنا اليومية

تتمثل أهم تطبيقات الذكاء الاصطناعي فيما يلي:

1. السيارات ذاتية القيادة والطائرات بدون طيار: أخذت هذه التقنية تتوسع منذ أكثر من عقد من الزمن، مثل أنظمة مساعدة وقوف السيارات وأنظمة التحكم في الحركة والاتجاه. وهنا يثور التساؤل حول ما ينتج عنها من حوادث تؤدي إلى الوفاة، فالطائرات بدون طيار للأغراض العسكرية والمدنية أيضا في بعض الأحيان كما تؤكد تقارير الشرطة أن استخدام الطائرات بدون طيار في النشاط الإجرامي آخذ في الازدياد^([44])
2. برامج الذكاء الاصطناعي في العمليات التجارية عالية الترددHighFrequency Trading^([45])

انتشرت في الآونة الأخيرة تقنية ^([46])(“HFT”) التي تستخدمها الشركات والمؤسسات المالية الكبرى وهي عبارة عن بعض خوارزميات برمجية مصممة للتداول التجاري والمضاربة في أسوق الاستثمار والأوراق المالية استنادا على تحليل البيانات واستراتيجيات التداول ولها القدرة على أن تكون أسرع من المنافسين عن طريقالاستفادة من بعض الخدمات مثل الوصول إلى البريد الإلكتروني المباشر والموقع المشترك. ^([47])تقوم هذه الخوارزميات عالية التردد بعملية المضاربة في كسور من الثانية، وتسمح لأنظمة الكمبيوتر بالرد بشكل أسرع من أي كائن بشري^([48])، إلا أن هذه الأنظمة في الكثير من الأحيان تطلق العديد من الأوامر التي قد تؤدي إلى التأثير على أسعار السوق والتداول كما حدث في قضية فلاش ٢٠١٠ وما أدت إليه هذه البرامج من الارتفاع المفاجئ لبعض الأسهم.

3. الذكاء الاصطناعي في المجالات الطبية

تعد روبوتات النانو Nanorobotics هي تكنولوجيا لصنع الآلات أو الروبوتات أو ما شابه وبمقياس نانومتري (10-٩ متر). وبشكل أكثر تحديدا، روبوتات النانو تشير إلى حد كبير إلى تقنية تصميم وبناء روبوتات النانو من خلال أجهزة متناهية الصغر تصمم لتسبح داخل جسم الإنسان حيث يتوقع الأطباء أن تكنولوجيا “النانو روبوت” هي إحدى محاور طب المستقبل، التي تعمل حاليا على استخدام هذه الأجهزة التي لا ترى بالعين المجردة في توسيع الشرايين وضمان توزيع أفضل لمضادات تجلط الدم دون توزيع العقاقير في باقي الجسم هباء، وقد تم تصنيعها لتقوم بالتقاط وحمل الأشياء،، وتتجول من خلال الأوعية الدموية لأداء مهام طبية، ويقول الدكتور لولو كيان من معهد كاليفورنيا للتكنولوجيا: “إن الأمر يتشابه تماما مع إرسال الروبوتات الكهروميكانيكية إلى أماكن بعيدة، مثل المريخ، إن فريق البحث يود أن يرسل الروبوتات الجزيئية إلى أماكن صغيرة للغاية حيث لا يمكن لأي بشر أن يصل إليها، مثل تيار الدم^([49])وهنا يثور التساؤل حول الطرف الذي يجب أن يتحمل مسؤولية الخطأ في هذه الأجهزة مما أدى إلى تعالي الأصوات التي تنادي يمنع هذه النوع من الأسلحة.

المطلب الثاني

الجدل القانوني حول أطراف المسؤولية الجنائية

عن جرائم الذكاء الاصطناعي

يقتضي قيام المسؤولية الجنائية في القانون الجنائي تحقق الجريمة بركنيها المادي والمعنوي، وهنا لا يثير الركن المادي جدلا قانونيا في جرائم الذكاء الاصطناعي نظرا لتحقق الفعل المجرم المتمثل في ارتكاب جريمة نتيجة لاستخدام الذكاء الاصطناعي، أما الركن المعنوي فهو ما يثير الجدل كأساس لقيام المسؤولية الجنائية، في جرائم الذكاء الاصطناعي ن فاذا كان الركن المعنوي للجريمة يجب أن يتحقق في احدى صورتيه العمد أو الخطأ، فإن القصد الجنائي بعنصريه العلم والإرادة هو ما يمثل الركن المعنوي للجرائم العمدية، أي أن يعلم الجاني ماهية الفعل ويريد نتيجته الإجرامية، بينما يمثل الخطأ الركن المعنوي في الجرائم غير العمدية، وهو ما يعكس العلاقة النفسية بين الجاني والركن المادي على نحو يجعل إرادته محل لوم المشرع لأنه يعد خروجا عن واجبات الحيطة والحذر التي أفضت إلى وقوع النتيجةالإجرامية^([50])وعلى الرغم من أن المشرع لم يعرف الخطأ غير العمدي في النص الجنائي إلا أن الفقه استخلص له عنصرين أساسيين أولهما الأخلال بالالتزام العام بمقتضيات الحيطة والحذر وثانيهما يتمثل في العلاقة النفسية بين الجاني والنتيجة الإجرامية، فإما أن يتوقع النتيجة التي قد يسفر عنها سلوكه آملا في عدم حدوثها معتمدا على قدرته على تلافيها وتحدث بالفعل، وأما أن تحدث النتيجة التي جرمها المشرع دون أن يتوقعها الجاني في وقت كان عليه أن يتوقعها بمعيار الرجل المعتاد،^([51])فكيف يمكن التحقق من قيام الركن المعنوي في جرائم الذكاء الصناعي بصورتيه السابقتين؟ ولأي طرف من الأطراف يسند السلوك المجرم في هذه الحالة؟

الفرع الأول

المسؤولية الجنائية لمصمم الذكاء الاصطناعي:

مصمم الذكاء الاصطناعي هو الطرف الذي يقوم بتصميم الخوارزميات البرمجية المسؤولة عن عمل الذكاء الاصطناعي وكيفية اتخاذ القرارات.

أولا; مسؤولية المصمم عن الجرائم العمدية

لا يثير القصد الجنائي هنا جدلا اذا كان الذكاء الاصطناعي قد تم خصيصا لارتكاب جريمة مثل تصميم برنامج التجارة عالية التردد  HFTلأجل التلاعب بالأسعار مثلا أو كمن يقوم بتصميم برنامج للسطو على أرصدة الأخرين في البنوك، فلا جدلقانوني حول المسؤولية الجنائية للمبرمج لأن الذكاء الاصطناعي هنا كان بمثابة الأداة بيد الجاني^([52])

لكن يثور الجدل حول قيام المسؤولية الجنائية للمصمم اذا كان تصميم خوارزميات الذكاء الاصطناعي قد تمت لغرض مشروع قانونا إلا أن الذكاء الاصطناعي قام باتخاذ قرارات خاطئة وقام بتنفيذها نتيجة قدرته على التعلم الذاتي وتطوير نفسه-وهو ما اشرنا إليه أعلاه-ونجم عن ذلك حدوث جريمة، فهل يرتب ذلك مسؤولية المبرمج؟ وكيف يمكن تأسيسها؟.

بالنظر إلى التطبيقات السابقة من المسؤول عن الجرائم التي ترتكبها هذه الخوارزميات إذا انحرفت الطائرة بدون طيار عن مسارها دون إمكانية التحكم فيها من قبل البشر، أو قامت برامج التجارة عالية التردد بأرسال طلبات شراء وهمية أدت إلى خلل في الأسعار واضطراب السوق؟ خاصة اذا ما أخذنا بعين الاعتبار أن هذه البرامج والخوارزميات آخذة في التطور بزيادة الحكم الذاتي مقابل انخفاض سيطرة الإنسان وتدخله؟^([53])نجد أننا نصطدم هنا بأساسيات المسؤولية الجنائية ومتطلبات العلم والإرادة غير المتصور تحققهما دون القدرة على الإدراك وهو ما أقره القضاء الأمريكي حيث حكمت المحكمة الفدرالية العليا^([54])برفض الادعاء بتحقق التلاعب بالسوق استنادا إلى انتفاء أثبات القصد الجنائي واتجاه النية إلى التأثير على الأسعار affecting the price))وأن التعريف الوحيد [للتلاعب في السوق] يجب أن يستند إلى النية، وقد كانت القضية المشار إليها أعلاه تتعلق بحادثة اضطراب في أسعار بعض الأوراق المالية اثر قيام خوارزمية التداول بإعادة تغريد بيانات كاذبة ومضللة حول بعض الأسهم على موقع توتير للتواصل الاجتماعي، وقبلت المحكمة دفاع المدعى عليه حول انتفاء نية التلاعب لدى مصمم الخوارزمية لأن إعطاء البرنامج إمكانية الدخول إلى موقع تويتر، ليس دليلا على إعطائه إمكانية إعادة تغريد بيانات كاذبة أو تقديم طلبات وهمية بل أعطاها مجرد هدف واسع وهو زيادة الأرباح أما إعادة تغريد^([55])البيانات فقد تعلمها البرنامج نتيجة الممارسة ولم تكن جزء من تصميم البرنامج مما فاجأ المصمم لأنه لم يصممها أبدا لاستخدام حساب Twitter بهذه الطريقة^([56])وهنا نجد إن المحكمة كانت تحاول تأسيس الإدانة استنادا إلى اعتبار خوارزميات الذكاء الاصطناعي فاعلا حسن النية نيابة عن المدعى عليه لكنها كانت لا تتصرف بناء على تعليمات أو تخضع لسيطرة الإنسان المباشرة، فاذا كان الضرر غير متوقع يجب ألا يكون المبرمج مسؤولا وفقا لأي نظرية في القانون الجنائي^([57]). وإمام انتفاء نية المبرمج لارتكاب إي جريمة تنتفي إي إمكانية لتقرير المسؤولية الجنائية عن جريمة عمدية.

ثانيا مسؤولية المصمم عن الجرائم غير العمدية:

ذكرنا في الفقرة السابقة أعلاه أن الذكاء الاصطناعي للتداول التجاري عالية التردد خوارزميات مصممة للتداول وتحقيق أكبر قدر من الأرباح استنادا إلى الأوامر التي تصدرها بناء على تحليل البيانات وإصدار الأوامر وهنا لا يثور الجدل إن كانت الجريمة أو الأوامر الخاطئة التي تسببت في تحقق جريمة اقتصادية كانت نتيجة خطأ في تصميم الذكاء الاصطناعي نفسه، حيث يرتكب الإنسان الآلي جريمة بسبب البرمجة الخاطئة. حيث تحديد المسؤولية الجنائية للمبرج يكون حسب القواعد العامة لنظرية الخطأ، وما يتعلق بها من قواعد تخص معايير المنتج ومواصفاته، التي تحددها العديد من القواعد والتشريعات المحلية^([58])ومن المحتمل أن تكون هذه الحالات هي الأكثر شيوعا وهنا تجدر الإشارة إلى أن المصمم عادة ما يلجا إلى حماية نفسه من خلال البنود التي يذكرها في اتفاقية الاستخدام، والتي تحمل المالك أو المستخدم وحده مسؤولية أي إضرار تترتب عن استخدامه^([59])لكن مدى مسؤولية المصمم تكون مثيرة للجدل في الحالات التي يطور فيها الذكاء الاصطناعي نفسه ذاتيا من خلال الممارسة ويتخذ القرارات بناء على خاصية الصندوق الأسود وانعدام الشفافية في طريقة اتخاذ القرار، ففي التطبيقات السابقة للذكاء الاصطناعي نجد أن هذه التقنية لديها القدرة على تعلم “الخطأ”، إلى حد ما لديها القدرة على تعلم “الصواب حيث تظهر الأبحاث الحديثة التي أجريت في الذكاء الاصطناعي والشبكات العصبية العميقة أن مجرد التعديلات البسيطة التي لا يدركها العقل البشري، يمكن أن تجعل الذكاء الاصطناعي يفهم البيئةعلى أنها مختلفة تماما. على سبيل المثال، يمكن لملصق صغير على لافتة مرور أن يجعل الإشارة غير معروفة تماما بالنسبة للمركبة ذاتية القيادة، بينما هي تكون واضحة للعقل البشري الذي يستطيع أن يدرك العلامة ومعناها على الرغم من الملصق فإذا كان مثل هذا السلوك لا يمكن التنبؤ به من قبل المصمم فكيف يمكن تحديد مسؤوليته الجنائية عن الخطأ في هذه الحالة. ^([60])ومتى يكون المنتج قد أوجد وضعا خطيرا؟ هنا يجب حسم العديد من التساؤلات حول حجم المخاطر التي يرتضي المجتمع تحملها من أجل تطوير هذا النوع من التقنية لأن تقرير المسؤولية الجنائية في صورة الخطأ سوف يحد من البحث في تطوير هذه الصناعات التقنية لإن مسألة مقدار الخطر الذي يكون المجتمع مستعدا لتحمله سيكون أمرا حاسما بالنسبة للعاملين على تطوير هذه التقنية حتى يعرف العاملين على هذا التطوير متى يتعين عليهم التوقف عن تطوير هذه المشروعات^([61])فالمخاطرة في هذه الصناعة تظهر جليا في استخدام الذكاء الصناعي في مجال الطب لتشخيص الأمراض ووصف العلاج الطبي، مثلا ^([62]). وستتعلق الأسئلة الرئيسية التي ستتم مناقشتها بمسالة معايير الإدارة الكافية للمخاطر وهنا على المجتمع ممثلا في أجهزته النيابية حسم مقدار المخاطر التي يجب تحملها في سبيل الاستفادة من هذه التقنية الحديثة وهو ما يجب أن تعتمد عليه المسؤولية الجنائية عن الخطأ بالنسبة للمبرمج ولا يمكن تجنب معالجة هذه الأسئلة من زاوية نظرية لأن مقدار الخطر الذي يكون المجتمع مستعدا لتحمله سيكون أمرا حاسما للعلماء العاكفين على تطوير هذه التقنية، لمعرفة الحدود التي تستلزم تخلي المطورين عن مشاريعهم وتوقف تطويرها وهي تساؤلات أخلاقية كبرى يجب على المجتمع تقديم الإجابة عنها في صورة قوانين ترسم حدودا واضحة للسياسات الصناعية والمعايير التي تحدد ضوابط هذه التقنية^([63])بالإضافة إلى المجالات التي يسمح فيها بإطلاق هذه التقنية والاعتماد عليها.

الفرع الثاني

مسؤولية المالك للذكاء الاصطناعي

يعتبر المالك هو الشخص الذي يتمتع باستخدام تقنيات الذكاء الاصطناعي ويكون من المتوقع أن يسيء استخدامه لأغراض مختلفة علينا التمييز بين المسؤولية عن الجرائم العمدية والمسؤولية عن الجرائم غير العمدية.

أولا: مسؤولية المالك عن الجرائم العمدية

تتطلب مناقشة المسؤولية الجنائية عن الجرائم العمدية بالنسبة للمالك التمييز بين حالات خضوع الذكاء الاصطناعي للإشراف من عدمها، فإذا كان الذكاء الاصطناعي خاضعا لإشراف المالك أو المستخدم لا تثير المسؤولية الجنائية عن الجرائم العمدية للمالك جدلا قانونيا اذا ما عمد هذا الأخير إلى إساءة استخدام الذكاء الاصطناعي كأن انحرف في استخدامه أو تدخل في برمجياته عمدا من اجل ارتكاب الجريمة، مثال ذلك تعطيل احدى برمجيات التحكم في السيارات ذاتية القيادة، أو القيام بالاشتراك مع أي طرف لاستغلال الذكاء الاصطناعي في ارتكاب جريمة أو محو إثارها^([64])، كذلك اذا توافرت للمالك القدرة على منع حدوث الضرر، كما في حالة الإشراف على الطائرات بدون طيار، التي تقوم بتوصيل الطرود مباشرة إلى منازل العملاء، فاذا كانت الطائرة تعمل ذاتيا وتتعرف على أماكن العملاء، بينما يشرف المالك على طرق الطائرات بدون طيار عبر شاشة ولديه جهاز تحكم عن بعد يمكنه من التحكم في الطائرة اذا ما انحرفت عن مسارها، واحجم عن منع النتيجة الضارة فغي هذه الحالة يسال هذا المالك عن تحقق النتيجة الإجرامية بفعل سلبي اذا ما تحققت شروطها وهو ما تقرره المحكمة في كل حالة على حدة^([65])ويستند ذلك على وجود واجب معين على عاتق المالك احجم عن إدائه بقصد إحداث الجريمة، كذلك الشأن بالنسبة لوجود من يقوم بمهمة الأشراف أو التحكم في برامج وخوارزميات التجارة عالية التردد اذا وجد من يراقبها أو يتحكم في إدائها، ويقوم بالتلاعب في برمجياتها لأجل التلاعب بالأسعار. ففي كل هذه الحالات يعد الذكاء الاصطناعي عبارة عن أداة في يد الجاني مرتكب الجريمة مصمم البرنامج وهو من ينسب إليه السلوك.

يصعب تقرير ذلك في حالة الذكاء الاصطناعي ذاتي التعلم ومتخذ القرارات، وارتكب الجريمة دون أي توجيه أو خطأ برمجي فهل يمكن تقرير مسؤولية المالك عن هذه الجرائم؟ فالمؤسسة المالية التي تمتلك أنظمة التجارة عالية التردد، أو مالك السيارات ذاتية القيادة لا يمكن تقرير مسؤوليته الجنائية على جريمة عمدية استنادا لانتفاء نية ارتكاب الفعل.

ثانيا: مسؤولية المالك عن الجرائم غير العمدية:

بتطبيق القواعد العامة للخطأ على الجرائم المرتكبة بواسطة الذكاء الاصطناعي نجد أن تحديد المسؤولية الجنائية للمالك الذي يستخدم الذكاء الاصطناعي في هذه الحالة تتوقف على افتراض قدرة الجاني على الإشراف على عمل الذكاءالاصطناعي وقدرته على منعه من أحداث النتيجة الضارة وهو ما ينتج عن التزام المدعى عليه بهذا الواجب في عقد اقتناء الذكاء الاصطناعي وشروط استخدامه ليعكس العلاقة الخاصة التي تنشا بينه وبين الخطر كأن يستخدم الذكاء الاصطناعي خارج البيئة المخصصة له كأن يقوم المالك باستخدام سيارة ذاتية القيادة في الطقس الثلجي، على الرغم من تنبيه المصمم بانها مصنعة للعمل في بيئة صحراوية، أوترك شاشة المراقبة للطائرات دون طيار في المثال السابق مما نتج عن ذلك الاصطدام بأحد المنازل القريبة من المدرج، كذلك الشأن بالنسبة لخوارزميات الذكاء الاصطناعي اذا كانت تسمح بالعمل تحت إشراف المالك الذي ترك شاشة التحكم أثناء عملها وكان بإمكانه التحكم في إدائها بالنسبة لجريمة التلاعب بأسعار سوق الأوراق المالية، ففي هذه الحالة يكون المالك مسؤولا عن هذه الجريمة لأنه خالف مقتضيات الإشراف على الذكاء الاصطناعي تصبح المسؤولية الجنائية عن الخطأ أكثر تعقيدا اذا حدثت الجريمة دون أي خطأ برمجي أو تعمد ارتكاب الجريمة كأن تقوم الطائرة دون طيار أو خوارزميات المضاربة في الأوراق المالية بتجاهل التعليمات الصادرة من المستخدم وتتسبب بأضراراً جسيمة أي أن يحدث الخطأ من الذكاء الاصطناعي نفسه أثناء العمل فهل يكون على المالك أن يتحمل المسؤولية الجنائية عن ذلك؟^([66])

يثور التساؤل هنا حول أحد الحلول المقترحة في هذه الحالة وهي المسؤولية الجنائية للمتبوع عن أفعال تابعيه كأحد التطورات القانونية التي أفرزتها الثورة الصناعية، حيث الاستقلال وصعوبة الإشراف المباشر على الوكلاء والموظفين والعمال وهي ما تعد شكلا من أشكال المسؤولية البديلة التي نتج عنها صور مستحدثة من المسؤولية الجنائية لمديري المدارس في بعض الدول المتقدمة فيما يسمى بالإهمال في التعيين عند تعيين مدرس غير كفء والإهمال في التدريب والإشراف، فإذا كان الذكاء الاصطناعي شكلا جديدا وغير مسبوق من التوظيف والتوكيل عندما تعمل هذه التقنية بشكل مستقل، فإنه يتعذر تمييزه في بعض الحالات عن إنسان مكلف بتحقيق بعض الأهداف تماما كما يتصرف الموظف التابع بطريقة لا يمكن التنبؤ بها، اذا وصل الذكاء الاصطناعي أيضا إلى حلول أو انتهى إلى الانخراط في سلوك لم يتنبأ به المالك أو المسؤول عن المؤسسة لا سيما عندما يكون الذكاء متسما بخاصية الصندوق الأسود^([67])وبصرف النظر عن أوجه التشابه بين الذكاء الاصطناعي والوكيل البشري، فإن وجود قاعدة للمسؤولية عن أفعال الغير كمسؤولية بديلة، لا يمكن تطبيقها إلا عندما يعمل الذكاء الاصطناعي بشكل مستقل في بيئة محفوفة بالمخاطر، مثل استخدامه في الإجراءات الطبية، أو التجارة عالية التردد فان مالك الذكاء الاصطناعي هنا يجب أن يكون مسؤولا، لما يجب أن يتحمله المالك من مسؤولية عن مخاطر استخدام الذكاء الاصطناعي الذي يعمل بخاصية الصندوق الأسود^([68])اذا تم استخدام هذه التقنية في المجالات الخطرة، فعندما يكون الذكاء الاصطناعي صندوقا اسودا، فإن استعمالها في مسائل خطرة كالعمليات الطبية أو التجارية يثير التساؤل حول ما إذا كان من المنطقي استخدامها من الأساس، مما يعني أن مستخدم الذكاء الاصطناعي سيكون مسؤولا عن آثار الذكاء الاصطناعي، حتى لو لم يستطع التنبؤ بها ^([69]).

تجدر الإشارة إلى أن تأسيس المسؤولية الجنائية على الخطأ بالنسبة للمالك في هذه الحالة تشبه تقرير المسؤولية عن الأضرار التي تسببها الحيوانات المملوكة لأشخاص لتكون المسؤولية عن سلوك الذكاء الاصطناعي، نوعا جديد من المسؤولية عن فعل الغير نظرا لأن هذه التقنية آلات قادرة على التعلم والتكيف مع التغيرات في البيئة وهنا يجب أن يعتمد التمييز على حجم الخطر الذي تتميز به البيئة التي يعمل بها الذكاء الاصطناعي: فإذا كانت البيئة اقل خطورة، -بعيدة عن الأعمال الطبية والعمليات المادية فالمسؤولية الجنائية عن فعل الغير هنا تكون أقل ملاءمة ومن شأن تحميل المالك المسئولية بغض النظر عن النية أو الإهمال أن يحد من مجموعة كبيرة من تطبيقات هذه التقنية المرغوبة بدلا من ذلك، والمقترح هنا في هذه الحالات أن يتم الاعتماد على وثائق التأمين التقليدية كطريقة سليمة لمعالجة مثل هذه السيناريوهات^([70]).

يقودنا هذا الجدل إلى مسألة الأهلية الفنية لمستخدم الذكاء الاصطناعي إذا لم يكن ذلك الشخص مؤهلا بقدر كاف لاستعماله استعمالا صحيحا عند اتخاذ قرارات مهمة في الطب أو القانون أو الخدمات المالية، وقد ثار هذا الجدل على سبيل المثال في قضية لوميس حيث قام القاضي سنة 2016 في ولاية ويسكنسون بالاعتماد على خوارزمية بخاصية الصندوق الأسود في تقدير ما إن كان المدعى عليه يواجه خطر العودة إلى الإجرام فقدرت الخوارزمية أنالمتهم [لوميس] عرضة بشكل كبير لمعاودة الإجرام، إلا أنه لم يكشف للمحكمة أو للمدعى عليه عن المنهجية التي استعملها الذكاء الاصطناعي في توليد التقدير. اعتمد القاضي على تلك التوصية في إصدار حكم على لوميس بالسجن مدة ست سنوات، فهل من المنطقي أن يعتمد القضاء الجنائي على تقدير تفعله خوارزمية ذكاء اصطناعي، من دون أن تستطيع الطعن في الحكم. هل كان القاضي أهلا لفهم ما إن كان تقدير الخوارزمية صحيحا ومستندا إلى معايير موضوعية سليمة؟ الجواب على الأرجح بالنفي لأن القضاة والمحامين ليسوا في المعتاد من العلماء المدربين على استخدام هذه البرامج ^([71]).

الفرع الثالث

المسؤولية الجنائية للذكاء الاصطناعي نفسها

تثور مسالة المسؤولية الجنائية للذكاء الاصطناعي عندما يعمل بتقنية التعلم الذاتي فيرتكب الجريمة دون خطأ برمجي، أو تدخل طرف خارجي، وهو النوع من الذكاء الذي يحتوي على خوارزميات تمكنه من التفكير واتخاذ القرارات والتصرف باستقلال، فاذا نتجت جريمة عن هذا التصرف نجد أننا نصطدم بالقواعد التقليدية للمسؤولية الجنائية، لكن إذا كان شرط وجود الإرادة والقدرة على الاختيار هو إساس المسؤولية الجنائية للإنسان، فهل يمهد ذلك إلى المسؤولية الجنائية المحتملة للذكاء الاصطناعي، لما له من قدرة على التفكير والاختيار.

وصنع القرار؟ بدأ الباحثون في مجال القانون بالفعل في دراسة تساؤلات بعيدة المدى حول الآثار القانونية لعمل الروبوتات، حيث أن القانون الجنائي يقوم على مبدأ الحرية الفردية، في الوقت الذي لا تمتلك فيه الآلات وعيا أو ضميرا فيمكن أننستنتج هنا مشكلتين أساسيتين فيما يتعلق بإسناد جريمة إلى إنسان إلى في سياق نظرية المسؤولية الجنائية. الأولى هي (افتراض) الإرادة الحرة للإنسان كأساس للنظرية التقليدية للمسؤولية الجنائية. وترتبط المشكلة الثانية بالأولى وتتعلق بتقييم السؤال حول المفهوم الأساسي للغاية من الشخصية القانونية. ^([72])فإذا كان مفهوم المسؤولية الجنائية يعتمد حقا على الإرادة الحرة- كما تطرحها النظرية التقليدية- فإن هذا المفهوم يواجه مرة أخرى إمكانات عدم الاستقرار بسبب التقدم التكنولوجي في مجال الروبوتات والذكاء الموضوعي، تماما كما واجهه في علم الأعصاب^([73])الذي عجز حتى اليوم عن سبر أغوار العقل البشري وتحديد الكيفية التي يتم بها اتخاذ القرار وموضع الإرادة فيه، فإذا أضفنا إلى ذلك أن مفهوم الشخصية في القانون الجنائي مبني في الواقع الاجتماعي ولا يشير بالضرورة إلى أي أساس طبي أو حيوي من العلوم الطبيعية بل إلى فكرة وظيفية تتمثل في، إسناد السلوك والقدرة على القرار فإن مفهوم الشخصية قد يتطور مما يفتح الباب لمسؤولية جنائية محتملة للروبوتات في سياق قبول منح الشخصية القانونية للذكاء الاصطناعي كما حدث عند قبول فكرة المسؤولية الجنائية للشركات والشخص المعنوي^([74]).

تجدر الإشارة إلى أن القانون المصري عرف المسؤولية الجنائية عن فعل الغير في المادة ٩٦ من القانون رقم ٤ لسنة ١٩٩٤ بشان البيئة الذي قرر المسؤولية الجنائية لربان السفينة أو اطراف التعاقد في عقود استكشاف النفط واستخراج المعادن الثمينة وهم عادة رؤساء المنشآت الاقتصادية عن أفعال أي من تابعيهم اذا نشأ عنهاأي تلويث للبيئة مثل إلقاء أي مواد ضارة في البيئة البحرية من قبل أحد العمال أو البحارة بالمخالفة لتشريعات سلامة البيئة البحرية، ولو لم تكن الأفعال صادرة شخصيا أو بتعليمات المدير التنفيذي أو ربان السفينة مثلا، حيث نصت المادة ٢٧ من القانون على مسؤوليته الجنائية على الجرائم التي يرتكبها أي من العاملين بالمنشاة الاقتصادية وقرر مسؤوليته التضامنية في دفع الغرامات عن إضرار الجرائم الناتجة عن هذه الجرائم المنصوص عنها في القانون ولو لم يكن عالما بها في المادة كما أقرها المشرع المصري المسؤولية الجنائية للشخص المعنوي في ٣٦ من القانون رقم ١٥٧ لسنة ٢٠١٨ بشان مكافحة جرائم تقنية المعلومات حيث نصت المادة على معاقبة الشخص القائم على إدارة الشخص المعنوي اذا تمت الجريمة باسم الشخص المعنوي ولحسابه بالإضافة إلى جواز وقف مزاولة الشخص الاعتباري لنشاطه وإلغاء الترخيص في حالة العود.

الخاتمة:

نخلص من هذه الورقة إلى أننا على أعتاب مرحلة حضارية جديدة بدأت تشكل ملامح ثورة معلوماتية ثانية تختلف عن تداعيات الثورة المعلوماتية الأولى التي شهدها العالم منذ تسعينيات القرن الماضي.

فالثورة المعلوماتية الأولى أفرزت تحديات كبيرة للنظرية العامة لقانون العقوبات من حيث سلب مادية السلوك وتجاوز حدود الزمان التي تتأسس عليها أهم مبدئ وأساسيات القانون الجنائي وركائزه، وهو ما دعي إلى صدور العديد من القوانين الجنائية التي تحاول مواجهة هذا النوع من الجرائم.

أما اليوم فإن التحديات التي نواجهها تتمثل في استحداث تقنيات تفرض علينا تساؤلات هامة حول أهم قواعد القانون الجنائي الخاصة بفلسفة المسؤولية الجناية من جهة والنظرية العامة للتوثيق والإثبات من جهة أخرى، فبالنسبة لتقنية البلوكتشين وما تتيحه من تطبيقات كبيرة فإنها تمهد إلى تغيير كامل لنظام التوثيق والأثبات لما تتيحه من إمكانية الاستغناء عن الكثير من الأجهزة الحكومية كالشهر العقاري والمؤسسات التي تقدم الخدمات المالية بل والى تجاوز الكثير من مهام البنوك والمصارف وهو ما تسعى اليوم الدول المتقدمة إلى تطبيقه في مجال الهوية والخدمات العقارية، أما تقنية الذكاء الاصطناعي فقد اصبح ينتشر بسرعة غازيا كل التخصصات، وأهم ما يميزه هو اعتماد على خوارزميات تمكنه من التعلم الذاتي واتخاذ القرارات وهو ما تسعى الدول المتقدمة إليه بقوة.

التوصيات:

1. نهيب بالجهات الرسمية السعي إلى تطبيق فكرة الحكومة الإلكترونية تمهيدا لتطبيق تقنية البلوك تشين وبحث إمكانية تقليص استخدام الورق والوسائل التقليدية في الأثبات والتوثيق لما لهذه التقنيات الحديثة من دور كبير في مكافحة الفساد ودعم الشفافية الحكومية.
2. إصدار القوانين اللازمة لتحديد المعايير والحدود اللازمة لتطوير تقنيات الذكاء الاصطناعي أو استيرادها على أن يتم ذلك في ضوء أهم القيم المجتمعية والدينية للدولة.
3. ضرورة الوصول إلى المعايير المناسبة لرسم حدود المسؤولية الجنائية عن الجرائم الناتجة عن استخدام تقنيات الذكاء الاصطناعي خاصة بالنسبة للمبرمج والمستخدم مع دراسة إمكانية تقرير المسؤولية عن التقنية نفسها.
4. ضرورة التوسع في نشر دورات التوعية وورش العمل عن الثقافة القانونية للتعامل مع هذه التقنيات الجديدة ومكافحة الجرائم الناتجة عنها.
5. العمل على تبني الدول للعملات الافتراضية وتقنينها حتى يمكن مراقبة العمل بها وتداولها لأن منعها وتجريم التعامل بها لن يحد من انتشارها بل يبقيها خارج نطاق رقابة الأجهزة الرسمية للدول والحكومات
6. عقد المؤتمرات وورش العمل عن البلوكتشين والعملات الافتراضية لنشر الوعي المجتمعي حول هذه العملات لمنع وقوع الأفراد ضحية الاحتيال
7. ضرورة العمل على تشجيع الدول والحكومات لسن القوانين الدولية للتعاون الدولي لمواجهة الجرائم الناتجة عن هذه التقنيات الحديثة من خلال الاتفاقيات الدولية وبروتوكولات التعاون القضائية من جهة، والاستفادة مما تتيحه من فوائد تقنية تخدم القطاعات الحياتية المختلفة للدول والحكومات.
8. العمل على بداية التفكير في تعديل قانون العقوبات والإجراءات الجنائية بما يلائم الفتح التقني الجديد.

المراجع

المراجع العربية:

1. أحمد إبراهيم دهشان – العملات الافتراضية – إشكالياتها وآثارها على الاقتصاد المحلي والعالمي المؤتمر الدولي الخامس عشر لكلية الشريعة والقانون جامعة الشارقة -٢٠١٩-
2. أحمد عوض بلال- مبادئ قانون العقوبات المصري القسم العام-دار النهضة العربية-دون تاريخ.
3. علا السيد- تدفقات إلكترونية في مرحلة المخاطر-نشر هذا المقال في دورية (اتجاهات الأحداث) الصادرة عن مركز المستقبل، العدد الثاني، سبتمبر ٢٠١٤-
4. محمد العوضي مسؤولية المنتج عن المنتوجات الصناعية-مجلة القانون المدني-عدد ١ المركز المغربي للدراسات والاستشارات القانونية -٢٠١٤.
5. محمود علم الدين- الذكاء الصناعي محنة أم فرصة ثمينة-مقال نشر في صحيفة الأهرام-27/2/2020-
6. يحيى إبراهيم دهشان- المسؤولية الجنائية عن جرائم الذكاء الاصطناعي – بحث مقدم لمجلة الشريعة والقانون جامعة الأمارات-30/6/2019-

المراجع الأجنبية:

1. Allan Third, Dr Kevin Quick, Mrs Michelle- Government services and digital identity- Knowledge Media Instituteof the Open University for the European Union Blockchain Observatory and Forum- August 1, 201 p.
2. Bitcoin: A First Legal Analysis- with reference to German and US-American law –
3. BUILDING THE HYPERCONNECTED FUTURE ON BLOCKCHAINS- world government summit- Dubai 2017.
4. Eskandari, S., Barrera, D., Stobert, E., & Clark, J. (2015).A First Look at the Usability of Bitcoin Key Managementhttps://arxiv.org/abs/1802.04351Eskandari, Barrera, Stobert, & Clark, 2015)
5. Franziska Boehm, Paulina PeschInstitute for Information-, Telecommunication-, and Media Law, Leonardo-Campus 9 -48149 P 5.
6. Gabriel Hallevy- Liability for Crimes Involving Artificial Intelligence Systems- springer cham- 2014 –p 7.
7. Harvard Journal of Law & Technology Volume 31, Number 2 Spring 2018 p. 905.
8. Hyeon-Woo Kang, Hang-Bong Kang- Prediction of crime occurrence from multimodal data using deep learning -Dept. of Digital Media, Catholic University of Korea, Bucheon,     Gyonggi-Do,         Korea-pl      –https://doi.org/10.1371/journal.pone.0176244 April 24, 2017 hbkang@catholic.ac.kr
9. Imad A. Moosa Palgrave Macmillan, Good Regulation, Bad Regulation, London 2015.
10. Matilda Claussén-Karlsson- Artificial Intelligence and the External Element of the Crime An Analysis of the Liability Problem -Spring 2017- J U R I D I C U M- JU101A, Final Thesis for the Law Program, Second Cycl.
11. MONIKA SIMMLER* and NORA MARKWALDER** Guilty Robts?- RETHINKING THE NATURE OF CULPABILITY AND LEGAL PERSONHOOD IN AN AGE OF ARTIFICIAL INTELLIGENCE-Criminal Law Forum (2019) 30:1-31 p. 5 https://doi.org/10.1007/s10609-018-9360-0
12. Renato Mangano- Blockchain Securities, Insolvency Law and the Sandbox Approach- European Business Organization Law Review (2018) Published online: 13 November 2018 © T.M.C. Asser Press 2018-p 113.
13. Rosario Girasa- -Regulation of Cryptocurrencies and Blockchain Technologies National and International Perspectives- The Editor(s) (if applicable) and The Author(s) 2018- https://doi.org/10.1007/978-3-319-78509-7
14. The Editor(s) (if applicable) and The Author(s) 2018 p 206.
15. Ugo Pagallo- The Laws of Crimes, Contracts, and Torts­-Law, Governance and Technology Series 10- University of Torino -Springer Dordrecht Heidelberg New York London- © Springer Science+Business Media Dordrecht- 2013
16. United States District Court- EASTERN DISTRICT OF TEXASSHERMAN DIVISION Case No. 4:13-CV-416§ Judge     Mazzant http://www.law.du.edu/documents/corporate-governance/securitiesmatters/shavers/SEC-v-Shavers- No-4-13-CV-416-E-D-Tex-Sept-18-2014.pdf.
17. Yavar Bathae- THE ARTIFICIAL INTELLIGENCE BLACK BOX AND THE FAILURE OF INTENT AND CAUSATION-

المواقع الإلكترونية:

• https://arteek.net/828/%D9%85%D8%A7%D9%87%D9%88%D8%A7%D9%84%D8%A8%D9%84%D9%88%D9%83-%D8%AA%D8%B4%D9%8A%D9%86-blockchain-%D8%9F
• https://www.arageek.com/tech/what-is-blockchaintechnology.visitedon 2/3/2020
• https://ar.wikipedia.org/wiki/%D8%B3%D9%84%D8%B3%D9%84%D8%A9_%D8%A7%D9%84%D9%83%D8%AA%D9%84
• BUILDING THE HYPERCONNECTED FUTURE ON BLOCKCHAINS http://internetofagreements.com/files/WorldGovernmentSummit-Dubai2017.pdf
• https://www.natlawreview.com/article/10-waysblockchain-technologywill-change-legal-industry visited on 2 february 2020
• https://aawsat.com/home/article/1640016/%D8%AA%D9%82%D9%86%D9%8A%D8%A9%C2%AB%D8%A8%D9%84%D9%88%D9%83-%D8%AA%D8%B4%D9%8A%D9%86%C2%BB%D9%88%D8%AA%D8%A3%D8%AB%D9%8A%D8%B1%D9%87%D8%A7-%D8%B9%D9%84%D9%89%D8%A7%D9%84%D9%85%D8%B3%D8%AA%D9%82%D8%A8%D9%84
• https://ar.wikipedia.org/wiki/%D8%A5%D9%86%D8%AA%D8%B1%D9%86%D8%AA_%D8%A7%D9%84%D8%A3%D8%B4%D9%8A%D8%A7%D8%A1 visited on 11/3/2020
• https://medium.com/@falkaabi/%D8%A7%D9%84%D8%B9%D9%85%D9%84%D8%A9-%D8%A7%D9%84%D9%85%D8%B4%D9%81%D8%B1%D8%A9-76ef4c56a0f8
• https://sa.investing.com/crypto/bitcoin/btc-usd
• https://arawtoken.io/assets/araw_whitepaper_arabic.pdf

https://ar.wikipedia.org/wiki/%D9%82%D8%A7%D9%86%D9%88%D9%86%D9%8A%D8%A9_%D8%A8%D9%8A%D8%AA%D9%83%D9%88%D9%8A%D9%86_%D8%AD%D8%B3%D8%A8_%D8%A7%D9%84%D8%A8%D9%84%D8%AF_%D8%A3%D9%88_%D8%A7%D9%84%D8%A5%D9%82%D9%84%D9%8A%D9%85

• https://issuu.com/youm7/docs/120208124758626-/38-
• https://www.arrajol.com/content/112456/%D9%85%D8%A7%D9%84-%D9%88%D8%A3%D8%B9%D9%85%D8%A7%D9%84/8-%D8%AF%D9%88%D9%84-%D8%AA%D8%AC%D8%B1%D9%85-%D8%A7%D9%84%D8%AA%D8%B9%D8%A7%D9%85%D9%84-%D8%A8%D8%A7%D9%84%D9%80%C2%AB%D8%A7%D9%84%D8%A8%D9%8A%D8%AA%D9%83%D9%88%D9%8A%D9%86%C2%BB-%D9%88%D8%A3%D9%83%D8%A8%D8%B1-%D8%A3%D8%B3%D9%88%D8%A7%D9%82-%D8%A7%D9%84%D8%B9%D9%85%D9%84%D8%A7%D8%AA-%D8%A7%D9%84%D8%A7%D9%81%D8%AA%D8%B1%D8%A7%D8%B6%D9%8A%D8%A9-%D8%AA%D8%B3%D8%AA%D8%B9%D8%AF
• https://www.youm7.com/story/2018/1/8/%D9%85%D9%88%D8%B6%D8%A9D8%A7%D9%84%D8%A8%D9%8A%D8%AA%D9%83%D9%88%D9%8A%D9%86%D8%AA%D8%B3%D9%8A%D8%B7%D8%B1-%D8%B9%D9%84%D9%89-%D8%AD%D9%83%D9%88%D9%85%D8%A7%D8%AA%D8%A7%D9%84%D8%B9%D8%A7%D9%84%D9%85-5-D8%AF%D9%88%D9%84%D8%AA%D8%B9%D9%84%D9%86-%D8%A5%D8%B7%D9%84%D8%A7%D9%82/3591589
• https://enabbaladi.net/archives/177339?gclid=Cj0KCQiA-bjyBRCcARIsAFboWg16oVsS7JgysiHevfAZ8UGi54UBvnhCYshu2YhZY1OtAKVUtV0mIaAuhFEALw_wcB
• https://cards.emarat.ae/%D8%A7%D9%85%D9%83%D8%A7%D8%B4/?lang=ar
• https://www.arageek.com/tech/all-what-you-need-toknow-about-nfc
• https://www.albayan.ae/economy/local-market/2019-12-08-1.3721007
• https://almalnews.com/%D8%A7%D9%84%D8%A8%D9%86%D9%83-%D8%A7%D9%84%D9%85%D8%B1%D9%83%D8%B2%D9%8A%D8%A7%D9%84%D8%A7%D9%86%D8%AA%D9%87%D8%A7%D8%A1-%D9%85%D9%86%D8%AF%D8%B1%D8%A7%D8%B3%D8%A7%D8%AA%D8%AA%D8%AF%D8%B4%D9%8A/
• file:///C:/Users/lenovo/Downloads/%D9%85%D8%B4%D8%B1%D9%88%D8%B9%20%D9%82%D8%A7%D9%86%D9%88%D9%86%20%D8%A7%D9%84%D8%A8%D9%86%D9%83%20%D8%A7%D9%84%D9%85%D8%B1%D9%83%D8%B2%D9%8A%20%D9%88%D8%A7%D9%84%D8%AC%D9%87%D8%A7%D8%B2%20%D8%A7%D9%84%D9%85%D8%B5%D8%B1%D9%81%D9%8A%20%D8%A7%D9%84%D9%85%D8%B5%D8%B1%D9%8A.pdf
• https://web.archive.org/web/20180622111506/https://www.reuters.com/article/us-jpmorgan-cyber-bitcoinidUSKCN11P2DE.
• https://www.google.com/search?sxsrf=visited on 2/3/2020
• https://en.wikipedia.org/wiki/2010_flas crash visited on 1-3-2020
• https://www.alarabiya.net/ar/science/2017/09/22/%D9%86%D8%A7%D9%86%D9%88%D8%B1%D9%88%D8%A8%D9%88%D8%AA%D9%8A%8%AA%D8%AC%D9%88%D9%84-%D8%AF%D8%A7%D8%AE%D9%84-%D8%A7%D9%84%D8%AC%D8%B3%D9%85%D9%84%D8%AA%D9%88%D8%B5%D9%8A%D9%84%D8%A7%D9%84%D8%AF%D9%88%D8%A7%D8%A1%D9%84%D9%84%D8%A3%D8%B9%D8%B6%D8%A7%D8%A1 viseted on 12/3/2020
• https://www.courtlistener.com/opinion/1752809/in-reamaranth-natural-gascommoditieslitigation/?show_alert_modal=yes&q=cites%3A(2298894)
• https://twitter.com/login?lang=en
• https://www.scientificamerican.com/arabic/articles/news/intelligent-to-a-feult-when-ai -screws-up-2018you-might-still-be-to–blame1
• https://www.courtlistener.com/F.Supp.2d361,372(S.D.N.Y.2007-/opinion/1752809/inreamaranthnaturalgascommoditieslitigation/?show_alert_modal=yesq=cites%3A(2298894)

 ([1])Renato Mangano- Blockchain Securities, Insolvency Law and the Sandbox Approach- European Business Organization Law Review (2018) European Business Organization Law Review T.M.C. Asser Press 2018-p 113.

https://doi.org/10.1007/s40804-018-0123-5 published online on 13/11/2018.

         ([2])https://arteek.net/828/%D9%85%D8%A7%D9%87%D9%88%D8%A7%D9%84%D8%A8%D9%84%D9%88%D9%83-

([3]) https://www.arageek.com/tech/what-is-blockchain-technology.visitedon2/3/2020

 ([4])  https://ar.wikipedia.org/wiki/

([5])   BUILDING THE HYPERCONNECTED FUTURE ONBLOCKCHAINS-      P6

http://internetofagreements.com/files/WorldGovernmentSummit-Dubai2017.pdf

([6])  https://www.natlawreview.com/article/10-wavs-blockchain-technology-will-change-legal-industry visited on 2 february 2020.

   ([7])https://aawsat.com/home/article/1640016/%D8%AA%D9%82%D9%86%D9%8A%D8%A9-

%C2%AB%D8%A8%D9%84%D9%88%D9%83-

%D8%AA%D8%B4%D9%8A%D9%86%C2%BB- %D9%88%D8%AA%D8%A3%D8%AB%D9%8A%D8%B1%D9%8 7%D8%A7-%D8%B9%D9%84%D9%89- %D8%A7%D9%84%D9%85%D8%B3%D8%AA%D9%82%D8%A8 %D9%84

([8]) BUILDING THE HYPERCONNECTED FUTURE ON BLOCKCHAINS- World Government Summit-Dubai 2017. Pdf p. 6

([9]) Allan Third, Dr Kevin Quick, Mrs Michelle- Government services and digital identity- Knowledge Media Institute of the Open University for the European Union Blockchain Observatory and Forum- August 1, 201 p. 4

([10]) Rosario Girasa- -Regulation of Cryptocurrencies and Blockchain Technologies National and International Perspectives-https://doi.org/10.1007/978-3-319-78509-7- © The Editor(s) (if applicable) and The Author(s) 2018 p 206.

 ([11])Rosario Girasa- p.33.

([12]) أنترنت الأشياء(: Internet of Things- IoT)”مصطلح برز حديثا يقص به الجيل الجديدمن الإنترنت (الشبكة) الذي يتيح التفاهم بين الأجهزة المترابطة مع بعضها عبر الأنترنت وتشمل هذه الأجهزة الأدوات “المستشعرات والحساسات وأدوات الذكاء الاصطناعي المختلفة وغيرها [4].ويتخطى هذا التعريف المفهوم التقليدي وهو تواصل الأشخاص مع الحواسيب والهواتف الذكية عبر شبكة عالمية واحدة ومن خلال بروتوكول الإنترنت التقليدي المعروف. وما يميز إنترنت الأشياء أنها تتيح للإنسان التحرر من المكان، أي أن الشخص يستطيع التحكم في الأدوات من دون الحاجة إلى التواجد في مكان محدد للتعامل مع جهاز معين”

https://ar.wikipedia.org/wiki/%D8%A5%D9%86%D8%AA%D8%B1%D9%86%D8%AA%D8%A7%D9%84%D8%A3%D8%B4%D9%8A%D8%A7%D8%A1visited on 11/3/2020

([13])احمد إبراهيم دهشان-العملات الافتراضية -إشكالياتها وآثارها على الاقتصاد المحلي والعالمي-المؤتمر الدولي الخامس عشر لكلية الشريعة والقانون جامعة الشارقة -٢٠١٩-ص 24.

([14])  BUlLDlNG THE HYPERCONNECTED FUTURE ON BLOCKCHAINS P 8.

([15]) https://sa.investing.com/crypto/bitcoin/btc-usd visited on 2/1/2020

([16]) أحمد إبراهيم دهشان-المرجع السابقة ص 13.

([17]) Franziska Boehm, Paulina PeschInstitute Bitcoin: A First Legal Analysis– with reference to German and US-American law Telecommunication-, and Media Law, Leonardo-Campus 9 -48149 p 50

([18]) أحمد إبراهيم دهشان المرجع السابق ص ٠٢٤

([19])د. علا السيد-تدفقات إلكترونية في مرحلة المخاطر-مدرس الاقتصاد والتمويل، كلية الاقتصاد والعلوم السياسية، جامعة القاهرة تاريخ: ٢٠١٤-10-01-** نشر هذا المقال في دورية (اتجاهات الأحداث) الصادرة عن مركز المستقبل، العدد الثاني، سبتمبر ص ٢.

([20]) احمد إبراهيم الدهشان -المرجع السابق -ص 25.

([21]) هي عملات رقمية افتراضية ظهرت بعد البتكوين لكنها لم تصل إلى شهرة البتكوين.

([22])https://ar.wikipedia.org/wiki/%D9%82%D8%A7%D9%86%D9%88%D9%86%D9%8A%D8%A9 %D8%A8%D9%8A%D

 ([23])https://issuu.com/voum7/docs/120208124758626-/38

 ([24])https://www.arraiol.com/content/112456/%D9%85%D8%A7%D9%84-

([25]) https://www.youm7.eom/story/2018/1/8/%D9%85%D9%88%D8%B6 %D8%A9

([26])https://enabbaladi.net/archives/177339?gclid=CjOKCQiAbjyBRCcARIsAFboWg16o-VsS7Jg-

([27])https://cards.emarat.ae/%D8%A7%D9%85%D9%83%D8%A7%D8%B4/?lang=ar

([28]) تقنية NFC أو ما تعرف ب (Near Field Communication) هي خاصية أصبحت تتواجد في العديد من الأجهزة المحمولة، تسمح بتكوين الاتصالات Peer-to-Peer،وتمرير البيانات من خلال جهاز لأخر من خلال تلامسهم أو وضعهم بالقرب من بعضهم البعض. تعد فكرةNFC ،مشابهة للتقنية المستخدمة في محلات البيع وهو ما يحدث ببساطة بأن يقوم البائع بتمرير الشريط الذي يحمل البيانات على جهاز معين ومن ثم تنتقل المعلومات إلى الحاسب الخاص به. تعد NFC تقنية مشابهه لهذه التقنية، ولكنها خاصة بالهواتف الذكية

https://www.arageek.com/tech/all-what-you-need-to-know-about-nfc

([29])  https://www.albayan.ae/economy/local-market/2019-12-08-1.3721007

([30]) https://almalnews.com/%D8%A7%D9%84%D8%A8%D9%86%D9%83-

([31]) عرض على مجلس النواب بتاريخ 2/2/2020 الجاري

file:///C:/Users/lenovo/Downloads/%D9%85%D8%B4%D8%B1%D9%88%D8%B9%20%D9%82%D8%A7%D9%86%D

 ([32])Rosario Girasa – p. 201

([33]) United States District Court- EASTERN DISTRICT OF TEXASSHERMAN DIVISION Case No. 4:13-CV-416§ Judge Mazzant

http://www.law.du.edu/documents/corporategovernance/securitiesmatters/shavers/SEC-v-Shavers-:No-4-13-CV-416-E-D-Tex-Sept-18- 2014.pdf.

 ([34])https://web.archive.org/web/20180622111506/https://www.reuters.com/article/us-jpmorgancyber-bitcoin-idUSKCN11P2DE . Visited on 12/12/2019.

([35]) Yavar Bathae- Harvard-THE ARTIFICIAL INTELLIGENCE BLACK BOX AND THE FAILURE OF INTENT AND CAUSATION- Journal of Law & Technology Volume 31, Number 2 Spring 2018- p 901

([36])Gabriel Hallevy- Liability for Crimes Involving Artificial Intelligence Systems- Springer International Publishing Switzerland 2015- 2014- p 7

([37]) MONIKA SIMMLER* and NORA MARKWALDER- Guilty Robts- RETHINKING THE NATURE OF CULPABILITY AND LEGAL PERSONHOOD IN AN AGE OF ARTIFICIAL INTELLIGENCE­Criminal Law Forum (2019) 30:1-31 p. 5

https://doi.org/10.1007/s10609-018-9360-0

 ([38])Hyeon-Woo Kang, Hang-Bong Kang -Prediction of crime occurrence from multimodal data using deep learning -Dept. of Digital Media- PLOS ONE | https://doi.org/10.1371/journal.pone.0176244 April 24, 201 Catholic University of Korea, Bucheon, Gyonggi-Do, Korea-p1 – https://doi.org/10.1371/journal.pone.0176244 April 24, 2017

([39]) د. يحيى إبراهيم دهشان-المسؤولية الجنائية عن جرائم الذكاء الاصطناعي-مجلة الشريعة والقانون جامعة الأمارات-30/6/2019- ص 16.

([40]) د. محمود علم الدين-الذكاء الصناعي محنة أم فرصة ثمينة-مقال نشر في صحيفة الأهرام-27/2/2020 – ص ١٣.

([41]) د. يحيى دهشان-المرجع السابق ص 18.

([42]) Yavar Bathae- p. 905

يحيى دهشان المرجع السابق ص-٣٧.

 ([43])Matilda– Artificial Intelligence and the External Element of the Crime An Analysis of the Liability Problem -Spring 2017- J U R I D I C U M- JU101A, Final Thesis for the Law Program, Second Cycl.- 26.

([44]) يحيى دهشان المرجع السابق-ص 38.

([45]) matilda Karlson. 19

([46])تقنية HFT High Frequency Trading، هو برنامج للتداول تستخدم برامج كمبيوتر قوية للتعامل مع عدد كبير من الطلبات في كسور في الثانية. يستخدم خوارزميات معقدة تحليل أسواق متعددة وتنفيذ الطلبات بناء على ظروف السوق.

https://www.google.com/search?sxsrf=visited on 2/3/2020

 ([47])Good Regulation, Bad Regulation-Imad A. Moosa Palgrave Macmillan, London 2015 -p.169

([48]) في ٦ أيار (مايو) ٢٠١٠، افتتحت أسواق الأسهم الأمريكية وتراجع مؤشر داو جونز، واتجه هذا الطريق لمعظم اليوم وسط مخاوف كبيرة. في الساعة ٢:٤٢ مساء، مع انخفاض مؤشر داو جونز لأكثر من ٣٠٠ نقطة لليوم، بدأ سوق الأسهم في الانخفاض بسرعة، حيث انخفض 600 نقطة إضافية في ٥ دقائق لخسارة ما يقرب من ١٠٠٠ نقطة لليوم بحلول الساعة ٢:٤٧ مساء.

https://en.wikipedia.org/wiki/2010 flas crash visited on 1-3-2020

([49]) https://www.alarabiya.net/ar/science/2017/09/22/-%D9%86%D8%A7%D9%86%D9%88- viseted on 12/3/2020

([50])احمد عوض بلال- أحمد عوض بلال-مبادئ قانون العقوبات المصري القسم العام- دار النهضة العربية- دون تاريخ .ص ٦٩٢.

([51])أحمد عوض بلاب-المرجع السابق ص ٦٩٧.

 ([52])MONIKA SIMMLER* and NORA MARKWALDER* Guilty Robts.cit- p 7.

([53]) Matilda p 21.

 ([54])https://www.courtlistener.com/ F. Supp. 2d 361, 372 (S.D.N.Y. 2007/opinion/1752809/in-re-amaranth-naturatgas-commodities-litigation/?show_alert_modal=yes&q=cites%3A(2298894)

([55]) توتير من اهم واشهر مواقع التواصل الاجتماعي وتوجد على الموقع كل قواعد الاستخدام والخصوصية

https://twitter.com/login? lang=en

([56]) Yavar Bathae- THE ARTIFICIAL INTELLIGENCE BLACK BOX AND THE FAILURE OF INTENT AND CAUSATION-p 912

([57])  matilda- p 37.

([58])محمد العوضي مسؤولية المنتج عن المنتوجات الصناعية-مجلة القانون المدني-عدد ١ المركز المغربي للدراسات والاستشارات القانونية -٢٠١٤ ص ٢٦.

([59])يحيى دهشان-ص ٣٦.

 ([60])Matilda p 32.

([61]) monica p 8.

([62]) Gabriel Hallevy- cit- p 131.

([63]) Monicai- cit- p. 8.

([64])يحيى دهشان ص ٣٨.

([65]) أحمد عوض بلال – مبادئ قانون العقوبات المصري القسم العام-دار النهضة العربية-دون تاريخ ص ٢٧٠.

([66]) Matilda Claussen – Karlsson –p 22-26.

([67])بمعنى عدم إمكانية معرفة الطريقة التي يتخذ بها قراراته أو التنبؤ بها حتى من قبل المبرمج نفسه.

Yavard 935

 ([68])Yavard 935

([69]) يحيى دهشان ص 39.

yavard- p. 935

([70]) Ugo Pagallo- The Laws of Crimes, Contracts, and Torts-Law, Governance and Technology Series 10

– University of Torino -Springer Dordrecht Heidelberg New York London-

-© Springer Science+Business Media Dordrecht- 2013- p. 72.

([71]) لاري جرينماير- حين يخفق الذكاء الاصطناعي قد تكون أنت الملوم

https://www.scientificamerican.com/arabic/articles/news/intelligent-to-afaultwhen-ai-screws-up-vou-might-still-be-to-blame1 /2018 Yavard 921

([72]) monica-p10-12

 ([73])monica p.12

([74]) Monica p.17