إعداد
الدكتور/ أحمد حسن فولي
أستاذ القانون الدولي العام المشارك
كلية المدينة الجامعية بعجمان
المقدمة
شهدت السنوات الأخيرة تطورا هائلا في تكنولوجيا الذكاء الاصطناعي بشكل مكن الآلات من القيام بما يقوم به البشر في مختلف مجالات الحياة، بل تفوقت الآلات على البشر في تأدية الكثير من الوظائف، فقدرة الآلة على تخزين، ومعالجة البيانات، وتحليل المعلومات مكنتها من اتخاذ القرارات بسرعة لا يمكن أن تصل إليها كفاءة البشر، كما أن قدرة الآلات على العمل لساعات طويلة، وفي ظروف لا يستطيع الإنسان تحملها جعلها الخيار الأفضل للدول، وكذا للمستثمرين في مختلف مجالات القطاع الخاص ([1]).
ولكن هذا التقدم والتطور لم يأت على البشرية بالخير فقط بل حمل بين طياته الكثير من المخاطر، والحقيقة التي أثبتها التاريخ أن أي تقدم تقني، أو تكنولوجي يهدف إلى تيسير حياة البشر، وتنمية مجتمعاتهم يستخدم على نطاق مواز في عرقلة تلك الحياة، وزيادة مصاعبها، وفي بعض الأحيان يؤدي إلى تدميرها، فعندما اخترع (الفرد نوبل) الديناميت كان يستهدف مساعدة عمال المناجم، والتخفيف عنهم، وتقليل مشقة عملهم، ولكن سرعان ما أصبح الديناميت أخطر أسلحة الحرب، وأشدها تدميرا.
حقا، أن الحرب حرباء تتلون بلون المجتمعات التي تشارك في خوضها، وتصطبغبصبغتها ([2])، فالحرب صراع وجود تدافع فيه كل دولة عن بقائها ومصالحها بكل ما تملك من قوى ([3])، ولذا كان ولا يزال أصعب هداف للقانون الدولي هو ضبط ممارسات الدول في زمن النزاعات المسلحة، وحظر استخدامها للأسلحة اللاإنسانية ([4]).
ويمثل استخدام تكنولوجيا الذكاء الاصطناعي في صنع الأسلحة إشكالية حقيقية تواجه المجتمع الدولي اليوم؛ لأن الروبوتات المقاتلة، والأسلحة ذاتية التشغيل تمتلك القدرة على تحديد أهدافها، ومهاجمتها دون الرجوع للبشر، أو استئذانهم في إطلاق الذخيرة الحية للقتل أو للتدمير ([5])، ولذا وصف استخدام الذكاء الاصطناعي في صنع الأسلحة -في بدايات القرن الحادي والعشرين -بأنه الثورة الأكبر في تاريخ البشرية في مجال الشؤون العسكرية بعد استخدام البارود، وصناعة القنابل النووية ([6]).
وفي ٢٢ يناير ٢٠٢٠ وصف أنطونيو غوتيريش أمين عام الأمم المتحدة استخدام الذكاء الاصطناعي في صنع الأسلحة بأنه من أخطر أربعة تهديدات تواجه البشرية في عصرنا، وطالب بضرورة مواجهة الآثار السلبية لتطور تكنولوجيا الذكاء الاصطناعي، وناشد الدول بأنتحظر على الفور ما يسمى بالأسلحة المستقلة الفتاكة، أو ما يعرف بالروبوتات القاتلة ([7])، وحذر غوتيريش من أن الأسلحة الفتاكة التي تتمتع بالاستقلال الذاتي، والآلات القادرة على القتل من تلقاء نفسها سوف تؤدي بالمجتمع الإنساني إلى أوضاع أخلاقية وسياسية غير مقبولة ([8]).
وتمثل الأسلحة ذاتية التشغيل تحديا حقيقيا أمام القانون الدولي المعاصر؛ لأن هذا القانون يعتمد في تنظيمه للحرب على قدرة الأشخاص الذين يشاركون في العمليات العدائية على التمييز بين الأهداف المشروعة والأهداف المحرمة دوليا، وإلى اليوم لم تحدد قدرة الأسلحة ذاتية التشغيل على هذا التمييز بشكل قاطع، فالبعض يراها أسلحة غير مميزة ويمكن أن تصيب أشخاص أو أماكن يجرم القانون الدولي استهدافها، والبعض الأخر يرى أن هذه الأسلحة أكثر قدرة على التمييز من الجنود.
والسبيل الآخر الذي يسلكه القانون الدولي لتنظيم الحروب هو منع وتجريم استخدام الأسلحة التي تحدث آلاما لا مبرر لها، أو تكون عشوائية الأثر، أو شديدة التدمير، ولا يمكنوصف الأسلحة ذاتية التشغيل، أو الروبوتات المقاتلة بهذه الصفات، فالآلام التي تنتج عنها قد تكون أقل، وقوتها التدميرية قد تكون أضعف من بعض الأسلحة المسموح باستخدامها دوليا.
وتثير الرؤية الضبابية للأسلحة ذاتية التشغيل والروبوتات المقاتلة قلق ومخاوف المجتمع الدولي من الآثار السلبية المحتملة من استخدامها، خاصة فيما يتعلق بوفاء الدول بالتزاماتها الواردة في إطار القانون الدولي الإنساني، ولمواجهة تلك الآثار شكلت الأمم المتحدة فريقا من الخبراء الحكوميين معني بدراسة إشكاليات الأسلحة الفتاكة ذاتية التشغيل، وخلال الاجتماعات الأولى لعمل هذا الفريق اكتشف أعضاؤه أنهم يواجهون عددا هائلا من الإشكاليات القانونية والآراء المتعارضة بشأن هذه الأسلحة المستقلة، ورغم ذلكاستطاع فريق الخبراء أن يتوافق على عدد من المبادئ التوجيهية التي تضع إطارا عاما للقواعد الدولية المنظمة لاستخدام تكنولوجيا الذكاء الاصطناعي في صناعات التسليح، ولم يستطع فريق الخبراء- إلى الآن- معالجة الإشكاليات القانونية الدقيقة التي تفرضها هذه الأسلحة.
وسيحاول هذا البحث تحليل ومعالجة الخلافات الرئيسة التي تعترض المواجهة الدولية لاستخدام الذكاء الاصطناعي في صناعة الأسلحة، وتحديد المسؤولية الدولية التي تنشأ عن الأضرار التي تحدثها الأسلحة ذاتية التشغيل، وذلك من خلال تطبيق المبادئ والأحكام العامة للمسؤولية الدولية على هذه الأسلحة.
إشكالية البحث
تثير الروبوتات المقاتلة والأسلحة المصنعة باستخدام تكنولوجيا الذكاء الاصطناعي مخاوف المجتمع الدولي من انتهاك الدول لقواعد القانون الدولي الإنساني ومبادئه الراسخة، ويفتقر القانون الدولي بوضعه الحالي لقواعد دولية تحدد مسؤولية الدول التي تقوم بتطوير أو نشر أو استخدام الروبوتات المسلحة المستقلة وغيرها من منظومات الأسلحة البرية أو الجوية أو المائية ذاتية التشغيل، وتقوم الكثير من الدول خلال الوقت الراهن بتطوير هذه الأسلحة، وهو ما يتطلب تحديد مسؤوليتها حال حدوث أي ضرر لدولة أخرى نتيجة استخدام هذه الروبوتات أو الأسلحة.
تساؤلات البحث
يحاول البحث إجابة التساؤلات التالية:
ما هي الأسباب التي جعلت الدول تستخدم الذكاء الاصطناعي في صناعة الأسلحة؟
ما هي الجهود الدولية المبذولة لمواجهة الأسلحة الفتاكة ذاتية التشغيل؟
ما هي التحديات التي تحول دون حظر هذه الأسلحة دوليا؟
هل يجب أن تعترف الدول في تشريعاتها الوطنية بشخصية قانونية معينة للروبوتات الذكية؟
ما هو الأساس القانوني للمسؤولية الدولية التي تنشأ عند حدوث أضرار بسبب قرارات تتخذها الروبوتات القاتلة أو أي نوع من الأسلحة ذاتية التشغيل؟
خطة البحث
ينقسم البحث إلى مبحثين، يناقش المبحث الأول الدوافع التي وجهت الدول نحو استخدام الذكاء الاصطناعي في صناعة الأسلحة والجهود الدولية المبذولة لمواجهة الأسلحة الفتاكة ذاتية التشغيل والعقبات التي تحول دون مواجهة حظر هذه الأسلحة.
والمبحث الثاني يتعرض لدراسة المسؤولية الدولية عن الأضرار التي تحدثها الأسلحة ذاتية التشغيل، ويناقش مسؤولية الدول عن تطوير تشريعاتها الوطنية لمواجهة أخطاء الأسلحة ذاتية التشغيل، ومسؤولية الدول التي تقوم بتطوير، ونشر، واستخدام هذه الأسلحة، ومسؤولية الدول عن تقييم مخاطر الأسلحة ذاتية التشغيل، وتأمينها، وحماية برامجها.
المبحث الأول
استخدام الذكاء الاصطناعي في صنع الأسلحة
دوافعه ومواجهته دوليا وعقبات حظره
يقسم هذا المبحث إلى ثلاثة مطالب، يتعرض المطلب الأول لدراسة دوافع استخدام الدول للذكاء الاصطناعي في صنع الأسلحة، ويستعرض المطلب الثاني الجهود الدولية المبذولة لمواجهة الأسلحة الفتاكة ذاتية التشغيل، ويحلل المطلب الثالث العقبات التي تحول دون حظر الأسلحة ذاتية التشغيل.
المطلب الأول
دوافع استخدام الدول للذكاء الاصطناعي في صنع الأسلحة
إذا كنا نستهدف مواجهة استخدام الذكاء الاصطناعي في صنع الأسلحة، فأول سؤال يجب طرحه هو: ما هي الدوافع التي أدت لتوجه الدول لصنع أسلحة باستخدام هذه التكنولوجيا؟
وأهمية طرح هذا التساؤل في بداية بحثنا هي أن الدوافع المحركة لإرادة الدول ستمثل قيمة معتبرة عند محاولة التعرف إلى قدرة المجتمع الدولي على وضع قواعد دولية منظمة لهذا الاستخدام، فالقواعد الدولية لا تنشأ إلا بإرادة الدول وقناعتها بأن سلوكا ما سيؤدي إلى تهديد السلم والأمن الدوليين، أو يمثل انتهاكا للمبادئ الأساسية التي يقوم عليها القانون الدولي الإنساني ([9]).
ومن خلال البحث فيما تحققه هذه الأسلحة المستحدثة من فوائد يمكننا استخلاصأربعة دوافع رئيسة تحرك إرادة الدول نحو تطويرها وتصنيعها، الدافع الأول هو السرعة الفائقة التي تتمتع بها تلك الأسلحة في اتخاذ القرارات والتعامل مع المواقف الحرجة، والدفاع الثاني هو حماية أفراد القوات المسلحة التابعين للدولة التي تملك أسلحة مستقلة، والدفاع الثالث هو قدرة هذه الأسلحة على البقاء لوقت طويل في مواقع التأمين والحراسات العسكرية، والدافع الرابع هو مخاوف الدول من التخلف عن ركاب التطور التكنولوجي وسباق التسلح. وسأحاول توضيح هذه الدوافع بشيء من التفصيل فيما يلي:
الدافع الأول: السرعة الفائقة في اتخاذ القرارات والتعامل مع المواقف الحرجة
تستهدف الدول من الاستخدام العسكري لتكنولوجيا الذكاء الاصطناعي أن تعزز قدرة أسلحتها على رد الفعل السريع والتعامل مع المخاطر بشكل يفوق قدرة البشر، فسرعة رد الفعل تجاه أي عمل عسكري هي أحد العناصر الحاسمة للانتصار في الحرب ([10])، أضاف إلى ذلك، أن اتصال هذه الأسلحة بالتكنولوجيا المتاحة عبر الأقمار الصناعية يمكنها من التعرف إلى المعلومات وتحليلها بشكل فائق السرعة وهو ما يمثل ميزة تنافسية بالغة الأهمية للدول التي تملكها.
فالذكاء الاصطناعي مبني على تزويد الآلات بأجهزة استشعار تمكنها من أدراك ملابسات الواقع المحيط بها والتعامل معها دون تدخل من جانب العنصر البشري، أي أن الآلات تشعر ثم تفكر ثم تفعل، وذلك خلال عملية تكنولوجية لا تستغرق أكثر من جزء من الثانية (تقاس بالنانو ثانية)، وعليه فإن الأسلحة المصنعة بهذه التكنولوجيا تمتلك القدرة على اتخاذ القرارات الملائمة للظروف المحيطة بها دون تدخل من مشغلها، وذلك من خلال تزويدها مسبقا بعدد واسع من الفرضيات، وربط تلك الفرضيات بقرارات يتخذها السلاح بشكل مباشر حال تحقق معطيات كل فرضية([11]).
ومن أمثلة ذلك نظام (C-RAM) وهو أحد أنظمة التسليح الأمريكية التي تمتلك القدرة على الاستشعار بوجود قذائف الهاون أو الصواريخ أو قذائف المدفعية، وبمجرد رصد وجودها من حوله يشتبك معها بشكل تلقائي، وأيضا النظام الأمريكي المعروف باسم (فالانكس)، وهو نظام تسليح إلى زودت به الولايات المتحدة الطرادات من الفئة (أيجز)، وهذا النظام يمكن الطرادات من الكشف بشكل تلقائي عن المخاطر المحيطة به سواء من طائرات الدفاع الجوي أو من القذائف المضادة للسفن والطرادات، وفي حال اكتشاف أيمن هذه المخاطر فأنه يتعقبها ويشتبك معها ([12]).
ومن هذه الأسلحة أيضا، الطائرة الإسرائيلية (هربي) والتي تعمل بمبدأ (أطق وأنس) faire and forget وهذا النظام يمكن الطائرة من الاستشعار بوجود المخاطر من حولها عن طريق ارتداد أشعة الرادار، ثم يقوم بتعقب مصدر الخطر ومهاجمته وتدميره.
الدافع الثاني: حماية أفراد القوات المسلحة للدول التي تملك أسلحة ذكية
إن استخدام الأسلحة ذاتية التشغيل في النزاعات المسلحة يقلل من احتمالات إصابة الجنود المشاركة في أي قتال، والدولة التي تملك هذه الأسلحة يمكنها تحقيق أهدافها العسكرية بعدد أقل من الجنود المقاتلين، فالروبوتات المسلحة تستطيع اختراق خطوط العدو بكفاءة أعلى من كفاءة أي جنود مقاتلين ([13]). كما تستطيع هذه الروبوتات البقاء في أرض المعارك لوقت أطول دون أن تتأثر بالإجهاد، ولا تقل كفاءة عملها كما تقل كفاءة العنصر البشري بمرور الوقت في ساحة القتال، كما يمكن تكليف هذه الروبوتات بالمهام الخطرة التي تكون فيها احتمالات عالية لإصابة الجنود أو وقوعهم في الأسر ([14]).
ولذا فإن حماية أفراد القوات المسلحة تعد من أهم الأسباب التي تدفع الدول لاستخدام تكنولوجيا الذكاء الاصطناعي في صناعة الأسلحة، ومن أول الدول التي استخدمت تلك التكنولوجيا كانت الولايات المتحدة الأمريكية، حيث واجه جنود المشاة الأمريكية عقبات حقيقيه في تحركاتهم في العراق وأفغانستان بسبب الألغام الأرضية التي زرعت لاستهدافهم في الكثير من المناطق، ولهذا لجأت الولايات المتحدة لصنع روبوتات تتحرك قبل دخول الجنود لأي موقع لاكتشاف تلك الألغام، وفي حالات انفجارها فلن يكون هناك خسائر في صفوف الجنود، والآن اتجهت الدول لصناعة روبوتات تستطيع المشاركة في القتال، وذلك يضمن عدم وجود أي إصابات في أفراد قواتها المسلحة.
الدافع الثالث: القدرة على البقاء لوقت طويل في مواقع التأمين والحراسات العسكرية
تستطيع الأسلحة ذاتية التشغيل البقاء في مواقع التأمين وحراسات المناطق العسكريةوالخطوط الحدودية لساعات وأيام دون كلل أو ملل، ولذا لجأت بعض الدول إلى تصميم أسلحة ذاتية التشغيل مجهزة للقيام بأعمال الحراسة والتأمين، فهذه المهام تحديدا تحتاج لدرجة كبيرة من اليقظة المستمرة عندما تكلف بها الجنود، إضافة إلى ذلك، أن الهجوم على مواقع التأمين والحراسات ظل لفترة طويلة من الموضوعات التي تؤرق الدول لسهولة استهداف الجنود المعينين عليها باعتبارهم أهداف ثابتة ومن السهل مباغتتهم وقتلهم، ولهذا السبب يمكن القول إن الأسلحة ذاتية التشغيل عالجت مشكلة معقدة كانت الكثير من الدول تواجهها.
وبدأت الدول في معالجة هذه الإشكالية بأنها صنعت روبوتات مزودة بكاميرات يتم وضعها داخل أبراج المراقبة ويتحكم فيها الجنود المشغلون- عن بعد- من داخل غرف مؤمنة بشكل جيد، مثال ذلك قيام إسرائيل بنشر روبوتات تحمل رشاشات عيار ٧,٦٢ على أبراج المراقبة المبنية على الحدود الفاصلة بينها وبين فلسطين، واطلقت عليها أسماء مختلفة منها نظام «الحراسة التكنولوجية»، ونظام «اكتشف وأطلق النار»، ونظام «القناص الآلي» وهذه الأنظمة تمكن الروبوت القائم بالحراسة من تحديد موقع الهدف المشكوك فيه ونقلها لمركز القيادة، ثم يقوم جندي المراقبة بإعطاء أمر بإطلاق النار من شاشة الحاسوب ([15]). ثم طورت إسرائيل هذه الروبوتات بتزويدها ببرامج تمكنها من التعامل مع المخاطر تلقائيا دون تدخل بشري، ومن أمثلة ذلك أيضا، انتشار روبوتات المراقبة في المناطق المنزوعة السلاح بين الكوريتين الشمالية والجنوبية، وقد زودت شركة «سامسونج كوين» هذه الروبوتات بأجهزة استشعار عن بعد تعمل بنظام الأشعة تحت الحمراء، وهي تعمل بنظامين أحدهما لا يتيح لها التعامل مع الأهداف إلا بإذن من القيادة، والنظام الآخر هو خاصية التشغيل التلقائي التي تمكنها من التعامل مع الخطر دون الرجوع للقيادة ([16]).
الدافع الرابع: مخاوف الدول من التخلف عن ركاب التطور التكنولوجي وسباق التسلح
تتطور تكنولوجيا الذكاء الاصطناعي بشكل فائق السرعة وتنفق الدول أموالا طائلة على أبحاثها، ويشار في هذا الشأن إلى أن القوات المسلحة الأمريكية هي الممول الرئيس لأبحاث الذكاء الاصطناعي في الولايات المتحدة ([17])، وتخشى الدول أن تتخلف عن سباق التسلحالمتسارع في هذا المجال، فالعام الذي سينقضي دون إحراز التقدم المستهدف لن يمكن تعويضه.
ولبيان سرعة التطور في هذا المجال يشار إلى أن استخدام تكنولوجيا الاتصالات في تصنيع الأسلحة بدأ بتزويد بعض الأسلحة -مثل الطائرات بدون طيار وبعض أنواع من الطوربيدات البحرية- بكاميرات مراقبة تمكن مشغلها من رؤية موقع السلاح عن بعد عبر شاشات أجهزة الكمبيوتر، وبالتالي يتحكم المشغل في إطلاق الذخيرة الحية على الأهداف بعد تقييم معطيات الواقع ([18]).
ثم بدأت الدول في استخدام تكنولوجيا الذكاء الاصطناعي في تمكين الطائرات بدون طيار من الإقلاع والهبوط والتقاط الصور والعودة للمقر بقرارات منفردة دون الحاجة لتدخل بشري، وكانت هذه الطائرات بحجم اليد البشرية تقريبا ([19]). وفي غضون سنوات قليلة بدأ تزويد هذه الطائرات بتكنولوجيا الذكاء الاصطناعي التي تمكنها من التعامل مع الأهداف بالنيران مثل طائرات (تارنيس) وهي أحد أنواع الطائرات بدون طيار التي تستطيع التعرف إلى العدو بشكل مستقل وتحديد مكانه وهويته، وزودت هذه الطائرات بنظامين أحدهما لا يتيح لها التعامل مع العدو إلا بإذن من القيادة، والنظام الثاني يمكن الطائرة من الدفاع عن نفسها ضد طائرات العدو ([20]).
ففي مايو ٢٠١٣ أطلقت الولايات المتحدة الأمريكية طائرة بدون طيار من على متن حاملة الطائرات USS GEARGE WALKER BUSH من مسافة قصيرة من سواحل العاصمة واشنطن، وتعرف هذه الطائرة باسم X-47B وتفوق سرعتها الطائرة بدون طيار المعروفة باسم المفترسة MQ-1 Predator أو الحاصدة 9-MQ، وقد وصفتها البحرية الأمريكية بأنها «قفزة تاريخية في مستقبل الملاحة البحرية»، حيث أن هذه الطائرة صممت لتنفيذ المهام بدون تدخل بشري في التنقل أو الهجوم أو تفادي الهجمات ([21]).
ويتجلى سباق التسلح وضوحا عندما نعرف أن إنتاج هذا الجيل من الطائرات لا يقتصر على الولايات المتحدة الأمريكية بل أن الكثير من الدول تمتلك التكنولوجيا اللازمةلصناعتها، ومنها أستراليا، والصين، وبريطانيا على سبيل المثال وليس الحصر، ونظيرة هذه الطائرة في أستراليا تعرف باسم «تارانيس»، ونظيرتها في الصين تعرف باسم «بلوشارك» وتعكف على صناعتها الشركة الصينية لصناعة الطائرات، كما أعلنت الحكومة البريطانية أنها أنتجت طائرة من طراز الشبح سمتها باسم Taranis وأكدت الجهة المصنعة لهذه الطائرة أنها ذاتية التشغيل والتحكم ([22]).
ومن خلال التعرف إلى الأسباب التي دفعت الدول لاستخدام تكنولوجيا الذكاء الاصطناعي في صناعة الأسلحة يمكننا استخلاص أنها دوافع على درجه بالغة من الأهمية، وستكون استجابة الدول التي انخرطت في سباق الأسلحة ذاتية التشغيل والروبوتات المقاتلة لمطالبات الأمم المتحدة بالتريث أو التفكير في عواقب تطوير هذه الأسلحة ضعيفة للغاية؛ لأن كل دولة تعلم أن الدول الأخرى لن تتوقف عن تطوير هذا السباق.
المطلب الثاني
الجهود الدولية المبذولة لمواجهة الأسلحة الفتاكة ذاتية التشغيل
في ٢٠١٠ قدم السيد (فيليب ألستون) المقرر الخاص المعني بحالات الإعدام خارج نطاق القضاء تقريرا للمجلس الدولي لحقوق الإنسان تعرض من خلاله لمخاطر إنتاج الأسلحة ذاتية التشغيل والروبوتات المقاتلة ([23])، وأوصى الأمم المتحدة بتشكيل فريق منالخبراء للنظر في المخاطر المحتملة من صناعة أسلحة مزودة بتكنولوجيا الذكاء الاصطناعي، وعرض المجلس الدولي لحقوق الإنسان هذا التقرير على الجمعية العامة للأمم المتحدة، وكان لهذا التقرير أثره في تصعيد مخاطر هذه الأسلحة على المستوى الدولي ومناقشتها في الكثير من هيئات الأمم المتحدة ([24]).
وفي ٢٠١٣ قدم السيد (كريسوفر هاينز) المقرر الخاص المعني بحالات الإعدام خارج نطاق القضاء تقريرا تفصيليا بشأن مخاطر الأسلحة ذاتية التشغيل والروبوتات المقاتلة للمجلس الدولي لحقوق الإنسان، وناقش من خلاله الإشكاليات القانونية والمخاوف التي يثيرها استخدام تكنولوجيا الذكاء الاصطناعي في صناعة الأسلحة والتحديات التي ستواجه تطبيق القانون الدولي الإنساني بسبب الأسلحة المستقلة ([25]).
وبحلول عام ٢٠١٤ كانت الإشكاليات التي تثيرها الأسلحة ذاتية التشغيل موضع اهتمام الكثير من هيئات الأمم المتحدة، منها مكتب الأمم المتحدة لشؤون نزع السلاح، ومعهد الأمم المتحدة لشؤون نزع السلاح، كما ناقشت الجمعية العامة للأمم المتحدة الموضوع وأيدت المخاوف المحتملة من هذه الأسلحة، وفي نفس العام قامت لجنة الدول الأطراف في اتفاقية حظر استعمال الأسلحة العشوائية الأثر أو مفرطة الضرر بإدراج موضوع الأسلحة ذاتية التشغيل على جدول أعمال اجتماعاتها ([26]).
وخلال عامي ٢٠١٥، ٢٠١٦ عقدت عدة اجتماعات غير رسمية لخبراء الدول الأطراف في اتفاقية حظر الأسلحة العشوائية الأثر أو مفرطة الضرر لدراسة الإشكاليات التي تثيرها الأسلحة الفتاكة ذاتية التشغيل، وشارك في هذه الاجتماعات العديد من الخبراء من ثمانين دولة، كما دعت الأمم المتحدة العديد من المنظمات الدولية غير الحكومية، ومؤسسات المجتمع المدني، والجامعات، والهيئات البحثية المهتمة بموضوع الأسلحة ذاتية التشغيل لحضور هذه الاجتماعات ([27])، وتعرضوا لمناقشة الكثير من المشكلات التي تثيرها الأسلحةذاتية التشغيل وأهمها صعوبة تعريف هذه الأسلحة وصعوبة تحديد خصائصها، واختلفت أراء المشاركين حول مزايا وعيوب تلك الأسلحة بين مؤيد ومعارض لاستخدامها. وفي نهاية عام ٢٠١٦ قدم فريق الخبراء غير الرسمي توصية -للدول الأطراف المتعاقدة في اتفاقية حظر الأسلحة مفرطة الضرر أو عشوائية الأثر -بأن يتم إنشاء فريق رسمي من الخبراء الحكوميين ([28]).
ويشار في هذا الشأن إلى أن المدة من ٢٠١٥ وحتى ٢٠١٧ شهدت جهودا حثيثة من الدول الأوروبية لدراسة أثر استخدام الروبوتات المستقلة على مختلف جوانب الحياة في أوروبا وبخاصة القضايا القانونية والاقتصادية والاجتماعية الناشئة عن هذه الروبوتات، حيث وجد الاتحاد الأوروبي نفسه ملزما بمعالجة تلك القضايا التي عكست ثغرات قانونية وإشكاليات حقيقية تواجه البنية الاقتصادية والاجتماعية للمجتمع الأوروبي، وفي ٢٠١٧ إصدار البرلمان الأوروبي «القواعد الأوروبية في القانون المدني للإنسآلة» ([29]).
وفي نوفمبر ٢٠١٧ عقد الاجتماع الأول لفريق الخبراء الحكوميين المعني بالتقنيات الناشئة في مجال أنظمة الأسلحة الفتاكة المستقلة، وناقش الفريق سبل تطبيق أهداف ومبادئ اتفاقية الأسلحة التقليدية على هذه الأسلحة، واستعرض عددا من المقترحات التي قدمتها الدول، واللجان الفرعية التي تم تشكيلها لدراسة الأبعاد المختلفة للأسلحة المستقلة ([30])، وتوصل هذا الاجتماع إلى أن هذه الأسلحة تثير الكثير من الإشكاليات المتعلقةبالقانون الدولي الإنساني، وحدد الفريق ثلاثة موضوعات رئيسة للمناقشة في عام ٢٠١٨، الموضوع الأول هو إشكالية تعريف منظومة الأسلحة ذاتية التشغيل، والموضوع الثانية هي مستوى التفاعل بين الإنسان والآلة وما يثيره من مشكلات بشأن احترام القانون الدولي الإنساني، والموضوع الثالث هو الحلول الممكنة أو الخيارات المتاحة لمعالجة الإشكاليات التي تنتج عن استخدام هذه الأسلحة ([31]).
وبعد اجتماعات مكثفة في عام ٢٠١٨ استمرت خلالها خلافات أعضاء الفريق استطاعوا الاتفاق على عشرة مبادئ توجيهية تمثل إطارا عاما لمعالجة القضايا الدولية الناشئة عن منظومات الأسلحة الفتاكة ذاتية التشغيل ([32]).
وبحلول عام ٢٠١٩ أصدر الأمين العام للأمم المتحدة أنطونيو غوتيريوش بيانا في نفس اليوم المقرر لانعقاد اجتماع فريق الخبراء الحكوميين، حثهم فيه على ضرورة العمل على تسوية الخلافات التي دارت خلال اجتماعات العامين السابقين قائلا «إن مهمتكم الآن هي تضييق هذه الاختلافات وإيجاد أكثر الطرق فعالية للمضي قدما.. فالعالم يراقب وعقارب الساعة تدق، والبعض الآخر أقل تفاؤلا، وآمل أن تثبتوا أنهم مخطئون» وذكر الأمين العام في رسالته للجنة الخبراء أن الآلات التي لديها القدرة وحرية التصرف في أخذ الأرواح دون تدخل بشري، غير مقبولة سياسيا وبغيضة أخلاقيا، ويجب حظرها بموجب القانون الدولي، وطالب الخبراء الممثلين للدول في الجنة بالإبقاء على المسؤولية الإنسانية فيما يتعلق بقرارات استخدام أنظمة الأسلحة، حيث لا يمكن وضع المسؤولية على الأجهزة وطالب غوتيريوش فريق الخبراء بوضع القواعد المنظمة لهذه الأسلحة بأسرع وقت ممكن ([33]).
ولم تتحقق آمال الأمين العام، فخلال الاجتماعين المنعقدين للفريق في عام ٢٠١٩ طرحت الكثير من التساؤلات التي كان من الصعب الوصول لإجاباتها، وقسم الفريق هذه التساؤلات لخمسة موضوعات رئيسة أولها التحديات التي تفرضها الأسلحة الفتاكة ذاتية التشغيل في مجال تطبيق القانون الدولي الإنساني ([34])، وثانيها موضوع خصائص الأسلحةالفتاكة ذاتية التشغيل المطلوب تحريمها دوليا ([35])، وثالثها موضوع الحد الأدنى الذي لا يمكن التنازل عنه لتدخل البشر في إدارة الآلات القاتلة سواء بالسيطرة على الآلة أو الرقابة على عملها أو تقديرها للمواقف التي تستدعي استخدام القوة المسلحة ([36])، والموضوع الرابع هوالتطبيقات العسكرية التي تستخدم فيها تكنولوجيا الذكاء الاصطناعي([37])، والموضوع الأخير هو كيفية مواجهة إنتاج واستخدام هذه الأسلحة وكيفية ضمان التزام الدول بالضوابط التي تضعها اللجنة ([38]).
وإلى اليوم لم يستطيع فريق الخبراء الحكوميين وضع تعريف واضح للأسلحة الفتاكة ذاتية التشغيل، ولم يستطيعوا تحديد خصائصها، كما استمرت الخلافات بشأن تأثير هذه الأسلحة على الوفاء بالالتزامات الدولية المتعلقة بالقانون الدولي الإنساني، ولم يتفق الخبراء الحكوميون على مستوى التدخل البشري المطلوب ليكون السلاح مشروع دوليا، وفيما يتعلق باستعراض التطبيقات العسكرية التي تستخدم فيها تكنولوجيا الذكاء الاصطناعي لم تعلن الدول عما لديها من أسلحة حديثة أو تكنولوجيات متقدمة وهو ما انتقده ممثلو المجتمع المدني الحاضرون والذين طالبوا الخبراء العسكريين المشاركين في الاجتماعات بالشفافية في العرض لنجاح مفاوضاتهم.
ومن خلال استعراض الجهود الدولية المبذولة لمواجهة الأسلحة الفتاكة ذاتية التشغيليتضح جليا أن موضوع هذه الأسلحة أثار مخاوف الأمم المتحدة خلال السنوات السابقة، ولكن هذه الجهود تواجه عقبات حقيقية تحول دون التوافق الدولي على قواعد منظمة لتطويرها أو إنتاجها أو استخدامها.
المطلب الثالث
العقبات التي تواجه حظر الأسلحة الفتاكة ذاتية التشغيل
تبين مما سبق أن حظر الأسلحة ذاتية التشغيل يواجه ثلاث عقبات رئيسة الأولى هي الخلاف حول موقف القانون الدولي الإنساني من هذه الأسلحة، وثانيها هو صعوبة تعريف الأسلحة المطلوب حظرها وتحديد خصائصها، والعقبة الثالثة هي الخلاف على نوعية الوثيقة الدولية اللازم إصدارها لحظر تلك الأسلحة، وفيما يلي سأناقش هذه العقبات للتعرف إلى سبل تخطيها.
أولا: الخلاف حول موقف القانون الدولي الإنساني من الأسلحة ذاتية التشغيل
إن فهم العقبات التي تواجه حظر الأسلحة الفتاكة ذاتية التشغيل يتطلب أن نتعرض في البداية لموقف القانون الدولي الإنساني من استخدام تكنولوجيا الذكاء الاصطناعي في صنع الأسلحة بشكل عام، ولتوضيح هذه الفكرة نتساءل:
هل يحرم القانون الدولي الإنساني أي سلاح مصنع باستخدام تكنولوجيا الذكاء الاصطناعي؟ أم أن الأسلحة المصنعة باستخدام هذه التكنولوجيا قد تكون أكثر قدرة على الامتثال لهذا القانون؟
في الحقيقة أن إجابة هذه التساؤلات ليست بالأمر السهل ولا الهين؛ ذلك لأن استخدام تكنولوجيا الذكاء الاصطناعي في صنع الأسلحة ينطوي على عدد من المزايا التي تقابل العيوب والمخاوف التي تثيرها بشأن احترام مبادئ القانون الدولي الإنساني.
إما بشأن المخاوف التي تثيرها الأسلحة المصنعة باستخدام تكنولوجيا الذكاء الاصطناعي، فهناك رأي واسع يقول إن هذه الأسلحة لن تستطيع التمييز بين المدنيين والمقاتلين، فأجهزة الاستشعار عن بعد التي تزود بها هذه الروبوتات لا يمكن أن تعرف ما إذا كان الشخص الذي رصدته مشاركا في أعمال القتال، أو أنه شخص ألقى سلاحه، أو طفل، أو جندي جريح، أو أحد أعضاء الفرق الطبية، أو منظمات الإغاثة ([39])، كما يمكن أنتصيب هذه الأسلحة المستشفيات، أو مساكن المدنيين، وتزداد هذه المشكلة صعوبة في ظل اشتعال نيران الحروب غير المتماثلة والنزاعات المسلحة غير التقليدية المعاصرة، فالكثير من هذه النزاعات تدور رحاها في مناطق مأهولة أو قريبة من أماكن وجود المدنيين وهو ما يزيد من صعوبة التمييز بين المدنيين والعسكريين ([40]).
ويضيف أصحاب هذا الرأي، أن الأسلحة المصنعة باستخدام تكنولوجيا الذكاء الاصطناعي بشكل عام، لا تستطيع الامتثال لضوابط استخدام القوة التي وضعها القانون الدولي الإنساني لعدم قدرتها على تقييم المواقف التي تتعرض لها وفقا لمبدأ التناسب بين الضرورات العسكرية والاعتبارات الإنسانية ولذا ينادي البعض بضرورة فرض حظر شامل على تصنيع هذه الأسلحة ([41])، حيث أن الامتثال لمبدأ التناسب بين الضرورات العسكرية والاعتبارات الإنسانية يحتاج لحسابات بشرية دقيقة ومعقدة للغاية ولا تستطيع الروبوت العسكرية المسلحة إجراءها، فالبشر وحدهم هم من يستطيعون إعمال حواسهم لتقييم الهدف العسكري المرجو من هجوم ما والخسائر الإنسانية المتوقعة جراء تنفيذه، وفي النهاية يقرروا استخدام القوة المسلحة أو لا، وهذه الحسابات لا يمكن للروبوت القيام بها ([42]).
ولكن على الجانب الآخر من هذا الاتجاه، يرى البعض أن الأسلحة ذاتية التشغيل يمكنها أن تمتثل لمبادئ القانون الدولي الإنساني إذا تم برمجتها وفقا لأسس وقواعد هذا القانون، وفي هذا الإطار اقترح (رونالد أركين) وهو عالم متخصص في علوم الروبوتات طريقة لإدماج ما يعرف (المحفظة الأخلاقية) في الروبوتات العسكرية لضمان امتثالها لقواعد القانون الدولي الإنساني ([43]).
وهناك من يرى أن الروبوتات المسلحة المستقلة ستكون أكثر امتثالا للقانون الدولي الإنساني من البشر ([44])، حيث أن هذه الروبوتات لن تتصرف بدوافع الحقد أو الانتقام أو الغضب ولا حتى الخوف، كما أنها لن ترتكب جرائم كالتعذيب أو الاغتصاب التي يمكن أن يرتكبها الجنود، ولذا فأنها لن تنتهك حقوق المدنيين إذا ما تمت برمجتها على ذلك، فعلى سبيل المثال، إذا وقع الجندي في موقف لم يستطع فيه تحديد مستوى المخاطر التي يواجها فقد يبادر بإطلاق النيران خوفا على حياته، أما الروبوت فلن يتصرف بدافع الخوف، ولذا يمكنه الانتظار للتحقق من مستوى الخطر، ولن يطلق النار إلا إذا بدأ خصمه بتوجيه النيران تجاهه ([45]).
إضافة إلى ما سبق، فإن استخدام تكنولوجيا الذكاء الاصطناعي في صنع الأسلحة من شأنه أن يقلل من ضحايا الحروب من البشر إذا ما ظل في الحدود المناسبة، وبالتالي فسوف يؤدي هذا التطور في صناعة الأسلحة إلى أن تكون الحروب أكثر إنسانية، وعلية فإن محاولة تجريم استخدام تكنولوجيا الذكاء الاصطناعي في صناعة السلاح هو توجه مخالف لغايات القانون الدولي الإنساني ([46]).
ويضيف بعض من مؤيدي هذا الاتجاه، أن ثبوت قدرة الأسلحة ذاتية التشغيل على الامتثال للقانون الدولي الإنساني بتقليل ضحايا المدنيين، سيؤدي لنشوء التزام دولي باستخدام هذه الأسلحة وهجر الأسلحة التقليدية ([47]).
ومما سبق يتضح أن فكرة «ذاتية التشغيل» أو «الاستقلالية» تثير خلاف حقيقي إذا تناولناها من زاوية الامتثال لقواعد القانون الدولي الإنساني، فكلا الاتجاهين -المؤيد والمعارض -لديه حجج منطقية إذا أثبتت التجارب تحققها.
ولم يستطع فريق الخبراء الحكوميين معالجة هذه الإشكالية الشائكة، ولذا نص فيالمبادئ التوجيهية الخاصة بالأسلحة الفتاكة ذاتية التشغيل على أن «يظل القانون الدولي الإنساني منطبقا بصورة تامة على جميع منظومات الأسلحة، بما في ذلك، عندما يتعلق الأمر باحتمال تطوير واستخدام منظومات أسلحة فتاكة ذاتية التشغيل ([48])»، وهي صياغة فضفاضة لا يستشف منها حكم بالإباحة ولا بالتحريم لأسلحة الذكاء الاصطناعي، واتفق فريق الخبراء الحكوميين على أن تقييم هذه الأسلحة سيكون من خلال تطبيق مبادئ وأهداف اتفاقية الأسلحة التقليدية بما في ذلك قدرتها على تحقيق التوازن بين الضرورات العسكرية والاعتبارات الإنسانية ([49]).
ويرى الباحث أن الحكم على الأسلحة ذاتية التشغيل بأنها متوافقة مع متطلبات القانون الدولي الإنساني أو متعارضة معها يعد هدفا صعب المنال في الوقت الراهن؛ نظرا لتعدد أنواع هذه الأسلحة وتنوع وظائفها، وبالتالي فإن السبيل الأمثل لضبط تطوير وإنتاج واستخدام هذه الأسلحة هو معيار النتيجة المتوافقة مع متطلبات القانون الدولي الإنساني، بمعنى أن كل دولة تقوم بتطوير أو إنتاج أو استخدام هذه الأسلحة تتحمل نتائج استخدامها، فلو أدى استخدامها لنتائج تتعارض مع متطلبات القانون الدولي الإنساني فالدولة تتحمل المسؤولية الدولية عما قامت به سواء كان تطوير أو إنتاج أو استخدام.
ثانيا: صعوبة تعريف الأسلحة الفتاكة ذاتية التشغيل وتحديد خصائصها
جرى العمل الدولي على أن تحريم أي سلاح دوليا يتطلب تعريفه وتحديد خصائصه حتى يمكن للدول الالتزام بالامتناع عن تصنيعه أو حيازته أو استخدامه، وهو النهج الذي اتبعه المجتمع الدولي عند تحريم الأسلحة النووية، والبيولوجية، والكيميائية، وكذا الطلقات النارية المتمددة والمتفجرة والأشراك الخداعية، والألغام الأرضية، والأسلحة المحرقة، وأيضاأسلحة الليزر التي تسبب العمى ([50]).
وإن كان من السهل تعريف هذه الأسلحة أو الذخائر، فإن تعريف الأسلحة الفتاكة ذاتية التشغيل ليس كذلك بسبب ما سبق ذكره من أن بعض أنواعها ستكون أكثر قدرة على الامتثال لقواعد القانون الدولي الإنساني وهي التي تعرف بالأسلحة الذكية.
وبالتالي فإن منهجية التعريف الواسع أو الفضفاض لهذه الأسلحة سيكون موضع اعتراض الكثير من الدول التي ستدافع عن مشروعية استخدام الأسلحة الذكية لتعزيز قدرتها على حماية جنودها من جانب، وتعزيز قدراتها الدفاعية من جانب آخر.
ومن أمثلة التعريفات الفضفاضة للأسلحة ذاتية التشغيل، التعريف الذي اقترحته اللجنة الدولية للصليب الأحمر، حيث عرفتها بأنها، الأسلحة التي تعمل بدون تدخل من جانب العنصر البشري في تحديد أهدافها أو البحث عنها أو استكشافها أو تتبعها، ولا في اتخاذ قرار مهاجمتها بالقوة سواء كان هذا الهجوم لتعطيلها أو إتلافها أو تدميرها ([51]).
والدول الكبرى التي تملك أسلحة ذكية ترفض بكل تأكيد هذا التعريف الفضفاض، وتطالب بالتمييز ما بين ثلاثة أنواع من الأسلحة وفقا لدرجة استقلاليتها، النوع الأول منها هو الأسلحة المستقلة تماما، وهي التي تستهدف وتهاجم بدون أي تدخل بشري سابق أو معاصر لقرار الهجوم، والنوع الثاني هو الأسلحة المستقلة التي تعمل تحت إشراف بشري وهي الأسلحة التي تتمتع باستقلالية نسبية وليست مطلقة، حيث تصنع بأنظمة تكنولوجية تسمح لمشغله برؤيه السلاح عن بعد وتقييم الوضع المحيط بها ويستطيع المشغل إيقاف خاصية التشغيل الذاتي قبل وقوع الأضرار غير المقصودة، أما النوع الثالث والأخير فهو الأسلحة شبة المستقلة وهي الأسلحة التي تتصرف بناء على برمجتها المسبقة ([52]).
وبالتالي فإن تحديد تعريف دقيق للأسلحة المطلوب حظرها يتطلب علما وافيا بخصائص كل سلاح وقدراته ومدى إمكانية التحكم فيه ووجود المشغل في دائرة قرار الهجوم، وهي مسائل تحتاج لتوفر قدر كبير من المعلومات، وواقع الأمر أن هذه المعلومات ليست متاحة لدى الكثير من الدول إلى الآن، لذا يتفق الكثير من الخبراء الحكوميين على صعوبة وضع تعريف دقيق لهذه الأسلحة أو تحديد خصائصها الآن.
ويرى الباحث أن وضع تعريف واحد جامع مانع لهذه الأسلحة بغرض حظرها لن يجدي نفعا، ذلك لأن فكرة رد الفعل التلقائي من السلاح في ذاتها لا يمكن أن تكون موضع حظر أو تجريم دولي مطلق، خاصة إذا كان هذا السلاح مصمما للاستخدام في الفضاء أو في أماكن غير مأهولة مثل الروبوتات المصممة للكشف عن الألغام والتي تصمم لتفجير الألغام بمجرد الاستشعار بوجوده، هذا إضافة إلى أنواع الصواريخ المصممة لتعقب أهدافها وتغيير اتجاهها بشكل تلقائي في حالة تغيير موقع الهدف أو تحركه، وهذه الأسلحة لا يمكن تجريمها دوليا. وبالتالي فإن تعريف الأسلحة ذاتية التشغيل أو الأسلحة المستقلة يجب ألا يكون بغرض تجريمها، ولكن توضع تعريفات وصفية لسمات السلاح وقدرته على التصرف بشكل مستقل عن القرار البشري، بغض النظر عن مشروعيته أو تجريمه دوليا، وهنا سيكون من الملائم وضع أكثر من تعريف وفقا لدرجة استقلال السلاح عن القرار البشري وهو النهج الذي انتهجته الولايات المتحدة الأمريكية في تعريف هذه الأسلحة.
وعليه فإن منهج التجريم التقليدي المعتمد على التعريف بالشيء المجرم لا يتفق مع طبيعة هذه الأسلحة وتنوعها، ويجب أن يتطور هذا المنهج بما يلائم تطور المعطيات الدولية.
ثالثا: الخلاف على نوعية الوثيقة الدولية المطلوب إصدارها لمواجهة الأسلحة الفتاكة ذاتية التشغيل
يختلف الخبراء الحكوميون بشأن نوعية الوثيقة الدولية المطلوب إصدارها لمواجهة الأسلحة الفتاكة ذاتية التشغيل، فهل يجب أن تتخذ هذه الوثيقة شكل اتفاقية دولية لتكون ملزمة قانونا للدول؟ أم يكفي إصدار إعلان سياسي أو مبادئ توجيهية منظمة لاستخدام تكنولوجيا الذكاء الاصطناعي في صنع الأسلحة؟
ويعكس هذا الخلاف حقيقة أن سباق التسلح بين الدول أصبح تحديا يستعصي على القانون الدولي الذي يعتمد تطوره على إرادة أطرافه.
والتساؤل الذي أطرحه في هذا الشأن هو: هل يمكن الاكتفاء بإعلان دولي ينظم هذهالأسلحة في الوقت الراهن باعتباره نواة لاتفاقية دولية تصدر مستقبلا؟
في الحقيقة أن المجتمع الدولي لم يستطع مواجهة الكثير من القضايا الدولية بإصدار اتفاقيات دولية ملزمه في بدايات التصدي لها، ولكنه استخدام منهج التدرج في مواجهتها، حيث تصدر إعلانات وبعد عدة سنوات تبرم الاتفاقيات، فمثلا معظم قضايا حقوق الإنسان لم يستطع المجتمع الدولي الاتفاق على اتفاقيات دولية بشأنها في البدايات، ولذا صدرت الكثير من الإعلانات الدولية وبعد عدة سنوات صدرت اتفاقات حقوق الإنسان بعد أن يمهد الإعلان الطريق للتوافق الدولي.
ففي بدايات الأمم المتحدة لم تقبل الدول إصدار اتفاقية دولية بشأن حقوق الإنسان لشدة الخلاف بشأنها، لذا صدر الإعلان العالمي لحقوق الإنسان ولكن بعد عدة سنوات صدر عهدان دوليان، أحدهم للحقوق المدنية والسياسية، والثاني للحقوق والاقتصادية والاجتماعية، ووفقا لذات النهج أصدرت الأمم المتحدة الكثير من الإعلانات بشأن حقوق المرأة وحقوق الطفل وبعد ذلك صدرت الاتفاقيات الملزمة بشأن هذه الحقوق.
وذات النهج استخدمه المجتمع الدولي في معالجة قضايا تنظيم استخدام الفضاء، حيث بدأت الأمم المتحدة في دراستها وبحث سبل معالجتها في ١٩٥٧، ثم صدر إعلان المبادئ المنظمة لأنشطة الدول في ميدان استكشاف واستخدام الفضاء الخارجي في ١٩٦٣، ثم صدرت الاتفاقية الدولية المنظمة لهذا الاستكشاف والاستخدام ودخلت حيز النفاذ في ١٩٦٧.
ولكن نهج التدرج في إصدار الوثائق الدولية لم يكن ناجحا في كل الحالات، فهناك تجارب دولية سابقة اكتفت فيها الدول بإصدار إعلانات سياسية لمعالجة بعض القضايا الدولية والنتيجة كانت إهمال تلك القضايا وضعف معالجتها ما أدى لتفاقم أثرها وخطورتها.
ومن أمثلة ذلك قضية استخدام الإعلام الدولي كسلاح من أسلحة الحرب، والتي طرحت على الساحة الدولية مع بدايات إطلاق الأقمار الصناعية واستخدامها في البث التليفزيوني المباشر، حيث ناقشت الجمعية العامة للأمم المتحدة هذه القضية بعد اقترح الاتحاد السوفييتي السابق بإصدار اتفاقية دولية تتضمن مبادئ استخدام الأقمار الصناعية في البث التليفزيوني الدولي المباشر، وبعد عشر سنوات من الدراسة والخلاف المشابه لما يعانيه فريق الخبراء المعني بالأسلحة الفتاكة ذاتية التشغيل اليوم، فشلت الجهود الدولية في الاتفاق على إصدار اتفاقية دولية كما اقترح الاتحاد السوفييتي، وانتهى الأمر بإصدار إعلان سياسي منظم لاستخدام الأقمار الصناعية في البث التليفزيوني الدولي المباشر،والنتيجة كانت عدم المعالجة الجادة لهذه القضية، وبمرور الوقت أصبح الإعلام الدولي أخطر أدوات الحروب المعاصرة، ولا يستطع النظام الدولي بمعطياته الراهنة مواجهة هذه القضية ([53]).
الأمر الآخر الذي يجعل الإعلان السياسي غير ملائم لمعالجة قضايا الأسلحة الفتاكة ذاتية التشغيل هو أن تكنولوجيا الذكاء الاصطناعي تتطور بشكل فائق السرعة، والدول تتبارى في هذا المجال، ولذا فإن سرعة تقنين هذا الاستخدام يجب أن تتناسب مع سرعة تطور تكنولوجيا الذكاء الاصطناعي، فهذا المجال ليس من المجالات التي تحتمل تجربة تدرج المواجهة بإعلان سياسي وبعد عدة سنوات تصدر اتفاقية ملزمة.
ولذا انتهى إلى ضرورة وجود اتفاقية دولية منظمة لاستخدام تكنولوجيا الذكاء الاصطناعي في صنع الأسلحة، وعدم الاكتفاء بإصدار إعلان سياسي ولا حتى مبادئ توجيهية؛ لأن ذلك من شأنه تفاقم خطورة هذه الأسلحة في المستقبل.
واقترح أن يكون موضوع هذه الاتفاقية هو المسؤولية الدولية عن الأضرار التي تحدثها الأسلحة ذاتية التشغيل.
المبحث الثاني
المسؤولية الدولية عن الأضرار التي تحدثها الأسلحة
ذاتية التشغيل
السبيل الأمثل لتنظيم استخدام الدول لتكنولوجيا الذكاء الاصطناعي في صنع الأسلحة، هو إبرام اتفاقية دولية تنظم مسؤولية الدول عن الأضرار التي تحدثها الأسلحة ذاتية التشغيل، واعتقد أن مسؤولية الدول عن نتائج القرارات التي تتخذها هذه الأسلحة يعتمد بشكل كبير على تحديد مسؤولية الأشخاص الطبيعيين عن هذه القرارات. وقد أثارت مسؤولية الأشخاص الطبيعيين عن هذه القرارات الجدل خلال السنوات الماضية ([54])، فمن الذي سيتحمل المسؤولية في حالة قتل الروبوت لشخص يجرم القانون الدولي استهدافه؟ هل يتحملها الشخص الذي قام بإعداد البرنامج، وحدد ردود فعل هذا الروبوت في المواقف المختفة؟ أم يتحملها القادة العسكريون الذين وافقوا على هذه الروبوت؟ أم يتحملها العسكريون المكلفون بالإشراف على استخدام أو تشغيل هذا الروبوت أثناء النزاع؟ أم الجندي الذي كان باستطاعته إيقاف الروبوت قبل ارتكاب المخالفة واختار ألا يوقفه وترك له الخيار؟ وكيف يمكن التعامل مع إشكاليات الأعطال الفنية المحتملة حال استخدام أي تكنولوجيا مهما بلغت درجة دقتها؟ هل يتحملها مهندسو البرمجة المسؤولون عن الحالة النهائية للروبوتات العسكرية المستقلة؟ وهل يمكن قبول فكرة عدم وجود إي إنسانمسؤول إذا قتل شخص مدني في النزاع المسلح بسبب التصرفات المستقلة للروبوتات المسلحة؟
ورغم صعوبة الإجابة عن هذه التساؤلات الدقيقة التي ستشغل الفكر القانوني على مدار السنوات المقبلة، إلا أن فريق الخبراء الحكوميين المعني بالأسلحة الفتاكة ذاتية التشغيل بالأمم المتحدة استطاع أن يحدد الأطر العامة لمسؤولية البشر عن القراراتالتي تتخذها الروبوتات المقتلة، حيث أقر بمسؤولية البشر عن هذه القرارات وعدم إمكانية تحمل الآلات لأي مسؤولية، كما أقر بمسؤولية مطوري برامج الذكاء الاصطناعي والقادة العسكرين والمشغلين الذين يشرفون بشكل مباشر على هذه الأسلحة، ولذا يمكننا القول إن البشر سيتحملون المسؤولية الكاملة عن القرارات التي تتخذها تلك الآلات الجديدة المنتظر قدومها إلى ساحات القتال لتقف بجانب الجنود كتفا بكتف، وتشاركهم اتخاذ القرارات بشكل أو بآخر.
وبما أن مسؤولية الأشخاص الطبيعيين قد بدت واضحة من حيث إطارها العام، فإنني أعتقد أن ملامح مسؤولية الدول عن قرارات الروبوتات المستقلة قد بدت واضحة أيضا، وهو ما يفرض علينا بذل الجهد لتأطير الأساس القانوني الذي تقوم عليه هذه المسؤولية وتحديد أهم جوانبها.
وفقا للقواعد والأحكام العامة في القانون الدولي، تتحقق مسؤولية الدول في حالة ارتكاب أي دولة لفعل (إيجابي أو سلبي) ينتج عنه إصابة غيرها من الدولة بضرر، ولفترة طويلة من الزمن ارتبط تحقق مسؤولية الدول بوجد الفعل غير المشروع دوليا، ولكن القانون الدولي هجر هذه الارتباط في بعض الحالات، وأقر بإمكانية تحقق مسؤولية الدولة دون وجود الفعل غير المشروع دوليا، وذلك استنادا إلى فكرة المخاطر المحتملة، حتى لو لم يكن هذا الفعل مجرم دوليا، وهناك العديد من الاتفاقيات الدولية التي أقرت بتحقق المسؤولية الدولية استنادا إلى فكرة المخاطر ([55]).
واعتقد أن فكرة المخاطر الناشئة عن استخدام تكنولوجيا الذكاء الاصطناعي في صناعة الأسلحة هي الأساس القانوني الأمثل لتحمل الدول مسؤولية قرارات الأسلحة ذاتية التشغيل.
وهو ما يعني أن الدول التي تجادل بشأن مخاطر الأسلحة ذاتية التشغيل، وتدعي أنها ستكون أكثر قدرة على الامتثال لقواعد القانون الدولي، عليها أن تتحمل مسؤولية تطوير برامج هذه الأسلحة أو نشرها أو استخدامها، إذا نتج عن استخدامها أي أضرار لدولة أخرى.
وعليه يمكننا القول إن الدول في هذه الحالة ستكون مطالبة بتحقيق نتيجة وليس فقط ببذل عناية، فالنتيجة المطلوبة هي سلاح متوافق مع مبادئ القانون الدولي الإنساني وقواعده المنظمة لإنتاج الأسلحة، وإن لم تتحقق هذه النتيجة فالدولة تكون مسؤولة أمامالدولة المضرورة بموجب قواعد المسؤولية الدولية وملتزمة بتعويضها عن الأضرار التي تصيبها جراء استخدام هذا السلاح.
وفي الحقيقة أن اقتراح اتفاقية للمسؤولية الدولية عن الأضرار التي تحدثها الأسلحة ذاتية التشغيل يعد أمرا بالغ الأهمية خلال المرحلة الراهنة؛ لأن الأسلحة ذاتية التشغيل وجدت لتبقى وتتطور يوما بعد يوم، فالمزايا التي تحققها تكنولوجيا الذكاء الاصطناعي للدول في مجال التسليح جعلت من الاستمرار في تطورها أمرا حتميا، ولذا فأن المواجهة المستقبلية الأمثل للأضرار المحتملة من هذه الأسلحة يجب أن تعتمد على إقرار مسؤولية الدول عن تطويرها أو نشرها أو استخدامها، وإلزام الدول بجبر الأضرار المحتملة من قرارات هذه الأسلحة، إضافة إلى ذلك، أن تحديد مسؤولية الدول عن قرارات الأسلحة ذاتية التشغيل سيتضمن بين طياته تحديدا واضحا للالتزامات الدولية الناشئة عن استخدام الذكاء الاصطناعي في صناعة الأسلحة، وتحديد هذه الالتزامات الدولية بوضوح سيساعد في تحقيق نوعا من التوازن بين رغبة الدول في تطوير الأسلحة ذاتية التشغيل وضمان عدم إنتاج أو نشر أو استخدام أسلحة تنتهك مبادئ القانون الدولي الإنساني ([56]).
ولتحديد مسؤولية الدول عن الأضرار التي تحققها هذه الأسلحة سأقسم هذا المبحث لثلاثة مطالب يتعرض الأول منهم لمسؤولية الدول عن تطوير تشريعاتها الوطنية، وفي المطلب الثاني اتعرض لتحديد مسؤولية الدول التي تطور أو تنشر أو تستخدم أسلحة ذاتية التشغيل، وفي المطلب الأخير أحدد مسؤولية الدول عن تقييم مخاطر هذه الأسلحة ومسؤولية الدول التي تهمل في تأمين برامج هذه الأسلحة أو حماية برامجها.
وسوف استرشد بما جرى علية العرف الدولي بشأن تحديد مسؤولية الدول في مختلف مجالات القانون الدولي مع التركيز على المبادئ التوجيهية التي اعتمدها فريق الخبراء الحكوميين للأمم المتحدة المعني بالأسلحة الفتاكة ذاتية التشغيل لاستشراف هذه المسؤولية الدولية.
المطلب الأول
مسؤولية الدول عن تطوير تشريعاتها الوطنية
لمواجهة أخطاء الأسلحة ذاتية التشغيل
وفقا للقواعد العامة للمسؤولية الدولية تتمتع الدول بموجب سيادتها الكاملة على إقليمها بالحق في إصدار ما تريد من تشريعات لتنظيم شؤونها الداخلية، ولكن إذا أصيبت دولة أخرى بضرر بسبب هذه التشريعات، فإن الدولة التي أصدرت التشريع تتحمل مسؤوليتها الدولية بجبر هذا الضرر، كما تلتزم أمام المجتمع الدولي بتغيير هذا التشريع الداخلي ليتوافق مع قواعد وأحكام القانون الدولي ([57]).
وهو ما يعني أن الإطار العام الضابط لمشروعية أي تشريع وطني متعلق بالأسلحة ذاتية التشغيل هو اتفاقه مع مبادئ القانون الدولي الإنساني وقواعده المنظمة لمشروعية الأسلحة.
وبما أننا نحاول وضع أطار لمسؤولة الدول عن الأضرار التي تحدثها هذه الأسلحة، فإن المبادئ التوجيهية التي أصدرها فريق الخبراء الحكوميين المعني بالأسلحة الفتاكة ذاتية التشغيل عام ٢٠١٩ ستكون هاديا للتعرف إلى سبل التزام المشرع الوطني بأحكام ومبادئ القانون الدولي الإنساني ذات الصلة.
وقد أقرت هذه المبادئ أن الإنسان يبقى مسؤولا بشكل كامل عن هذه الأسلحة، وأن تحرص الدول على ألا تنتهك قواعد القانون الدولي السارية عند قيامها بدراسة أو تطوير أو اقتناء أو اعتماد أي سلاح جيد أو وسيلة حرب جديدة ([58])، وأن تحرص الدول على ألا تعيق الاستخدام السلمي لتكنولوجيا الذكاء الاصطناعي حال اتخاذها أي تدابير لمواجهة الاستخدام العسكري لهذه التكنولوجيا.
والتساؤل الذي يمثل درجة كبيرة من الأهمية هو: هل يجب على الدول أن تعترف في قوانينها الوطنية بشخصية قانونية من نوع جديد -يتم الاتفاق على ملامحها دوليا -للروبوتات ذاتية التشغيل؟
وفي الواقع أن هذه المسألة أثارت الكثير من الجدل والخلاف خلال الفترة الماضية، وسأحاول إلقاء الضوء عليها موضحا موقف البرلمان الأوروبي منها في ضوء القواعد التي أصدرها في عام ٢٠١٧ بشأن التنظيم القانوني للروبوتات المستقلة.
وعلى ما سبق، سأناقش موقف التشريعات الوطنية من الشخصية القانونية للروبوتات المستقلة، ثم موقف هذه التشريعات من إقرار مسؤولية البشر عن القرارات التي تتخذها الروبوتات، وأخيرا موقف هذه التشريعات من حرية البحث العلمي في مجال الذكاء الاصطناعي.
أولا: موقف التشريعات الوطنية من الشخصية القانونية للروبوتات المستقلة
شهدت الفترة الماضية الكثير من الجدل والخلافات الفقهية بسبب ظهور اتجاه قانوني يرى إمكانية الاعتراف بشخصية قانونية من نوع جديد للروبوتات المستقلة، والمتابع للتوجهات القانونية الحديثة في الصين، واليابان، وكوريا الشمالية، والكثير من الدول الأوروبية يلاحظ ميلا عاما لإعادة النظر في التوصيف القانوني للروبوتات باعتبارها من (الأشياء) ويرى مؤيدو هذا الاتجاه ضرورة تمييز هذه الروبوتات عن مفهوم الشيء المتعارف في القانون، ويؤكدوا أن وصف الروبوت بالشيء فيه إنكار وتجاهل لحقيقته وصفاته وقدرته على اتخاذ قرارات دون الرجوع لمن يشغله([59]).
وقد لاقى الاتجاه المؤيد للاعتراف بالشخصية القانونية للروبوتات قبولا لدى بعض الفقهاء العرب، رغم حداثته وعدم تأثر المجتمعات العربية بذات الأثر الذي أحدثته الروبوتات الذكية في المجتمعات الأوروبية، ويرى مؤيدو هذا الاتجاه أن الشخصية القانونية ليست حكرا على الإنسان، فهي مجرد مركز يمنحه القانون لتحديد حقوق والتزامات معينه، وإن كان القانون لا يعترف في الوقت الراهن إلا بمفهوم الشخص الطبيعي والشخص المعنوي، فإن ذلك بسبب عدم وجود حاجه قانونية للاعتراف بأنواع أخرى من الشخصية القانونية، وإذا ظهرت حاجه للاعتراف بأنواع جديدة منها فمن الواجب أن تستجيب النظم القانونية في مختلف الدول لهذه الحاجة، وإلا ستظهر فجوة تشريعية بين تلك النظم القانونية وواقع المجتمعات التي تنظمها، وسيصبح القانون عاجزا عن معالجة القضايا التي تواجه هذه المجتمعات، وعاجلا أو أجلا ستتطور تلك التشريعات لسد تلك الفجوة التي إن دلت إنماتدل على قصور فيها وليست عيوب في المجتمع الإنساني الذي خلق على فطرة التطور ([60]).
ويقول مؤيدي هذا الاتجاه أن الاعتراف بالشخصية القانونية للروبوتات الذكية لايستهدف حمايتها بقدر ما يستهدف حماية المجتمع من الأضرار المحتملة من تصرفاتها، فكما يعرف الشخص باسم ولقب وبيانات شخصية كالميلاد، وصحيفة سوابق تبين ما ارتكبه من جرائم، فمن اللازم أن يكون للروبوتات الذكية تسلسل رقمي يكشف عن هويتها، ولا مانع من أن يكون لكل منها اسم، ولقب، ورقم تعريفي خاص، وأيضا بيان يوضح تاريخه من يوم صنعه للحظة الكشف عنه، وهو ما أطلق عليه الصندوق الأسود ([61]).
وعندما ناقش البرلمان الأوروبي هذه المسألة أوصى الدول الأوروبية بالاعتراف بشخصية قانونية تميز الروبوتات المستقلة، ولم يوص البرلمان الأوروبي بمنح هذه الشخصية القانونية لكل الروبوتات المصنعة باستخدام تكنولوجيا الذكاء الاصطناعي، ولكنه أوصى بمنحها لبعض الفئات فقط من هذه الروبوتات، وهي فئات الروبوتات الأكثر تطورا، والتي تعمل وفقا لنظم التعلم العميق، ولم يوص البرلمان الأوروبي بمنح هذه الروبوتات شخصية مماثلة للأشخاص الطبيعية، ولا للأشخاص المعنوية، ولكنه أوصى بضرورة الاعتراف لها بشخصية قانونية تناسب معطياتها وحاجة المجتمع للاعتراف بها، وعندما ناقش المجلس الاقتصادي والاجتماعي الأوروبي هذه المسألة ذهب لاتجاه مخالف لما ذهب إلية البرلمان الأوروبي، حيث فضل المجلس استخدام مصطلح «الشخص المنقاد» لتحديد المركز القانوني لهذه الروبوتات ([62]).
وجدير بالذكر أن اتجاه البرلمان الأوروبي للاعتراف بشخصية قانونية للروبوتات الذكية أواتجاه المجلس الاقتصادي والاجتماعي الأوروبي للاعتراف لها بوصف «الشخص المنقاد»، لا يعني أن أي منهما أقر بإمكانية تحمل هذه الروبوتات أي نوع من أنواع المسؤولية القانونية المدنية أو الجنائية، ويرجع ذلك لارتباط فكرة تحقق المسؤولية بقدرة الشخص القانوني على الإدراك، وفي حالة انتفاء قدرة الشخص القانوني على الإدراك لا يمكن أنيتحمل أي نوع من أنواع المسؤولية.
أما فريق خبراء الأمم المتحدة المعني بالأسلحة الفتاكة ذاتية التشغيل فلم يتعرض فيالمبادئ التوجيهية لمسألة منح الروبوتات ذاتية التشغيل مركزا قانونيا يميزها عن الأشياء، ولكنه رفض الاتجاه القانوني الذي يميل إلى منح الروبوتات المسلحة ذاتية التشغيل أي صفة من صفات البشر وناشد الدول عدم إضفاء أي صفة من هذه الصفات عند وضع أي تدابير أو سياسات لمواجهتها ([63]).
وفي ظل هذا الخلاف، وتباين المواقف ونحن نحاول صياغة مسؤولية الدول عن الأضرار التي تحدثها الروبوتات المسلحة ذاتية التشغيل نتساءل، هل من المناسب أن تتضمن الاتفاقية المقترحة نص يلزم الدول بالاعتراف بوضعية قانونية خاصة للروبوتات المسلحة الذكية تميزها عن مفهوم الشيء الذي توصف به حاليا؟
أعتقد أن الإجابة عن هذا التساؤل تكون بالإيجاب؛ لأن تحديد الدولة للمسؤولة عن الضرر الناتج بسبب الروبوتات المسلحة ذاتية التشغيل يعتمد في الأساس على تحديد هوية هذا الروبوت فيجب أن يكون له رقم تسلسل وبيانات شخصية مميزة له عن غيره، فقد يكون الخطأ ناتج عن صناعة الروبوت أو برمجته وهنا يجب أن تتحمله الدولة التي طورت برنامجه أو الدولة المصنعة، وقد يكون الضرر ناتج بسبب سلوك القائد العسكري الذي أمر باستخدام الروبوت أو الشخص المسؤول عن الإشراف على تشغيله وهنا تنسب المسؤولية لدولة التي أمرت بنشر هذا الروبوت.
ولكن على الجانب الأخر، اعتقد أن إلزام الدول بمنح مركز قانوني محدد للروبوتات المسلحة ذاتية التشغيل في تشريعاتها الوطنية- سواء كان بالاعتراف لها بشخصية قانونية، أو منحها وصف الشخص المنقاد- لا يتلاءم مع تباين الثقافة القانونية في الدول المختلفة، ولذا أرى أنه سيكون من المناسب أن تنص الاتفاقية المقترحة للمسؤولية الدولية عنالأضرار التي تحدثها الروبوتات ذاتية التشغيل على أن «تلتزم الدول بمنح مركز قانوني للروبوتات ذاتية التشغيل يميزها عن غيرها من الأشياء، ويتناسب مع قدرتها على التفاعل مع محيطها بأشكال متعددة، ويساعد على تحديد الدولة المسؤولية عن الخطأ المؤدي لوقوع الأضرار المحتملة من استخدامها».
ثانيا: موقف التشريع الوطني من مبدأ مسؤولية البشر عن قرارات الأسلحة ذاتية التشغيل
أثيرت الكثير من المخاوف بسبب قدرة الأسلحة ذاتية التشغيل على اتخاذ قرار إطلاق النار بشكل مستقل دون الرجوع للبشر، وقال البعض إن قبول مشاركة هذه الأسلحة في النزاعات المسلحة سيؤدي إلى انهيار النظام القانوني للمسؤولية القانونية بشكل كامل، حيث إن هذا النظام القانوني يقوم على أساس فكرة خطأ البشر، وفي حالة عدم وجود بشر في دائرة القرار الذي تتخذه الآلات فلن تكون هناك مسؤولية عما ترتكبه هذه الأسلحة من انتهاكات ([64]).
وعندما ناقشت لجنة الخبراء الحكوميين هذه الإشكالية التي تعد أحد أهم وأخطر الإشكاليات التي تطرحها الأسلحة الفتاكة ذاتية التشغيل، قررت في المبدأ الثاني من المبادئ التوجيهية التي أصدرتها أن الأنسان سيبقى مسؤولا بشكل كامل عن القرارات التي تتخذها هذه الأسلحة ([65]). وفي ضوء استقرار مبدأ مسؤولية البشر فإن وضع الإطار التشريعي المنظم لهذه المسؤولية في تشريعات الدول المختلفة أضحى ضرورة لابد منها لتحديد مسؤولية كل دولة عن الأضرار التي تنتج عن الأسلحة ذاتية التشغيل.
وسأحاول فيما يلي تحديد الإطار القانوني المنظم لمسؤولية الأشخاص الطبيعيين لبيان كيفية تحديد مسؤولية كل دولة في ضوء هذا الإطار.
وسأبدأ توضيح هذا الإطار بالتساؤل التالي:
كيف يمكن إسناد المسؤولية التي تنشأ عن قرار الروبوتات المقاتلة لأشخاص لم تتخذه؟
في الحقيقة أن الإجابة عن هذا التساؤل تتطلب فهما منطقيا عاما لمنظومة الأسلحة ذاتية التشغيل، دون الدخول في التفصيلات الفنية الدقية لصناعة هذه الأسلحة وطريقة عملها، والتي يمكن أن تؤدي بنا لمتاهة ضياع المسؤولية القانونية الناشئة عن الانتهاكات التي ترتكبها.
والفهم العام الذي يستقيم مع منطق العقل السليم يرشدنا إلى أن وصف هذه الأسلحة بأنها ذاتية التشغيل هو وصف بلاغي لا يعبر عن كونها أسلحة مستقلة بطبيعتها بل أن هذه الاستقلالية لا تكتسبها الآلات إلا نتيجة لقرار بشري، بمعنى أن أي تصرف تقوم به هذه الأسلحة لا يكون إلا تصرف تبعي لتصرف آخر قام به البشر، إما أثناء إعداد المبرمج للبرنامج المستخدم في تصنيعه، أو أثناء إشراف الشخص المخول باستخدام السلاح.
بمعنى أن أي تصرف تقوم به هذه الأسلحة يجب أن يكون خاضعا «للتوجيه البشري الذي تم في الماضي» أو «للإشراف البشري الذي يتم في المستقبل».
أما التوجيه البشري فأقصد به التوجيه السابق لاتخاذ القرار والذي يتم خلال مرحلة صناعة الروبوت وتزويده بالفرضيات والخوارزميات القائمة على تصورات مختلفة للمواقف المحتملة وربطها بالقرارات التي يتخذها الروبوت عند مواجهة كل موقف.
وأما الإشراف البشري فأقصد به أن هذه الروبوتات تكون خاضعة لإشراف البشر في كل حالة من حالات استخدامها في أي نزاع من النزاعات، فالإنسان في هذه الحالة يكون في دائرة القرار، حيث يتابع عمليات الرصد جنبا إلى جنب مع الروبوت، ولو استدعى الأمر فأن المشرف يتدخل لإيقاف قرار الروبوت لو رأى عدم ملاءمته ([66]).
ولا يقتصر الإشراف البشري على المتابعة المباشرة للروبوت من قبل الجنود أو الضباط، وإنما الإشراف البشري يشمل أيضا دور القادة العسكريين الذين يأمروا باستخدام مثل هذه الروبوتات في النزاعات المسلحة.
ونستخلص من ذلك أن المسؤولية الناشئة عن الانتهاكات التي ترتكبها هذه الأسلحة الفتاكة يجب ألا تخرج عن دائرة البشر، سواء كانت مسؤولية مطوري برامج الذكاء الاصطناعي، أو كانت مسؤولية القادة العسكريين الذين يأمرون بمشاركة هذه الروبوتات في النزاعات المسلحة، أو كانت مسؤولية المشغلين المسؤولين عن الإشراف عن هذه الأسلحة أثناء استخدامها الفعلي.
ولذا يجب أن تتضمن التشريعات الوطنية نصوصا تؤكد على مسؤولية البشر عن القرارات التي تتخذها الروبوتات المستقلة، ولابد من وجود نوع من التوافق الدولي على هذه النصوص؛ لأن الروبوتات التي تصنع في دولة ما تستخدم في دولة أخرى ويمكن أن تحدث أضرارها في دولة ثالثة، ولذا يجب أن يكون هناك نوع من التوافق الدولي على هذه المسؤولية.
ثالثا: موقف التشريع الوطني من حرية البحث العلمي في مجال الذكاء الاصطناعي
انتشر استخدام تطبيقات الذكاء الاصطناعي في مختلف مجالات الحياة لدرجه أن (هولين جاو) الأمين العام للاتحاد الدولي للاتصالات وصفها في بداية عام ٢٠١٨ بأنها أصبحت جزءا أساسيا من حياتنا اليومية، ففي الصحة ساعد الذكاء الاصطناعي الأجهزة على تشخيص الأمراض واقتراح بروتوكولات علاجها وهو ما عرف (بالتشخيص المؤتمت)، وفي الصناعة ساعد الذكاء الاصطناعي الآلات على القيام بما كان يقوم به العمال في المصانع، وفي التجارة باتت الأجهزة قادرة على القيام بما كان يقوم به الموظفون في الشركات، كما أصبح الذكاء الاصطناعي أحد أدوات معالجة قضايا كوكب الأرض مثل التغير المناخي، وخفض معدلات التلوث في الهواء والمحيطات، ووفقا للكثير من العلماء والمتخصصين سيساعد الذكاء الاصطناعي على تحقيق أهداف خطة الأمم المتحدة للتنمية المستدامة ٢٠٣٠ ([67]) وفي الفضاء تلعب تكنولوجيا الذكاء الاصطناعي دورا بالغ الأهمية عندما تكون المركبات الفضائية غير مأهولة، وتفقد الاتصال بقواعدها ويكون عليها اتخاذ القرارات الصائبة دون تدخل من جانب البشر.
وعندما ناقش فريق الخبراء الحكوميين المعني بالأسلحة الفتاكة ذاتية التشغيل أهمية الاستخدامات المدنية لبرامج الذكاء الاصطناعي توصل إلى أن أي حظر استخدام برامج التطبيقات العسكرية يجب ألا يؤثر، أو يعيق الحرية المكفولة للبحث العلمي في مجال التطبيقات السلمية للذكاء الاصطناعي، ويجب أن توفر الدول الدعم اللازم للأبحاث المتخصصة في هذه المجالات وألا تضع أي معوقات أمام استخدامها ([68]).
والإشكالية التي يطرحها البعض في هذا الشأن هي كيف يمكن للدول أن تضمن حرية البحث العلمي في مجالات الاستخدام السلمي للذكاء وفي نفس الوقت تلتزم بتقييد الاستخدام العسكري لبرامج الذكاء الاصطناعي؟ خاصة في ظل الاعتراف بأنه من السهل استخدام تلك التطبيقات المدنية للذكاء الاصطناعي لخدمة الأهداف العسكرية، وذلك بإجراء بعض التعديلات البسيطة، وبالتالي ستكون الرقابة على الوفاء بهذا الالتزام أمر صعب ([69]).
واعتقد أن هذا التساؤل قائم على فرضية غير صحيحة، فالفرضية التي ينطلق منها هذا التساؤل هي أن الرغبة في تطوير الأسلحة باستخدام الذكاء الاصطناعي تنبع من إرادة الأفراد الخاضعين لولاية الدولة، وبالتالي سيكون من الصعب على الدول مراقبة كيفية تطوير هؤلاء الأفراد لبرامج الذكاء الاصطناعي، وهذه الفرضية لا تعبر عن حقيقة الإشكالية التي يواجهها المجتمع الدولي، وهي أن الدول بأجهزتها الرسمية هي التي ترغب في تطوير برامج الذكاء الاصطناعي لاستخدامه عسكريا لخدمة جيوشها.
وبالتالي فإن الهدف من نشأة هذا الالتزام الدولي هو منع أجهزة الدولة ومؤسساتهاالرسمية من استخدام هذه البرامج عسكريا.
وعليه فإن التزام الدولة أمام المجتمع الدولي بالالتزام محل البحث سيجعل عليها واجب توجيه أجهزتها الداخلية التنفيذية والرقابية بالإشراف والرقابة على المصانع والمعامل التي تعمل في مجال تكنولوجيا الذكاء الاصطناعي، وفي حالة إخفاق الدولة في تحقيق هذا الإشراف أو الرقابة ستتحمل مسؤوليتها أمام المجتمع الدولي.
المطلب الثاني
مسؤولية الدول عن تطوير ونشر واستخدام الأسلحة ذاتية التشغيل
نص المبدأ الرابع من المبادئ التوجيه الخاصة بالأسلحة الفتاكة ذاتية التشغيل على أن «يجب أن تكفل وفقا للقانون الدولي الساري المساءلة عن تطوير ونشر واستخدام أي منظومة أسلحة ناشئة مشمولة بالاتفاقية المتعقلة بأسلحة تقليدية معينة، بما في ذلك من خلال كفالة تشغيل هذه المنظومات ضمن سلسة قيادة وسيطرة مسؤولة يضطلع بها الإنسان ([70]).
وهو ما يعني أن مسؤولية الدول عن الأسلحة ذاتية التشغيل يمكن تقسيمها إلى ثلاث مسؤوليات، الأولى هي مسؤولية الدول عن تطوير الأسلحة ذاتية التشغيل، والثانية هي مسؤولية الدول عن نشر الأسلحة ذاتية التشغيل، والثالثة هي مسؤولية الدول عن تشغيل هذه الأسلحة.
أولا: مسؤولية الدول عن تطوير الأسلحة ذاتية التشغيل
أثيرت الكثير من المخاوف بسبب قدرة برامج الذكاء الاصطناعي المتطورة على تمكين الأسلحة والروبوتات المسلحة من التعامل بدرجة كبيرة من الاستقلالية دون الرجوع لمشغلها في المواقف التي تتعرض لها، حيث تمكن هذه البرامج الأسلحة أو الروبوتات من اتخاذ قرارات لم تبرمج عليها من قبل بشكل واضح، إما لتغير المحيط أو نتيجة التعلم الذاتي، وذلك من خلال برامج التدريب والمحاكاة، إضافة إلى ذلك، أن تكنولوجيا الذكاء الاصطناعي الحديثة تسمح للآلة باختيار قرارها من خيارات متعددة في الموقف الواحد وهو ما يجعلها صاحبة القرار وليس من من برمجها ([71])، وبالتالي يكون من الصعب إن لم يكن من المستحيل التنبؤ بالمخاطر المستقبلية لهذه الأسلحة ([72]).
وفي حال اتخاذ السلاح المستقل أو الروبوت المقاتل قرارا من هذا القبيل ينتج عنه ضرر، تقع المسؤولية الدولية على الدولة التي طورت برنامج الذكاء الاصطناعي المستخدم في صناعة هذا السلاح. فيجب أن تحرص الدول التي تقوم بتطوير هذه البرامج على ألا ينتج عنها أسلحة تتمتع بدرجة من الاستقلالية تمكنها من التصرف دون أن يكون المشغل البشري داخل دائرة القرار.
وفي الحقيقة أن مسألة درجة التفاعل بين الإنسان والآلة من المسائل الشائكة، وتحديد هذه الدرجة بشكل واضح يبدو هدفا صعب المنال، ولذا اتجه فريق الخبراء لمعالجتها إلى فكرة الالتزام الدولي بتحقيق الغاية، أو النتيجة، وليس الالتزام ببذل العناية، ويتجلى ذلك من المبدأ التوجيهي الثالث من المبادئ التوجيهية للأسلحة الفتاكة ذاتية التشغيل، والذينص على أن «ينبغي للتفاعل بين الإنسان والآلة، الذي يمكن أن يتخذ أشكالا مختلفة، وأن ينفذ في مراحل شتى من دورة حياة السلاح، أن يضمن في سياق الاستخدام المحتمل لمنظومة الأسلحة القائمة على التكنولوجيا الناشئة في مجال منظومة الأسلحة الفتاكة الذاتية التشغيل الامتثال للقانون الدولي الساري، وبخاصة القانون الدولي الإنساني، ولدى تحديد نوعية ومدى التفاعل بين الإنسان والآلة، ينبغي مراعاة طيف من العوامل التي تشمل السياق التشغيلي، فضلا عن خصائص وقدرات منظومة الأسلحة ككل ([73])».
وعليه فإن النتيجة التي يجب على الدول تحقيقها هي سلاح يمتثل لمتطلبات القانون الدولي الإنساني، بما في ذلك احترام مبدأي التمييز والتناسب، وإذا لم تتحقق هذه النتيجة وأدى استخدام السلاح في النهاية لانتهاك هذه المبادئ فإن الدول التي طورت برامج الذكاء الاصطناعي المستخدمة في صنعه يجب أن تتحمل مسؤوليتها الدولية.
وبالتالي فإن هذه الدولة ستكون مسؤولة في حالة تطويرها لهذه البرامج بشكل يمنح هذا السلاح خصائص أو قدرات تجعله يتخذ قرارات يحتمل أن تخالف أحكام القانون الدولي الإنساني.
وتتحقق مسؤولية الدولة هنا سواء تم تطوير هذه البرامج من قبل مؤسساتها الرسمية أو من قبل الشركات الخاصة الخاضعة لولايتها الإقليمية، فالدولة مطالبة بتوجيه مؤسساتها الحكومية للالتزام بهذه الضوابط، كما أنها ملتزمة باتخاذ الإجراءات التشريعية والإدارية اللازمة لضمان امتثال الشركات التي تحمل جنسيتها أو التي تمارس نشاطها في حدود ولايتها الإقليمية لهذا الالتزام الدولي.
ووفقا للقواعد العامة للمسؤولية الدولية فإن وجود تشريع داخلي بهذا الشأن لا يعفي الدولة من مسؤوليتها الدولية في حالة قيام مؤسساتها الرسمية أو أي شركة خاصة خاضعة لولايتها بتطوير برامج ذكاء اصطناعي تؤدي لانتهاك الأسلحة ذاتية التشغيل لمبادئالقانون الدولي الإنساني.
ثانيا: مسؤولية الدول عن نشر الأسلحة ذاتية التشغيل
وفقا للمبدأ الرابع من المبادئ التوجيهية الخاصة بالأسلحة الفتاكة ذاتية التشغيل، تكفل المساءلة وفقا للقانون الدولي الساري عن نشر أي منظومة أسلحة في ميادين النزاعات المسلحة، وأن تشمل هذه المساءلة سلسلة القادة التي تأمر بهذا النشر.
ويشير هذا المبدأ بوضوح للمسؤولية الدولية التي تتحملها الدول، وهي مسؤولية مدنية بطبيعتها، وتتمثل في تعويض الأضرار، كما يشير إلى مسؤولية القادة التي تأمر بنشر السلاح، ومن المتفق عليه أن القائد العسكري يسأل عن الأفعال التي يرتكبها مرؤوسوه، وبما أن القائد العسكري يسأل عن أفعال المرؤوس الأدمي المستقل، فسيكون من السهل أن يتحمل مسؤولية المرؤوس الآلي المستقل، ولكن القائد العسكري لا يتحمل المسؤولية الجنائية الدولية عن تصرفات مرؤوسيه إلا إذا كان على علم، أو يفترض أن يكون على علم بأن المرؤوس ينوي ارتكاب جرم، وهنا تكون الصعوبة، فهل من السهل أن يكون القائد العسكري مطلعا بشكل كاف على برامج الأسلحة، ويعلم فنياتها بالشكل الذي يمكنه من فهم ردود أفعالها في كل المواقف.
رغم عدم سهولة علم القادة العسكريين بفنيات تصميم الأسلحة والروبوتات المستقلة إلا أن عليه الإلمام بها، فالجهل بخصائص وقدرات الأسلحة الجديدة المصنعة باستخدام تكنولوجيا الذكاء الاصطناعي لن تعفي هؤلاء القادة من المسؤولية التي تلقى على عاتقهم في حال انتهاك هذه الأسلحة لأي قاعدة من قواعد القانون الدولي بشكل عام، وقواعد القانون الدولي الإنساني بشكل خاص، وعليه يجب أن يكون القائد العسكري الذي يأمر باستخدام أي سلاح من هذه الأسلحة، أو يوافق على مشاركته، أو استخدامه في أي نزاع من النزاعات على علم بقدرات هذا السلاح الجديد وسماته وخصائصه.
وفي حالة نشر القادة العسكريين لأي أسلحة يؤدي استخدامها لانتهاكات للقانون الدولي الإنساني تتحمل الدولة المسؤولية الدولية عن جبر الأضرار التي تحدث، كما يتحمل القائد العسكري المسؤولية الجنائية المترتبة على ذلك.
ويجب الإشارة في هذا الشأن إلى إمكانية تحقق مسؤولية الدولة التي تأمر بنشر السلاح دون تحقق مسؤولية الدولة التي طورت برنامج الذكاء الاصطناعي المستخدم في صنعة، والسبب في ذلك، أن الأسلحة المصنعة باستخدام الذكاء الاصطناعي ليست محرمة بشكل مطلق، فهناك بعض الأسلحة ذاتية التشغيل التي يمكن قبولها دوليا، وهنا يقع على القائدالعسكري عبء تقييم خصائص السلاح وطبيعة النزاع المسلح الذي يأمر باستخدامه فيه، ففي حالة استخدام روبوت لا يستطيع التمييز بين البشر في مكان مأهول بالجنود أو المدنيين فإن ذلك يمثل انتهاكا لمبادئ القانون الدولي الإنساني، في حين أن استخدام هذا الروبوت للكشف عن الألغام المتفجرة في ساحة خالية من البشر قد يكون مقبول دوليا.
كما يمكن أن تتحقق مسؤولية الدولتين معا، الدولة التي طورت برنامج الذكاء الاصطناعي وصنعت السلاح، والدولة التي أمر قادتها باستخدام هذا السلاح، وهنا يجب أن تنص الاتفاقية المقترحة على مسؤولية الدولتين بالتكافل والتضامن، فيحق للدولة المضرورة أن ترجع عليهما معا، كما يحق لها أن ترجع على أي منهما، ويوزع عبء التعويض بينهما بنسبة خطأ كل منهما، وإن لم يتيسر تحديد مقدار خطأ كل منهما يوزع عبء التعويض بينهما بالتساوي ([74]).
ثالثا: مسؤولية الدول عن تشغيل الأسلحة ذاتية التشغيل
قد يكون السلاح المصنع باستخدام تكنولوجيا الذكاء الاصطناعي مطابقا لمتطلبات القانون الدولي، بمعنى أن يضمن البرنامج المستخدم في صنعه وجود المشغل البشري في دائرة القرار، وفي هذه الحالة لن يكون هناك أي مسؤولية على الدولة التي طورت البرنامج، ولن يكون هناك مسؤولية على القائد العسكري الذي أمر بتشغيل السلاح.
ولكن في حالة خطأ المشغل البشري في الإشراف على تشغيل هذا السلاح ما يؤدي لوقوع خسائر أو إصابات فإن الدولة التي يتبعها هذا المشغل أو الجندي ستتحمل المسؤولية الدولية.
فالإشراف البشري المباشر على أي سلاح من الأسلحة المصنعة باستخدام تكنولوجيا الذكاء الاصطناعي يمثل إحدى الضمانات الأساسية لعدم انتهاك هذه الأسلحة لقواعد القانون الدولي، فيجب على المشغلين المكلفين بمهام الإشراف المباشر على هذه الأسلحة أن يكونوا في حالة يقظة تامة للمخاطر المحتملة من استخدام هذه الأسلحة، هذا من جانب ومن جانب آخر يجب أن يكون على علم كامل، ودراية شاملة بخصائص وسمات وقدرات الأسلحة التي يشغلونها.
وبمعنى أقرب يجب أن يكون العنصر البشري دائما داخل دائرة أي قرار تتخذه الأسلحة المصنعة باستخدام تكنولوجيا الذكاء الاصطناعي.
وفي الحقيقة أن تطبيق ذلك على أرض الواقع يواجه عددا من العقبات أهمها أن قدرة المشغل على إلغاء قرارات الروبوت في الواقع تكون محدودة جدا بسبب سرعة اتخاذ القرار الآلي والتي تقاس بالنانو ثانية، وهي أسرع كثيرا مما يحتاجه الإنسان لحسم قراره، وهو ما يحول دون تدخل المشرف لإيقاف قرار الروبوت في كثير من الحالات، ولذا هناك مخاوف كثيرة من أن يكون المشغل أحيانا خارج دائرة القرار فعليا ([75]).
الأمر الآخر، والمعقد أيضا، هو أن الدول عادة تلجأ لاستخدام الآلات من أجل تقليل التكلفة، وتقليل عدد الجنود والقوات المشاركة، وسرعة معالجة البيانات إلكترونيا، ولذلك يشير أحد تقارير البنتاجون إلى أن تخصيص مشغل لكل روبوت أمر يتنافى مع المنطق، فإذا لم تترق الروبوتات على سلم الإدارة الذاتية، فإنها لن تدر أي توفير على صعيد التكلفة ولا على صعيد القوة البشرية، إضافة إلى ذلك، فإن من الصعب بمكان تشغيل الروبوت، وفي الوقت نفسه يسعى المرء لتفسير المعلومات التي يجمعها ويحاول معالجتها بالطرق التقليدية ([76]).
ولمواجهة هذه التحديات يجب أن تنص الاتفاقية المقترحة لمسؤولية الدول عن الأضرار التي تحدثها الأسلحة ذاتية التشغيل على المسؤولية الكاملة للدولة المشغلة للسلاح عن أي أضرار تنتج عن استخدامه، فرغبة الدول في تقليل نفقات أسلحتها لا يمكن أن تكون على حساب ضرر الدول الأخرى.
المطلب الثالث
مسؤولية الدول عن تقييم مخاطر الأسلحة ذاتية التشغيل
وتأمينها وحماية برامجها
لتأمين المخاطر المحتملة من الأسلحة ذاتية التشغيل يجب أن تلزم كل دولة المؤسسات التابعة لها بتقييم مخاطر استخدام تكنولوجيا الذكاء الاصطناعي في صنع الأسلحة، ويجب أن تجرى عمليات تقييم المخاطر في كل مرحلة من مراحل تطوير الأسلحة، أو تصميمها، أو اختبارها، أو نشرها ([77]).
ولكن المسائل التي يجب مناقشتها بشكل أكثر عمقا في هذا الشأن هي هل مفهوم المخاطر متفق عليه بين الدول؟ وما هي المعايير التي يجب على أساسها أن تجري الدول هذا التقييم؟
والإشكالية التي تنشأ بسبب عدم وجود مفهوم دولي موحد للمخاطر هي أن الكثير من الدول تفسر معنى المخاطر وفقا لمفهوم ضيق يقتصر على دراسة المخاطر المحتملة في قواتها المسلحة وليس المخاطر المحتملة في القوات المسلحة للدولة الأخرى وخاصة الدولة الخصم.
ولو حللنا مخاطر الروبوتات المقاتلة من زاوية المخاطر المحتملة في القوات المسلحة للدولة التي تملكها، فالنتيجة أنها ستكون أسلحة مثالية، حيث إن انتشار هذه الروبوتات من شأنه أن يقلل احتمال إصابة القوات في الحرب، أو يجعل هذا الاحتمال منعدما إذا امتلكت الدولة قوة كافية من هذه الروبوتات.
وفكرة التفسير الضيق لمفهوم المخاطر ترجع في الأصل لمخاوف القادة السياسيين من ردة فعل شعوبهم تجاه قراراتهم بالمشاركة في الحروب، وظهور الروبوتات المقاتلة من شأنه أن يجعل القادة السياسيين يتجهوا لخيار الحرب بشكل أسهل مما كان عليه الحال في الماضي ([78])، وقد عبر الأمين العام الأسبق للأمم المتحدة عن هذا المعنى في تقريره الخاص بدور العلم والتكنولوجيا في سياق الأمن الدولي ونزع السلاح، حيث ذكر أن «ازدياد قدرة المركبات ذاتية التشغيل يفسح المجال أمام الدول للقيام بأعمال حربية دون تقييد برد فعل شعوبها إزاء الخسائر في الأرواح ([79])»
ولذا فإن التزام الدول بتقييم المخاطر يجب أن ينصرف إلى الأضرار المحتملة من استخدام السلاح على الدول الأخرى وليس على الدولة التي تصنعه، أو تستخدمه فقط.
ويجب أن تتضمن المعاهدة المقترحة تعريفا للمخاطر المحتملة من هذه الأسلحة،وربط هذا المفهوم بفكرة الضرر المتعارف دوليا، وفيما يتعلق بمفهوم الضرر الذي تحدثه الأسلحة الفتاكة ذاتية التشغيل فيمكننا تحديده بالاسترشاد بتعريف الضرر الوارد في اتفاقية المسؤولية الدولية عن الأضرار التي تحدثها الأجسام الفضائية والتي نصت على الضرر هو «الخسارة في الأرواح، أو الإصابة الشخصية، أو أي إضرار آخر بالصحة، أو الخسارة أو الضرر الذي يلحق بممتلكات الدولة، أو ممتلكات الأشخاص الطبيعيين أو المعنويين، أو ممتلكات المنظمات الحكومية الدولية»([80]).
وبالتالي يمكن تعريف المخاطر المحتملة من الأسلحة ذاتية التشغيل بأنها أي شكل من أشكال الضرر الواردة في هذا التعريف تصيب أي دولة من الدول بسبب استخدام هذه الأسلحة.
المسألة الأخرى التي يجب التعرض لها هي أن المطالبة بأن تكون الأسلحة ذاتية التشغيل منعدمة المخاطر تماما، هي مطالبات تفتقر للمنطق، لأننا لو منعنا هذه الروبوتات فسيخوض الحرب بشرا، وهم أيضا ليسوا معصومين من الخطأ، فكثير من الأخطاء ترتكب أثناء المعارك، ولمعالجة هذه المسألة فأنني اتفق مع الرأي الذي يقول إن المعيار المقبول للخطأ عند تقييم الأسلحة ذاتية التشغيل هو معدل الخطأ الذي يرتكبه البشر إذا خاضوا المعارك ([81]).
الأمر الأخير الذي يثير مخاوف الكثير من الدول -في سياق المخاطر أيضا -هو احتمال وقوع هذه الأسلحة الذاتية التشغيل في أيدي الجماعات الإرهابية، وهو ما يمثل تهديدا خطيرا للأمن والسلم الدوليين، ولو لم تستطع تلك الجماعات الإرهابية سرقة هذه الأسلحة فهناك خطر آخر متمثل في سرقة برامج تصنيعها المخزنة على أجهزة الكمبيوتر في الدول التي تصنعها بواسطة برامج القرصنة التي انتشرت في السنوات الأخيرة.
وقد تعرض فريق خبراء الأمم المتحدة لهذه الإشكالية في المبدأ السادس من المبادئ التوجيهية الخاصة بالأسلحة ذاتية التشغيل، والذي وجه الدول إلى ضرورة توفير الحماية اللازمة لهذه الأسلحة، وكذا للبرامج المصنعة في استخدامها من مخاطر السرقة أو الهجمات الإلكترونية خاصة من الجماعات الإرهابية ([82]).
ولذا يجب على الدول أن تتخذ كافة إجراءات التأمين اللازمة للأسلحة ذاتية التشغيل، كما يجب أن تتخذ الدول كافة إجراءات الأمن السيبراني اللازمة لحماية برامج الذكاء الاصطناعي المستخدمة في صناعة هذه الأسلحة.
الخاتمة
تناول البحث قضية استخدام الذكاء الاصطناعي في صناعة الأسلحة من خلال بيان دوافع هذا الاستخدام وجهود مواجهته دوليا، والعقبات التي تواجه حظر هذه الأسلحة، وتعرض البحث لبيان المسؤولية الدولية التي تنشأ عن الأضرار التي تحدثها الأسلحة ذاتية التشغيل.
وتبين من خلال البحث أن دوافع استخدام الدول لتكنولوجيا الذكاء الاصطناعي في صناعة الأسلحة هي السرعة الفائقة التي تتميز بها الأسلحة ذاتية التشغيل سواء في اتخاذ القرارات، أو التعامل مع المواقف، والدافع الثاني هو رغبة الدول في حماية أفراد قواتها المسلحة، حيث تستطيع هذه الأسلحة القيام بالمهام الخطرة، والتي تمثل احتمالات مخاطر عالية على حياة الجنود، أو احتمالات تعرضهم للإصابة أو للأسر، والدافع الثالث هو قدرة هذه الأسلحة على القيام بمهام الحراسة والتأمين بمهارة فائقة، والدافع الأخير هو مخاوف الدول من التخلف عن ركاب سباق التسلح الذكي، حيث أن تكنولوجيا الذكاء الاصطناعي تتطور بشكل فائق السرعة، وهو ما انعكس على تطور الأسلحة الذكية بنفس السرعة، وأظهرت هذه الجزئية من البحث أن الدول التي دخلت سباق التسلح الذكي ستحاول عرقلة الجهود الدولية الخاصة بمنع تطوير أو نشر أو استخدام الأسلحة ذاتية التشغيل؛ لأن هذه الدول تربط بين هذه الأسلحة وقدرتها على حماية أمنها القومي.
وأظهر البحث أن السنوات الخمس الماضية شهدت جهودا مكثفة من اللجنة التي شكلتها الدول الأطراف في اتفاقية الأسلحة التقليدية لدراسة الإشكاليات الدولية الناشئة عن الأسلحة الفتاكة ذاتية التشغيل، فخلال عامي ٢٠١٥، ٢٠١٦ انعقد فريق خبراء غير رسمي وناقش المشكلات التي توجدها هذه الأسلحة، وأظهر صعوبة التصدي لها، وأنهى عمله بتوصية بتشكيل فريق خبراء حكوميين للدول لمواجهة التحديات التي فرضتها هذه الأسلحة على النظام الدولي.
وخلال السنوات الثلاث السابقة عقد فريق الخبراء الحكوميين اجتماعاته بشكل منتظم، واستطاع التوصل لمبادئ توجيهية بشأن الأسلحة الفتاكة ذاتية التشغيل، ولكن هذا الفريق إلى الآن لم يستطع تعريف الأسلحة الفتاكة ذاتية التشغيل، أو تحديد خصائصها، أو سماتها المميزة، كما يختلف الخبراء الحكوميون وممثلو الدول بشأن طبيعة الوثيقة الدولية التي يجب إصدارها لمواجهة الأسلحة الفتاكة ذاتية التشغيل، فالبعض يرى الاكتفاء بإصدار إعلان سياسي غير ملزم، أو إصدار مدونة قواعد سلوك بشأن هذه الأسلحة، والبعض الآخر يتمسك بضرورة إصدار اتفاقية دولية ملزمة للدول لتردع رغبتهم في تطويروإنتاج واستخدام هذه الأسلحة.
واتضح من خلال البحث أن التعمق في فهم الأسلحة ذاتية التشغيل يظهر إشكالية حقيقية بشأن قدرة هذه الأسلحة على الامتثال لقواعد القانون الدولي الإنساني، فبعض هذه الأسلحة ستكون أكثر قدرة على الامتثال لقواعد القانون الدولي لدقتها، وقدرتها على تحقيق أهدافها، ولكن البعض الآخر يحتمل أن تؤدي لانتهاكات بالغة الخطورة لقواعد هذا القانون، ومن الصعب جدا تحديد ضوابط للفصل ما بين هذه وتلك، وهو تحد حقيقي يواجه حظر هذه الأسلحة بوصف أنها غير إنسانية، ولا أخلاقية، ولا قانونية.
وفي ظل هذا الخلاف الذي أوضح البحث أنه يستعصي على الحل في المستقبل المنظور؛ لأن بعض الدول تتمسك بأن هذه الأسلحة ستساعدها على الامتثال لقواعد القانون الدولي الإنساني ومبادئه وأحكامه، ارتأى الباحث أن مواجهة قضية استخدام الذكاء الاصطناعي تتطلب توقيع الدول على اتفاقية للمسؤولية الدولية عن الأضرار التي تحدثها الأسلحة ذاتية التشغيل، لتتحمل كل دولة نتيجة خياراتها، فالدول التي تطور هذه الأسلحة، أو تنشرها في النزاعات المسلحة عليها تحمل مسؤوليتها الدولية، وتعويض الدول المتضررة من هذا الاستخدام.
وتبين من خلال دراسة المسؤولية الدولية عن الأضرار التي تحدثها الأسلحة ذاتية التشغيل أن القواعد والأحكام العامة للمسؤولية الدولية وفقا لوضعها الحالي يمكن أن تسهم إلى حد ما في تحديد مسؤولية الدول عن الأضرار التي تحدثها هذه الأسلحة، ولكنالذكاء الاصطناعي فرض تحديات جديدة يجب أن تعالجها المعاهدة المقترحة، أهمها معالجة مسألة تباين مواقف برلمانات الدول بشأن المركز القانوني للروبوتات المستقلة، ومدى إمكانية منح هذه الروبوتات نوعا جديدا من الشخصية القانونية، أو الاعتراف لها بوصف الشخص المنقاد.
فإن كان هذا التفاوت مقبولا في حالة الروبوتات العاملة في المجالات الطبية، أو الصناعية، أو غيرها من الأنشطة الداخلية للدول، فلن يكون مقبولا في بشأن الأسلحة ذاتية التشغيل التي تصنع للمشاركة في النزاعات المسلحة، ولذا يجب إلزام الدول بالاعتراف بمركز قانوني لهذه الروبوتات لتمييزها، وتحديد الدولة المسؤولة عن الأضرار التي تحدثها. كما يجب أن تقر التشريعات الوطنية بمبدأ مسؤولية البشر عن القرارات التي تتخذها هذه الروبوتات المستقلة المقاتلة، ويجب ألا تؤثر التدابير السياسية أو التشريعية التي تتخذها الدوللتقنين استخدام الذكاء الاصطناعي في الاستخدامات العسكرية على حرية البحث العلمي في مجال الاستخدامات السلمية للذكاء الاصطناعي.
ومن المسائل المهمة التي يجب معالجتها من خلال المعاهدة المقترحة مسألة مسؤولية الدول عن تقييم مخاطر الأسلحة الفتاكة ذاتية التشغيل، ويجب أن تتضمن هذه المعاهدة تحديدا واضحا لمفهوم المخاطر المحتملة من هذه الأسلحة، وأخيرا مسألة مسؤولية الدول عن تأمين الأسلحة ذاتية التشغيل، وحماية برامج الذكاء الاصطناعي المستخدمة في صناعتها من السرقة الإلكترونية خاصة من جانب الجماعات الإرهابية.
التوصيات
- إبرام معاهدة تنظم مسؤولية الدول عن الأضرار التي تحدثها الأسلحة ذاتية التشغيل.
- اعتراف الدول في تشريعاتها الوطنية بطبيعة قانونية خاصة للروبوتات المقاتلة ذاتية التشغيل لتحديد الدولة المسؤولة عن الأضرار التي تحدثها.
- اعتراف الدول في تشريعاتها الوطنية بمبدأ مسؤولية البشر عن القرارات التي تتخذها الروبوتات المستقلة.
المراجع
المراجع العربية:
– أمانديب سينغ جيل، مقال منشور على الموقع الرسمي للأمم المتحدة بعنوان «دور الأمم المتحدة في معالجة التقنيات الناشئة في مجال أنظمة الأسلحة الفتاكة المستقلة ذاتيا».
– العشاش إسحق، نظم الأسلحة المستقلة الفتاكة في القانون الدولي -مقاربة قانونية حول مشكلة حصرها دوليا، مجلة جيل حقوق الإنسان، العدد ٣٠، مايو ٢٠١٨
– العشاش إسحاق، الآلة عندما تشن الحرب، الروبوتات القاتلة والحاجة إلى سيطرة بشرية هادفة، مجلة الإنساني، اللجنة الدولية للصليب الأحمر، العدد ٦٤، ٢٥ مارس ٢٠١٩
– بيتر سنجر، الحرب عن بعد، دور التكنولوجيا في الحرب، مركز الإمارات للدراسات والبحوث الاستراتيجية، الإمارات العربية المتحدة، ٢٠١٠
– بيتر سنجر، بحث بعنوان دروس الحرب الماضية والاتجاهات التكنولوجية المستقبلية، منشور كتاب الحروب المستقبلية في القرن الحادي والعشرين، مركز الإمارات للبحوث والدراسات الاستراتيجية، الإمارات العربية المتحدة، ٢٠١٤
– جون ماري هنكرتس، لويز دوزوالد، القانون الدولي الإنساني العرفي، المجلد الأول: القواعد، صادر عن اللجنة الدولية للصليب الأحمر، ٢٠٠٨
– صفات سلامة، خليل قورة، تحديات عصر الروبوتات وأخلاقياته، مركز الإمارات للبحوث والدراسات الاستراتيجية، الإمارات، ٢٠١٤.
– د. عماد عبد الرحيم الدحيات، نحو تنظيم قانوني للذكاء الاصطناعي في حياتنا: إشكالية العلاقة بين البشر والآلة، مجلة الاجتهاد للدراسات القانونية والاقتصادية، جامعة الإمارات، ٢٠١٩.
– د. محمد المجذوب، الوسيط في القانون الدولي العام، منشورات الحلبي، لبنان، ط٧،٢٠١٨
– د. علي صادق أبو هيف، القانون الدولي العام، منشأة المعرف، الإسكندرية، بدون تاريخ.
– د. فؤاد الشعيبي، المسؤولية المدنية عن أضرار روبوتات الذكاء الاصطناعي، مجلة كلية الإمام مالك للشريعة والقانون، الإمارات العربية المتحدة، العدد الثامن، ٢٠١٩.
– د. محمد عرفان الخطيب، المركز القانوني للإنسآلة «الشخصية والمسؤولية.. دراسة تأصيلية مقارنة» قراءة في القواعد الأوروبية للقانون المدني للإنسآلة لعام ٢٠١٧»، مجلة كلية القانون الكويتية، السنة السادسة، العدد ٤، العدد التسلسلي ٢٤، ٢٠١٨.
المراجع الأجنبية:
– Gary Marchant et al, “International governance of autonomous military robots”, Columbia Science and Technology Law Review, Volume XII, 2011.
– Jonathan Herbach “Into the Caves of Steel: Precaution, Cognition and Robotic Weapons Systems Under the International Law of Armed Conflict” Amsterdam Law Forum Vol. 4, 2012
– Katja Grace, John Salvatier, Allan Dafoe, Baobao Zhang, Owain Evans, Viewpoint: When Will Exceed Human Performance? Evidence form AI Experts, Journal of Artificial Intelligence Research, 62, 2018
– Kenneth Anderson and Matthew Waxman, “Law and ethics for robot soldiers”, Policy Review 2012, No. 176
– Michael Schmitt “Autonomous Weapons Systems and International Humanitarian Law: A Reply to the Critics” Harvard International Security Journal (forthcoming 2013).
– Michael Libeau, Laser Counter Rocket, Artillery, and Mortar (C-RAM) Efforts. https://apps.dtic.mil/dtic/tr/fulltext/u2/a557876.pdf
– Noah Schachtman, Robo-Snipers, “Auto Kill Zones” to Protect Israeli Borders, Wired, 4 June 2007
– Noel Sharkey, “Automated Killers and the Computing Profession” Computer, Vol. 40, 2007
– Peter Singer, Wired for War, Penguin Group (USA) Incorporated, 2009.
– Peter Asaro “On Banning Autonomous Weapon Systems: Human Rights, Automation, and the Dehumanisation of Lethal Decision-making” vol. 94, International Review of the Red Cross. 2012.
– PATRICK LIN, Do Killer Robots Violate Human Rights? When machines are anthropomorphized, we risk applying a human standard that should not apply to mere tools. APRIL 20, 2015, https://www.theatlantic. com/technology/archive/2015/04/do-killer-robots-violate-human- rights/390033/
– Batrick Lin and others, “Robots in War: Issues of Risk and Ethics” in R. Capurro and M. Nagenborg (Eds.) Ethics and Robotics, 2009.
– Ronald Arkin, Governing Lethal Behaviour in Autonomous Robots (CRC Press, 2009); Kenneth Anderson and Matthew Waxman, “Law and ethics for robot soldiers”, Policy Review, No. 127, 2012.
([1])في ٢٠١٨ نشر عدد من الباحثين دراسة استشرافية عن تأثير الذكاء الاصطناعي على وظائف المستقبل، وتضمنت تحليلا لآراء ١٦٣٤ خبيرا، وتوصلت لاتفاق ٣٥٢ منهم على أن الذكاء الاصطناعي سيغير شكل الحياة في المستقبل، وتوقع العلماء أن شكل وظائف النقل والصحة والعلوم والقوات المسلحة سيتغير بنسب مختلفة على مدار مدد زمنية مختلفة، ولكنها جميعا ليست بالبعيدة، فالسمة الغالبة على هذا التغير هي السرعة الفائقة بسبب التطور السريع للذكاء الاصطناعي، وتوقعوا أن يفوق الذكاء الاصطناعي ذكاء البشر خلال السنوات العشر القادمة، فعلى سبيل المثال بحلول عام ٢٠٢٤ ستكون الروبوتات المترجمة أكثر سرعة ودقة من الأشخاص العاملين في مجال الترجمة، وبحلول عام ٢٠٢٦ ستستطيع الروبوتات كتابة المقالات، وبحول عام ٢٠٢٧ ستقتحم الروبوتات مجال السيارات، وبحلول عام ٢٠٣١ ستدخل الروبوتات مجال البيع بالتجزئة، وبحلول عام ٢٠٤٩ سيكون الكتاب الأكثر مبيعا في العالم من تأليف روبوت، وبحلول عام ٢٠٥٣ سوف يستطيع الروبوت إجراء العمليات الجراحية ويعتقد الخبراء أن هناك فرصة بنسبة ٥٠% لتفوق الذكاء الاصطناعي على البشر في جميع المهام خلال ٤٥ عاما وأتمته جميع الوظائف البشرية في ١٢٠ عاما، ويتوقع المشاركون الآسيويون هذه التواريخ في وقت أقرب بكثير من الأمريكيين الشماليين.
Katja Grace, John Salvatier, Allan Dafoe, Baobao Zhang, Owain Evans, Viewpoint: When Will Exceed Human Performance? Evidence form AI Experts, Journal of Artificial Intelligence Research, 62, 2018, p. 729
([2]) تثبت دراسات الحرب وتطورها تاريخيا أن كل جيل من أجيال البشر يستخدم الوسائل المتاحة في عصره لقهر أعدائه وفرض سيطرته على غيره من بني جنسه، ولذلك وصفت الحرب بأنها حرباء تتلون بلون زمانها، وأنها قادرة على تغيير ملامحها لتلائم تطور معطيات كل مجتمع.
([3]) د. محمد المجذوب، الوسيط في القانون الدولي العام، منشورات الحلبي، لبنان، ط ٧، ٢٠١٨، ص: ٧٦٦.
([4]) شهدت الفترة الماضية أشكالا عديدة من الانتهاكات المستمرة لكل الثوابت الراسخة التي قام عليها القانون الدولي الإنساني دون محاسبة المسؤولين عن ارتكابها، ويتساءل أحد قضاة محكمة العدل الدولية السابقين عن سبب عدم امتثال الدول لقواعد هذا القانون، فهل هو نقص في معرفة القواعد من قبل الأشخاص الذين يجب عليهم التقيد به؟ أم عدم ملاءمة هذه القواعد؟ أم أن السبب هو ضعف آليات التنفيذ؟ أم مجرد الاستخفاف بهذه القواعد؟ وينتهي لأن كل ما سبق يسهم بأشكال مختلفة في عدم احترام الدول لقواعد القانون الدولي الإنساني. انظر جون ماري هنكرتس، لويز دوزوالد، القانون الدولي الإنساني العرفي، المجلد الأول: القواعد، صادر عن اللجنة الدولية للصليب الأحمر، ٢٠٠٨، ص: ٥
([5]) تعرف الروبوتات المستقلة المقاتلة وفقا لوزارة الدفاع الأمريكية بأنها منظومات سلاح قادرة على أن تختار، حال تشغيلها، أهدافا معينة وتشتبك معها دونما حاجة لتدخل إضافي من العنصر البشري الذي يشغلها، وأهم ما يميز هذه الروبوتات أنها تملك خيارا مستقلا فيما يتعلق باختيار الهدف واستخدام القوة المميتة ضده. (انظر وثائق الأمم المتحدة، الوثيقة رقم A/HRC/23/47 p.1
([6]) Peter Singer, Wired for War, Penguin Group (USA) Incorporated, 2009. p. 179
([7]) يشار في هذا الشأن إلى أن مخاوف البشر من الروبوتات بدأت منذ بداية ظهورها، فأول من استخدم كلمة (روبوت) هو الكاتب المسرحي التشيكي «كارل كابيك» للدلالة على الإنسان الآلي، وذلك في مسرحيته (روبوتات رسوم العالم) التي كتبها عام ١٩٢٠، واشتق كلمة روبوت من الكلمة التشيكية (روبوتا) والتي تعني عمل السخرة، وفي هذه المسرحية قام مهندس عبقري بصناعة روبوتات لتسخيرها في القيام بالأعمال التي يأنف الإنسان من القيام بها، لكن هذه الروبوتات اكتشفت أنها أفضل من الإنسان الذي يقبل على نفسه أن يقتل الإنسان، فتتمرد الروبوتات على سادتهم البشر فتبيدهم عن آخرهم وتحكم العالم. انظر صفات سلامة، خليل قورة، تحديات عصر الروبوتات وأخلاقياته، مركز الإمارات للبحوث والدراسات الاستراتيجية، الإمارات، ٢٠١٤. ص:١١
([8]) https//news.un.org/ar/story2020/01/1047721/
([9]) إلى جانب الفوائد التي يحققها الذكاء الاصطناعي في مجال الاستخدام العسكري، فإن مزاياه المدنية متعددة سواء للدول أو للشركات الكبرى، فمثلا في حالة رغبة أحد الصيادلة في فتح صيدلية، يمكنه تقديم الطلب من خلال موقع الحكومة الإلكترونية، ويقوم برنامج الذكاء الاصطناعي بتوجيه الشخص نحو أفضل الأماكن لفتح هذه الصيدلية وفقا لاحتياجات السوق، وانتشار الصيدليات وأماكن العجز، كما تستخدم الشركات برامج الذكاء الاصطناعي في جذب العملاء وتسويق المنتجات، فمثلا برامج اليوتيوب وجوجل وسوق دوت كوم، تحلل شخصية المتصفح بعد عدد من الزيارات وتزوده بالإعلانات المناسبة لشخصيته واحتياجاته.
د. فؤاد الشعيبي، المسؤولية المدنية عن أضرار روبوتات الذكاء الاصطناعي، مجلة كلية الإمام مالك للشريعة والقانون، الإمارات العربية المتحدة، العدد الثامن، ٢٠١٩، ص: ١٧٠
([10]) انظر تقرير اجتماع الخبراء غير الرسمي لعام 2015 بشأن منظومات الأسلحة الفتاكة ذاتية التشغيل، 13-12 تشرين الثاني/ نوفمبر 2015، البند رقم ٣٠ 2015/3/MSP/CCW
([11]) See UN DOC. NO. (A/HRC/23/47) P 15
([12]) Michael Libeau, Laser Counter Rocket, Artillery, and Mortar (C-RAM) Efforts,
https://apps.dtic.mil/dtic/tr/fulltext/u2/a557876.pdf
([13]) See UN DOC. NO. (A/65/321) p. 23
([14])Gary Marchant et al, “International governance of autonomous military robots”, Columbia Science and Technology Law Review, Volume XII, 2011, p. 275
([15]) Noah Schachtman, Robo-Snipers, “Auto Kill Zones” to Protect Israeli Borders, Wired, 4 June 2007.
([16]) See UN DOC: NO, A/65/321 P. 21, 25
([17])بيتر سنجر، الحرب عن بعد، دور التكنولوجيا في الحرب، مركز الإمارات للدراسات والبحوث الاستراتيجية، الإمارات العربية المتحدة، ٢٠١٠، ص: ١٣٠.
([18]) See UN DOC. NO. (CCW/MSP/2015/3)
([19])د العشاش إسحق، نظم الأسلحة المستقلة الفتاكة في القانون الدولي-مقاربة قانونية حول مشكلة حصرها دوليا، مجلة جيل حقوق الإنسان، العدد ٣٠، مايو ٢٠١٨، ص: ١٥٢
([20]) https://www.baesystems.com/en/home
([21])د. العشاش إسحق، نظم الأسلحة المستقلة الفتاكة في القانون الدولي-مقاربة قانونية حول مشكلة حصرها دوليا، مرجع سابق، ص: ١٥٢ https://www.baesystems.com/en/home
([22]) بيتر سنجر، بحث بعنوان دروس الحرب الماضية والاتجاهات التكنولوجية المستقبلية، منشور كتاب الحروب المستقبلية في القرن الحادي والعشرين، مركز الإمارات للبحوث والدراسات الاستراتيجية، الإمارات العربية المتحدة، ٢٠١٤، ص: ٧٩
([23]) يشار في هذا الشأن إلى أن أول من تعرض لمخاطر علم الروبوتات وطالب بوجود قوانين تحد من استخدامها هو كاتب الخيال العلمي الأمريكي الروسي الأصل إسحاق أسيموف، الذي ولد عام ١٩٢٠ وتوفي عام ١٩٩٢، وكان يعمل أستاذا للكيمياء الحيوية بجامعة بوسطن، وذلك في قصة بعنوان «مراوغة» نشرت في مجلة «الخيال العلمي المذهل» عام ١٩٤٢، ثم أخرجت هذه القصة في شكل فيلم سينمائي بعنوان «أنا روبوت»، وتحدث من خلال هذه القصة عما يعرف «بالقوانين الأساسية الثلاثة للروبوتات».
القانون الأول: يجب على الروبوت ألا يؤذي الإنسان، وألا يتسبب إهماله في إلحاق الأذى بأي إنسان. القانون الثاني: يجب على الروبوت أن يطيع أوامر الإنسان التي يصدرها له، ماعدا الأوامر التي تتعارض مع القانون الأول.
القانون الثالث: يجب على الروبوت أن يحمي وجودة، ما دام ذلك لا يتعارض مع القانونين الأول والثاني.
انظر، صفات سلامه، خليل أبو قورة، تحديات عصر الروبوتات وأخلاقياته، مرجع سابق، ص: ١٢
([24]) See UN. DOC. NO. (A/65/321)
([25]) See UN. DOC. NO. (A/HRC/23/47)
([26]) See UN. DOC. NO. (A/HCR/26/36)
([27]) شارك في الاجتماع ممثلون عن معهد الأمم المتحدة لنزع السلاح والاتحاد الأوروبي، واللجنة الدولية للصليب الأحمر، ومركز جينيف الدولي لإزالة الألغام للأغراض الإنسانية، حملة أوقفوا الروبوتات القاتلة، ومنظمة العفو الدولية، ومنظمة المادة ٣٦، واللجنة الدولية لتحديد الأسلحة الروبوتية، والمنظمة الكندية لإزالة الألغام، كما شارك مركز دراسات الحرب البرية، أكاديمية جينيف للقانون الدولي الإنساني وحقوق الإنسان، مركز جينيف للسياسات الأمنية، معهد بحوث السلام في فرانكفورت، معهد ستوكهولم الدولي لبحوث السلام. أنظر وثائق الأمم المتحدة/CCW/ MSP/2015/3 P3
([28]) See UN DOC. NO. (CCW/CONF. V/2) p. 19
([29]) قررت اللجنة الأوروبية للشؤون القانونية في يناير ٢٠١٥ إنشاء فريق عمل معني بالمسائل القانونية المرتبطة بتطوير الروبوتات والذكاء الاصطناعي في الاتحاد الأوروبي، وعقد هذا الفريق عشرة اجتماعات حتى سبتمبر ٢٠١٦، واستمعت اللجنة لآراء عشرات العلماء والقانونيين بشأن سبل معالجة هذه المسائل، وشاركت في ذلك وحدة البحوث الاستشرافية في مركز الأبحاث بنشرها تقرير في يونيو ٢٠١٦ تعرضت من خلاله للكثير من القضايا التي تثيرها الروبوتات المستقلة، وبعد مخاض طويل اعتمد البرلمان الأوروبي تقرير لجنة الشؤون القانونية بأغلبية ٣٩٦ عضوا ومعارضة ١٢٣ وامتناع ٨٥ عن التصويت، وعلية صدرت القواعد الأوروبية في القانون المدني للإنسآلة. انظر، د. محمد عرفان الخطيب، المركز القانوني للإنسآلة «الشخصية والمسؤولية.. دراسة تأصيلية مقارنة» قراءة في القواعد الأوروبية للقانون المدني للإنسآلة لعام ٢٠١٧»، مجلة كلية القانون الكويتية، السنة السادسة، العدد ٤، العدد التسلسلي ٢٤، ٢٠١٨، ص: ٩٩
([30]) شكلت أربع لجان لدراسة الإشكاليات المختلفة التي تثيرها هذه الأسلحة، فاللجنة الأولى قامت بدراسة الأبعاد القانونية، واللجنة الثانية تعرضت لدراسة الجوانب الأخلاقية، واللجنة الثالثة ناقشت الجوانب العسكرية، واللجنة الرابعة كانت معنية بالجوانب التقنية المتعلقة بالأسلحة المصنعة باستخدام تكنولوجيا الذكاء الاصطناعي.
([31]) أمانديب سينغ جيل، مقال منشور على الموقع الرسمي للأمم المتحدة بعنوان «دور الأمم المتحدة في معالجة التقنيات الناشئة في مجال أنظمة الأسلحة الفتاكة المستقلة ذاتيا».
([32]) See UN DOC. NO. (CCW/GGE.1/2018/3)
([33]) https://news.un.org/ar/story/2019/03/1029681
([34])طرح خلال مناقشات هذا الموضوع التساؤلات التالية: هل يحد تشغيل منظومات الأسلحة ذاتيا لوظائفها الأساسية من قدرة الدول أو الأطراف في نزاع ما أو من قدرة القادة والمقاتلين الأفراد على تطبيق مبادئ القانون الدولي الإنساني المتعلقة بسير الأعمال العدائية (أي التمييز والتناسب والاحتياطات) عند شن هجمات في سياق النزاع المسلح؟ هل يؤثر تشغيل منظومات الأسلحة ذاتيا لوظائفها الأساسية في الحفاظ على مسؤولية المقاتلين والقادة حيال قرارات استخدام القوة؟ ما هي مسؤولية الدول أو الأطراف في نزاع ما، ومسؤولية القادة والمقاتلين الأفراد حيال قرارات استخدام القوة باستعمال منظومات الأسلحة الذاتية التشغيل، في ضوء مبادئ القانون الدولي المستمدة من الأعراف المرعية ومن مبادئ الإنسانية ومما يمليه الضمير العام (شرط مارتنز)؟ كيف يمكن أن تسهم مراجعة القوانين المتعلقة بالأسلحة المزودة بوظائف ذاتية التشغيل في الامتثال للقانون الدولي الإنساني؟ وما هي الصعوبات التي صودفت في الماضي أو التي يمكن مصادفتها في إجراء مراجعات للأسلحة المزودة بخاصية التشغيل الذاتي لوظائفها الأساسية، وكيف يمكن تذليل هذه الصعوبات؟ انظر وثائق الأمم المتحدة 14.P 1/2019/3.GGE/CCW
([35]) طرح خلال مناقشات هذا الموضوع التساؤلات التالية: ما هي سمات منظومات الأسلحة الذاتية التشغيل التي قد تكون مهمة من وجهة نظر القانون الدولي الإنساني واتفاقية حظر أو تقييد استعمال أسلحة تقليدية معينة يمكن اعتبارها مفرطة الضرر أو عشوائية الأثر (الاتفاقية المتعلقة بأسلحة تقليدية معينة) على وجه التحديد؟ هل التشغيل الذاتي خاصية تتسم بها منظومة الأسلحة ككل أم هل ينبغي ربطها بمهام مختلفة تؤديها منظومات الأسلحة؟ هل تشكل بيئة نشر الأسلحة، أو القيود المحددة المتعلقة بوقت التشغيل، أو نطاق الحركة في منطقة ما، عوامل مهمة من منظور القانون الدولي الإنساني/ الاتفاقية المتعلقة بأسلحة معينة؟ هل التمييز بين الأسلحة المضادة للأفراد والأسلحة المضادة للعتاد أمر له أهمية من منظور القانون الدولي الإنساني/ الاتفاقية المتعلقة بأسلحة تقليدية معينة؟ انظر وثائق الأمم المتحدة 15.P 1/2019/3.GGE/CCW
([36]) طرح خلال مناقشات هذا الموضوع التساؤلات التالية: ما هو نوع ودرجة التدخل البشري (من حيث السيطرة و/أو الرقابة و/أو التقدير) المطلوب أو المناسب على وجه التحديد عند استخدام الأسلحة المزودة بخاصية التشغيل الذاتي لوظائفها الأساسية من أجل كفالة الامتثال للقانون الدولي الإنساني؟ ما هو شكل ودرجة الإشراف البشري، مثل القدرة على التدخل والتوقيف، اللذان يمكن اعتبارهما كافيين، عند تشغيل سلاح قادر على اختيار الأهداف ومهاجمتها ذاتيا، لضمان الامتثال للقانون الدولي الإنساني؟ هل هناك مستوى مطلوب أو مناسب من الموثوقية وقابلية التنبؤ في الوظائف الذاتية التشغيل لمنظومة أسلحة من هذا القبيل، بالنظر إلى مهام السلاح المتوقعة وبيئة تشغيله، لكي يكون استخدام هذه المنظومة ممتثلا للقانون الدولي الإنساني؟ وكيف يحدد مستوى الموثوقية وقابلية التنبؤ في الممارسة العملية؟ كيف تؤثر عوامل من قبيل مهام السلاح المتوقعة وأهدافه المقصودة (العتاد أو الأفراد)، ونطاق حركته وبيئة تشغيله (سواء كانت منطقة مأهولة بالسكان أم غير مأهولة بالسكان) في نوع ودرجة التدخل البشري المطلوب لضمان الامتثال للقانون الدولي الإنساني؟ هل يمكن ضمان تفاعل ممتثل للقانون الدولي الإنساني بين الإنسان والآلة في منظومات الأسلحة المزودة بخاصية التشغيل الذاتي لوظائفها الأساسية؟ أنظر وثائق الأمم المتحدة
1/2019/3. GGE/CCW p15
([37]) طرح خلال مناقشات هذا الموضوع التساؤلات التالية: كيف يمارس في الوقت الراهن التدخل البشري في سياق اللجوء إلى القوة باستعمال الأسلحة الحالية التي تستخدم أو يمكن أن تستخدم خاصية التشغيل الذاتي لوظائفها الأساسية، في مختلف مراحل دورة حياة هذه الأسلحة، وإلى أي مدى يمارس هذا التدخل؟ ما هي كيفية ضمان المسؤولية عن استخدام القوة باستعمال الأسلحة الحالية التي تستخدم أو يمكن أن تستخدم خاصية التشغيل الذاتي لوظائفها الأساسية؟ ويمكن أن تشمل أنواع الأسلحة الحالية ذات الصلة ما يلي: منظومات أسلحة الدفاع الجوي المزودة بأنماط أو وظائف تشغيل ذاتي؛ والصواريخ المزودة بأنماط أو وظائف تشغيل ذاتي؛ ومنظومات أسلحة الحماية النشطة المزودة بأنماط أو وظائف تشغيل ذاتي؛ والأسلحة المحومة المزودة بأنماط أو وظائف تشغيل ذاتي؛ والألغام البحرية أو البرية المزودة بأنماط أو وظائف تشغيل ذاتي؛ والأسلحة «الحارسة» المزودة بأنماط أو وظائف تشغيل ذاتي انظر وثائق الأمم المتحدة CCW/16.P 1/2O19/3.GGE
([38]) طرح خلال هذا مناقشات هذا الموضوع التساؤلات التالية: هي مزايا وعيوب النهج المقترحة لكفالة الامتثال للقانون الدولي الإنساني والمسؤولية عن القرارات المتعلقة باستعمال منظومات الأسلحة واستخدام القوة؟ فهل يفضل صك ملزم قانونا؛ أو إعلان سياسي؛ أو مبادئ توجيهية أو مبادئ عامة أو قواعد سلوك انظر وثائق الأمم المتحدة .17. P 1/2019/3.GGE/CCW
([39]) Peter Asaro “On Banning Autonomous Weapon Systems: Human Rights, Automation, and the Dehumanisation of Lethal Decision-making” vol. 94, InternationalReview of the Red Cross.2012. p. 696. See also, PATRICK LIN, Do Killer Robots Violate Human Rights? When machines are anthropomorphized, we risk applying a human standard that should not apply to mere tools. APRIL 20, 2015, https:// www.theatlantic.com/technology/archive/2015/04/do-killer-robots-violate-human- rights/390033/
([40]) See UN DOC NO. (A/HRC/23/47) p. 20, see also DOC NO. (A/65/321) p. 28
([41]) Michael Schmitt “Autonomous Weapons Systems and International Humanitarian Law: A Reply to the Critics” Harvard International Security Journal (forthcoming 2013)
([42]) Noel Sharkey, “Automated Killers and the Computing Profession” Computer, Vol. 40, 2007, p. 122.
([43]) (Ronald Arkin, Governing Lethal Behaviour in Autonomous Robots (CRC Press, 2009) ; Kenneth Anderson and Matthew Waxman, “Law and ethics for robot soldiers”, Policy Review, No. 127, (2012)
([44]) Gary Marchant, “International governance of autonomous military robots”, op. p. 280
([45]) See UN DOC NO. (A/65/321) p23-26
([46]) Kenneth Anderson and Matthew Waxman, “Law and ethics for robot soldiers”, Policy Review 2012, No. 176
([47]) Jonathan Herbach “Into the Caves of Steel: Precaution, Cognition and Robotic Weapons Systems Under the International Law of Armed Conflict” Amsterdam Law Forum Vol. 4, 2012, p. 14
([48])See the Principles of Lethal Autonomous Weapons Systems, Principle No (1), “International humanitarian law continues to apply fully to all weapons systems, including the potential development and use of lethal autonomous weapons systems” UN DOC NO (CCW/GGE. 1/2019/3) P. 13
([49]) See the Principles of Lethal Autonomous Weapons Systems, Principle No (11), “The CCW offers an appropriate framework for dealing with the issue of emerging technologies in the area of lethal autonomous weapons systems within the context of the objectives and purposes of the Convention, which seeks to strike a balance between military necessity and humanitarian considerations” UN DOC NO (CCW/ GGE. 1/2019/3) P. 13
([50]) انظر جون ماري هنكرتس، لويز دوزوالد، القانون الدولي الإنساني العرفي، مرجع سابق، ٢٠٠٨، ص: ٣
([51]) اقترحت اللجنة الدولية للصليب الأحمر هذا التعريف من خلال ورقة مقدمة لفريق الخبراء المعني بالأسلحة الفتاكة ذاتية التشغيل في ٢٠١٦/٤/١١، المقترح متاح على الرابط التالي:
([52]) US Department of Defense, Unmanned Systems Integrated Road Map FY2011- 2036, p. 50.
http://publicintelligence.net/dod-unmanned-systems-integrated-roadmap- fy2011-2036
([53]) في عام ١٩٧٢ قدم الاتحاد السوفييتي للأمم المتحدة مشروع اتفاقية تتضمن مبادئ استخدام الأقمار الصناعية في البث التليفزيوني الدولي المباشر، وبعد عشر سنوات من الدراسة من قبل فريق عمل معني باستخدام الأقمار الصناعية في البث التليفزيوني المباشر، تمت معالجة الموضوع من خلال إعلان مبادئ أصدرته الجمعية العامة في ١٩٨٢. (انظر قرار الجمعية العامة رقم ٩٢/٣٧ لعام ١٩٨٢)
([54]) يشار في هذا الشأن إلى أن الروبوتات المستقلة تثير من الإشكاليات في مختلف مجالات القانون، وفي كل المجالات التي تستخدم فيها، فالأمر لا يقتصر على الحالات التي تستخدم فيها الروبوتات المقاتلة التي تستخدم في النزاعات المسلحة فقط. لمزيد من التفصيل بشأن الإشكاليات التي تثيرها الروبوتات المستقلة. انظر. د. عماد عبد الرحيم الدحيات، نحو تنظيم قانوني للذكاء الاصطناعي في حياتنا: إشكالية العلاقة بين البشر والآلة، مجلة الاجتهاد للدراسات القانونية والاقتصادية، جامعة الإمارات، ٢٠١٩، ص١٧-٢٨ د. فؤاد الشعيبي، المسؤولية المدنية عن أضرار روبوتات الذكاء الاصطناعي، مرجع سابق، ص: ١٧٥-١٨٥.
([55]) انظر على سبيل المثال، اتفاقية عام ١٩٦٩ المتعلقة بالتلوث الناتج عن استغلال الموارد المدنية في قاع البحار، واتفاقية عام ١٩٧٢ بشأن المسؤولية عن الأضرار التي تسببها أجسام في الفضاء.
([56])يقول السيد كريستوفر هاينز المقرر الخاص للأمم المتحدة المعني بحالات الإعدام خارج المحاكمة في هذا الشأن، أن مسؤولية الأفراد والدول عن القرارات التي تتخذها الروبوتات المقاتلة يعد أمرا على درجه بالغة من الأهمية، لأن عدم التعهد بالمساءلة يضعف مستوى الردع والمنع فيتدنى بذلك مستوى حماية المدنيين وضحايا جرائم الحرب المحتملين، انظر وثائق الأمم المتحدةp21 (A/HRC/23/47)
([57]) د. على صادق أبو هيف، القانون الدولي العام، منشأة المعرف، الإسكندرية، بدون تاريخ، ص ٢٢١
([58]) See the Principles of Lethal Autonomous Weapons Systems, Principle No (5), “In accordance with States’ obligations under international law, in the study, development, acquisition, or adoption of a new weapon, means or method of warfare, determination must be made whether its employment would, in some or all circumstances, be prohibited by international law”. UN DOC. NO. (CCW/GGE.1/2019/3) P.13
([59]) د. محمد عرفان الخطيب، المركز القانوني للإنسآلة «الشخصية والمسؤولية. دراسة تأصيلية مقارنة»، مرجع سابق ص ١٠٨
([60]) يشبه مؤيدو منح الشخصية القانونية للروبوتات الذكية الخلاف المثار بشأن الاعتراف بشخصيتها القانونية في الوقت الراهن بالخلاف الذي أثير في بدايات القرن التاسع عشر بشأن الاعتراف بالشخصية القانونية للشركات والتجمعات النقابية، والذي انتهى بالاعتراف لها بالشخصية القانونية المعنوية، وأن النظم القانونية الوطنية التي تأخرت في إقرار الشخصية المعنوية لهذه الكيانات الناشئة وقتها، وجدت نفسها بعد عدة سنوات مجبرة على ذلك، كما يؤكدوا وجهة نظرهم بأن بعض القوانين الأوروبية اعترفت للحيوانات بشخصية قانونية من نوع خاص، لحمايتها من اعتداء البشر، ومنها القانون الفرنسي الصدر عام ٢٠١٥ والذي منح الحيوان وضعا قانونيا يمكن المشرع من حمياته باعتباره كائنا حيا يملك صفة الإحساس، د. محمد عرفان الخطيب، المركز القانوني للإنسآلة «الشخصية والمسؤولية.. دراسة تأصيلية مقارنة»، مرجع سابق، ص: ١١١
([61]) د. محمد عرفان الخطيب، المركز القانوني للإنسآلة «الشخصية والمسؤولية.. دراسة تأصيلية مقارنة»، المرجع سابق، ص: ١١٣.
([62]) د. محمد عرفان الخطيب، المركز القانوني للإنسآلة «الشخصية والمسؤولية.. دراسة تأصيلية مقارنة» المرجع السابق ص: ١١٠.
([63]) See the Principles of Lethal Autonomous Weapons Systems, Principle No (9), “In crafting potential policy measures, emerging technologies in the area of lethal autonomous weapons systems should not be anthropomorphized” UN DOC NO (CCW/GGE. 1/2019/3) P. 13
([64]) أنظر وثائق الأمم المتحدة، الوثيقة رقم: 65/321/A ص 25
([65]) See the Principles of Lethal Autonomous Weapons Systems, Principle No (2), “Human responsibility for decisions on the use of weapons systems must be retained since accountability cannot be transferred to machines. This should be considered across the entire life cycle of the weapons system” UN DOC NO (CCW/ GGE.1/2019/3) P. 13
([66]) See UN DOC NO (A/HRC/23/47)
([67]) الذكاء الاصطناعي من أجل الصالح العام، مجلة أخبار الاتحاد الدولي للاتصالات، العدد الأول لعام ٢٠١٨، ص: ٢
([68]) See the Principles of Lethal Autonomous Weapons Systems, Principle No (10),” Discussions and any potential policy measures taken within the context of the CCW should not hamper progress in or access to peaceful uses of intelligent autonomous technologies”. UN. DOC. NO. (CCW/GGE.1/2019/3) P. 13
([69])Kenneth Anderson and Matthew Waxman, “Law and ethics for robot soldiers”, OP P 13
([70]) See the Principles of Lethal Autonomous Weapons Systems, Principle No (4),“Accountability for developing, deploying and using any emerging weapons system in the framework of the CCW must be ensured in accordance with applicable international law, including through the operation of such systems within a responsible chain of human command and control”. UN. DOC. NO. (CCW/GGE.1/2019/3) P. 13
([71]) Peter Singer, Wired for War (Penguin Group (USA) Incorporated) OP. p. 179
([72]) العشاش إسحاق، الآلة عندما تشن الحرب، الروبوتات القاتلة والحاجة إلى سيطرة بشرية هادفة، مجلة الإنساني، اللجنة الدولية للصليب الأحمر، العدد ٦٤، ٢٥ مارس ٢٠١٩
([73]) See the Principles of Lethal Autonomous Weapons Systems, Principle No (3), “Human-machine interaction, which may take various forms and be implemented at various stages of the life cycle of a weapon, should ensure that the potential use of weapons systems based on emerging technologies in the area of lethal autonomous weapons systems is in compliance with applicable international law, in particular IHL. In determining the quality and extent of human-machine interaction, a range of factors should be considered including the operational context, and the characteristics and capabilities of the weapons system as a whole”, UN. DOC. NO. (CCW/GGE.1/2019/3) P. 13
([74]) يشار في هذا الشأن إلى أن اتفاقية المسؤولية الدولية عن الأضرار التي تحدثها الأجسام الفضائية نصت مادتها الرابعة على المسؤولية الدولية التضامنية بين الدول في حالة مساهمة خطأ دولتين في إحداث أي ضرر لدولة ثالثة.
([75]) Peter Singer, Wired for War (Penguin Group (USA) Incorporated), OP, p. 179
([76])بيتر سنجر، الحرب عن بعد، دور التكنولوجيا في الحرب، مرجع سابق، ص: ١٢٥.
([77])See the Principles of Lethal Autonomous Weapons Systems, Principle No (7),Risk assessments and mitigation measures should be part of the design, development, testing and deployment cycle of emerging technologies in any weapons systems” UN DOC NO (CCW/GGE.1/2019/3) P. 13
([78]) See UN. DOC. NO. (A/65/321) p. 29
([79]) انظر وثائق الأمم المتحدة 53/202/A الفقرة ٩٨
([80]) انظر تعريف الضرر الوارد في اتفاقية المسؤولية الدولية عن الأضرار التي تحدثها الأجسام الفضائية.
([81])Batrick Lin and others, “Robots in War: Issues of Risk and Ethics” in R. Capurro and M. Nagenborg (Eds.) Ethics and Robotics (2009) p. 50
([82]) See the Principles of Lethal Autonomous Weapons Systems, Principle No (6), “When developing or acquiring new weapons systems based on emerging technologies in the area of lethal autonomous weapons systems, physical security, appropriatenon-physical safeguards (including cyber-security against hacking or data spoofing), the risk of acquisition by terrorist groups and the
اترك رد