تعمل العديد من حكومات الدول مثل الصين والولايات المتّحدة وروسيا على استغلال التطوّر الحاصل في الذكاء الصناعي من أجل تشغيل ترسانتها من الأسلحة آليَا وجعلها أكثر فتكًا وأقلّ اعتمادًا على التحكّم البشري.

يشبّه بعض العلماء التطوّر الذي تشهده صناعة الأسلحة ذاتيّة التحكّم باختراع البارود أو باختراع الأسلحة النوويّة التي غيّرت فنّ الحرب وشكل العالَم إلى الأبد.

لم تعد شخصيّة المحارب الآلي (تيرميناتور) التي شاهدناها في الأفلام محض خيال، فبفضل تطوّر الذكاء الصناعي قد نرى هذا الأمر قريبًا،
واليوم تعدّ الولايات المتّحدة الأمريكية مفهوم التحكّم الذاتي مقوّم أساسي من مقوّمات تحديث قوّاتها المسلّحة،
كما أنّ روسيا تبنّت عقيدة عسكريّة تقضي بإبعاد رجالها عن مناطق المواجهة المباشرة، وتنوي تحويل ثلث أسلحتها إلى روبوتات بحلول عام 2025.

وقد وصل عدد أنظمة الأسلحة التي تتعرّف على الهدف دون تدخّل بشري إلى 154 نظام في العالَم، ويملك ثلث هذا العدد الصلاحيّة لإطلاق النار دون الرجوع للبشر، وهذه بعض الأمثلة العملية:

1- قناص الغواصات ذاتي التحكم (Sea Hunter)

سفينة أمريكية مسيّرة طولها 40 مترًا ما زالت في طور التجربة، ستتجوّل في المحيطات لمدّة شهرين دون أن يكون على متنها أي أحد،
وسيكون الإشراف عليها من البرّ، وهدفها التعرّف على البصمة الصوتية للغواّصات المعادية ومهاجمتها عند الضرورة.

[caption id="attachment_8587" align="aligncenter" width="800"] قناص الغواصات ذاتي التحكم (Sea Hunter) – المصدر ويكيميديا[/caption]

2- الحارس S G R A 1 إس جي أر إي ون

خورازميّة مزوّدة برشاش منصوبة على الحدود بين الكوريتين، مهمّتها التعرّف على التصرّفات العدائية للدخلاء.

3- الطائرة F-16

ركّب الجيش الأمريكي ذكاءً اصطناعيًا على طائراته طراز F-16 بحيث تستطيع التفاعل عن ظهور تهديدات أو أحداث غير متوقّعة بما في ذلك انقطاع اتّصالها عن مراكز التحكّم على الأرض.

الاعتراضات العالمية على الأسلحة الذكيّة

بدأت الاعتراضات منذ أربع سنوات عبر جمعيات سلام، وفي الصيف الماضي أصدرت مجموعة من 2400 باحث في الذكاء الصناعي و100 مختبر في علم الحاسوب تعهدًا بعدم المشاركة في تطوير أو صناعة أسلحة فتاكة ذاتية التحكم.

كما أنّ الاحتجاجات الشعبية بدأت تندلع عند اكتشاف أدنى مشروع مشبوه، كما حدث حين كُشِف النقاب عن مشروع تعاون بين المعهد الكوري المتقدم للعلوم والتكنولوجيا KAIST في دايجيون، وشركة Hanwha Systems الرائدة في صناعة الأسلحة.

يُذكر أنّ 88 وفدًا وطنيًا من مختلف دول العالم يجتمعون كلّ عام في جنيف لدراسة هذه الإشكالية ولم تتوصّل تلك الوفود حتى الآن إلى الاتّفاق حول معاهدة لحظر تصميم الآليات الحربية ذاتية التحكم أو استخدامها.

وبسبب الضغوط الكبرى من المنظّمات غير الحكومية، قد يصل الخبراء إلى اتفاق جزئي بمثابة ترضية يقضي بتحديد مسؤول ما من البشر في حال وقوع جرائم حرب.

اقرأ أيضًا تقنيات جديدة في الذكاء الاصطناعي قد تهدد الوجود البشري

ما هي الفوائد التي تجنيها المؤسسات العسكرية من مكننة الأسلحة؟

1- تجنيب الجنود الموت، حيث تُعدّ الكلفة البشرية هي الكلفة الأعلى للحروب خاصّة في الدول المتقدّمة.

2- الأسلحة ذاتية التحكّم ستكون أسرع بكثير من البشر وأكثر دقّة.

3- كلفة صيانة الأسلحة الذاتية أقلّ بكثير مقارنة بكلفة علاج الجنود الجرحى.

4- الآلات لا تعرف الغضب أو الخوف أو الإحباط، وهذه عوامل تزيد من حدوث التجاوزات.

5- يمكن للأسلحة ذاتية التحكم الدخول لمناطق شديدة التحصين والتشويش لا تستطيع حتى الطائرات دون طيار الدخول إليها، وذلك بفضل قدرتها على اتّخاذ القرارات دون الاتصال بالقاعدة.

العسكريّون يستغلّون الاكتشافات المدنية

إنّ الأتمتة الوحيدة التي يستخدمها العسكريون اليوم بشكلٍ مؤكّد هي ملاحة الروبوتات وتعرّفها على الأهداف الكبيرة الواضحة مثل الدبابات والطائرات والصواريخ،
مع ذلك فإنّ هذه الآلات لا تطلق النار من تلقاء نفسها، بل تخضع لتحكم بشري، إلا في حالة واحدة هي عندما تجد نفسها أمام سيلٍ من القذائف، حيث تدخل هذه الآلات بوضعية "النزاع" فتصبح آلية تمامًا.

لكن هذا لا يعني أنّ العسكريين قد اكتفوا بهذا، لأنّ البحث العلمي المدني قد حقق خطوات كبيرة في مجال الشبكات العصبية العميقة القادرة على التفوّق على الإنسان في التعرّف على آلاف الأنماط من الأشياء بدءًا من أنواع الكلاب وصولًا لأكثر أنواع الورم السرطاني ندرة،
كما صار بمقدورها التعرّف على مختلف السلوكيات والانفعالات الإنسانية، وهذه مجالات تغري العسكريين باستغلالها في تطوير آلاتهم.

ضبابية الحروب بالنسبة للآلات المقاتلة

يمكن اعتبار مسألة مهاجمة البشر من قبل الآلة أعقد المهام التي يجب مراعاتها أثناء برمجة الخوارزميات،
فمن المفروض أن تراعي هذه الخوارزميات القانون الإنساني الدولي ككلّ جندي نزيه في الجيوش النظامية،
وهذا يتطلّب القدرة على التمييز بين المقاتلين والمدنيين، وهذه المهمة تصبح صعبة جدًا في حالة حرب العصابات.

كذلك فإنّ الأمر يتطلّب أيضًا القدرة على التعرف على المقاتل الجريح أو المقاتل الذي يعبّر عن نيّته في الاستسلام.

والحقيقة إنّ هذه الظروف والمتغيّرات كثيرة التعقيد لم تحظَ بالقدر الكافي من الدراسة والاهتمام كما حظيت مسائل مدنية مشابهة كالسيارات ذاتية القيادة التي نالت قسطًا واسعًا من الدراسات والنقاشات للتوصّل إلى قوانين تحكم أخلاقيّات القيادة الذاتية للمركبات.

عدا عن ذلك فإنّ هذه الخوارزميات تبدع في ظروف المختبر شديدة الضبط، لكن يكفي حدوث تغيير بسيط في الطقس حتى تُصاب باضطراب.

لماذا يدقّ المعلوماتيّون نواقيس الخطر؟

في أيلول سبتمبر عام 1983 شاهد الضابط السوفييتي ستانيسلاف بيتروف على شاشاته خمسة صواريخ نووية أمريكية قادمة نحوه، فاستنتج أنّ الأمر مجرّد خطأ تقني ولم يعطي أمرًا أو تقريرًا كان سيؤدّي بالتأكيد لكارثة عالمية.

بينما لو كان الأمر منوطًا بالآلات التي لا تمتلك ضميرًا أو ذكاءً اجتماعيًا ولا عاطفيًا ولا عقلًا ولا أخلاقًا فإنّها قد تتسبّب في حدوث مجازر.
فالأخلاق شيء يتجاوز الرياضيّات بكثير فالقرار البشري يعتمد على العلاقات الاجتماعية والتعاطف والانفعالات.

يردّ المدافعون عن أتمتة الآلات العسكرية بأنّه من الممكن تزويد الروبوتات بالتزامات ومحظورات، كما يمكن تزويدها بسلوكيات انفعالية مثل الشعور بالذنب للمساعدة على التخفيف من احتمال أن يُتّخذ قرار مؤسف.

وإذا سلّمنا بهذا الادّعاء فذلك لا يعني أننا سنتمكن من القضاء على جميع الأخطار لأنّ هذه الأنظمة يكتسيها في الوقت الحالي شيء من الغموض، حيث يجد الخبراء صعوبات في فهم الأسباب التي تجعل شبكة الخلايا العصبية العميقة تتخذ هذا القرار أو ذاك، ولن يتحقق ذلك إلا إن اخترعنا ذكاءً صناعيًا يستطيع أن يفسر لنا بلغة مفهومة مسار تفكيره.

الأمر الآخر الذي يحذّر الخبراء منه هو أنّ شبكات الخلايا العصبية يسهل قرصنتها، وفي ميدان الحرب ستكون عرضةً لأعداء يحاولون خداعها، وقد ترى الجيوش روبوتاتها تنقلب عليها.

الأسلحة ذاتية التحكم أمرٌ حتمي في النهاية!

رغم كلّ المخاوف بشأن هذه الأسلحة، والتي يعتقد بعض الباحثون أنّها ستشجّع على القيام بهجوم أكثر من ذي قبل بسبب سرعتها الهائلة في اتّخاذ القرارات وتحديد الأهداف والتصدّي لها، رغم ذلك فإنّ هذه الأسلحة سترى النور عاجلًا أم آجلًا حيث يعكف التقنيون على حلّ المشاكل آنفة الذكر مستفيدين من التقدّم الهائل الحاصل في مجال الذكاء الصناعي والشبكات العصبية العميقة وتطوّر المعالِجات.

وبكلّ الأحوال فإنّ قواعد الحرب المستقبليّة سوف تتغيّر عندما يدخل الذكاء الصناعي للميدان، حيث سينخفض عدد القتلى من البشر،
لكن ستكون أخطار الحروب أكبر بكثير مما اعتدنا عليه بسبب السرعة العالية والكفاءة الكبيرة للروبوتات، وربّما لن يجد البشر وقتًا كافيًا حتى للتدخّل في مسار الحرب أو إيقافها.

نُشرت هذه المقالة في المحطة بتاريخ 30-07-2019

قصة قصيرة حول ارتباط الذكاء الصناعي بالبيانات الكبيرة

أثناء دراستي الجامعية وبعد أوّل مادّة في لغات البرمجة صار كلّ الطلاب يجرّبون كتابة البرامج ويتفاخرون بعدد الأسطر البرمجية التي استهلكها برنامجهم، رغم أنّ غالبية البرامج التي أنتجها الطلاب هي إعادة اختراع للعجلة لكنّهم استمرّوا وبتشجيعٍ من أساتذتنا.

المنافسة السابقة كانت تستهلك الكثير من الوقت، وهذا كان –على غير العادة- على حساب الساعات التي أقضيها في الحديث مع خطيبتي التي لم يعجبها الأمر، فخطرت ببالي فكرة تصيد عصفورين معًا، وهي أنْ أكتبَ برنامجًا أو عدّة برامج في مجال اهتمامها كي تشعر بأثرها في حياتي، لكن للأسف مجالات اهتمامها لا تتقاطع مع ما يمكن برمجته خصوصًا لمبتدئ في البرمجة مثلي. لكن ماذا لو جعلتها تعمل معي في البرمجة!

نصفي الحلو يكتب نصف برنامجي المملّ

كتبتُ برنامجًا بسيطًا وبأقلّ التعليمات البرمجيّة التي يمكن أن يتخيّلها المرء، لديه مهمّة واحدة هي تسلية خطيبتي كما يلي: عندما تشغّل البرنامج سيظهر لها رسالة ترحيب “مرحبًا، أنا السيد راء، من أنت؟” وعندما تكتب أيّ اسم، سيحتفظ بالاسم في ملفٍّ خاصّ ويتابع الجلسة مع إضافة هذه المعلومة للحديث، فيقول “أهلًا بك يا سنبلة، هل تحبّين البرتقال؟” وعندما تجيب بنعم أو لا سيضيف هذه المعلومة لذاكرته أيضًا، ويتابع في طرح الأسئلة البسيطة التي تتراوح بين السؤال عن نوع الفاكهة المفضّل وحتّى قياس الحذاء، وبعد اقتناعها بأنّه شخصٌ مسلٍّ، سيتيح لها المجال لتسأل قائلًا “اسأليني، أيّ شيء يخطر في بالك” وعندما تسأله وليكن السؤال “ما هو لون السماء؟” لن يعرف الإجابة لأنّي سبق وقلت بأنّه كان بسيطًا ولا يملك معلوماتٍ أو بيانات ضخمة، سيجيب “لا أعرف، من فضلك علّميني” سيكون ذلك مضحكًا ودون أن تشعر ستجيبه مثلًا “لون السماء أزرق” أيضًا سيضيف هذه المعلومة إلى ذاكرته.

لنفرض أنّ الجلسة انتهت وأقفلت البرنامج، وعادت إليه في اليوم التالي، عندما تشغّل البرنامج سيقول لها مباشرةً “مرحبًا يا سنبلة، كيف حالك؟” وسيسألها بعض الأسئلة البسيطة التي لم يسبق أن سألها وصولًا للطلب الاعتيادي بأن تسأله هي، الآن إنْ سألته مجدّدًا عن لون السماء سيجيب نفس الجواب الذي لقّنته إيّاه البارحة وسيثبت لها بالإضافة إلى أنّه مسلٍّ بأنّه ذكيّ ويحفظ ما تعلّم البارحة، وكلّما سألته أكثر سيتعلّم أكثر وتزداد معلوماته وتتضخّم ذاكرته.

أوّل Fatal Error يحدث لبرنامجي

استمرّ الحال كذلك عدّة أيّام إلى أنْ جرّبت الأخت الفضوليّة البرنامج، عندما شغّلته قال لها “مرحبًا سنبلة” لكنّها ردّت “أنا لستُ سنبلة، أنا زنبقة!” فتجمّد البرنامج ولم يعد يستجِب لأي مفتاح، واستُخدِم الحلّ السحري الاعتيادي وهو إعادة تشغيل الحاسوب، عندما أُبلِغت بالمشكلة، أعدتُ ضبط بعض الأكواد من أجل إفهام السيّد راء بأنّ العالم لا يتكوّن من شخصٍ واحد، وأنّ عليه طرح السؤال “من أنتَ؟” في بداية كلّ جلسة كي يكوّن ملفًّا خاصًا بكلّ مستخدم ولا يخلط المعلومات الشخصيّة بين المستخدمين وهي تلك المعلومات التي يحصل عليها بعد طرح الأسئلة الرئيسة وليس الأسئلة التي تعلّمها من المستخدمين السابقين، وبذلك أصدرتُ النسخة 2.0 من برنامج السيّد راء.

إنّ التحديث السابق للبرنامج أتاح لقاعدة المعلومات الخاصّة بالسيّد راء أن تتنامى بشكلٍ مضاعفٍ لأنّ اهتمامات المستخدمين مختلفة ومعلوماتهم متنوّعة، لكن ماذا لو كانت تغذيته من أحد المستخدمين خاطئة أو نسبيّة؟!

هل السيّد راء ذكيًّا بما يكفي؟

بالفعل فقد حصل الخطأ الفادح مع السيّد راء لهذا السبب، حيث سألته زنبقة “كم عدد ألوان قوس قزح؟” فأجاب مباشرةً “ستّة ألوان” لأنّ سنبلة كانت قد علّمته، فاعترضت زنبقة وقالت له “خطأ” وهذه هي المرّة الأولى التي تُقال له هذه الكلمة، فتجمّد وتطلّب الأمر جولةً جديدة من التعديل وكانت قد طرأت عليه قبل هذا الكثير من التنقيحات الجزئيّة التي حسّنت من أدائه، لكن هذه المرّة يحتاج الكثير من العمل والإصلاح، فهذه مشكلة كبيرة، لأنّ التعارض بين المعلومات التي يُغذّى بها عدا عن كونها خاطئة سيفقده ميزة الذكاء، فأضفتُ لإجابته مبدئيًّا كلمة “أظنّ” فكان يقول عندما يُسأَل عن لون السماء “أظنُّ أنّه أزرق، ماذا تعتقد أنت؟” وذلك من أجل الحصول على إجابة المستخدم الجديد حتى لو كانت المعلومة قد سبق وتعلّمها من مستخدم آخر، ثمّ يُنشِئ جدولًا يحتفظ به بكلّ الإجابات لنفس السؤال ويعتمد الإجابة التي نالت رضا أكثر عدد من المستخدمين.

هل حقًا كان هناك السيّد راء؟

يؤسفني أنْ أقول إنّ السيّد راء والقصّة بأكملها تخيّليّة وقد اختلقتها لتبسيط نشأة الذكاء الصناعي ومثاله الأقرب إلينا العملاق جوجل، الذي يتمتّع بذكاءٍ فائق هو حصيلة المعلومات التي نزوّده بها نحن مليارات البشر الذين نستخدمه كلّ يوم، وأودّ أن أذكّرك بأنّ عدد موظفي جوجل في عام 2014 كان 610 موظّفين فقط، ولو أنّ جميع الموظّفين عملوا على إدخال البيانات في برنامج الخرائط فقط فإنّهم لن ينتهوا قبل عشر سنوات، عدا عن عشرات المنتجات لشركة ألفابت الشركة الأم لجوجل، فكانت الطريقة الموضّحة في مثالنا أعلاه هي الطريقة الأفضل لتحصيل تلك البيانات.

وعلى سبيل المثال فإنّ رمز التحقّق البشري الذي ندخله في كلّ مرّة نخطئ فيها بإدخال كلمة السرّ هو كلمتين من أحد الكتب التي جرى مسحها بسكانر جوجل ثمّ حُوِّلت لنصوص مكتوبة بأيدينا نحن، وكذلك الصور المُعمّاة في خرائط جوجل والتي تحوي واجهات تجارية أو وجوه بشر أو أرقام لوحات السيّارات جميعها نحن من أشرنا إليها عندما ظهرت لوحة التحقّق البشري وطُلِب منّا التعليم على المربّعات التي تحوي سيّارة أو لافتة مروريّة.

هل استغلّنا جوجل؟

أنا شخصيًّا أقوم بكلّ العمليّات التي تساهم في تعزيز قدرة الذكاء الصناعي ، لأنّي أجد أنّ هذا يرفع من مستوى الخدمات التي أحصل عليها، صحيح أنّ جوجل (مثلًا) لديه الكثير من المعلومات عنّي لكنّه يتعامل معها كأرقام والأرقام الخاصّة بي شأنها شأن مليارات الأرقام الأخرى ضمن جداول عملاقة، بل إنّي أعتقد اعتقادًا جازمًا بأني كلّما زوّدته بمعلوماتٍ أصحّ عنّي سأحصل على خدمة مناسبة لي أكثر، فأنا أتجنّب إجراء عمليّات بحث من حسابي عن أشياء تهمّ الأطفال أو النساء لأنّ ذكاء جوجل ليس كافيًا حتّى الآن ليعرف أنّي اشتريت عربة الأطفال التي بحثت عنها الشهر الماضي، لذلك هو لا يكفّ عن إظهار إعلانات عربات الأطفال، وأتمنّى أن يكون لديه من الذكاء ما يكفي لأنْ يعلم بأنّ فترة استخدام عربة الأطفال لا تتعدّى ثلاث سنوات حتى لا يستمرّ بإزعاجي للأبد.

نُشِرت هذه المقالة في المحطة بتاريخ 27-12-2018