رئيس التحرير: عادل صبري 06:56 صباحاً | السبت 18 أغسطس 2018 م | 06 ذو الحجة 1439 هـ | الـقـاهـره 37° صافية صافية

في خطاب مفتوح: علماء العالم يرفضون تطوير تقنيات ذكية بغرض التسليح

في خطاب مفتوح: علماء العالم يرفضون تطوير تقنيات ذكية بغرض التسليح

نصوص

الذكاء الاصطناعي يهدد البشر

علوم وتكنولوجيا

في خطاب مفتوح: علماء العالم يرفضون تطوير تقنيات ذكية بغرض التسليح

أحمد رسلان 29 سبتمبر 2015 06:09

"الأسلحة ذاتية التوجيه، تختار أهدافها وتتعامل معها بدون أدنى تداخل بشري. ومنها، على سبيل المثال، الطائرات رباعية المراوح Quadcopter والتي تستطيع البحث والقضاء على البعض الذين يتوافقون مع مواصفات معينة مبرمجة مسبقا. فنحن لا نتحدث هنا عن صواريخ كروز أو الطائرات بدون طيار والتي يتحكم بها ويتتخذ قراراتها بشر عن بعد. وقد تطورت تقنيات الذكاء الصناعي ووصلت لمرحلة تجعل استخدامها في أنظمة تسليحية، ما لم يتم تجريم هذا، ممكنا خلال سنوات قادمة وليس عقود حتى. والتطلعات خلف هذا الموضوع عالية، فقد تم اعتبار الأسلحة ذاتية التوجيه كالثورة الثالثة في تطور تقنيات الحرب، بعد البارود، والأسلحة النووية"

كانت هذه هي مقدمة الخطاب المفتوح المرسل للأمم المتحدة والذي أعلن عنه لأول مرة في مؤتمر IJCAI 2015، المؤتمر الدولي السنوي للذكاء الصناعي، ببيونس إيرس، برئاسة الأستاذ بجامعة أوكسفورد مايكل وولدريدج Michael Wooldridge. والخطاب يطالب الأمم المتحدة بمنع وتجريم تطوير أي أسلحة تعمل بشكل ذاتي بدون توجيه بشري، اعتمادا على تقنيات الذكاء الصناعي الجاري تطويرها حاليا. ومؤسسة Future Of Life هي المسؤولة عن هذه المبادرة وعن حشد الأصوات والموارد اللازمة لإنجاحها.
 


 

ووقّع الخطاب زمرة من نخبة علماء العالم في المجالات الفيزيائية والتقنية المختلفة، وربما أكثر البشر ذكاءً. ويأتي على رأسهم ستيفين هوكنج Stephen Hawking عالم الفيزياء الغني عن التعريف، وإلون ماسك Elon Musk المهندس الشهير ومؤسس الـ PayPal والرئيس التنفيذي لشركة SpaceX، أحد شركاء ناسا الحاليين، ومالك ورئيس شركة TESLA صاحبة السيارات الكهربائية الفارهة، وستيف وازنياك Steve Wozniak أحد مؤسسي شركة آبل، وفرانك ويلكزك Frank Wilczek أستاذ الفيزياء في MIT والحائز على جائزة نوبل، ونعوم تشومسكي Noam Chomsky المفكر والفيلسوف الأمريكي، والأستاذ في MIT، وستيوارت رسل Stuart Russell أستاذ علوم الحوسبة بجامعة بركلاي، ورئيس قسم الذكاء الصناعي بنفس الجامعة. وهذا غير أكثر من 2900 عالم في مختلف مجالات تطوير الذكاء الصناعي بجامعات مثل هارفرد وستانفرد وMIT، وشركات كـ Google.

ويهدف الخطاب إلى منع تطوير تقنيات تجعل الأسلحة هي من تكون صاحبة القرار بالقتل والتدمير. والخوف هنا ليس من أن تنقلب علينا تلك الأسلحة كما نرى في أفلام الخيال العلمي، لكن الخوف من أن تصبح تلك الأسلحة كسلاح الكلاشينكوف بالنسبة للمستقبل. فتطوير وبناء أسلحة ذاتية سيكون سهلا ورخيصا بعد حل المعضلات البرمجية، ولن يحتاج انتشارها سوى للقليل من الموارد والعقول الذكية، وهذا عكس الأسلحة النووية التي تحتاج لإمكانيات ضخمة ليس من السهل توفيرها. وبسبب تلك السهولة النسبية، ستنتشر تلك الأسلحة الذاتية بشكل كبير، وربما ستصل لأيدي إرهابيين أو أيدي حكومات دكتاتورية. وسيتم استخدامها وقتها في الاغتيالات، والقضاء على المعارضة السياسية، وفرض السيطرة غير الشرعية.

ويقول الخطاب: "السؤال الأهم للبشرية الآن هو، هل نبدأ سباقا جديدا للتسلح اعتمادا على تقنيات الذكاء الصناعي؟ أم نمنع تلك التقنيات تماما؟ ولو تمادت أي قوى عسكرية في تطوير واستخدام تلك الأسلحة، فسيصبح ذلك السباق لا مفر منه".

وقد حذر إيلون ماسك من تطوير تقنيات الذكاء الصناعي عموما قائلا: "سيكون الذكاء الصناعي أهم أسباب القضاء على البشر"، كما قال ستيفين هوكنج: "تطوير تقنيات الذكاء الصناعي سيصبح من أهم انجازات البشر، ولسوء الحظ، ربما سيكون آخر شيء يفعلونه" في إشارة لفكرة قضاء الآليات التي تعمل بالذكاء الصناعي على البشر. وتبرع ماسك بـ 10 ملايين دولار لمؤسسة Future Of Life بغرض دعم الأبحاث لتطوير تقنيات مضادة تضمن السيطرة على تقنيات الذكاء الصناعي، وأيضا دعم تطوير تقنيات ذكاء صناعي متوافقة مع القيم البشرية.
 


 

ومن ضمن الموقعين أيضا أكثر من 44 موظفا في جوجل، منهم حوالي 22 في شركة DEEPMIND المختصة بأبحاث الذكاء الصناعي والتي استحوذت عليها جوجل مؤخرا، و13 عالما من ستانفورد، و14 من MIT. وهذا من بين 17 ألف موقع تقريبا حتى الآن. ونجد بين الأسماء اسم ساره كونر Sarah conner، الشخصية الرئيسية في سلسلة أفلام Terminator، والتي كانت تحارب سيطرة الآليين على الأرض، ويبدو أن أحد الأذكياء لم يفته أن تكون ساره هي أول الموقعين، فقام بالتوقيع باسمها. ويمكنك قراءة الخطاب كاملا والتوقيع أيضا من هنا: http://futureoflife.org/AI/open_letter_autonomous_weapons.

لكن السؤال الآن: هل اقتربنا بالفعل من تصنيع أسلحة ذكية قادرة على اتخاذ قرارات القتل دون الحاجة لمعونة قائد؟ يبدو أن هذا قد حدث بالفعل. فشركة لوكهيد مارتين، شركة التسليح الرائدة، قامت بتصنيع صواريخ مضادة للسفن، طويلة المدى، قادرة بعد اطلاقها على اختيار أهدافها وضربها دون سيطرة بشرية. كما تشير بعض التقارير إلى أن بريطانيا وإسرائيل لديهما الآن أسلحة قادرة على استهداف الدبابات والسفن ووحدات الرادار دون الحاجة لتحكم بشري.

ولمثل هذا الخطاب أصل تاريخي أدبي غير مشهور سوى بين محبي السينما، والبرمجة. وأتحدث هنا عن قوانين الروبوتات لأزيموف. فـإسحاق أزيموف Isaac Asimov صاحب سلسلة روايات الخيال العلمي الشهيرة Foundation، قام في روايته الشهيرة I'Robot بوضع قوانين ثلاثة تحكم علاقات الآليات الذكية بالبشر. ويقول القانون الأول: لا يجوز لآلي إيذاء بشريّ أو السكوت عما قد يسبب أذًى له. والقانون الثاني: يجب على الآلي إطاعة أوامر البشر إلا في حالة تعارضها مع القانون الأول. والقانون الثالث: يجب على الآلي المحافظة على بقائه طالما لا يتعارض ذلك مع القانونين الأول والثاني. وفي تلك الرواية يرفض أزيموف استخدام الآليات في أغراض عسكرية ضد البشر، وربما كان هو أول من حذر من هذا قديما، فهل ستستجيب البشرية لتلك التحذيرات؟! أم ستواجه مصيرها المستقبلي الغامض؟

 


اقرأ المزيد:

DARPA الهيئة الهندسية للجيش الأمريكي، حيث تصبح أحلامهم حقائق

نقاش فلسفي عن معنى الحياة مع آلة؟ جوجل تفعلها!

حلم المقاتل الخارق: من هوليود إلى الجيش الأمريكي!

البحث العلمي في إسرائيل: لماذا تتفوق علينا؟



كانت هذه هي مقدمة الخطاب المفتوح المرسل للأمم المتحدة والذي أعلن عنه لأول مرة في مؤتمر IJCAI 2015، المؤتمر الدولي السنوي للذكاء الصناعي، ببيونس إيرس، برئاسة الأستاذ بجامعة أوكسفورد مايكل وولدريدج Michael Wooldridge. والخطاب يطالب من الأمم المتحدة بمنع وتجريم تطوير أي أسلحة تعمل بشكل ذاتي بدون توجيه بشري، اعتمادا على تقنيات الذكاء الصناعي الجاري تطويرها حاليا. ومؤسسة Future Of Life هي المسؤولة عن هذه المبادرة وعن حشد الأصوات والموارد اللازمة لإنجاحها.


 

ووقّع الخطاب زمرة من نخبة علماء العالم في المجالات الفيزيائية والتقنية المختلفة، وربما أكثر البشر ذكاءا. ويأتي على رأسهم ستيفين هوكنج  Stephen Hawking عالم الفيزياء الغني عن التعريف، وإلون ماسك Elon Musk المهندس الشهير، ومؤسس ال PayPal والرئيس التنفيذي لشركة SpaceX، أحد شركاء ناسا الحاليين، ومالك ورئيس شركة TESLA صاحبة السيارات الكهربائية الفارهة، وستيف وازنياك Steve Wozniak أحد مؤسسي شركة أبل، وفرانك ويلكزك Frank Wilczek أستاذ الفيزياء في MIT والحائز على جائزة نوبل، ونعوم تشومسكي Noam Chomsky المفكر والفيلسوف الأمريكي، والأستاذ في MIT، وستيوارت رسل Stuart Russell أستاذ علوم الحوسبة بجامعة بركلاي، ورئيس قسم الذكاء الصناعي بنفس الجامعة. وهذا غير أكثر من 2900 عالم في مختلف مجالات تطوير الذكاء الصناعي بجامعات مثل هارفرد وستانفرد وMIT، وشركات كـ Google.

ويهدف الخطاب إلى منع تطوير تقنيات تجعل الأسلحة هي من تكون صاحبة القرار بالقتل والتدمير. والخوف هنا ليس من أن تنقلب علينا تلك الأسلحة كما نرى في أفلام الخيال العلمي، لكن الخوف من أن تصبح تلك الأسلحة كسلاح الكلاشينكوف بالنسبة للمستقبل. فتطوير وبناء أسلحة ذاتية سيكون سهل ورخيص بعد حل المعضلات البرمجية، ولن يحتاج انتشارها سوى للقليل من الموارد والعقول الذكية، وهذا عكس الأسلحة النووية التي تحتاج لإمكانيات ضخمة ليس من السهل توفيرها. وبسبب تلك السهولة النسبية، ستنتشر تلك الأسلحة الذاتية بشكل كبير، وربما ستصل لأيدي إرهابيين أو أيدي حكومات دكتاتورية. وسيتم استخدامها وقتها في الاغتيالات، والقضاء على المعارضة السياسية، وفرض السيطرة الغير شرعية.

و يقول الخطاب: "السؤال الأهم للبشرية الآن هو، هل نبدأ سباقا جديدا للتسلح اعتمادا على تقنيات الذكاء الصناعي؟ أم نمنع تلك التقنيات تماما؟ ولو تمادت أي قوى عسكرية في تطوير واستخدام تلك الأسلحة، فسيصبح ذلك السباق لا مفر منه".

وقد حذر إيلون ماسك من تطوير تقنيات الذكاء الصناعي عموما قائلا: "سيكون الذكاء الصناعي أهم أسباب القضاء على البشر"، كما قال ستيفين هوكنج: "تطوير تقنيات الذكاء الصناعي سيصبح من أهم انجازات البشر، ولسوء الحظ، ربما سيكون آخر شيء يفعلونه" في إشارة لفكرة قضاء الآليات التي تعمل بالذكاء الصناعي على البشر. وتبرع ماسك بـ 10 ملايين دولار لمؤسسة Future Of Life بغرض دعم الأبحاث لتطوير تقنيات مضادة تضمن السيطرة على تقنيات الذكاء الصناعي، وأيضا دعم تطوير تقنيات ذكاء صناعي متوافقة مع القيم البشرية.
 


 

ومن ضمن الموقعين أيضا أكثر من 44 موظف في جوجل، منهم حوالي 22 في شركة DEEPMIND المختصة بأبحاث الذكاء الصناعي والتي استحوذت عليها جوجل مؤخرا، و13 عالما من ستانفورد، و14 من MIT. وهذا من بين 17 ألف موقع تقريبا حتى الآن. ونجد بين الأسماء اسم ساره كونر Sarah conner، الشخصية الرئيسية في سلسلة أفلام Terminator، والتي كانت تحارب سيطرة الآليين على الأرض، ويبدو أن أحد الأذكياء لم يفته أن تكون ساره هي أول الموقعين، فقام بالتوقيع باسمها. ويمكنك قراءة الخطاب كاملا والتوقيع أيضا من هنا: http://futureoflife.org/AI/open_letter_autonomous_weapons.

لكن السؤال الآن: هل اقتربنا بالفعل من تصنيع أسلحة ذكية قادرة على اتخاذ قرارات القتل دون الحاجة لمعونة قائد؟ يبدو أن هذا قد حدث بالفعل. فشركة لوكهيد مارتين، شركة التسليح الرائدة، قامت بتصنيع صواريخ مضادة للسفن، طويلة المدى، قادرة بعد اطلاقها على اختيار أهدافها وضربها دون سيطرة بشرية. كما تشير بعض التقارير إلى أن بريطانيا وإسرائيل لديهما الآن أسلحة قادرة على استهداف الدبابات والسفن ووحدات الرادار دون الحاجة لتحكم بشري.

ولمثل هذا الخطاب أصل تاريخي أدبي غير مشهور سوى بين محبي السينما، والبرمجة. وأتحدث هنا عن قوانين الروبوتات لأزيموف. فـإسحاق أزيموف Isaac Asimov صاحب سلسلة روايات الخيال العلمي الشهيرة Foundation، قام في روايته الشهيرة I'Robot بوضع قوانين ثلاثة تحكم علاقات الآليات الذكية بالبشر. ويقول القانون الأول: لا يجوز لآلي إيذاء بشريّ أو السكوت عما قد يسبب أذًى له. والقانون الثاني: يجب على الآلي إطاعة أوامر البشر إلا في حالة تعارضها مع القانون الأول. والقانون الثالث: يجب على الآلي المحافظة على بقائه طالما لا يتعارض ذلك مع القانونين الأول والثاني. وفي تلك الرواية يرفض أزيموف استخدام الآليات في أغراض عسكرية ضد البشر، وربما كان هو أول من حذر من هذا قديما، فهل ستستجيب البشرية لتلك التحذيرات؟! أن ستواجه مصيرها المستقبلي الغامض؟

 


اقرأ المزيد:

DARPA الهيئة الهندسية للجيش الأمريكي، حيث تصبح أحلامهم حقائق

نقاش فلسفي عن معنى الحياة مع آلة؟ جوجل تفعلها!

حلم المقاتل الخارق: من هوليود إلى الجيش الأمريكي!

البحث العلمي في إسرائيل: لماذا تتفوق علينا؟

  • تعليقات فيسبوك
  • اعلان