أخبار المركز
  • مركز "المستقبل" يصدر العدد الثاني من مجلة "اتجاهات آسيوية"
  • أ. د. نيفين مسعد تكتب: (عام على "طوفان الأقصى".. ما تغيّر وما لم يتغيّر)
  • د. إبراهيم فوزي يكتب: (بين موسكو والغرب: مستقبل جورجيا بعد فوز الحزب الحاكم في الانتخابات البرلمانية)
  • د. أيمن سمير يكتب: (هندسة الرد: عشر رسائل للهجوم الإسرائيلي على إيران)
  • أ. د. حمدي عبدالرحمن يكتب: (من المال إلى القوة الناعمة: الاتجاهات الجديدة للسياسة الصينية تجاه إفريقيا)

تهديدات ذكية:

مخاطر خروج "الذكاء الاصطناعي" عن السيطرة البشرية

30 يوليو، 2017


أوضح تقرير صادر من شركة (FastCo Design)  أن الفيس بوك قد أغلقت برنامجاً للذكاء الاصطناعي، لأنه طور لغة للتواصل خاصة به غير اللغة الإنجليزية، حيث بدأ الروبوتان "بوب وأليس" في التواصل مع بعضهما، والوصول إلى اتفاق بينهما لإنجاز مهمة معينة باستخدام لغة جديدة غير معروفة لم يستطع المبرمجون تحديدها.

فقد استطاع الروبوتان تطوير هذه اللغة الجديدة بسبب خطأ بشري من المبرمجين، فمن المفترض أن يقوم مهندسو الروبوت بوضع قيود أو حدود (Limits) على قدرة الروبوت على التعلم حتى يمكن السيطرة عليه، وقد غفل المهندسون عن برمجة الروبوت لكي تكون لغة التواصل فقط هي اللغة الإنجليزية، مما جعل الروبوت يقوم بتطوير لغة جديدة خاصة به.

وهو ما يرتبط بما ذكره "أيلون موسك" مؤسس شركة (SpaceX) للصواريخ والمدير التنفيذي لشركة (Tesla) لصناعة السيارات -والتي تقود عملية تطوير صناعة السيارات ذاتية القيادة-  بضرورة التمهل في عملية تطوير الذكاء الاصطناعي حتى يتم تفادي المخاطر الناجمة عن زيادة الاعتماد عليه، وهو الأمر الذي رفضه "مارك زوكربرج" مؤسس ورئيس موقع الفيس بوك واصفاً الداعين إلى التمهل في عملية تطوير الذكاء الاصطناعي بـ "المحبطين"، من ناحيته رد "موسك" بأن فهم "مارك" للموضوع محدود.

الغريب في الأمر أن "موسك" ليس وحده الذي يعرب عن قلقه من التطوير المتزايد لتقنيات الذكاء الاصطناعي، بل أن "بيل جيتس" مؤسس مايكروسوفت، ومن قبلهم "ستيفن هوكينغ"– عالم الفيزياء الكبير– حذروا أيضاً من قدرة الذكاء الاصطناعي على تدمير الحياة البشرية. فهل الأمر مبالغ فيه، أم أن "مارك" على حق؟

هندسة الآلات الذكية: 

يعرف جون مكارثي (John McCarthy) الملقب بأبي الذكاء الاصطناعي هذا المفهوم على أنه "علم هندسة الآلات الذكية، وبصورة خاصة برامج الكمبيوتر"، حيث إنه يقوم على إنشاء أجهزة وبرامج حاسوبية قادرة على التفكير بالطريقة نفسها التي يعمل بها الدماغ البشري، وتحاكي تصرفات البشر.

وبهذا المعنى، فإن الذكاء الاصطناعي هو عملية محاكاة الذكاء البشري عبر أنظمة الكمبيوتر، فهي محاولة لتقليد سلوك البشر ونمط تفكيرهم وطريقة اتخاذ قراراتهم؛ إذ تتم دراسة سلوك البشر عبر إجراء تجارب على تصرفاتهم ووضعهم في مواقف معينة ومراقبة ردود أفعالهم وأنماط تفكيرهم وتعاملهم مع هذه المواقف، ثم محاولة محاكاة طريقة التفكير البشرية عبر أنظمة كمبيوتر معقدة.

وعلى الرغم من هذا، فإنه لا يمكن أن يطلق هذا المفهوم على أي قطعة إلكترونية تعمل من خلال خوارزمية معينة، وتقوم بمهام محددة، فلكي نطلق هذا المصطلح على نظام إلكتروني لابد أن يكون قادراً على التعلم وجمع البيانات وتحليلها واتخاذ قرارات بناء على عملية التحليل، بصورة تحاكي طريقة تفكير البشر، وهو ما يعني ضرورة توافر ثلاث صفات رئيسية هي:

1- القدرة على التعلم أي اكتساب المعلومات ووضع قواعد استخدام هذه المعلومات.

2- إمكانية جمع وتحليل هذه البيانات والمعلومات وخلق علاقات فيما بينها، ويساعد في ذلك الانتشار المتزايد للبيانات العملاقة (Big Data).

3- اتخاذ قرارات وذلك بناء على عملية تحليل المعلومات، وليس فقط مجرد خوارزمية تحقق هدف معين.

أنواع الذكاء الاصطناعي: 

يمكن تقسيم أنواع الذكاء الاصطناعي إلى أربعة أنواع رئيسية تتراوح من رد الفعل البسيط إلى الإدراك والتفاعل الذاتي، وذلك على النحو التالي( ):

1- الذكاء الصناعي الضيق أو الضعيف (Narrow AI or Weak AI): وهو أبسط أشكال الذكاء الاصطناعي، حيث تتم برمجة الذكاء الاصطناعي للقيام بوظائف معينة داخل بيئة محددة، ويعتبر تصرفه بمنزلة رد فعل على موقف معين، ولا يمكن له العمل إلا في ظروف البيئة الخاصة به، ومن الأمثلة على ذلك الروبوت "ديب بلو"، والذي صنعته شركة أي. بي إم. (IBM) وهزم جاري كاسباروف بطل الشطرنج العالمي.

2- الذكاء الاصطناعي القوي أو العام (General AI or Strong AI): ويتميز بالقدرة على جمع المعلومات وتحليلها، ويستفيد من عملية تراكم الخبرات، والتي تؤهله لأن يتخذ قرارات مستقلة وذاتية، ومن الأمثلة على ذلك السيارات ذاتية القيادة، وروبوتات الدردشة الفورية، وبرامج المساعدة الذاتية الشخصية.

3- الذكاء الاصطناعي الخارق (Super AI): وهي نماذج لاتزال تحت التجربة وتسعى لمحاكاة الإنسان، ويمكن هنا التمييز بين نمطين أساسيين، الأول: يحاول فهم الأفكار البشرية، والانفعالات التي تؤثر على سلوك البشر، ويمتلك قدرة محدودة على التفاعل الاجتماعي، أما الثاني فهو نموذج لنظرية العقل، حيث تستطيع هذه النماذج التعبير عن حالتها الداخلية، وأن تتنبأ بمشاعر الآخرين ومواقفهم وقادرة على التفاعل معهم، ويتوقع أن تكون هي الجيل القادم من الآلات فائقة الذكاء.

تهديدات الآلات الذكية: 

يعد الذكاء الاصطناعي قاطرة التطور البشري القادم، فلا يمكن إغفال المميزات التي يقدمها لخدمة البشر على كافة المستويات الشخصية والطبية والصناعية والتجارية، بل أن تطويره في كثير من المجالات يهدف في الأساس إلى حماية البشر والحفاظ على أرواحهم، مثل استخدام الإنسان الآلي في الأعمال الشاقة والخطرة وفي ميادين المعارك العسكرية، كما أنه قادر على متابعة الحالة الصحية للمرضى وتوفير المساعدة لذوي الإعاقة ومراقبة المنازل والمؤسسات من عمليات السرقة والاعتداء وغير ذلك من الاستخدامات الضرورية.

في المقابل توجد العديد من التداعيات السلبية المترتبة على تصاعد الاعتماد على تقنيات الذكاء الاصطناعي، وتنقسم إلى تهديدات: أمنية، واجتماعية، واقتصادية، وإنسانية، وقانونية، وهو ما يمكن توضيحه فيما يلي:

1- تهديدات اقتصادية: سوف تؤثر هذه التقنيات على حجم ونوعية الوظائف وفرص العمل المتاحة، حيث من المتوقع أن يؤثر الروبوت بالسلب على الوظائف في مجال الصناعات التحويلية وصناعة السيارات والأدوات الكهربائية، بالإضافة إلى خدمة العملاء.

2- تهديدات أمنية: أحد التداعيات الخطرة التي تطرحها تقنيات الذكاء الاصطناعي هو تهديد هذه التقنيات حق البشر في الحياة، ويتضح ذلك في حالة الأنظمة القتالية المستقلة (Lethal Autonomous Weapons) مثل الدرونز التي تحمل أسلحة، أو الروبوتات المقاتلة الموجودة، حيث تكمن الخطورة هنا في أن هذه الأجهزة مصممة من أجل التدمير أساساً، فماذا يحدث إذا وقعت في يد الشخص الخطأ، أو تم اختراقها نتيجة لقصور أو خطأ بشري في إجراءات التأمين وتم التلاعب بالخوارزميات التي تتحكم فيها، فهنا سوف تكون النتائج كارثية.

3- تداعيات اجتماعية: تؤدي زيادة الاحتكاك مع الآلات إلى انفصال البشر تدريجياً عن محيطهم الاجتماعي البشري، وهو ما يٌفقد العلاقات الإنسانية مرونتها التقليدية، ويجعلها أكثر صلابة وجموداً، فتتحول طرق التفكير والتفاعلات البشرية من التعقيد المفيد، إلى التنميط ولو كان منتجاً، ويصبح الهدف من العلاقات الإنسانية مادياً بعدما كان معنوياً بالأساس.

فالذكاء الاصطناعي مصمم للقيام بوظائف مفيدة للبشرية، وسيقوم بها، بغض النظر عن الظروف المحيطة أو المستجدة، فمثلاً إذا قام أحد الأطفال في المنزل بمحاولة إعاقة الروبوت عن القيام بوظائفه في تنظيف المنزل على سبيل الدعابة، فإن الروبوت سيتعامل مع هذا الموقف باعتباره تهديداً يعوقه عن القيام بوظيفته، وقد يتسبب في مقتل هذا الطفل من أجل القيام بوظيفته التي صمم من أجلها، أسئلة وقضايا أخلاقية وفلسفية كثيرة، لابد من الإجابة عنها أولاً لضمان الحفاظ على هويتنا البشرية.

وإذا كان الذكاء الاصطناعي يتعلم من البشر وقدراتهم، ويقوم بالتطوير وينشأ منظومته الخاصة التي تتكون من لغة للتواصل ومشاعر حسية وقيم للبقاء على قيد الحياة وغيرها، فهل سنصل إلى مرحلة يخرج فيها الذكاء الاصطناعي عن سيطرة البشر، ونحتاج إلى التفاوض معهم من أجل ضمان سلامة البشرية؟

إجمالاً، يمكن القول إن "مارك" و"موسك" لدى كل منهما جانب من الصواب في وجهة نظره، فالاهتمام بتطوير الذكاء الاصطناعي ضروري لاستمرار رخاء البشرية، ولكن تفادي سلبياته وتهديداته ضروري أيضاً، وذلك من خلال إنشاء آلية تنظيمية وأخلاقية تحكم عمل الذكاء الاصطناعي، تساعد على تطويره وتفادي سلبياته أيضاً، وتحدد وظائفه ومهامه من ناحية ثالثة، وذلك عبر صياغة قوانين تضمن الحفاظ على حقوق البشر الأساسية، مع تشجيع الابتكار في مجال الذكاء الاصطناعي الصديق للإنسان، ووضع منظومة قيمية تحكم العلاقة بين بينهما في عصر قد تتفوق فيه الآلة على الإنسان.