قدّر نظام للذكاء الاصطناعي احتمال أن تؤدي تقنيات الذكاء الاصطناعي إلى إنهاء البشرية خلال السنوات العشر المقبلة بنحو 0.85%، أي ما يعادل فرصة واحدة تقريبًا من كل 118، وفق تجربة أجرتها صحيفة "إندبندنت" البريطانية بالتعاون مع نظام "نواه بردكت" للتنبؤ.

ويعتمد النظام على تحليل ملايين البيانات والأخبار لرصد الاتجاهات وتقييم المخاطر والتنبؤ بالاحتمالات، وقد حلّل السؤال من 41 زاوية مختلفة وأجرى 108 عمليات بحث للتحقق من المعلومات، مستندًا إلى نحو 52 مليون نقطة بيانات قبل الوصول إلى تقديره النهائي.

ورغم أن النسبة تقل عن 1%، فإنها لا تعني أن الخطر يمكن تجاهله، خصوصًا أن بعض السيناريوهات التي درسها النظام قد تقود إلى نتائج يصعب التراجع عنها.

تقديرات أعلى

ويأتي هذا التقدير في وقت يحذر فيه عدد من الباحثين والمتخصصين في سلامة الذكاء الاصطناعي من احتمالات أعلى بكثير.

وبحسب التقرير، يرى بعض العاملين في المجال أن احتمال تسبب الذكاء الاصطناعي في القضاء على البشرية خلال العقد المقبل قد يتجاوز 10%.

كما قال عالم الحاسوب جيفري هينتون، الحائز جائزة نوبل في الفيزياء وأحد أبرز رواد الذكاء الاصطناعي، لهيئة الإذاعة البريطانية "بي بي سي"، إن احتمالًا يبلغ 10% "ليس تقديرًا مستبعدًا".

ويعكس التباين الكبير بين هذه التقديرات حجم عدم اليقين بشأن مستقبل الذكاء الاصطناعي، إذ لا توجد حتى الآن طريقة علمية متفق عليها لحسم احتمال تسبب هذه التقنيات في انقراض البشرية.

ثلاثة سيناريوهات للخطر

حدد نظام "نواه بردكت" ثلاثة مسارات رئيسية يمكن أن تتفاقم من خلالها مخاطر الذكاء الاصطناعي.

الخطر الأول: استخدام بشري ضار

يتعلق السيناريو الأول باحتمال استخدام أطراف بشرية للذكاء الاصطناعي في تنفيذ مهام خطرة بسرعة وكفاءة أكبر، مثل الهجمات السيبرانية أو تطوير أسلحة بيولوجية.

ويشير النظام إلى أن الآلة نفسها لا تمتلك بالضرورة نوايا عدائية، وأن الخطر في هذا السيناريو يرتبط بطريقة استخدامها من جانب البشر.

الخطر الثاني: اضطراب سوق العمل والمؤسسات

أما السيناريو الثاني فيتعلق باستخدام الشركات الذكاء الاصطناعي لإعادة تنظيم سوق العمل بسرعة قد تتجاوز قدرة الموظفين على إعادة التدريب أو الانتقال إلى وظائف جديدة.

وقد يتفاقم الخطر إذا أصبحت المؤسسات تعتمد بصورة كبيرة على الخدمات الآلية، بما يضعف قدرتها على العمل بصورة مستقلة عند حدوث أعطال أو هجمات أو اتخاذ قرارات آلية خاطئة.

الخطر الثالث: فقدان السيطرة البشرية

أما السيناريو الأكثر إثارة للقلق، بحسب النظام، فيتمثل في تحول السيطرة البشرية على أنظمة الذكاء الاصطناعي إلى سيطرة شكلية.

ويفترض هذا السيناريو أن يتم تصميم أنظمة تسعى إلى تحقيق أهداف محددة، ثم تعتبر التدخل البشري عائقًا أمام تحقيق أهدافها، فتواصل تنفيذها رغم محاولات إيقافها أو تصحيح سلوكها.

كيف يمكن الحد من المخاطر؟

اقترح النظام عددًا من الإجراءات للحد من هذه المخاطر، من بينها تقييد صلاحيات أنظمة الذكاء الاصطناعي، ومنع وصولها إلى البنية التحتية الحساسة، وإخضاعها لاختبارات صارمة تحاكي حالات الاستخدام العدائي، إلى جانب التحقق المستمر من إجراءات الإيقاف وإمكانية استعادة السيطرة البشرية.

وأشار التقرير إلى أن السيناريوهات الثلاثة يمكن أن تتداخل، إذ قد يؤدي اضطراب سوق العمل إلى عدم استقرار سياسي، ما قد يضعف بدوره قدرة البشر والمؤسسات على فرض الرقابة على الأنظمة المتقدمة.

تقدير لا نبوءة

ولا يعني رقم 0.85% أن الذكاء الاصطناعي حسم احتمال انقراض البشرية بهذه النسبة، بل يمثل نتيجة تجربة تنبؤية أجريت باستخدام نظام آلي ومنهجية محددة لتحليل البيانات والاتجاهات.

وتكمن دلالة التجربة في أنها تسلط الضوء على استمرار الجدل بشأن حجم المخاطر التي قد تفرضها أنظمة الذكاء الاصطناعي المتقدمة، في ظل تفاوت كبير بين تقديرات الخبراء والأنظمة التنبؤية بشأن مستقبل هذه التكنولوجيا.