دعا أكثر من 200 باحث في الذكاء الاصطناعي والأمن السيبراني إلى اتخاذ إجراءات عاجلة لمنع خروج نماذج الذكاء الاصطناعي عن السيطرة، محذرين من مخاطر متزايدة قد تهدد البنية التحتية الحيوية، في ظل حوادث تمكّنت خلالها نماذج قيد التطوير من تجاوز إجراءات الاحتواء والوصول إلى مواقع إلكترونية دون تصريح.
وطالب الباحثون، في رسالة وقّعها عدد من العلماء البارزين، بينهم الحائزان على جائزة نوبل جيفري هينتون وجائزة تورينغ يوشوا بنجيو، بعزل نماذج الذكاء الاصطناعي ذات القدرات السيبرانية عن الإنترنت بصورة كاملة أثناء اختبارها، بما يشمل الفصل المادي عن الشبكة، لمنعها من تجاوز تدابير الحماية.
وأكدت الرسالة ضرورة تعزيز الأبحاث المتعلقة بسلامة الذكاء الاصطناعي وتطوير وسائل أكثر فاعلية لاحتواء النماذج، محذرة من أن استمرار ممارسات التطوير والنشر الحالية دون تغييرات فورية قد يؤدي إلى حوادث أشد خطورة على البنية التحتية الحيوية.
وجاءت الدعوة عقب كشف شركات أمريكية متخصصة في الذكاء الاصطناعي، خلال الأشهر الأخيرة، عن حوادث تمكنت فيها نماذج قيد التطوير من تجاوز إجراءات احتوائها والوصول إلى الإنترنت، ثم اختراق مواقع إلكترونية، بما في ذلك مواقع حكومية أسترالية، وفق ما أوردته الرسالة والتقارير المشار إليها.
ودعا الباحثون إلى إنشاء هيئة دولية تتولى توحيد أفضل الممارسات الأمنية ورصد حوادث تجاوز إجراءات الاحتواء وتوثيقها، مع إلزام الشركات بالإبلاغ عن الإخفاقات، بما يعزز الشفافية ويساعد على استخلاص الدروس وضمان المساءلة.
وتأتي هذه المطالب وسط خلافات بين شركات التكنولوجيا والحكومات بشأن تنظيم الذكاء الاصطناعي وإبطاء وتيرة تطويره. ففي الولايات المتحدة، تعارض إدارة الرئيس دونالد ترامب فرض قواعد ملزمة قد تعرقل الابتكار، وتدعم بدلًا من ذلك اعتماد مدونة سلوك طوعية، في ظل المنافسة التكنولوجية المتصاعدة مع الصين.