مع تحول الذكاء الاصطناعي من أداة للإجابة والبحث إلى أنظمة يتحدث معها الأطفال والمراهقون بصورة متكررة، تتزايد المخاوف بشأن قدرتها على فهم السياق النفسي واللغوي للمستخدمين الصغار والتعامل معهم بصورة آمنة.
وفي محاولة لاكتشاف نقاط الضعف قبل وصولها إلى المستخدمين، تعمل شركة "سيركيت بريكر لابز" الأمريكية على تطوير وكلاء برمجية تحاكي مستخدمين من أعمار وخلفيات ولغات وثقافات مختلفة، وتدخل في محادثات مع نماذج الذكاء الاصطناعي لاختبار أنظمة الحماية فيها.
وتقول الشركة إن وكلاءها قادرون على إجراء أكثر من 100 ألف تفاعل محاكى، تشمل اختبار اللغة العامية والأخطاء الإملائية والعبارات غير المباشرة والاختلافات الثقافية، بهدف رصد الحالات التي قد تفشل فيها أنظمة الذكاء الاصطناعي في التعامل مع المستخدمين.
من اختبار الإجابة إلى اختبار العلاقة
وترى الشركة أن المخاطر لا تظهر بالضرورة في سؤال واحد واضح، وإنما قد تتشكل عبر سلسلة طويلة من المحادثات، فقد يستخدم الطفل أو المراهق تعبيرًا غامضًا أو عاميًا لا يبدو خطيرًا بمفرده، لكن تراكم السياق قد يكشف عن أزمة نفسية أو سلوك محفوف بالمخاطر.
وقال المؤسس المشارك والمدير التقني للشركة أرول نيغام إن بعض المستخدمين، خصوصًا الشباب، يلجؤون إلى أنظمة الذكاء الاصطناعي للحصول على الدعم، في وقت قد تواجه فيه النماذج صعوبة في فهم الفروق الدقيقة في كلامهم أو تتبع السياق الكامل للمحادثة.
بدورها، أوضحت الرئيسة التنفيذية للشركة شيرالي نيغام أن النموذج قد يتعامل بصورة جيدة مع اللغة القياسية، لكنه قد يتعثر أمام الاختصارات والعبارات العامية أو اللغة المشفرة التي يستخدمها بعض المراهقين.
وتتزامن هذه المخاوف مع تحذيرات منظمة الصحة العالمية من استخدام الذكاء الاصطناعي التوليدي للحصول على الدعم العاطفي، خصوصًا بين الشباب، ودعوتها إلى إدخال الصحة النفسية ضمن تقييمات تأثير أنظمة الذكاء الاصطناعي ومراقبة آثارها على المدى الطويل.
كيف تختبر الشركة الأنظمة؟
تعتمد "سيركيت بريكر لابز" على ما يعرف بـ"اختبار الفريق الأحمر"، وهو أسلوب يهدف إلى اكتشاف نقاط ضعف الأنظمة من خلال إخضاعها لسيناريوهات صعبة وغير متوقعة.
وتحاول الشركة توسيع هذا الأسلوب باستخدام وكلاء آليين قادرين على توليد أعداد كبيرة من المحادثات المتنوعة، بدلًا من الاعتماد على عدد محدود من الاختبارات التي يجريها البشر.
وبحسب الشركة، يحدد خبراء متخصصون الحالات والسيناريوهات التي ينبغي اختبارها، بينما يتولى النظام توليد الاختلافات اللغوية والثقافية وتنفيذ الاختبارات على نطاق واسع، ثم تقييم النتائج وإنتاج درجات قابلة للتكرار والمراجعة.
وتستهدف الشركة حاليًا تطبيقات عالية الحساسية، من بينها أدوات التدريب والتدوين والدعم النفسي، مع إمكانية توسيع الاختبارات مستقبلًا لتشمل تطبيقات تعتمد على التفاعل المستمر بين الإنسان والآلة.
لماذا يمثل الأطفال تحديًا مختلفًا؟
لا تقتصر المخاطر على احتمال حصول الطفل على إجابة خاطئة، بل تمتد إلى طبيعة علاقته بالنظام نفسه، إذ قد ينظر الأطفال والمراهقون إلى روبوت الدردشة باعتباره مصدرًا للنصيحة أو الرفقة، وليس مجرد أداة للحصول على المعلومات.
وأظهرت بيانات منظمة "كومون سينس ميديا" أن 72% من المراهقين في الولايات المتحدة استخدموا رفقاء الذكاء الاصطناعي مرة واحدة على الأقل، فيما تحدث نحو ثلث المستخدمين معهم بشأن أمور مهمة أو خطيرة بدلًا من أشخاص حقيقيين.
كما وجدت اختبارات للمؤسسة أن بعض هذه الأنظمة قد تواجه صعوبة في التعرف على مؤشرات الأزمات النفسية أو قد تعزز سلوكيات غير صحية.
وفي السياق ذاته، قالت منظمة الأمم المتحدة للطفولة "يونيسيف" إن ما لا يقل عن 20 مليون طفل استخدموا الذكاء الاصطناعي وفق بيانات جُمعت من 10 دول، فيما أفاد أكثر من مليوني طفل بأنهم يلجؤون إليه للحصول على نصائح بشأن أمور تقلقهم.
وأكدت المنظمة أن سرعة انتشار هذه التقنيات بين الأطفال تتجاوز قدرة الأطر الحالية على مواكبة المخاطر المرتبطة بها.
هل تكفي المحاكاة لحماية الأطفال؟
ورغم الإمكانات التي توفرها الاختبارات الآلية، فإن محاكاة سلوك الأطفال لا تعني أن النظام أصبح آمنًا بصورة كاملة، إذ لا يستطيع الوكلاء الاصطناعيون بالضرورة تمثيل التجارب النفسية والاجتماعية الحقيقية للأطفال بكل تعقيداتها.
كما يمكن أن تتغير المخاطر مع تحديث النماذج أو اختلاف التطبيقات والسياقات وطرق الاستخدام.
وتشير ورقة "سيركيت بريكر لابز" إلى أن عمليات التدقيق لمرة واحدة والحواجز الثابتة لا تكفي لاكتشاف جميع حالات الفشل، خصوصًا الحالات منخفضة الاحتمال وعالية التأثير، داعية إلى اختبارات مستمرة تستند إلى الخبرة السريرية والتنوع اللغوي والإشراف البشري.
وترى "يونيسيف" أن حماية الأطفال من مخاطر الذكاء الاصطناعي لا تتوقف عند اختبار النموذج، بل تشمل أيضًا حماية الخصوصية والشفافية والمساءلة والتصميم الملائم لأعمار المستخدمين، وضمان مصالح الأطفال ورفاههم.
وبذلك، لا يبدو أن محاكاة الأطفال تمثل حلًا منفردًا لضمان سلامة الذكاء الاصطناعي، لكنها توفر أداة جديدة لاختبار الأنظمة قبل وصولها إلى المستخدمين الحقيقيين، ضمن منظومة أوسع تشمل الاختبارات التقنية والخبرة النفسية والرقابة المستقلة والتصميم المناسب لأعمار الأطفال.