تحذير.. الذكاء الاصطناعي قد يقوم بتوليد صور غير لائقة للأطفال

أشارت تقارير أجنبية إلى أن أطفال المدارس يستخدمون الذكاء الاصطناعي لإنشاء صور غير لائقة لأطفال آخرين، وحذّر الخبراء من أن تلاميذ المدارس يستخدمون أنظمة الذكاء الاصطناعي لالتقاط صور غير لائقة لأطفال آخرين.

قال مركز الإنترنت الآمن في المملكة المتحدة UKSIC، إن المدارس أبلغت عن أطفال يحاولون التقاط صور غير لائقة لزملائهم التلاميذ باستخدام مولدات صور الذكاء الاصطناعي عبر الإنترنت.

وتشكل الصور نفسها مواد اعتداء جنسي على الأطفال، وقد يشكل إنتاجها ومشاركتها جريمة، ولكن الخبراء يحذرون من أن ذلك قد يكون له أيضًا تأثير ضار بشكل كبير على الأطفال الآخرين، أو يمكن استخدامه لابتزازهم.

تتضمن بعض أنظمة الذكاء الاصطناعي إجراءات وقائية تهدف خصيصًا إلى منع استخدامها لإنشاء صور للبالغين، ولكن البعض الآخر لا يفعل ذلك، وقد يتم تجاوز الضمانات الموجودة في بعض الحالات.

وحث UKSIC المدارس على التأكد من أن أنظمة الفلترة والمراقبة الخاصة بها قادرة على حظر المواد غير القانونية بشكل فعال عبر الأجهزة المدرسية في محاولة لمكافحة ظهور مثل هذا النشاط.

وقال ديفيد رايت، مدير UKSIC: "نتلقى الآن تقارير من المدارس عن أطفال يستخدمون هذه التكنولوجيا لتصوير ومحاولة التقاط صور غير لائقة لأطفال آخرين.

وتابع: "تتمتع هذه التكنولوجيا بإمكانات هائلة لتحقيق الخير، لكن التقارير التي نشاهدها لا ينبغي أن تكون مفاجئة، ولا يدرك الشباب دائمًا مدى خطورة ما يفعلونه، ولكن يجب توقع هذه الأنواع من السلوكيات الضارة عندما تصبح التقنيات الجديدة، مثل مولدات الذكاء الاصطناعي، في متناول الجمهور بشكل أكبر".

وأضاف: "لقد رأينا بوضوح مدى انتشار التحرش والاعتداء الجنسي عبر الإنترنت من مراجعة Ofsted في عام 2021، وكان هذا وقت ما قبل تقنيات الذكاء الاصطناعي التوليدية.

وعلى الرغم من أن أعداد الحالات صغيرة حاليًا، إلا أننا في سفح التلال ونحتاج إلى رؤية الخطوات التي يتم اتخاذها الآن، قبل أن تصبح المدارس مكتظة وتنمو المشكلة، وزيادة المحتوى الإجرامي الذي يتم إنتاجه في المدارس أمر غير مرغوب فيه، ويجب القيام بالتدخلات بشكل عاجل لمنع انتشار هذا الأمر بشكل أكبر.

وتابع: "نحن نشجع المدارس على مراجعة أنظمة التصفية والمراقبة الخاصة بها والتواصل للحصول على الدعم عند التعامل مع الحوادث ومسائل الحماية."

التحذير من صور الذكاء الاصطناعي

في أكتوبر الماضي، حذرت مؤسسة مراقبة الإنترنت (IWF)، التي تشكل جزءا من UKSIC، من أن الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي للاعتداء الجنسي على الأطفال أصبحت الآن واقعية للغاية لدرجة أنه لا يمكن تمييز الكثير منها عن الصور الحقيقية، حتى بالنسبة للمحللين المدربين.

وقد أصبح الذكاء الاصطناعي مجالًا للتركيز بشكل متزايد في النقاش حول السلامة عبر الإنترنت خلال العام الماضي، على وجه الخصوص، منذ إطلاق برنامج Chatbot القائم على الذكاء الاصطناعي ChatGPT في نوفمبر الماضي، حيث دعت العديد من مجموعات السلامة عبر الإنترنت والحكومات وخبراء الصناعة إلى تنظيم أكبر للقطاع، بسبب المخاوف من أنها تتطور بشكل أسرع من قدرة السلطات على الاستجابة لها.