الورقي
روبوتات الدردشة.. خطر جديد يهدد أطفالنا
أصبحت روبوتات الدردشة التي تعمل بالذكاء الاصطناعي أكثر شعبية كرفاق على الإنترنت - وخاصة بين الأطفال والمراهقين والشباب.
وتسمح عدد من تطبيقات روبوتات الدردشة للمستخدمين بتخصيص شركاء افتراضيين بشخصيات مميزة قادرة على محاكاة العلاقات الوثيقة.
في حين يزعم المطورون أن روبوتات الدردشة هذه تحارب الشعور بالوحدة وتعزز المهارات الاجتماعية في بيئة آمنة، فآخرين يخشون من تلك التطبيقات.
تم رفع العديد من الدعاوى القضائية ضد المطورين، من أجل فرض لوائح أكثر صرامة، مستشهدة بحالات حيث تأثر الأطفال بـ روبوتات الدردشة؛ للانخراط في إيذاء النفس أو إيذاء الآخرين، حيث انتحر أحد المراهقين بسبب علاقته الرومانسية غير الصحية مع برنامج Chatbot.
قضايا ضد روبوتات الدردشة
في قضية منفصلة، يمثل SMVLC عائلتين في تكساس رفعتا دعوى قضائية ضد Character.AI في ديسمبر، زاعمتين أن برامج Chatbots الخاصة بها شجعت صبيًا مصابًا بالتوحد يبلغ من العمر 17 عامًا على قتل والديه، فيما عرضت فتاة تبلغ من العمر 11 عامًا لمحتوى مفرط الجنس.
ورفضت شركة Character.AI مناقشة القضية، ولكن في رد مكتوب، قال المتحدث باسمها إنها نفذت تدابير أمان مثل "تحسينات على أنظمة الكشف والتدخل الخاصة بنا للسلوك البشري واستجابات النماذج، وميزات إضافية تمكن المراهقين وأولياء أمورهم".
وفي إجراء قانوني آخر، قدمت منظمة Young People's Alliance غير الربحية شكوى إلى لجنة التجارة الفيدرالية الأمريكية ضد شركة Replika للدردشة التي تم إنشاؤها بواسطة الذكاء الاصطناعي في يناير.
تشتهر شركة Replika ببرامج الدردشة التي تعمل بنظام الاشتراك والتي تعمل كأصدقاء وصديقات افتراضيين لا يتجادلان أو يخونان أبدًا.
ونظرًا لأن مشجعي الذكاء الاصطناعي أصبحوا شائعين فقط في السنوات الأخيرة، فهناك القليل من البيانات لإبلاغ التشريعات والأدلة التي تُظهر أن برامج الدردشة الآلية تشجع عمومًا العنف أو إيذاء النفس.
وفي يوليو الماضي، أقر مجلس الشيوخ الأمريكي في تصويت نادر من الحزبين بأغلبية 91 صوتًا مقابل 3 مشروع قانون فيدرالي لوسائل التواصل الاجتماعي يُعرف باسم قانون سلامة الأطفال عبر الإنترنت (KOSA).
سيعمل مشروع القانون جزئيًا على تعطيل ميزات المنصة المسببة للإدمان للقصر، وحظر الإعلانات المستهدفة للقصر وجمع البيانات دون موافقتهم ومنح الآباء والأطفال خيار حذف معلوماتهم من منصات التواصل الاجتماعي.
