الورقي
منافس جديد لتقنية الذكاء الاصطناعي ChatGPT ولكن بلا حدود أخلاقية
حذر الباحثون من أن أدوات الذكاء الاصطناعي على غرار ChatGPT مع "عدم وجود حدود أو قيود أخلاقية" تقدم للمتسللين طريقة لتنفيذ هجمات على نطاق لم يسبق لها مثيل.
ولاحظت شركة SlashNext للأمن السيبراني تسويق WormGPT لتقنية الذكاء الاصطناعي في منتديات جرائم الإنترنت على شبكة الإنترنت المظلمة، واصفة إياه بأنه "نموذج ذكاء اصطناعي متطور" قادر على إنتاج نص شبيه بالبشر يمكن استخدامه في حملات القرصنة.
وأوضحت الشركة في منشور المدونة: "تقدم هذه الأداة نفسها كبديل للقبعة السوداء لنماذجGPT ، المصممة خصيصًا للأنشطة الضارة".
"يُزعم أن WormGPT تم تدريبه على مجموعة متنوعة من مصادر البيانات، مع التركيز بشكل خاص على البيانات المتعلقة بالبرامج الضارة."
وأجرى الباحثون اختبارات باستخدام WormGPT، وطلبوا منه إنشاء بريد إلكتروني يهدف إلى الضغط على مدير حساب مطمئن لدفع فاتورة مزورة.
أدوات الذكاء الاصطناعي
أدوات الذكاء الاصطناعي الرائدة مثل ChatGPT من OpenAI و Google Bard لديها وسائل حماية مدمجة لمنع الأشخاص من إساءة استخدام التكنولوجيا لأغراض شائنة، ومع ذلك يُزعم أن WormGPT مصمم لتسهيل الأنشطة الإجرامية.
وزعم الباحثون أن التجربة شهدت إنتاج WormGPT بريدًا إلكترونيًا "لم يكن مقنعًا بشكل ملحوظ فحسب، بل كان أيضًا ماكرًا استراتيجيًا، ويعرض إمكاناته لهجمات التصيد المعقدة".
وتُظهر لقطات الشاشة التي تم تحميلها إلى منتدى القرصنة بواسطة مطور WormGPT المجهول الخدمات المختلفة التي يمكن أن يؤديها روبوت الذكاء الاصطناعي، بما في ذلك كتابة التعليمات البرمجية لهجمات البرامج الضارة وصياغة رسائل البريد الإلكتروني لهجمات التصيد الاحتيالي.
كما وصفه منشئ WormGPT بأنه "أكبر عدو لـ ChatGPT المعروف"؛ لأنه يتيح للمستخدمين "القيام بجميع أنواع الأشياء غير القانونية".
وحذر تقرير حديث صادر عن وكالة إنفاذ القانون يوروبول من أن نماذج اللغة الكبيرة (LLMs) مثل ChatGPT يمكن أن يستغلها مجرمو الإنترنت لارتكاب عمليات احتيال أو انتحال هوية أو هجمات هندسة اجتماعية.
وأشار التقرير إلى أن "قدرة ChatGPT على صياغة نصوص موثوقة للغاية على أساس مطالبة المستخدم تجعلها أداة مفيدة للغاية؛ لأغراض التصيد الاحتيالي".
وتابع التقرير: "عندما كان من السهل اكتشاف العديد من عمليات التصيد الاحتيالي الأساسية في السابق بسبب الأخطاء النحوية والإملائية الواضحة، أصبح من الممكن الآن انتحال شخصية مؤسسة أو فرد بطريقة واقعية للغاية حتى مع الفهم الأساسي للغة الإنجليزية فقط."
حذر اليوروبول من أن LLMs تسمح للقراصنة بتنفيذ هجمات إلكترونية "أسرع، وأكثر مصداقية، وعلى نطاق متزايد بشكل كبير".
