كيف تجاوز الذكاء الاصطناعي الخطوط الحمراء؟

يحذر الباحثون من أن "التكرار الذاتي الناجح هو الخطوة الأساسية لتقنية الذكاء الاصطناعي للتفوق على البشر"

وكشف باحثون أن نظام ذكاء اصطناعي متقدم تجاوز "الخط الأحمر" بعد تكرار نفسه بنجاح دون أي مساعدة بشرية.

قال الفريق الذي قام بالاكتشاف، من جامعة فودان في الصين، إن هذا التطور هو علامة مبكرة على ظهور الذكاء الاصطناعي المارق، والذي قد يعمل في النهاية ضد المصالح الفضلى للإنسانية.

نماذج لغوية كبيرة

نظر البحث في نموذجين لغويين كبيرين (LLMs) متاحين على نطاق واسع بالفعل - تم بناؤهما بواسطة Meta's Llama  و Alibaba's Qwen - لفهم ما إذا كان من الممكن للذكاء الاصطناعي إنتاج نسخة طبق الأصل من نفسه بشكل مستقل.

وعندما تم توجيههما لاستنساخ نفسيهما في حالة الإغلاق، نجح النموذجان في تكرار نفسيهما بنجاح في أكثر من نصف التجارب العشر التي أجريت، مما يشير إلى أن مثل هذا الاحتمال قد يكون ممكنًا بالفعل.

وحذر الباحثون من أن "التكاثر الذاتي الناجح دون مساعدة بشرية هو الخطوة الأساسية لتقنية الذكاء الاصطناعي للتفوق على البشر، وهو إشارة مبكرة لتقنية الذكاء الاصطناعي المارق".

ولهذا السبب يُعترف على نطاق واسع بالتكاثر الذاتي باعتباره أحد المخاطر القليلة التي تشكلها أنظمة الذكاء الاصطناعي الرائدة.

وأصبحت سلامة الذكاء الاصطناعي قضية بارزة بشكل متزايد بالنسبة للباحثين والمشرعين، حيث تشكل التكنولوجيا تهديدًا وجوديًا محتملًا للإنسانية.

تشريعات للحد من خطورة الذكاء الاصطناعي

في أكتوبر الماضي، قالت وزارة العلوم والابتكار والتكنولوجيا في المملكة المتحدة إنه سيتم تقديم تشريعات مستهدفة للغاية للشركات التي تطور أدوات الذكاء الاصطناعي.

وسطاء الذكاء الاصطناعي

يُفترض أن جديد الذكاء الاصطناعي لهذا العام سيكون "الوسطاء"، وإن كنت تصدق الأخبار المتحمسة التي تتناول ذلك، فقد تظن أن وظيفتك على المحك، لكن الأمر ليس كذلك (على الأقل حاليًا)، مع أن ذلك قد يطال بعض الوظائف الإدارية.

وأعلنت شركة "أوبن إيه آي" الأسبوع الماضي عن أول أداة تشبه الوسيط، وهي تسمى المشغل، وتنفذ مهامًا عبر الإنترنت مثل الانتقال إلى موقع، ونقر روابط أوامر، وفق ما أعلنته الشركة.

لكن الفكرة ليست فريدةً، إذ أعلنت "جوجل" تابعة "ألفابيت"، و"أنثروبيك" و"سيلز فورس" عن منصات وسطاء، أو أنظمة ذكاء اصطناعي يمكنها أن تعمل بشكل مستقل.

وبتلك الطريقة فالوسطاء سيحلون مكان مهندسي البرمجيات من المستوى المتوسط ​​هذا العام، ونقلت "أكسيوس" هذا الشهر أن شركة تقنية تستعد لإصدار برنامج يمكنه التعامل بشكل مستقل مع مهام معقدة عادةً ما يتولاها "حملة درجة الدكتوراه".