يقول “عراب” الذكاء الاصطناعي إن نموذج OpenAI الجديد قد يكون قادرًا على الخداع ويحتاج إلى “اختبارات أمان أقوى بكثير”
نموذج o1 الجديد من OpenAI أفضل في التخطيط – وهذا يجعل “العراب” للذكاء الاصطناعي متوترًا.
وقال يوشوا بينجيو، عالم الكمبيوتر الكندي الحائز على جائزة تورينج وأستاذ في جامعة مونتريال، لموقع بيزنس إنسايدر في بيان عبر البريد الإلكتروني إن o1 لديه “قدرة على التفكير متفوقة بكثير من سابقاتها”.
وكتب بينجيو في البيان “بشكل عام، فإن القدرة على الخداع خطيرة للغاية، ويجب أن يكون لدينا اختبارات سلامة أقوى بكثير لتقييم هذا الخطر وعواقبه في حالة o1”.
حصل بنجيو على لقب “الأب الروحي للذكاء الاصطناعي” لأبحاثه الحائزة على جوائز في مجال التعلم الآلي مع جيفري هينتون ويان ليكون.
أطلقت شركة OpenAI نموذجها الجديد o1 – والذي تم تصميمه للتفكير بشكل أقرب إلى البشر – في وقت سابق من هذا الشهر. وحتى الآن، أبقت الشركة تفاصيل عملية “التعلم” الخاصة بها سرية. ووجد باحثون من شركة الذكاء الاصطناعي المستقلة Apollo Research أن نموذج o1 أفضل في الكذب من نماذج الذكاء الاصطناعي السابقة من OpenAI.
أعرب بينجيو عن قلقه إزاء التطور السريع للذكاء الاصطناعي ودعا إلى اتخاذ تدابير تشريعية للسلامة مثل مشروع قانون مجلس الشيوخ رقم 1047 في كاليفورنيا. ومن شأن القانون الجديد، الذي أقره المجلس التشريعي في كاليفورنيا وينتظر توقيع الحاكم جافين نيوسوم، أن يفرض سلسلة من القيود الأمنية على نماذج الذكاء الاصطناعي القوية، مثل إجبار شركات الذكاء الاصطناعي في كاليفورنيا على السماح بإجراء اختبارات من قبل جهات خارجية.
ومع ذلك، أعرب نيوسوم عن قلقه بشأن مشروع قانون مجلس الشيوخ رقم 1047، والذي قال إنه قد يكون له “تأثير مخيف” على الصناعة.
وقال بينجيو لـ BI إن هناك “سببًا وجيهًا للاعتقاد” بأن نماذج الذكاء الاصطناعي يمكن أن تطور قدرات تخطيطية أقوى، مثل الغش عمدًا وبتكتم، وأننا بحاجة إلى اتخاذ تدابير الآن “لمنع فقدان السيطرة البشرية” في المستقبل.
قالت شركة OpenAI في بيان لموقع Business Insider إن معاينة o1 آمنة بموجب “إطار الاستعداد” – طريقة الشركة لتتبع ومنع الذكاء الاصطناعي من إنشاء أحداث “كارثية” – وتصنف على أنها متوسطة الخطورة على “مقياسها الحذر”.
وبحسب بنجيو، فإن البشرية تحتاج إلى أن تكون أكثر ثقة في أن الذكاء الاصطناعي سوف “يتصرف كما هو مقصود” قبل أن يحاول الباحثون تحقيق قفزات كبيرة أخرى في القدرة على التفكير.
وقال بينجيو في بيانه: “هذا أمر لا يعرف العلماء كيفية القيام به اليوم. وهذا هو السبب وراء ضرورة الرقابة التنظيمية في الوقت الحالي”.
