يقال إن OpenAI تكافح من أجل تحسين نموذج الذكاء الاصطناعي الكبير التالي. إنه تحذير لصناعة الذكاء الاصطناعي بأكملها.

• يُظهر نموذج OpenAI التالي معدل تحسن أبطأ، وفقًا لموقع The Information.
• لقد أثار ذلك جدلاً في وادي السيليكون حول ما إذا كانت نماذج الذكاء الاصطناعي قد وصلت إلى مستوى الأداء.
• تحركت طفرة الذكاء الاصطناعي بوتيرة سريعة لأن الإصدارات الجديدة أبهرت المستخدمين بقفزات هائلة في الأداء.

يُظهر نموذج الذكاء الاصطناعي الرائد التالي لشركة OpenAI تحسينات أصغر مقارنة بالتكرارات السابقة، وفقًا لما ذكرته The Information، في إشارة إلى أن صناعة الذكاء الاصطناعي المزدهرة قد تقترب من مرحلة الاستقرار.

أفاد موقع The Information أن النموذج التالي لصانع ChatGPT، Orion، أظهر تحسنًا معتدلًا فقط عن GPT-4، وفقًا لبعض الموظفين الذين استخدموه أو اختبروه. وأضاف التقرير أن القفزة في أوريون كانت أصغر من تلك التي تم إجراؤها من GPT-3 إلى GPT-4، خاصة في مهام الترميز.

إنه يعيد إشعال الجدل حول جدوى تطوير نماذج متقدمة بشكل متزايد والذكاء الاصطناعي قوانين القياس – القواعد النظرية حول كيفية تحسين النماذج.

الرئيس التنفيذي لشركة OpenAI سام التمان نشرت على X في فبراير أن “قوانين القياس يقررها الله، والثوابت يحددها أعضاء الجهاز الفني”.

تشير “القوانين” التي استشهد بها ألتمان إلى أن نماذج الذكاء الاصطناعي تصبح أكثر ذكاءً مع زيادة حجمها وإمكانية الوصول إلى المزيد من البيانات والقدرة الحاسوبية.

ربما لا يزال ألتمان متمسكًا بالرأي القائل بأن الصيغة المحددة مسبقًا تحدد مدى ذكاء الذكاء الاصطناعي، لكن تقرير The Information يظهر أن الموظفين الفنيين يشككون في تلك القوانين وسط نقاش حاد في وادي السيليكون حول الأدلة المتزايدة على أن النماذج الرائدة تصطدم بجدار الأداء.

لم تستجب OpenAI على الفور لطلب Business Insider للتعليق.

هل وصلت قوانين التوسع إلى طريق مسدود؟

وقالت The Information إنه على الرغم من أن تدريب Orion لم يكتمل بعد، فقد عادت OpenAI مع ذلك إلى تدابير إضافية لتعزيز الأداء، مثل إدخال تحسينات ما بعد التدريب بناءً على ردود الفعل البشرية.

ولا يزال من الممكن أن يشهد النموذج، الذي تم الكشف عنه لأول مرة قبل عام، تحسينات كبيرة قبل إصداره. لكنها علامة على أن الأجيال القادمة من نماذج الذكاء الاصطناعي التي ساعدت الشركات على جمع مليارات الدولارات والحصول على تقييمات عالية قد تبدو أقل إثارة للإعجاب مع كل تكرار جديد.

هناك سببان رئيسيان لحدوث ذلك.

لقد كان من الصعب الحصول على البيانات، وهي أحد العناصر الحيوية في معادلة قانون التوسع، حيث استنفدت الشركات بسرعة البيانات المتاحة عبر الإنترنت.

لقد جمعوا كميات هائلة من البيانات التي أنشأها الإنسان – بما في ذلك النصوص ومقاطع الفيديو والأوراق البحثية والروايات – لتدريب النماذج التي تقف وراء أدوات وميزات الذكاء الاصطناعي الخاصة بهم، لكن العرض محدود. وتوقعت شركة الأبحاث Epoch AI في يونيو أن الشركات يمكن أن تستنفد البيانات النصية القابلة للاستخدام بحلول عام 2028. وتحاول الشركات التغلب على القيود من خلال التحول إلى البيانات الاصطناعية التي يولدها الذكاء الاصطناعي نفسه، ولكن هذا أيضا يأتي مع مشاكل.

قال أيون ستويكا، المؤسس المشارك ورئيس شركة Databricks لبرمجيات المؤسسات، لصحيفة The Information: “بالنسبة لأسئلة المعرفة العامة، يمكنك القول بأننا نشهد حاليًا ثباتًا في أداء LLMs”، مضيفًا أن “البيانات الواقعية” أكثر فائدة من البيانات الاصطناعية.

كما أن قوة الحوسبة، وهي العامل الآخر الذي عزز أداء الذكاء الاصطناعي تاريخيا، ليست بلا حدود. في Reddit AMA الشهر الماضي، أقر ألتمان بأن شركته تواجه “الكثير من القيود والقرارات الصعبة” بشأن تخصيص مواردها الحاسوبية.

ليس من المستغرب أن بعض خبراء الصناعة بدأوا يلاحظون أن نماذج الذكاء الاصطناعي الجديدة التي تم إصدارها هذا العام، وكذلك النماذج المستقبلية، تظهر دليلاً على تحقيق قفزات أصغر في الأداء من سابقاتها.

“تناقص العوائد”

يقول غاري ماركوس، الأستاذ الفخري في جامعة نيويورك والناقد الصريح للضجيج الحالي للذكاء الاصطناعي، إن تطوير الذكاء الاصطناعي مقدر له أن يصطدم بحائط. لقد تحدث بصوت عالٍ عن ظهور علامات “تناقص العوائد” وكان رد فعله على تقارير The Information بـ منشور Substack بعنوان “تم التأكيد: لقد وصلت LLMs بالفعل إلى نقطة تناقص العائدات.”

عندما أصدرت شركة Anthropic المنافسة لـ OpenAI نموذج Claude 3.5 في يونيو، رفض ماركوس منشورًا X يوضح أداء Claude 3.5 مع تحسينات هامشية مقارنة بالمنافسين في مجالات مثل التفكير على مستوى الدراسات العليا والبرمجة والرياضيات متعددة اللغات. وقال إنه كان في “نفس الملعب مثل كثيرين آخرين”.

وقال ماركوس إن سوق الذكاء الاصطناعي أنفقت مليارات الدولارات في محاولة لقلب المنافسة رأساً على عقب، فقط من أجل تقديم دليل على “التقارب، بدلاً من النمو المتسارع المستمر”.

وقد اقترح إيليا سوتسكيفر، أحد مؤسسي شركة OpenAI والتي تعمل الآن في شركة Safe Superintelligence، فكرة مماثلة. يوم الاثنين وبعد تقرير المعلومات قال وقال لرويترز وقد استقرت النتائج الناجمة عن توسيع نطاق التدريب المسبق، مضيفًا أن “توسيع نطاق الشيء الصحيح أصبح مهمًا الآن أكثر من أي وقت مضى”.

ستواصل صناعة الذكاء الاصطناعي البحث عن طرق لتحقيق قفزات هائلة في الأداء. توقع الرئيس التنفيذي لشركة Anthropic، داريو أمودي، أن تدخل عمليات التدريب النموذجية للذكاء الاصطناعي حقبة جديدة في العام المقبل، حيث يمكن أن تكلف 100 مليار دولار. قال ألتمان سابقًا إن تدريب ChatGPT-4 كلف أكثر من 100 مليون دولار. ويبقى أن نرى مدى ذكاء نموذج الذكاء الاصطناعي عندما يتم تخصيص الكثير من رأس المال له.

تحجيم التفاؤل

لا يزال قادة آخرون في وادي السيليكون، بما في ذلك ألتمان، متفائلين علنًا بشأن إمكانات التوسع الحالية للذكاء الاصطناعي. في يوليو/تموز، نفى كيفن سكوت، كبير مسؤولي التكنولوجيا في شركة مايكروسوفت، المخاوف من توقف تقدم الذكاء الاصطناعي. وقال سكوت خلال مقابلة مع بودكاست بيانات التدريب التابع لشركة سيكويا كابيتال: “على الرغم مما يعتقده الآخرون، فإننا لا نسعى إلى تقليص العوائد الهامشية على نطاق واسع”.

يمكن أن تكون هناك أيضًا استراتيجيات لجعل نماذج الذكاء الاصطناعي أكثر ذكاءً من خلال تعزيز جزء الاستدلال من التطوير. الاستدلال هو العمل المنجز لتحسين مخرجات الذكاء الاصطناعي بعد تدريبها، باستخدام بيانات لم يرها من قبل.

ركز نموذج OpenAI الذي تم إصداره في شهر سبتمبر – والذي يسمى OpenAI o1 – بشكل أكبر على تحسينات الاستدلال. واستطاعت أن تتفوق على سابقاتها في المهام المعقدة، محققة مستوى من الذكاء يشبه درجة الدكتوراه. الطلاب في المهام المعيارية في الفيزياء والكيمياء والأحياء، وفقًا لـ OpenAI.

ومع ذلك، فمن الواضح أن الكثير من الصناعة، مثل ألتمان، لا تزال ثابتة في قناعتها بأن قوانين التوسع هي المحرك لأداء الذكاء الاصطناعي. وإذا كانت النماذج المستقبلية مخيبة للآمال، توقع إعادة تقييم الطفرة الحالية.