أخبر آرون ليفيس شركة Business Insider أن هناك صيدًا لوكلاء الذكاء الاصطناعي: إذا قمت بإطعامهم الكثير من المعلومات ، فإنهم يبدأون في فقدان المؤامرة.
يستدعي الرئيس التنفيذي لصندوق التخزين السحابي هذه المشكلة “تعفن السياق”.
وقال ليفي يوم الثلاثاء إنه كلما زاد عدد البيانات التي تعطيها نموذج الذكاء الاصطناعي ، “لا تؤدي بالضرورة إلى نتيجة أفضل”. “سوف يشعر النموذج بالارتباك الشديد ويحتمل أن يركز على الجزء الخطأ من المعلومات.”
مع استمرار المهمة ، يمكن أن يفقد النموذج مسار ما يفترض أن يركز عليه ، مما يؤدي إلى نتائج أسوأ.
يحدث هذا الخلل عندما يتم تحميل الوكلاء بكميات هائلة من البيانات في “نافذة السياق” – جزء من العملية حيث تقوم النماذج بتجميع المعلومات قبل إنشاء استجابة.
بدلاً من الوثوق بكيلًا فائقًا للتعامل مع كل شيء ، قال ليفي إن النهج الأكثر ذكاءً هو تحريك العمل وتعيينه لأساطيل الوالدين الفرعيين المتخصصين.
وقال “سترغب في تفكيك الوكلاء والسياق الذي لديهم”.
وأضاف: “سيكون لديك العديد من الوكلاء ، كل ذلك مع مجموعة من الأهداف ومجموعة من السياقات التي تشكل وثيقة الصلة بجزء خاص من سير العمل”.
إنه اتجاه مضاد لحلم وادي السيليكون من Agi Overlord واحد. وقال ليفي ، الذي تأسس في عام 2005 ، إن نموذج الوكيل الفرعي “سيكون بالتأكيد مستقبل أنظمة الوكلاء على نطاق واسع”.
وقال الرئيس التنفيذي أيضًا إن مفتاح أداء أفضل من الذكاء الاصطناعي هو إعطاء هذه النماذج “المعلومات الأكثر دقة والبيانات الأكثر دقة.”
قصص ذات صلة
يروي Business Insider القصص المبتكرة التي تريد معرفتها
يروي Business Insider القصص المبتكرة التي تريد معرفتها
وأضاف: “يجب أن تكون دقيقًا جدًا في تعليماتك ، ثم عليك أن تعطي النموذج قدرًا لا يصدق من السياق الصحيح للعمل من خلال السياق ، ولكن في الواقع ، سيكون الأمر أسوأ مع ذلك”.
وكلاء الذكاء الاصطناعى بعيدا عن الكمال
كان سيليكون فالي يتجول في وكلاء الذكاء الاصطناعى ، حيث تتسابق الشركات لاستخدامها في مهام متزايدة ومتعددة الخطوات.
من احتمال “وكلاء مبيعات الطيارين” من Regie AI والمتابعة مع المشترين ، تعالج Devin من AI العمل الهندسي المعقد ، وقد قدمت شركة Big Four Professional Services PwC “OS OS” لمساعدة وكلاء مختلفة على التنسيق مع بعضها البعض.
لكن الواقع فوضوي. من الناحية النظرية ، يمكن للوكلاء حل المشكلات ، وتنفيذ المهام ، والحصول على أذكى كما يتعلمون. في الممارسة العملية ، كلما زادت الخطوات التي يتخذونها ، كلما أصبحت العملية أكثر هشاشة.
لقد حذر الباحثون من أن أخطاء الوكيل سائدة ومركب مع كل خطوة يتخذونها.
وكتبت شركة Patronus AI ، وهي شركة ناشئة تساعد الشركات على تقييم تقنية الذكاء الاصطناعي وتحسينها ، “إن الخطأ في أي خطوة يمكن أن يعرقل المهمة بأكملها. كلما زادت الخطوات التي تنطوي عليها شيء ما في النهاية”.
صمم بدء التشغيل نموذجًا إحصائيًا وجد أن الوكيل الذي يبلغ معدل خطأ بنسبة 1 ٪ لكل خطوة يمكن أن يتفاقم إلى فرصة خطأ بنسبة 63 ٪ بحلول الخطوة المائة.
ومع ذلك ، قالت الشركة إن الدرابزين – مثل المرشحات والقواعد والأدوات اللازمة لتحديد المحتوى غير الدقيق وإزالته – يمكن أن تساعد في تخفيف معدلات الخطأ. وقال Patronus AI “التحسينات الصغيرة” يمكن أن تسفر عن تخفيضات كبيرة في احتمال الخطأ “.