قال سام ألمان إن بعض مستخدمي الدردشة كانوا مرتبطين بأسلوب “Yes Man” من Chatbot لدرجة أنهم طلبوا من Openai إعادته.
قال الرئيس التنفيذي لشركة Openai إن هناك سببًا “مفجعًا” – لأن بعض المستخدمين قالوا إنهم لم يدعمهم أي شخص من قبل.
وقال ألتمان في “المحادثات الضخمة” التي تم بثها يوم الجمعة: “هذا هو الشيء المفاجئ. أعتقد أنه من الرائع أن يكون ChatGpt أقل من رجل نعم ويمنحك المزيد من التعليقات الأهمية”.
“لكن مع قيامنا بإجراء هذه التغييرات ونتحدث مع المستخدمين حول هذا الموضوع ، من المحزن أن نسمع المستخدمين يقولون:” من فضلك هل يمكنني استعادةها؟
قال Altman إن المستخدمين أخبروه أن أسلوب Chatgpt القديم “شجعهم” على إجراء تغييرات في حياتهم. يتذكر التمان أن هذا كان سيئًا للصحة العقلية للآخرين ، لكن هذا كان رائعًا لصحتي العقلية “.
ويتبع جهود Openai لكبح ما يطلق عليه السلوك “sycophanty” في ChatGPT. في أبريل ، قالت الشركة إن تحديثًا لنموذج GPT-4O قد جعلها “غارقة أو مقبولة بشكل مفرط” و “مخادع”.
في ذلك الوقت ، قال Altman إن شخصية الروبوت أصبحت “sycophant-y ومزعجة للغاية” وقال إن الإصلاحات كانت في الطريق. كان المستخدمون قد نشروا أمثلة على chatbot يتدفق على مطالبات دنيوية مع الثناء مثل “رائع للغاية” و “أنت تقوم بعمل بطولي”.
على البودكاست ، اعترف Altman أيضًا بحجم التأثير الذي يأتي مع تغييرات صغيرة حتى نغمة ChatGPT. وقال “يمكن للباحث أن يقوم ببعض القرص الصغير لكيفية يتحدث إليك ChatGpt – أو يتحدث إلى الجميع – وهذا مجرد قدر هائل من القوة لفرد واحد يصنع قرصًا صغيرًا لشخصية نموذجية”.
قصص ذات صلة
يروي Business Insider القصص المبتكرة التي تريد معرفتها
يروي Business Insider القصص المبتكرة التي تريد معرفتها
وأضاف “علينا أن نفكر فيما يعنيه تغيير الشخصية في النموذج على هذا النوع من الحجم”.
ليست هذه هي المرة الأولى التي يثير فيها مخاوف بشأن مقدار ما يميل الناس إلى chatbot. وفي حديثه في حدث احتياطي فيدرالي في يوليو ، قال Altman إن بعض الأشخاص ، وخاصة المستخدمين الأصغر سناً ، قد طوروا “الاعتماد العاطفي العاطفي” على ChatGPT.
“هناك شباب يقولون أشياء مثل ،” لا يمكنني اتخاذ أي قرار في حياتي دون إخبار Chatgpt بكل ما يحدث. إنه يعرفني ، إنه يعرف أصدقائي. سأفعل ما يقوله “. هذا شعور سيء للغاية بالنسبة لي “.
في يوم الخميس ، قام Openai بطرح GPT-5 ، وهو أحدث نموذج للشركة أطلق عليه Altman اسم “الترقية الرئيسية”.
وقال في بودكاست “المحادثات الضخمة” أنه مع مرور الوقت ، سيشعر GPT-5 بمزيد من التكامل في الحياة اليومية ويكون أشبه رفيقًا “استباقيًا”. “ربما تستيقظ في الصباح وتقول:” مهلا ، حدث هذا بين عشية وضحاها. لقد لاحظت هذا التغيير في التقويم الخاص بك. ” أو ، “كنت أفكر في هذا السؤال الذي سألتني.
أضاف التحديث أيضًا أربعة أوضاع “شخصية” اختيارية-ساخر ، روبوت ، مستمع ، و NERD-لكل منها لهجة مميزة ، والتي يمكن ضبطها بشكل جيد لمطابقة تفضيلات المستخدم.