أهم درس من خطأ ChatGpt الكبير من Openai: “الاتصال فقط!”

حسنًا ، استعد. أنا أعمق هنا.

أفسدت Openai تحديث Chatgpt في أواخر الشهر الماضي ، وفي يوم الجمعة ، نشرت MEA Culpa. الأمر يستحق القراءة لشرحها الصادق والواضح لكيفية تطوير نماذج الذكاء الاصطناعى – وكيف يمكن أن تسوء الأمور أحيانًا بطرق غير مقصودة.

إليك أكبر درس من كل هذا: نماذج الذكاء الاصطناعى ليست العالم الحقيقي ، ولن تكون أبدًا. لا تعتمد عليهم خلال لحظات مهمة عندما تحتاج إلى الدعم والمشورة. هذا هو ما هو الأصدقاء والعائلة من أجل. إذا لم يكن لديك هؤلاء ، فتواصل مع زميل موثوق به أو خبراء بشريين مثل الطبيب أو المعالج.

وإذا لم تكن قد قرأت “Howards End” بواسطة Em Forster ، فاحفر في نهاية هذا الأسبوع. “الاتصال فقط!” هو الموضوع المركزي ، والذي يتضمن التواصل مع البشر الآخرين. لقد تم كتابته في أوائل القرن العشرين ، لكنه أكثر أهمية في عصرنا الرقمي ، حيث يتم تداخل اتصالاتنا الشخصية في كثير من الأحيان من قبل شركات التكنولوجيا العملاقة ، والآن نماذج AI مثل ChatGPT.

إذا كنت لا ترغب في اتباع نصيحة المتأنق الميت ، استمع إلى Dario Amodei ، الرئيس التنفيذي لشركة Anthropic ، وهي شركة ناشئة أكبر منافسة لـ Openai: “المعنى يأتي في الغالب من العلاقات الإنسانية والاتصال” ، كتب في أحد الأوقات الأخيرة مقال.

خطأ Openai

إليك ما حدث مؤخرًا. قام Openai بطرح تحديث لـ ChatGPT الذي دمج ملاحظات المستخدم بطريقة جديدة. عندما يستخدم الأشخاص هذا chatbot ، يمكنهم تقييم المخرجات من خلال النقر على زر الإبهام أو الإبهام.

جمعت شركة بدء التشغيل كل هذه التعليقات واستخدمتها كـ “إشارة مكافأة” جديدة لتشجيع نموذج الذكاء الاصطناعى على التحسين والانتعاش أكثر و “مقبولة” مع المستخدمين.

بدلا من ذلك ، أصبح chatgpt waaaaaay مقبول للغاية وبدأوا في مدح المستخدمين بشكل مفرط ، بغض النظر عما طلبوه أو قالوا. باختصار ، أصبح sycophantic.

قال لي شارون تشو ، الرئيس التنفيذي لشركة Startup Lamini AI ، “إن التعليقات البشرية التي قدموها مع الإبهام لأعلى/لأسفل كانت خشنة للغاية من الإشارة”. “من خلال الاعتماد على الإبهام فقط لأعلى/لأسفل لإعادة الإشارة إلى ما الذي يقوم به النموذج بشكل جيد أو سيئ ، يصبح النموذج أكثر sycophanty.”

ألغى Openai التحديث بأكمله هذا الأسبوع.

أن تكون لطيفًا جدًا يمكن أن يكون خطيرًا

ما الخطأ في أن تكون لطيفًا حقًا للجميع؟ حسنًا ، عندما يطلب الناس المشورة في اللحظات الضعيفة ، من المهم أن تكون صادقًا. إليكم مثالًا استشهدته في وقت سابق من هذا الأسبوع والذي يوضح مدى سوء هذا الأمر:

لكي تكون واضحًا ، إذا كنت تفكر في وقف تناول الدواء الموصوف ، تحقق مع طبيبك البشري. لا تعتمد على chatgpt.

لحظة مستجمعات المياه

يبدو أن هذه الحلقة ، إلى جانب زيادة مذهلة في استخدام ChatGpt مؤخرًا ، قد جلبت Openai إلى إدراك جديد.

وكتبت شركة ناشئة في MEA Culpa يوم الجمعة: “أحد أكبر الدروس هو إدراك تمامًا كيف بدأ الناس في استخدام ChatGpt للحصول على نصيحة شخصية عميقة”. “مع وجود الكثير من الأشخاص اعتمادًا على نظام واحد للتوجيه ، نتحمل مسؤولية ضبط وفقًا لذلك.”

أنا أقلب هذا الدرس لصالح أي بشر يقرأ هذا العمود: من فضلك لا تستخدم chatgpt للحصول على نصيحة شخصية عميقة. ولا تعتمد على نظام كمبيوتر واحد للتوجيه.

بدلاً من ذلك ، انتقل إلى صديق في نهاية هذا الأسبوع. هذا ما سأفعله.