لماذا تترك الأنثروبور كلود ابتعد عنك – ولكن فقط في “الحالات القصوى”

كلود ليس هنا لمحادثاتك السامة.

في منشور مدونة يوم السبت ، قالت الأنثروبور إنها أعطت مؤخرًا بعض نماذج منظمة العفو الدولية – Opus 4 و 4.1 – القدرة على إنهاء “مجموعة فرعية نادرة” من المحادثات.

قالت الشركة الناشئة إن هذا ينطبق فقط على “الحالات القصوى” ، مثل طلبات المحتوى الجنسي الذي يشمل القصر أو التعليمات للعنف الجماعي ، حيث رفض كلود بالفعل وحاول توجيه الأمور عدة مرات. لم يحدد متى دخل التغيير حيز التنفيذ.

انها ليست تثبيط. قال المستخدمون إنثروبورًا إن المستخدمين سيرون إشعارًا عند إنهاء المحادثة ، ولا يزال بإمكانهم بدء دردشة جديدة أو تفرع من الرسائل القديمة – ولكن يتم إجراء مؤشر الترابط المحدد.

وقال أنثروبور إن معظم الناس لن يروا أبداً كلود يسيرون بعيدًا: “إن الغالبية العظمى من المستخدمين لن يلاحظوا أو يتأثروا بهذه الميزة في أي استخدام عادي للمنتج ، حتى عند مناقشة القضايا المثيرة للجدل للغاية.”

وقالت الشركة الناشئة أيضًا إن كلود لن ينهي الدردشات في المواقف التي قد يكون فيها المستخدمون معرضون لخطر وشيك لإيذاء أنفسهم أو غيرهم.

وقالت الأنثروبور ، التي وضعت نفسها كمنافس للسلامة الأول لـ Openai ، إن هذه الميزة تم تطويرها كجزء من عملها على “رفاهية الذكاء الاصطناعي” المحتملة-وهو مفهوم يمتد اعتبارات السلامة إلى الذكاء الاصطناعي نفسه.

تأسس الأنثروبور من قبل موظفي Openai السابقين الذين غادروا في عام 2020 بعد خلافات حول سلامة الذكاء الاصطناعي.

وأضاف “السماح للنماذج بإنهاء أو الخروج من التفاعلات المحزنة أمرًا محزنًا هو أحد هذه التدخلات”.

لم تستجب الأنثروبور لطلب التعليق من Business Insider.

التكنولوجيا الكبيرة باللون الأحمر

تأتي خطوة الإنسان في الوقت الذي تواجه فيه بعض شركات التكنولوجيا الكبيرة الحرارة لترك السلوك الشديد يتنزلق عبر شبكات أمان الذكاء الاصطناعي.

تخضع Meta للتدقيق بعد أن ذكرت رويترز أن الوثائق الداخلية أظهرت أن chatbots لها يُسمح لها بالانخراط في الدردشات “الحسية” مع الأطفال.

وقال متحدث باسم META لرويترز إن الشركة بصدد مراجعة الوثيقة وأنه لا ينبغي السماح بمثل هذه التفاعلات.

احتلت إيلون موسك عناوين الصحف الشهر الماضي بعد أن أشادت بقيادة هتلر وربط الألقاب اليهودية إلى “الكراهية المعادية للأبيض”.

اعتذر Xai عن مشاركات Grok التهابية وقالت إنها ناجمة عن تعليمات جديدة لـ chatbot.

لم يكن الأنثروبريز ناصعًا أيضًا.

في شهر مايو ، قالت الشركة إنه أثناء التدريب ، هدد كلود أوبوس 4 بفضح علاقة المهندس لتجنب الإغلاق. ابتسم الذكاء الاصطناعي للمهندس في 84 ٪ من عمليات الاختبار ، حتى عندما تم وصف نموذج الاستبدال بأنه أكثر قدرة ومتماشى مع قيم كلود الخاصة.