يقوم Meta بتغيير كيفية استجابة AI chatbot للأطفال.
أخبرت الشركة Business Insider يوم الجمعة أنها تقوم “بتغييرات مؤقتة” “لتزويد المراهقين بتجارب الذكاء الاصطناعى الآمنة والمناسبة للعمر” ، في حين أنها تطور تدابير إضافية على المدى الطويل.
وجاءت التغييرات بعد تقرير رويترز في وقت سابق من شهر أغسطس والتي تفصل وثيقة ميتا داخلية توضح أنها مقبولة لكي ينخرط chatbot في محادثات رومانسية مع الأطفال.
وقال ستيفاني أوتوي ، المتحدثة باسم Business Insider: “بينما نستمر في تحسين أنظمتنا ، نضيف المزيد من الدرابزين كإجراء احترازي إضافي – بما في ذلك تدريب AIS على عدم التعامل مع المراهقين في هذه الموضوعات ، ولكن لإرشادهم إلى موارد الخبراء ، والحد من وصول المراهقين إلى مجموعة مختارة من شخصيات الذكاء الاصطناعي في الوقت الحالي ،”
وقال أوتواي إنه بصرف النظر عن المناقشات الرومانسية ، تشمل الموضوعات الأخرى غير المحدودة إيذاء الذات والانتحار والأكل المضطربة. يقول Otway إن شخصيات الذكاء الاصطناعى المتاحة للشباب ستكون فقط لأغراض التعليم والتعبير الإبداعي.
بعد تقرير رويترز الأولي ، كتب السناتور جوش هاولي في رسالة إلى الرئيس التنفيذي مارك زوكربيرج في 15 أغسطس أنه سيطلق تحقيقًا في كيفية قيام Meta بتدريبات chatbots على إجراء محادثات “حسية” مع الأطفال.
وكتب هاولي في بيان عبر الإنترنت: “فقط بعد أن تم القبض على Meta هل تراجعت أجزاء من شركتها التي اعتبرت أنها مسموح بها لدردشة الدردشة والمشاركة في لعب الأدوار الرومانسية مع الأطفال”.
قصص ذات صلة
يروي Business Insider القصص المبتكرة التي تريد معرفتها
يروي Business Insider القصص المبتكرة التي تريد معرفتها
في يوم الخميس ، كتبت مجموعة Common Sense Group غير الربحية غير الربحية في تقييم للمخاطر أنها توصي بشدة باستخدام Meta AI chatbot لا يستخدمه أي شخص دون سن 18 عامًا.
عثر تقرير الوكالة الدولية للطاقة على أن أدوات الذكاء الاصطناعى تضلل المراهقين بانتظام “بمطالبات” الواقعية “، مما يعزز بسهولة الانتحار ، وإيذاء الذات ، واضطرابات الأكل ، وتعاطي المخدرات ، وأكثر من ذلك.”
ليست هذه هي المرة الأولى التي يواجه فيها ميتا التدقيق حول سلامة الأطفال. في يناير 2024 ، شهد Zuckerberg إلى جانب المديرين التنفيذيين من Tiktok و Snap و X و Discord ، حيث تساءل المشرعون عنهم حول تصميمات منصة يمكن الإدمان المحتملة ، والمحتوى المسيء ، ومخاطر الصحة العقلية التي تشكلها وسائل التواصل الاجتماعي للقاصرين.