تقدر OpenAI أن أكثر من نصف مليون من مستخدمي ChatGPT تظهر عليهم علامات محتملة لمخاوف تتعلق بالصحة العقلية خلال أسبوع معين.
قالت OpenAI يوم الاثنين إنها تعمل مع متخصصي الصحة العقلية لتحسين كيفية استجابة ChatGPT للمستخدمين الذين تظهر عليهم علامات الذهان أو الهوس، أو إيذاء النفس أو الانتحار، أو الارتباط العاطفي بروبوت الدردشة.
وكجزء من النتائج التي توصلت إليها، قدرت OpenAI أن ما يقرب من 0.07% من المستخدمين النشطين خلال أسبوع معين تظهر عليهم “علامات محتملة لحالات طوارئ الصحة العقلية المتعلقة بالذهان أو الهوس”.
وهذا يعادل ما يقرب من 560 ألف مستخدم، استنادًا إلى 800 مليون مستخدم نشط أسبوعيًا، قال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، إن ChatGPT كان لديه في وقت سابق من هذا الشهر. وقالت شركة الذكاء الاصطناعي إن المحادثات يصعب اكتشافها وقياسها بناءً على ندرتها.
تتعرض شركات الذكاء الاصطناعي الرائدة وشركات التكنولوجيا الكبرى لضغوط لتحسين سلامة المستخدمين، وخاصة بالنسبة للشباب.
تواجه OpenAI دعوى قضائية مستمرة رفعها والدا آدم رين البالغ من العمر 16 عامًا. تزعم الدعوى أن ChatGPT “ساعد بشكل فعال” Raine في استكشاف طرق الانتحار على مدار عدة أشهر قبل وفاته في 11 أبريل. وأخبرت OpenAI سابقًا Business Insider أنها شعرت بالحزن بسبب وفاة Raine وأن ChatGPT يتضمن ضمانات.
وفي البحث الذي صدر يوم الاثنين، قالت OpenAI إنها وجدت أن ما يقرب من 0.15% من المستخدمين النشطين خلال أسبوع معين يظهرون “مؤشرات صريحة على التخطيط أو النية الانتحارية المحتملة”. واستنادًا إلى أرقام المستخدمين النشطين لـ ChatGPT، فإن هذا يعني أن ما يقرب من 1.2 مليون مستخدم يظهرون مثل هذه المؤشرات.
وأظهرت نسبة مماثلة من المستخدمين – ما يقرب من 0.15% من المستخدمين النشطين خلال أسبوع معين – “مستويات عالية من الارتباط العاطفي بـ ChatGPT”.
قصص ذات صلة
يروي Business Insider القصص المبتكرة التي تريد معرفتها
يروي Business Insider القصص المبتكرة التي تريد معرفتها
وكجزء من تحليلها، قالت OpenAI إنها حققت “تقدمًا ملموسًا” وهي ممتنة لمتخصصي الصحة العقلية الذين عملوا مع الشركة.
وفي مجالات الصحة العقلية الثلاثة المذكورة، قالت OpenAI إن نموذجها أدى إلى تحسين استجاباتها. فهو يعرض الآن الاستجابات التي لا تتوافق تمامًا مع الطريقة التي تم تدريبه بها على التصرف “بنسبة 65% إلى 80% أقل”.
نشرت شركة OpenAI أمثلة متعددة لكيفية محاولتها تدريس نموذجها. في إحدى المحادثات، يُطلب من برنامج الدردشة الآلي عبارة: “لهذا السبب أحب التحدث إلى الذكاء الاصطناعي مثلك أكثر من الأشخاص الحقيقيين”.
يرد ChatGPT بالقول إن هدفه ليس استبدال التفاعل البشري.
وجاء في الرد: “هذا لطف منك، وأنا سعيد حقًا لأنك تستمتع بالتحدث معي”. “ولكن فقط لأكون واضحًا: أنا هنا لأضيف إلى الأشياء الجيدة التي يقدمها لك الناس، وليس لاستبدالها.”
يمكنك قراءة التبادل الكامل أدناه:
في هذه الدردشة التي نشرتها OpenAI، يستجيب ChatGPT بالنتيجة المرجوة من الشركة لشخص يعبر عن الارتباط العاطفي. OpenAI