تم إنشاء روبوت محادثة يعمل بالذكاء الاصطناعي لفتاة قُتلت في عام 2006 على خدمة تحظى بشعبية كبيرة – ولم يكن لدى عائلتها أي فكرة

• جينيفر آن كريسينتي، وهي فتاة في المدرسة الثانوية قُتلت في عام 2006، عادت للظهور مؤخرًا كبرنامج دردشة على موقع Character.ai.
• أخبر والدها BI أنه اكتشف الروبوت يوم الأربعاء، ولم يوافق أبدًا على استخدام صورتها.
• تمت إزالة الروبوت، لكن وجوده يثير عواقب أخلاقية بشأن الذكاء الاصطناعي.

استيقظ درو كريسينتي في الساعة 6:30 صباحًا يوم الأربعاء ليجد تنبيه Google على هاتفه بشأن ابنته.

لقد مرت 18 عامًا منذ مقتل جينيفر آن، وهي طالبة في المدرسة الثانوية والطفلة الوحيدة لكريسينتي، على يد صديقها السابق في أوستن. بدأت كريسينتي، وهي حزينة، في إنشاء منظمة غير ربحية باسمها، وتعمل منذ عام 2006 على رفع مستوى الوعي حول العنف في المواعدة بين المراهقين.

لكن كريسينتي علمت الآن أنها عادت للظهور مرة أخرى على الإنترنت، هذه المرة كروبوت دردشة يعمل بالذكاء الاصطناعي على موقع Character.ai، الذي تديره شركة ناشئة مقرها سان فرانسيسكو أبرمت صفقة بقيمة 2.7 مليار دولار مع جوجل في أغسطس.

وقال لـBusiness Insider إن موجة من المشاعر ضربت كريسينتي – الغضب والارتباك والاشمئزاز في وقت واحد.

قال كريسينتي: “كان جزءًا من الحزن”. “لأنني هنا، يجب أن أواجه مرة أخرى هذه الصدمة الرهيبة التي كان علي التعامل معها لفترة طويلة.”

لم يكن لدى Crecente أي فكرة عمن أنشأ برنامج الدردشة الآلي أو متى تم إنشاؤه. كان يعلم فقط أن Google قامت بفهرسة الروبوت في ذلك الصباح وأرسلت له التنبيه في الساعة 4:30 صباحًا، والذي قام بإعداده لتتبع أي ذكر لابنته أو مؤسسته غير الربحية.

عادةً ما يتم إنشاء روبوتات الدردشة Character.ai بواسطة المستخدمين، الذين يمكنهم تحميل الأسماء والصور والتحيات وغيرها من المعلومات حول الشخصية.

وفي حالة جينيفر آن، استخدم الروبوت اسمها وصورتها في الكتاب السنوي، واصفًا إياها بأنها “شخصية ذكاء اصطناعي ودودة وواسعة الاطلاع يمكنها تقديم معلومات حول مجموعة واسعة من المواضيع”.

وبحلول الوقت الذي اكتشف فيه Crecente الروبوت، أظهر العداد الموجود في ملفه الشخصي أنه تم استخدامه بالفعل في 69 محادثة على الأقل، وذلك لكل لقطة شاشة أرسلها إلى BI.

كما أدرج الموقع جينيفر آن على أنها “خبيرة في الصحافة” تتمتع بخبرة في أخبار ألعاب الفيديو. أسس عمها، بريان كريسينتي، موقع أخبار الألعاب Kotaku وشارك في تأسيس موقع منافس له، Polygon.

قال Drew Crecente إنه اتصل بـ Character.ai من خلال نموذج دعم العملاء، وطلب من الشركة إزالة برنامج الدردشة الآلي الذي يحاكي Jennifer Ann والاحتفاظ بجميع البيانات المتعلقة بمن قام بتحميل الملف الشخصي.

وقال: “أردت التأكد من أنهم وضعوا إجراءات بحيث لا يمكن إنشاء حساب آخر يستخدم اسم ابنتي أو صورة ابنتي في المستقبل”.

وقد تلقى ردًا آليًا يحتوي على رقم حالته ولكن لا توجد معلومات إضافية.

قام شقيقه، براين، بتغريد رسالة غاضبة حول برنامج الدردشة الآلي في ذلك الصباح، وطلب من متابعيه البالغ عددهم حوالي 31000 المساعدة “لوقف هذا النوع من الممارسات الرهيبة”.

رد موقع Character.ai على منشور Brian على X بعد ساعة ونصف، قائلًا إنه تمت إزالة برنامج الدردشة الآلي Jennifer Ann لأنه ينتهك سياسات الشركة بشأن انتحال الشخصية.

لكن Crecente يقول إنه لم يحصل على شيء سوى الصمت من الشركة، على الرغم من تواصله مع Character.AI يوم الأربعاء.

وقال كريسينتي: “هذا جزء مما يثير الغضب بشأن هذا الأمر، وهو أن الأمر لا يتعلق بي فقط أو بابنتي”. “إن الأمر يتعلق بكل هؤلاء الأشخاص الذين قد لا يكون لديهم منصة، أو قد لا يكون لديهم صوت، أو قد لا يكون لديهم أخ لديه خلفية كصحفي.”

وأضاف: “وبسبب ذلك، فإنهم يتعرضون للأذى، لكن ليس لديهم ملاذ”.

وأكد المتحدث الرسمي باسم Character.ai، كاسي لورانس، لـ BI أنه تم حذف برنامج الدردشة الآلي، وقال إن الشركة “ستفحص ما إذا كان هناك ما يبرر اتخاذ مزيد من الإجراءات”.

وقالت: “يأخذ موقع Character.ai السلامة على منصتنا على محمل الجد ويدير الشخصيات بشكل استباقي واستجابة لتقارير المستخدم. لدينا فريق ثقة وأمان مخصص يقوم بمراجعة التقارير واتخاذ الإجراءات بما يتماشى مع سياساتنا”.

وأضافت أن Character.ai يستخدم “قوائم الحظر المتوافقة مع معايير الصناعة وقوائم الحظر المخصصة” لمنع انتحال الهوية.

ومع ذلك، قال كريسينتي إنه كان ينبغي على الشركة التواصل للاعتذار وإظهار أنها ستحمي هوية ابنته بشكل أكبر. وهو الآن يبحث عن خيارات قانونية.

وقال: “إنه أمر لا يوصف أن شركة تمتلك الكثير من المال تبدو، على ما أعتقد، غير مبالية بإعادة صدمة الناس”.

استخدام الذكاء الاصطناعي لإحياء الموتى

لقد تم استخدام الذكاء الاصطناعي لإنشاء شخصيات لأشخاص متوفين من قبل، بما في ذلك العديد ممن يأملون أن يساعدهم في الحزن على فقدان أحد أحبائهم. لكن هذه الممارسة أثارت تساؤلات أخلاقية حول موافقة المتوفى، خاصة إذا ماتت الشخصية “المبعثة” قبل ظهور الذكاء الاصطناعي.

وقال فنسنت كونيتزر، رئيس المشاركة الفنية للذكاء الاصطناعي في معهد أخلاقيات الذكاء الاصطناعي بجامعة أكسفورد، لـ BI: إن قضية كريسينتي هي مثال آخر على المجال القانوني والأخلاقي الجديد الذي قدمه الذكاء الاصطناعي للعالم.

وقال كونيتزر إن الأسئلة لا تزال قائمة حول مدى مسؤولية شركات الذكاء الاصطناعي عن المحتوى الذي ينشئه مستخدموها.

وقال كونيتزر عن برنامج الدردشة الآلي الذي يحاكي جينيفر آن: “هذا ليس انتحالًا تمامًا للهوية، بمعنى أنه يبدو واضحًا أنه نموذج للذكاء الاصطناعي”. “لكنها أيضًا ليست محاكاة ساخرة، على سبيل المثال. ما هي حقوقنا في أسلوبنا وسلوكياتنا ورؤيتنا للعالم؟”

وبينما يناقش العالم معضلات الذكاء الاصطناعي هذه، فإن العواقب تؤثر بالفعل بشكل عميق على أشخاص مثل كريسينتي.

قالت سو موريس، مديرة خدمات الفجيعة في معهد دانا فاربر للسرطان في بوسطن، لـ BI إن رؤية شبه شخص متوفى بشكل غير متوقع لا تزال تؤثر بشدة بعد سنوات عديدة من وفاتهم، لأن ذكرياتنا عنهم متأصلة في أدمغتنا .

وقال موريس عن كريسينتي: “إن عدم علمه باستخدام صورة ابنته كان بلا شك بمثابة صدمة كبيرة ويزيد من مشاعر الارتباك والغضب التي كان يشعر بها”.

Character.ai: يحظى بشعبية كبيرة ويرتبط بـ Google

تأسست شركة Character.ai في نوفمبر 2021 على يد مهندسي Google السابقين نعوم شازير ودانييل دي فريتاس. كان شازير مؤلفًا رئيسيًا لورقة Transformer المميزة لعملاق التكنولوجيا وعمل على بناء روبوت محادثة يعمل بالذكاء الاصطناعي هناك، لكنه غادر مع De Freitas عندما رفضت Google نشر المنتج في ذلك الوقت.

كانت الفكرة وراء شركتهم الناشئة الجديدة هي السماح للجمهور بصنع الروبوتات الخاصة بهم، والتي يطلقون عليها اسم الشخصيات. وتشمل هذه الآن مجموعة متنوعة من الشخصيات التي أنشأها المستخدمون على غرار شخصيات عامة، مثل Elon Musk، ومغني الراب Nicki Minaj، والممثل Ryan Gosling.

سجل الإطلاق التجريبي لـ Character.ai في أكتوبر 2022 مئات الآلاف من المستخدمين في الأسابيع الثلاثة الأولى من الاختبار، وفقًا لصحيفة واشنطن بوست. في مارس 2023، جمعت الشركة 150 مليون دولار بتقييم قدره 1 مليار دولار، بقيادة أندريسن هورويتز.

تظهر إحصائيات متجر Google Play أنه حتى وقت كتابة المقالة، تم تنزيل التطبيق أكثر من 10 ملايين مرة على أجهزة Android وحدها.

في أغسطس، دفعت جوجل للشركة الناشئة 2.7 مليار دولار لإعادة توظيف شازير ودي فريتاس، 20% من موظفيها، والحصول على جميع نماذج Character.ai التي تم العمل عليها حتى الآن.

بعد تغيير الفريق، قال الرئيس التنفيذي المؤقت الجديد للشركة، دومينيك بيريلا، لصحيفة فايننشال تايمز يوم الأربعاء إن الشركة ستركز بالكامل على خدمات الدردشة الآلية الخاصة بها، وتتخلى عن جهودها السابقة لبناء نموذج لغوي كبير.

لم تستجب Google لطلب التعليق من Business Insider.