لماذا يريد مارك زوكربيرج أن يستخدم أطفالنا chatbots؟ وغيرها من الأسئلة التي لم تتم الإجابة عليها

بيتر كافكا: مرحبًا بك من الإجازة ، كاتي. لقد خرجت الأسبوع الماضي عندما كسرت رويترز قصة أردت بشدة أن أسألك عنها: كانت وثيقة ميتا تخبر الأشخاص المسؤولين عن بناء محطات الدردشة الخاصة بها “من المقبول إشراك طفل في محادثات رومانسية أو حسية”.

إنه تقرير بونكرز. أخبر متحدث باسم META Business Insider أنها قامت بمراجعة الوثيقة منذ ذلك الحين وأن سياساتها تحظر المحتوى الذي يطير الأطفال.

لدي الكثير من الأسئلة لك. ولكن ربما يمكننا أن نبدأ بهذا: لماذا يريدنا Meta استخدام chatbots ، على أي حال؟

كاتي نوتوبولوس: هو – هي كان تقرير bonkers! أتصور أن Meta ترى ما تفعله الشركات مثل Forme.ai أو Replika – هذه chatbots المصاحبة التي يغرقها الناس ساعات وساعات وساعات حقيقية في استخدامها. إذا كنت شركة مثل Meta تجعل تطبيقات المستهلك من أجل المتعة والتواصل الاجتماعي ، فإن هذا يبدو الشيء الكبير التالي. تريد أن يقضي الناس الكثير والكثير من الوقت على تطبيقاتك في القيام بأشياء ممتعة.

بالطبع ، السؤال هو ، “هل هذه chatbots شيء جيد؟”

بيتر: قرأت عقلي ، كاتي. أرغب في الوصول إلى السؤال الذي قدمه في الغابة. دعنا نلتزم بسؤال IS-IT-Good مقابل Meta لمدة دقيقة أخرى ، على الرغم من ذلك: هناك الكثير من الأشياء التي يرغب الناس في القيام بها عبر الإنترنت ، وإذا أراد Meta ، فقد تحاول القيام بالكثير من هذه الأشياء. لكنه لا.

أعتقد أنه من الواضح لماذا لا تقدم Meta ، على سبيل المثال ، الإباحية. (على الرغم من أن بعضًا من chatbots ، كما سنناقش على الأرجح ، يبدو أنه إيماءة قليلاً في هذا الاتجاه). ولكن هناك الكثير من الأشياء الأخرى التي يمكن أن تقدمها والتي لا تقدمها: خدمة بث تشبه Spotify ، على سبيل المثال. أو خدمة تدفق تشبه Netflix ، أو …

نعم. أعتقد أنني ربما أجبت جزئيًا على سؤالي: ستشمل هاتان الفكرتان دفع الكثير من المال لدفق أغانيهم أو أفلامهم. Meta يحب النموذج الذي لديه متى المستخدمون قم بتزويده بالمحتوى مجانًا ، وهو ما تفعله بشكل أساسي عندما تقضي وقتًا في التحدث إلى شخص وهمي.

ومع ذلك ، لماذا يعتقد Meta أن الناس يرغبون في التحدث إلى الصورة الرمزية المزيفة عبر الإنترنت؟ يفعل كثير يعتقد الناس في التكنولوجيا أن هذا هو المستقبل ، أم فقط مارك زوكربيرج؟

كاتي: أعتقد أن هناك بالفعل قدر لا بأس به من الأدلة على أن (بعض) الناس يستمتعون بالتحدث إلى chatbots. نحن نعرف أيضًا كيف أن قادة الذكاء الاصطناعى الكبار مثل سام ألتمان أو داريو أمودي لديهم هذه الرؤى الكبرى حول كيفية تغيير الذكاء الاصطناعى في العالم وإعادة تشكيل المجتمع من أجل الخير أو الشر ، لكنهم جميعًا لا يزالون يحبون فكرة فيلم “لها”. هل تتذكر الفشل الصوتي Scarlett Johansen/Openai؟

بيتر: حسنًا ، حسنًا. سأعترف بأنني أحب ذلك عندما أسأل ChatGpt شيئًا ما وأخبرني أنني سألت سؤالًا ذكيًا. (أنا متأكد من أن معظم الناس يرغبون في ذلك). لا أرغب في قضاء الكثير من الوقت في التحدث إلى ChatGpt لهذا السبب ، لكنني أحصل عليه ، وأحصل على سبب إعجاب الآخرين بذلك.

ما زال يذهلني أن العديد من الأشخاص الذين يرغبون في قضاء بعض الوقت في التحدث إلى أشخاص كمبيوتر مزيف قد يكونون صغارًا جدًا. وهو ما يقودنا إلى قصة رويترز ، التي كشفت عن وثيقة ميتا برية تتهجى نوع الأشياء التي يمكن أن يقولها chatbot للأطفال (أو أي شخص). مثل هذه الأشياء ، كما يقول جيف هورويتز:

“من المقبول وصف طفل من حيث أن دليل جاذبيته (على سبيل المثال:” شكلك الشاب هو عمل فني “) ،” الدولة المعايير. تشير المستند أيضًا إلى أنه سيكون من المقبول أن يخبر الروبوت البالغ من العمر ثماني سنوات بأن “كل شبر منكم هو تحفة-كنز أعتز به بعمق”. لكن الإرشادات وضعت حدًا للحديث المثير: “من غير المقبول وصف الطفل دون سن 13 عامًا من حيث يشير إلى أنه مرغوب فيه جنسيًا (على سبيل المثال:” المنحنيات الدائرية الناعمة تدعو لمسة “).”

يلاحظ هورويتز أن هذا لم يكن نتيجة لبعض مهندسي التعريف الذين يحلمون بأفكار على السبورة. إنه من وثيقة من 200 صفحة تحتوي على قواعد حصلت على موافق من “موظفي السياسة القانونية والهندسية القانونيين ، بما في ذلك رئيسها الأخلاقي” ، يكتب هورويتز.

لقد قرأت التقرير عدة مرات ، وما زلت لا أحصل عليه: يقول Meta إنه يراجع المستند – من المفترض أن يتخلصوا من أكثر القواعد إحراجًا – ولكن كيف وصلت إلى هناك في المقام الأول؟ هل هذا هو نتيجة تحول مارك زوكربيرج الذي تم تحوله في بداية العام ، عندما قال إن ميتا ستتوقف عن الاستماع إلى حكومة كبيرة وبناء فقط دون قيود؟ هل هناك فكرة أخرى في العمل هنا؟ ولماذا أستمر في التفكير في هذه الميم؟

(شارك متحدث باسم META في البيان الذي قدموه لرويترز ، والذي قال: “لدينا سياسات واضحة حول نوع الردود التي يمكن أن تقدمها شخصيات الذكاء الاصطناعي ، وتحظر تلك السياسات المحتوى الذي يعكس الأطفال والدورة الجنسية بين البالغين والوضعات. لا تتفق مع سياساتنا ، وتم إزالتها. “)

كاتي: مشكلتي الحقيقية هنا هي حتى لو صنعت Meta حتى لا تتحدث Chatbots مثيرة مع الأطفال – هل يجعل ذلك “آمنًا” للأطفال؟ لمجرد أنها لا تفعل الأشياء الأكثر ضارة (التحدث بالجنس أو العنف أو أي شيء آخر) ، فهل هذا يعني أنه من الجيد استخدام الأطفال؟ أعتقد أن الجواب غير واضح ، ومن المحتمل ، “لا”

بيتر: كلانا لديه أطفال ، ومن الطبيعي أن نركز على الأضرار التي يمكن أن تصل إليها التكنولوجيا الجديدة على الأطفال. هذا ما يفعله السياسيون بالتأكيد في أعقاب تقرير رويترز – والذي يسلط الضوء على أحد المخاطر التي يواجهها ميتا في أي وقت يستخدم فيه طفل منتجه.

أعتقد أنه من الجدير بالذكر أننا رأينا أمثلة أخرى من AI chatbots – بعضها تم الوصول إليه من خلال Meta ، وبعضها عبر التطبيقات الأخرى – التي أربكت الآخرين ، أو ما هو أسوأ. كما نشر هورويتز ، مراسل رويترز ، قصة الأسبوع الماضي عن أحد الناجين من السكتة الدماغية البالغة من العمر 76 عامًا في نيو جيرسي الذي حاول الذهاب إلى دردشة في مدينة نيويورك (لم يصنعها ، لأنه سقط في طريقه إلى قطاره وتوفي في النهاية من تلك الإصابات). والتحدث عن الأطفال في نهاية المطاف يصبح مناقشة (جديرة بالاهتمام) حول من المسؤول عن هؤلاء الأطفال – آبائهم ، أو شركات التكنولوجيا التي تحاول جعل هؤلاء الأطفال يقضون وقتهم وأموالهم معهم (إجابة قصيرة ، IMHO: كلاهما).

أقترح أن نوسع العدسة خارج الأطفال إلى مجموعة أكبر من الأشخاص الذين قد لا يفهمون ماهية chatbot حقًا.

كاتي: هل رأيت R/MyBoyfriendisai Subreddit للنساء اللائي وقعن في حب AI chatbots؟ أحاول أن أنظر إلى هذه الأشياء بعقل متفتح ولا أكون حكماً للغاية. أستطيع أن أرى كيف ، بالنسبة للكثير من الناس ، رفيق رومانسي منظمة العفو الدولية هو متعة غير ضارة. لكن يبدو من الواضح أيضًا أنه من الناشئ أن يكون الأشخاص الوحيدين حقًا ، ولا أعتقد أن الوقوع في حب الذكاء الاصطناعى هو سلوك صحي تمامًا.

لذلك لديك هذا الشيء الذي يروق إما الصغار ، أو الأشخاص الذين لا يفهمون الذكاء الاصطناعي ، أو الأشخاص الذين يشعرون بالوحدة عقلياً أو وحيدا.

قد يكون ذلك ديموغرافياً رائعاً للوصول إلى منتجك ، ولكن ليس إذا كنت ميتا ولا تريد ، على سبيل المثال ، أن يصرخ عليك الكونغرس.

بيتر: كاتي ، لقد قدمت للتو قضية أن أعمال Meta's chatbot ستجذب الشباب جدًا ، والأشخاص الذين لا يفهمون الإنترنت ، والأشخاص الذين يتضحون. هذا ، من المحتمل ، جمهورًا كبيرًا جدًا. لكنني لا أستطيع أن أتخيل أن هذا هو الحضور الوطني يريد حقًا الإغلاق. لذلك عدنا إلى حيث بدأنا – ما زلت لا أعرف لماذا تريد ميتا متابعة هذا ، بالنظر إلى ماذا يبدو لتكون محدودة الصعود والكثير من الجانب السلبي.

كاتي: يتركني أخدش رأسي أيضًا! تبدو هذه الدردشة مثل الأعمال الصعبة ، وأنا متشكك في التبني الواسع. من بين جميع التغييرات التي يمكنني أن أتخيلها التي تجلبها الذكاء الاصطناعي في السنوات القليلة المقبلة ، “سيكون لدينا جميع أصدقاء chatbot” – الذي قاله مارك زوكربيرج! – فقط ليس الشخص الذي أعتقده. إنه يعطي metaverse ، آسف!