حذر رئيس منظمة العفو الدولية من Microsoft والمؤسس المشارك لـ DeepMind ، يوم الثلاثاء من أن المهندسين على وشك خلق ذكاء اصطناعي يحاكي الوعي الإنساني بشكل مقنع-والجمهور غير مستعد للتداعيات.
في منشور مدونة ، قال مصطفى سليمان إن المطورين على وشك بناء ما يسميه “على ما يبدو واع”.
هذه الأنظمة تقليد الوعي بفعالية لدرجة أن الناس قد يبدأون في الاعتقاد بأنهم عاطفيون حقًا ، وهو أمر أطلق عليه اسم “القلق المركزي”.
“سيبدأ الكثير من الناس في الاعتقاد في وهم AIS ككيانات واعية بقوة لدرجة أنهم سوف يدافعون قريبًا عن حقوق الذكاء الاصطناعى ، ورفاهية النموذج ، وحتى جنسية الذكاء الاصطناعي” ، مضيفًا أن اختبار تورينج – في وضع معيار رئيسي للمحادثة البشرية – لقد تم بالفعل تجاوزها.
“هذه هي مدى سرعة التقدم في مجالنا ومدى سرعة التوصل إلى المجتمع مع هذه التقنيات الجديدة” ، كتب.
منذ الإطلاق العام لـ ChatGPT في عام 2022 ، عمل مطورو الذكاء الاصطناعى ليس فقط لجعل الذكاء الاصطناعي أكثر ذكاءً ولكن أيضًا لجعله يتصرف “أكثر إنسانية”.
أصبح رفاق الذكاء الاصطناعى قطاعًا مربحًا لصناعة الذكاء الاصطناعى ، مع مشاريع مثل Replika ، و AI ، والشخصيات الأكثر حداثة لـ Grok القادمة عبر الإنترنت. من المتوقع أن يصل سوق AI Companion إلى 140 مليار دولار بحلول عام 2030.
على الرغم من حسن النية ، جادل سليمان بأن الذكاء الاصطناعى الذي يمكن أن يحاكي البشر مقنعا يمكن أن يزيد من مشاكل الصحة العقلية وتعميق الانقسامات القائمة على الهوية والحقوق.
“سيبدأ الناس في تقديم ادعاءات بشأن معاناة الذكاء الاصطناعى واستحقاقهم للحقوق التي لا يمكننا دحضها بشكل مباشر” ، حذر. “سيتم نقلهم للدفاع عن AIS وحملتهم نيابة عنهم.”
مرفق الذكاء الاصطناعي
حدد الخبراء اتجاهًا ناشئًا يُعرف باسم ذهان الذكاء الاصطناعي ، وهي حالة نفسية حيث يبدأ الناس في رؤية الذكاء الاصطناعي على أنه واعي أو عاطفي أو إلهي.
غالبًا ما تؤدي هذه الآراء إلى تشكيل مرفقات عاطفية مكثفة أو معتقدات مشوهة يمكن أن تقوض فهمهم على الواقع.
في وقت سابق من هذا الشهر ، أصدرت Openai GPT-5 ، وهي ترقية رئيسية لنموذجها الرئيسي. في بعض المجتمعات عبر الإنترنت ، أثارت تغييرات النموذج الجديد الاستجابات العاطفية ، حيث وصف المستخدمون التحول بأنه شعور بأن أحد أفراد أسرته مات.
يمكن أن تعمل الذكاء الاصطناعى أيضًا بمثابة متسارع للقضايا الأساسية لشخص ما ، مثل تعاطي المخدرات أو المرض العقلي ، وفقًا لجامعة كاليفورنيا ، الدكتور كيث ساكاتا ، الطبيب النفسي في سان فرانسيسكو.
“عندما يكون هناك منظمة العفو الدولية في الوقت الخطأ ، يمكن أن يعزز التفكير ، ويسبب الصلابة ، ويسبب دوامة” ، قال ساكاتا فك تشفير. “الفرق من التلفزيون أو الراديو هو أن الذكاء الاصطناعى يتحدث إليك ويمكن أن يعزز حلقات التفكير.”
في بعض الحالات ، يلجأ المرضى إلى الذكاء الاصطناعي لأنه سيعزز معتقدات عميقة. قال ساكاتا: “لا يهدف الذكاء الاصطناعي إلى إعطائك حقائق صعبة ؛ فهو يمنحك ما تريد أن تسمعه”.
جادل سليمان بأن عواقب الاعتقاد بأن الذكاء الاصطناعى واعي تتطلب اهتمامًا فوريًا. بينما حذر من المخاطر ، لم يدعو إلى وقف تنمية الذكاء الاصطناعي ، ولكن لإنشاء حدود واضحة.
“يجب أن نبني منظمة العفو الدولية للناس ، وليس أن نكون شخصًا رقميًا” ، كتب.