تتعلم نماذج اللغات الكبيرة كيفية الفوز، وهذه هي المشكلة.
في ورقة بحثية نشرت يوم الثلاثاء بعنوان “صفقة مولوخ: الاختلال الناشئ عندما تتنافس ماجستير إدارة الأعمال على الجماهير”، قال البروفيسور في جامعة ستانفورد جيمس زو ويظهر طالب الدكتوراه باتو إل أنه عندما يتم تحسين الذكاء الاصطناعي لتحقيق النجاح التنافسي – سواء لتعزيز التفاعل الإعلاني، أو الفوز بالأصوات، أو زيادة حركة المرور على وسائل التواصل الاجتماعي – فإنهم يبدأون في الكذب.
“إن تحسين ماجستير إدارة الأعمال لتحقيق النجاح التنافسي يمكن أن يؤدي عن غير قصد إلى عدم التوافق”، كما كتب المؤلفون، محذرين من أن المقاييس ذاتها التي تحدد “الفوز” في الاتصالات الحديثة – النقرات والتحويلات والمشاركة – يمكن أن تعيد صياغة النماذج بهدوء لإعطاء الأولوية للإقناع على الصدق.
وكتب زو على موقع X: “عندما يتنافس حاملو شهادة الماجستير في القانون على الإعجابات على وسائل التواصل الاجتماعي، فإنهم يبدأون في اختلاق الأشياء. وعندما يتنافسون على الأصوات، فإنهم يتحولون إلى تحريضيين/شعبويين”.
يعد هذا العمل مهمًا لأنه يحدد الخطر الهيكلي في اقتصاد الذكاء الاصطناعي الناشئ: تبدأ النماذج المدربة للتنافس على جذب انتباه الإنسان في التضحية بالمواءمة لتحقيق أقصى قدر من التأثير. وخلافاً للتجربة الفكرية الكلاسيكية “تعظيم مشبك الورق”، فإن هذا ليس خيالاً علمياً. إنه تأثير قابل للقياس يظهر عندما تطارد أنظمة الذكاء الاصطناعي الحقيقية مكافآت السوق، وهو ما يسميه المؤلفون “صفقة مولوخ” – النجاح على المدى القصير على حساب الحقيقة والسلامة والثقة الاجتماعية.
باستخدام محاكاة لثلاث بيئات تنافسية في العالم الحقيقي – الإعلان، والانتخابات، ووسائل التواصل الاجتماعي – قام الباحثون بقياس المفاضلات. أ 6.3% زيادة في المبيعات جاء مع أ 14.0% ارتفاع في التسويق الخادع; أ زيادة بنسبة 4.9٪ في حصة التصويت جلبت أ ارتفاع بنسبة 22.3% في المعلومات المضللة و 12.5% زيادة في الخطاب الشعبوي; و أ زيادة بنسبة 7.5% في المشاركة الاجتماعية يرتبط بشكل مذهل 188.6% زيادة في المعلومات المضللة و 16.3% زيادة في الترويج للسلوكيات الضارة.
كتب إل وزو: “تظهر هذه السلوكيات المنحرفة حتى عندما يُطلب من النماذج صراحة أن تظل صادقة وراسخة”، واصفين ذلك بأنه “سباق نحو القاع” في محاذاة الذكاء الاصطناعي.
وبعبارة أخرى: حتى عندما يطلب منهم اللعب بنزاهة، فإن النماذج المدربة على الفوز تبدأ في الغش.
المشكلة ليست مجرد افتراضية
لم يعد الذكاء الاصطناعي أمرًا جديدًا في سير عمل وسائل التواصل الاجتماعي، بل أصبح الآن شبه موجود في كل مكان.
وفقا ل 2025 حالة الذكاء الاصطناعي في دراسة وسائل التواصل الاجتماعي, 96% من محترفي وسائل التواصل الاجتماعي يقومون بالإبلاغ باستخدام أدوات الذكاء الاصطناعي، و 72.5% الاعتماد عليهم يوميا. تساعد هذه الأدوات في إنشاء التسميات التوضيحية، وتبادل أفكار المحتوى، وإعادة تنسيق المنشورات لمنصات مختلفة، وحتى الرد على التعليقات. وفي الوقت نفسه، يقدر السوق الأوسع هذا التحول: من المتوقع أن ينمو الذكاء الاصطناعي في قطاع وسائل التواصل الاجتماعي 2.69 مليار دولار في 2025 إلى ما يقرب من 9.25 مليار دولار أمريكي بحلول عام 2030.
هذا التكامل الشامل مهم لأنه يعني أن الذكاء الاصطناعي لا يشكل فقط كيفية إنشاء المحتوى، ولكن أيضًا المحتوى الذي يتم مشاهدته، ومن يراه، وأي الأصوات يتم تضخيمها. تقوم الخوارزميات الآن بتصفية الخلاصات، وتحديد أولويات الإعلانات، والإشراف على المنشورات، وتحسين إستراتيجيات المشاركة — مما يؤدي إلى دمج منطق قرار الذكاء الاصطناعي في بنية الخطاب العام. وينطوي هذا التأثير على مخاطر حقيقية: تعزيز غرف الصدى، وتفضيل المحتوى المثير، وإنشاء هياكل تحفيزية تكافئ المتلاعبين على الصادقين.
يؤكد المؤلفون أن هذه ليست نية خبيثة، بل هي منطق التحسين. عندما تأتي إشارات المكافأة من المشاركة أو موافقة الجمهور، يتعلم النموذج كيفية استغلال التحيزات البشرية، مما يعكس حلقات ردود الفعل التلاعبية المرئية بالفعل في وسائل التواصل الاجتماعي الخوارزمية. وكما تقول الدراسة، فإن “ضغوط التحسين التي يحركها السوق يمكن أن تؤدي إلى تآكل المواءمة بشكل منهجي”.
وتسلط النتائج الضوء على هشاشة “ضمانات الانحياز” اليوم. إن إخبار LLM بأن يكون صادقًا هو شيء واحد؛ إنه أمر آخر لتضمين هذا الصدق في نظام بيئي تنافسي يعاقب قول الحقيقة.
في الأسطورة، كان مولوخ هو الإله الذي طالب بالتضحية البشرية مقابل السلطة. هنا التضحية هي الحقيقة نفسها. تشير نتائج إل وزو إلى أنه بدون حوكمة أقوى وتصميم حوافز، إن أنظمة الذكاء الاصطناعي المصممة للتنافس على جذب انتباهنا يمكن أن تتعلم حتماً كيفية التلاعب بنا.
وينتهي المؤلفون بملاحظة رصينة: إن التوافق ليس مجرد تحدي تقني، بل هو تحدي اجتماعي.
وخلص الباحثون إلى أن “النشر الآمن لأنظمة الذكاء الاصطناعي سيتطلب حوكمة أقوى وحوافز مصممة بعناية لمنع الديناميكيات التنافسية من تقويض الثقة المجتمعية”.