أعلنت شركة X، المملوكة لإيلون ماسك، عن قيود جديدة على ميزة “Grok” الخاصة بها، بعد موجة انتقادات عالمية واسعة النطاق. هذه القيود تمنع الآن إنشاء صور بتقنية الذكاء الاصطناعي لشخصيات حقيقية بملابس مثيرة أو فاضحة. يأتي هذا القرار بعد تحقيق في استخدامات غير قانونية لـ Grok، بما في ذلك إنشاء صور إباحية لطفلات قاصرات.
قيود جديدة على Grok: رد فعل على الجدل العالمي
أعلنت X عن هذه التغييرات يوم الأربعاء الماضي، عبر حسابها المخصص للأمان على المنصة. وأكدت الشركة أنها طبقت إجراءات تقنية لمنع تعديل صور لأشخاص حقيقيين بملابس كاشفة مثل ملابس السباحة. تنطبق هذه القيود على جميع المستخدمين، بمن فيهم المشتركون المدفوعون.
جاء الإعلان بعد ساعات قليلة من إعلان المدعي العام في كاليفورنيا، روب بونتا، عن فتح تحقيق في عمليات التزييف العميق (deepfakes) الجنسية التي تستخدم الذكاء الاصطناعي، بما في ذلك تلك التي تستهدف الأطفال، والتي تم إنشاؤها بواسطة Grok. وأشار بونتا إلى زيادة كبيرة في التقارير خلال الأسابيع القليلة الماضية، تفيد بأن مستخدمي Grok يقومون بتحميل صور لنساء وقاصرات تم العثور عليها على الإنترنت، ثم يستخدمون نموذج الذكاء الاصطناعي لخلع ملابسهن في الصور.
تعليق الخدمة في دولتين
قامت إندونيسيا وماليزيا بتعليق استخدام Grok في أراضيهما بسبب هذه الصور، لتصبحا أول دولتين في العالم تحظران أداة الذكاء الاصطناعي هذه. كما أجرى مشرعون في المملكة المتحدة مناقشات علنية حول إمكانية تعليق الخدمة هناك.
وقد اتخذت X خطوة أولية الأسبوع الماضي بتقييد استخدام Grok للمستخدمين غير المدفوعين، وذلك بعد تلقي شكاوى من مسؤولين حول العالم. لكن هذه الخطوة قوبلت بانتقادات واسعة النطاق، واعتبرت غير كافية.
وصرح متحدث باسم رئيس الوزراء البريطاني كير ستارمر بأن تقييد الخدمة للمستخدمين غير المدفوعين “يحول ببساطة ميزة الذكاء الاصطناعي التي تسمح بإنشاء صور غير قانونية إلى خدمة مميزة”.
في المقابل، رد إيلون ماسك، الرئيس التنفيذي لشركة xAI، مطور Grok، على هذه الانتقادات قائلاً إن الحكومة البريطانية تبحث عن “أي ذريعة للرقابة”. جاء هذا الرد في تغريدة على منصة X ردًا على سؤال حول سبب عدم التحقيق مع أدوات الذكاء الاصطناعي الأخرى مثل Gemini و ChatGPT.
في تغريدة أخرى، سبقت إعلان X الرسمي عن الحظر، طلب ماسك من المستخدمين محاولة تجاوز القيود المفروضة على إنشاء الصور بواسطة نموذج الذكاء الاصطناعي. هذا السلوك أثار المزيد من الجدل حول التزامه بالسلامة والأخلاق في تطوير الذكاء الاصطناعي.
تأتي هذه التطورات في وقت يشهد فيه مجال الذكاء الاصطناعي التوليدي نموًا سريعًا، مع ظهور قدرات جديدة تثير مخاوف بشأن إساءة الاستخدام المحتملة. تعد مشكلة الصور الإباحية التي يتم إنشاؤها باستخدام الذكاء الاصطناعي جزءًا من تحدٍ أوسع يتعلق بحماية الخصوصية ومنع الاستغلال عبر الإنترنت. تعتبر تقنية التزييف العميق (deepfake) من بين التحديات الرئيسية، حيث يمكن استخدامها لإنشاء صور ومقاطع فيديو مزيفة تبدو واقعية للغاية.
تعتبر هذه القضية أيضًا بمثابة اختبار لقدرة شركات التكنولوجيا على تنظيم استخدام الذكاء الاصطناعي بشكل فعال. فقد أثارت قدرة Grok على إنشاء صور إباحية جدلاً حول المسؤولية الأخلاقية والقانونية للشركات التي تطور هذه التقنيات. يتزايد الضغط على هذه الشركات لتطوير آليات قوية للكشف عن المحتوى الضار ومنعه.
لم يرد مكتب المدعي العام بونتا ولا مكتب رئيس الوزراء ستارمر على الفور على طلبات التعليق من Business Insider.
من المتوقع أن تستمر التحقيقات في استخدامات Grok غير القانونية، وأن تدرس السلطات في مختلف البلدان اتخاذ إجراءات تنظيمية إضافية. كما يجب مراقبة رد فعل X على هذه التحقيقات، وما إذا كانت ستنفذ إجراءات أكثر صرامة لمنع إساءة استخدام أدوات الذكاء الاصطناعي الخاصة بها. الجدل الدائر حول الذكاء الاصطناعي و Grok يسلط الضوء على الحاجة الملحة إلى وضع معايير أخلاقية وقانونية واضحة لتنظيم هذا المجال المتطور بسرعة.
بالإضافة إلى ذلك، من المهم متابعة التطورات في مجال أمن الذكاء الاصطناعي، والبحث عن حلول تقنية جديدة يمكن أن تساعد في منع إنشاء المحتوى الضار. قد يشمل ذلك تطوير خوارزميات أكثر دقة للكشف عن الصور الإباحية، أو استخدام تقنيات التشفير لحماية الصور الشخصية.