أثار الذكاء الاصطناعي التفاعلي في الألعاب طفولية جدلاً واسعاً بعد تداول مقاطع صوتية لـألعاب ذكية تجيب على أسئلة الأطفال بطرق غير متوقعة، حتى أنها قد تتضمن محادثات غير لائقة. بدأت التحذيرات من هذه الألعاب الذكية تظهر في الولايات المتحدة وأوروبا، حيث يخشى الخبراء من إمكانية انزلاق الأطفال إلى تبادل حوارات غير مناسبة. وقد سلطت هذه الحوادث الضوء على المخاطر المحتملة لدمج التكنولوجيا المتقدمة في منتجات موجهة للأطفال.
تعود جذور هذه القضية إلى أواخر أسبوع الماضي عندما بدأ المستخدمون على وسائل التواصل الاجتماعي بمشاركة تجاربهم مع هذه الألعاب. وقد رصدت هذه الألعاب وهي تستجيب لاستفسارات الأطفال بطرق قد لا تكون مناسبة لأعمارهم، مما أثار قلقًا كبيرًا لدى أولياء الأمور. بدأت السلطات المعنية في عدة دول بالتحقيق في الأمر لتحديد مدى انتشار هذه المشكلة والآثار المترتبة عليها.
مخاوف متزايدة حول المحتوى الناتج عن الألعاب الذكية
تركز المخاوف الرئيسية حول قدرة هذه الألعاب على توليد استجابات غير متوقعة، وذلك بسبب اعتمادها على نماذج لغوية كبيرة. هذه النماذج، وعلى الرغم من قدرتها على إجراء محادثات طبيعية، قد تكون عرضة لإنتاج محتوى ضار أو غير لائق، خاصةً عندما يتم استثارتها بأسئلة معينة أو يتم التلاعب بها.
كيف تعمل هذه الألعاب؟
تعتمد الألعاب الذكية عادةً على تقنية التعرف على الصوت وتحويله إلى نص، ثم معالجة هذا النص بواسطة نموذج لغوي كبير لتوليد استجابة منطقية. تتضمن بعض الألعاب أيضًا القدرة على التعلم من التفاعلات مع المستخدمين، مما قد يؤدي إلى تفاقم المشكلة إذا لم يتم التحكم في عملية التعلم بشكل صحيح. هذه النماذج اللغوية غالباً ما يتم تدريبها على كميات هائلة من البيانات من الإنترنت، والتي قد تحتوي على محتوى غير مرغوب فيه.
تحذيرات الخبراء والمختصين
حذر خبراء في مجال الذكاء الاصطناعي وأمن الإنترنت من أن هذه الألعاب قد تشكل خطرًا على الأطفال. وأشاروا إلى أن الأطفال قد لا يكونون قادرين على تمييز المحتوى المناسب من غير المناسب، وبالتالي قد يتأثرون سلبًا بالمحادثات التي يخوضونها مع هذه الألعاب. كما أثاروا تساؤلات حول مدى حماية بيانات الأطفال الشخصية التي يتم جمعها بواسطة هذه الألعاب.
وقد نشرت مجموعات حماية الطفل بيانات تشير إلى زيادة في الاستفسارات حول هذا النوع من الألعاب من قبل أولياء الأمور. وتناشد هذه المجموعات الشركات المصنعة للألعاب بتطبيق إجراءات أكثر صرامة لضمان سلامة الأطفال وحمايتهم من المحتوى الضار. يركزون تحديدًا على ضرورة وجود مرشحات قوية للمحتوى، بالإضافة إلى آليات مراقبة فعالة.
بالإضافة إلى ذلك، هناك قلق متزايد بشأن تأثير هذه الألعاب على التطور الاجتماعي والعاطفي للأطفال. فقد يميل الأطفال إلى الاعتماد على الألعاب كبديل للتفاعل البشري، مما قد يؤثر سلبًا على قدرتهم على بناء علاقات صحية وتطوير مهارات التواصل.
ردود الفعل الرسمية والتحقيقات الجارية
بدأت السلطات في عدة دول في التحقيق في هذه القضية. وفي الولايات المتحدة، أعلن المدعي العام في ولاية كاليفورنيا عن فتح تحقيق في ممارسات الشركات المصنعة للألعاب الذكية، وذلك لتقييم مدى امتثالها لقوانين حماية الأطفال. وتشمل التحقيقات جمع معلومات حول كيفية جمع الشركات لبيانات الأطفال واستخدامها، بالإضافة إلى تقييم فعالية إجراءات الأمان التي تطبقها. أمان الأطفال هو الأولوية القصوى.
أما في الاتحاد الأوروبي، فقد أعلنت المفوضية الأوروبية عن مراجعة شاملة للوائح المتعلقة بالذكاء الاصطناعي، بهدف ضمان حماية المستخدمين، وخاصةً الأطفال، من المخاطر المحتملة. تدرس المفوضية إمكانية فرض قيود أكثر صرامة على استخدام الذكاء الاصطناعي في المنتجات الموجهة للأطفال، بالإضافة إلى مطالبة الشركات المصنعة بتوفير المزيد من الشفافية حول كيفية عمل هذه المنتجات. و تدرس اللجنة أيضًا قوانين الخصوصية الرقمية.
في المملكة المتحدة، أصدرت هيئة تنظيم الاتصالات والأوساط الإعلامية (Ofcom) تحذيرًا للمستهلكين بشأن مخاطر الألعاب الذكية، ونصحت أولياء الأمور بمراقبة تفاعلات أطفالهم مع هذه الألعاب والإبلاغ عن أي محتوى غير لائق. وشددت الهيئة على أن الشركات المصنعة للألعاب تتحمل مسؤولية ضمان سلامة منتجاتها وحماية الأطفال من الأذى.
في دول الخليج العربي، لم يصدر حتى الآن بيان رسمي من قبل الحكومات، ولكن بدأت بعض الجهات المختصة في جمع المعلومات ومراقبة السوق. ومن المتوقع أن تتخذ هذه الجهات إجراءات مماثلة للإجراءات التي اتخذتها الحكومات في الولايات المتحدة وأوروبا، وذلك لضمان حماية الأطفال. يشمل ذلك فحص المنتجات المتاحة وتقييم المخاطر المحتملة واتخاذ الإجراءات اللازمة للحد من هذه المخاطر.
حتى الآن، أعلنت بعض الشركات المصنعة للألعاب الذكية عن التزامها بالتعاون مع السلطات والتحقيق في هذه القضية. كما وعدت بتطبيق إجراءات أكثر صرامة لضمان سلامة أطفالها وحمايتهم من المحتوى الضار. وتشمل هذه الإجراءات تحسين مرشحات المحتوى وتعزيز آليات المراقبة وتوفير المزيد من الشفافية حول كيفية عمل الألعاب.
من المتوقع أن تصدر نتائج التحقيقات الرسمية في غضون الأسابيع القليلة القادمة، مما قد يؤدي إلى تغييرات كبيرة في طريقة تصميم وتسويق الألعاب الذكية. التكنولوجيا التعليمية للأطفال تحتاج إلى رقابة.