يقول رأس المال الاستثماري أن التأكد من أن “الروبوتات القاتلة” لا تتجول هي “تكلفة ممارسة الأعمال التجارية” في Defense AI

• يجادل القادة العسكريون أن الذكاء الاصطناعي له دور مهم في الحرب المستقبلية.
• كان هناك تحول في تعاون الصناعة مع وزارة الدفاع عن الذكاء الاصطناعي والاستقلالية.
• وقال دوغ فيليبون من سنو فيليبون إن الذكاء الاصطناعى في التكنولوجيا العسكرية يجب أن يلتزم بالأطر الأخلاقية.

لا أحد يريد “روبوتات قاتلة” ، لذا فإن التأكد من أن أنظمة الذكاء الاصطناعي لا تتجول هي “تكلفة ممارسة الأعمال التجارية” في التكنولوجيا العسكرية.

وقال دوغ فيليبون ، المؤسس المشارك لـ Snowpoint Ventures ، وهي شركة رأس المال الاستثماري التي تدمج المواهب التقنية مع قضايا الدفاع ، خلال قمة قاعدة ابتكار الأمن القومي في معهد ريغان: “يجب أن تكون قادرًا على صنع الذكاء الاصطناعى الذي يمكنه العمل في إطار أخلاقي ، الفترة”.

وقال “لا أعتقد أن أي شخص ، كما تعلمون ، يحاول أن يكون لديك روبوتات قاتلة تتجول من تلقاء نفسها”.

أوضحت فيليبون أن الشركات العاملة في مجال التكنولوجيا العسكرية التي تستحق الاستثمار فيها يجب أن تكون “تفكيرًا من خلال تلك المشكلات والعمل في تلك البيئة الأخلاقية”. وقال إن هذه ليست قيودًا على التنمية. بدلاً من ذلك ، فهي متطلبات.

تميل الآلات ذاتية الحكم إلى التسبب في درجة معينة من الخوف ، خاصةً عندما يتم تطبيق هذه التقنية على “سلسلة القتل” الخاصة بـ DOD. بينما يؤكد القادة العسكريون أن الأنظمة مهمة للحرب المستقبلية ، فإنها تشكل أيضًا مخاوف أخلاقية بشأن ما قد يعنيه استقلالية الآلة في النهاية.

الأوقات تتغير

يبدو أن مساحة التكنولوجيا الدفاعية تعاني من تحول كبير في المنظور. في الشهر الماضي ، عكست Google الدورة التدريبية على تعهد سابق ضد تطوير أسلحة الذكاء الاصطناعي ، مما دفع انتقادات من بعض الموظفين. ويبدو أن هذه الخطوة تعكس استعدادًا أكبر بين شركات التكنولوجيا الأكثر للعمل مع وزارة الدفاع حول هذه التقنيات.

في جميع أنحاء وادي السيليكون ، “كان هناك تحول ثقافي هائل من” لا توجد طريقة نفكر في الدفاع عن أمريكا “إلى” دعنا ندخل في القتال “، قال توماس روبنسون ، الرئيس التنفيذي للعمليات في شركة Domino Data Lab ، وهي شركة حلول منظمة العفو الدولية ومقرها لندن.

وقال في حدث الأربعاء “إنه مجرد فرق واضح بين بضع سنوات”.

كان هناك ارتفاع حاد في شركات تكنولوجيا الدفاع الأصغر ، والأكثر مرونة ، مثل Anduril ، اقتحام مجالات مثل الأنظمة غير المنقوقة والاستقلالية ، مما يثير وجهة نظر بين بعض قادة تقنية الدفاع بأن إدارة ترامب الجديدة يمكن أن تخلق فرصًا جديدة لوزارة دبي للتشغيل التي يحتمل أن تقدر بمئات الملايين من الملايين ، إذا لم تكن مليارات ، من الدولارات.

لقد أثار جزء من هذا التحول الثقافي المخاوف حول “الأبواب الدوارة” للمسؤولين العسكريين الذين يتجهون إلى عالم تقنية رأس المال الاستثماري بعد التقاعد ، مما يخلق تضاربًا محتملًا في المصالح.

لقد أعطى القادة العسكريون الأمريكيون الأولوية بشكل متزايد تطور قدرات الذكاء الاصطناعى في السنوات الأخيرة ، حيث يجادل البعض بأن أي جانب يهيمن على هذا المجال التقني سيكون الفائز في النزاعات المستقبلية.

في العام الماضي ، قال وزير القوة في آنذاك فرانك كيندال إن الولايات المتحدة مغلقة في سباق التسلح التكنولوجي مع الصين. وقال إن الذكاء الاصطناعي أمر بالغ الأهمية ، و “الصين تتقدم بقوة”.

لقد قام القوات الجوية بتجربة طائرة مقاتلة ذات طيبة من الذكاء الاصطناعى ، من بين أدوات أخرى تدعم الذكاء الاصطناعي ، وكذلك عناصر أخرى من الحلفاء الجيش والأمريكيين الأمريكيين. وقال كيندال في يناير “سنكون في عالم لن يتم فيه اتخاذ القرارات بسرعة الإنسان”. “سوف يصنعون بسرعة الماكينة.”

من المحتمل أن تهيمن تقنيات منظمة العفو الدولية التي تهيمن على مناطق معينة من الصراع المسلح ، بما في ذلك الحرب الإلكترونية والحرب الإلكترونية ، والتي تُقيّم الأحداث التي تحدث بسرعات سريعة لا يمكن تصورها وأبعاد صغيرة لا يمكن تصورها.

الذكاء الاصطناعي مع الدرابزين

وهذا يجعل منظمة العفو الدولية أفضل استثمار. خلال مناقشة يوم الأربعاء ، أعرب ممثل الكونغرس الأمريكي Ro Khanna من كاليفورنيا عن دعمه لاقتراح من المرشح الرئاسي الديمقراطي عام 2020 مايكل بلومبرج ، الذي دعا إلى تحويل 15 ٪ من ميزانية البنتاغون الضخمة إلى التكنولوجيا المتقدمة والناشئة.

بصفته مرشحًا لوزير الدفاع ، التزمت بيت هيغسيث بإعطاء الأولوية للتكنولوجيا الجديدة ، وكتب أن “ميزانية وزارة الدفاع يجب أن تركز على الفتاة والابتكار”. وقال إن “التكنولوجيا تغير ساحة المعركة”.

لكن الاعتبارات الأخلاقية تظل مفتاحًا. في العام الماضي ، ناقش كبار مسؤولي البنتاغون ، على سبيل المثال ، الدرابزينات التي وضعت في مكانها لتهدئة المخاوف من أنها “بناء روبوتات قاتلة في الطابق السفلي”.

وأشارت فيليبون إلى فهم كيفية عمل خوارزميات أداة الذكاء الاصطناعى بالضبط لتنفيذ ساحة المعركة الأخلاقية ، وبالتالي سوف تفهم جودة البيانات التي يتم امتصاصها – وإلا فإنها “قم بالقمامة ، القمامة”.

“سواء كان دجاج تايسون أو هو قسم البحرية ، فأنت تريد أن تكون قادرًا على القول” هذه المشكلة مهمة “، أوضح. “ما هي البيانات التي تجري؟”

وقال “أنت تفهم كيف تتدفق عبر الخوارزميات ، ثم تفهم الإخراج بطريقة قابلة للتدقيق ، حتى تتمكن من فهم كيفية وصولنا إلى هناك”. “ثم تقوم بتدوين تلك القواعد.”

وقال فيليبون إن عتامة المعرفة الملكية لبعض شركات الذكاء الاصطناعي هي “BS” و “نهج الصندوق الأسود” للتكنولوجيا. وقال إن الشركات يجب أن تهدف بدلاً من ذلك إلى اتباع نهج أكثر شفافية في الذكاء الاصطناعي.

“أنا أسميها الصندوق الزجاجي” ، قال. وقال إنه لفهم كيف يمكن أن تساعد الأعمال الداخلية لعمل النظام في تجنب الاختراقات ، “هذا أمر مهم حقًا من منظور الأخلاق وفهم عملية قرارك في مؤسستك”.

قال: “إذا لم تتمكن من مراجعة ذلك ، فهذا يتركك معرضًا”.