تجارب إسرائيل منظمة العفو الدولية في حرب غزة تثير المخاوف الأخلاقية

في أواخر عام 2023 ، كانت إسرائيل تهدف إلى اغتيال إبراهيم بياري ، قائد أفضل حماس في قطاع غزة الشمالي الذي ساعد في التخطيط لمذابر 7 أكتوبر. لكن الذكاء الإسرائيلي لم يتمكن من العثور على السيد بياري ، الذي اعتقدوا أنه كان مخفيًا في شبكة الأنفاق تحت غزة.

لذلك تحول الضباط الإسرائيليون إلى تكنولوجيا عسكرية جديدة مملوءة بالذكاء الاصطناعي ، وقيل ثلاثة من المسؤولين الإسرائيليين والأمريكيين في الأحداث. تم تطوير التكنولوجيا قبل عقد من الزمان ولكن لم يتم استخدامها في المعركة. وقال الشعب إن العثور على السيد Biari وفر حافزًا جديدًا لتحسين الأداة ، لذلك سرعان ما دمج المهندسون في وحدة إسرائيل 8200 ، ما يعادل البلاد لوكالة الأمن القومي ، من الذكاء الاصطناعي.

بعد ذلك بوقت قصير ، استمعت إسرائيل إلى مكالمات السيد Biari واختبرت أداة AI Audio ، والتي أعطت موقعًا تقريبيًا للمكان الذي كان يقوم فيه بإجراء مكالماته. باستخدام هذه المعلومات ، أمرت إسرائيل بغارات جوية لاستهداف المنطقة في 31 أكتوبر 2023 ، مما أسفر عن مقتل السيد بياري. توفي أكثر من 125 مدنيًا أيضًا في الهجوم ، وفقًا لـ Airwars ، وهو مراقب للنزاعات ومقره لندن.

كانت الأداة الصوتية مجرد مثال واحد على كيفية استخدام إسرائيل الحرب في غزة لاختبار ونشر التقنيات العسكرية المدعومة من الذكاء الاصطناعى إلى درجة لم يسبق لها مثيل ، وفقًا لمقابلات مع تسعة من مسؤولي الدفاع الأمريكي والإسرائيلي ، الذين تحدثوا عن حالة هويته لأن العمل سيء.

خلال الـ 18 شهرًا الماضية ، قامت إسرائيل أيضًا بدمج منظمة العفو الدولية مع برنامج التعرف على الوجه لتتناسب مع الوجوه المحببة أو المصابة جزئيًا إلى هويات حقيقية ، وتحولت إلى منظمة العفو الدولية لتجميع أهداف الغارة الجوية المحتملة ، وإنشاء نموذج منظمة العفو الدولية باللغة العربية لتشغيل برنامج chatbot الذي يمكنه مسح الرسائل النصية ومواقع التواصل الاجتماعي الأخرى ، وبيانات ذاتية اللغة العربية ، حسبما قال شخصان من البرامج.

وقال ثلاثة أشخاص لديهم معرفة بالتقنيات إن العديد من هذه الجهود كانت شراكة بين الجنود المجندين في الوحدة 8200 والجنود الاحتياطي الذين يعملون في شركات التكنولوجيا مثل Google و Microsoft و Meta. وقال الشعب إن الوحدة 8200 قامت بإنشاء ما أصبح يعرف باسم “The Studio” ، وهو مركز للابتكار ومكان لمطابقة الخبراء مع مشاريع الذكاء الاصطناعي.

ومع ذلك ، عندما تسابق إسرائيل لتطوير ترسانة الذكاء الاصطناعى ، أدى نشر التقنيات في بعض الأحيان إلى هوية واعتقال خاطئ ، وكذلك الوفيات المدنية ، حسبما قال المسؤولون الإسرائيليون والأمريكيون. كافح بعض المسؤولين مع الآثار الأخلاقية لأدوات الذكاء الاصطناعى ، مما قد يؤدي إلى زيادة المراقبة وغيرها من عمليات القتل المدني.

وقال مسؤولو الدفاع الأوروبي والأمريكي ، إنه لم تكن أي دولة أخرى نشطة مثل إسرائيل في تجربة أدوات الذكاء الاصطناعى في المعارك في الوقت الفعلي.

وقال هاداس لوربر ، رئيس معهد الأبحاث التطبيقية في معهد هولون في هولون الإسرائيلي ومدير كبير في مجلس الأمن القومي الإسرائيلي: “إن الحاجة الملحة للتعامل مع الأزمة المتسارعة للابتكار ، والكثير منها يعمل بذاكرة الوصول العشوائي”. “لقد أدى ذلك إلى تغيير التقنيات في ساحة المعركة والمزايا التي أثبتت أهمية في القتال.”

وقالت السيدة لوربر إن التقنيات “تثير أيضًا أسئلة أخلاقية خطيرة”. وحذرت من أن الذكاء الاصطناعى يحتاج إلى شيكات وأرصدة ، مضيفة أن البشر يجب أن يتخذوا القرارات النهائية.

وقالت متحدثة باسم جيش إسرائيل إنها لا تستطيع التعليق على تقنيات محددة بسبب “طبيعتها السرية”. وقالت إن إسرائيل “ملتزمة بالاستخدام القانوني والمسؤول لأدوات تكنولوجيا البيانات” ، مضيفة أن الجيش كان يحقق في الإضراب على السيد بياري وكان “غير قادر على تقديم أي معلومات أخرى حتى يكتمل التحقيق”.

ورفض Meta و Microsoft التعليق. وقالت Google إن لديها “موظفين يقومون بواجبهم في مختلف البلدان في جميع أنحاء العالم. إن العمل الذي يقوم به هؤلاء الموظفون كوجبات احتياطية غير مرتبط بـ Google.”

استخدمت إسرائيل الصراعات سابقًا في غزة ولبنان لتجربة الأدوات التقنية وتعزيزها لجيشها ، مثل الطائرات بدون طيار وأدوات القرصنة الهاتفية ونظام الدفاع عن القبة الحديدية ، والتي يمكن أن تساعد في اعتراض الصواريخ الباليستية قصيرة المدى.

بعد أن شنت حماس هجمات عبر الحدود إلى إسرائيل في 7 أكتوبر 2023 ، مما أسفر عن مقتل أكثر من 1200 شخص وأخذ 250 رهينة ، تم تطهير تقنيات الذكاء الاصطناعى بسرعة للنشر ، حسبما قال أربعة من المسؤولين الإسرائيليين. وقالوا إن ذلك أدى إلى التعاون بين الوحدة 8200 والجنود الاحتياطي في “الاستوديو” لتطوير إمكانات جديدة من الذكاء الاصطناعي.

وقال آفي هاسون ، الرئيس التنفيذي لشركة Startup Nation Central ، وهي منظمة غير ربحية إسرائيلية تربط المستثمرين مع الشركات ، إن الاحتياطات من Meta و Google و Microsoft أصبحت حاسمة في قيادة الابتكار في الطائرات بدون طيار وتكامل البيانات.

وقال: “جلب جنود الاحتياط المعرفة والوصول إلى التقنيات الرئيسية التي لم تكن متوفرة في الجيش”.

سرعان ما استخدم جيش إسرائيل الذكاء الاصطناعي لتعزيز أسطولها بدون طيار. وقال أبيف شابيرا ، مؤسس ورئيس شركة Xtend ، وهي شركة برمجيات وطائرات بدون طيار التي تعمل مع الجيش الإسرائيلي ، إن الخوارزميات التي تعمل بمواد الذكاء الاصطناعى تستخدم لبناء الطائرات بدون طيار لقفل الأهداف وتتبعها من مسافة بعيدة.

وقال: “في الماضي ، اعتمدت قدرات العودة إلى الصفر على صورة الهدف”. “يمكن الآن من الذكاء الاصطناعي التعرف على الكائن نفسه وتتبعه – قد تكون سيارة متحركة ، أو شخص – بدقة مميتة.”

قال السيد شابيرا إن عملائه الرئيسيين ، الجيش الإسرائيلي ووزارة الدفاع الأمريكية ، كانوا على دراية بالآثار الأخلاقية لوكالة الذكاء الاصطناعى في الحرب وناقشوا الاستخدام المسؤول للتكنولوجيا.

قال ثلاثة ضباط إسرائيليين على دراية بالبرنامج إن إحدى الأدوات التي طورتها “The Studio” كانت نموذج AI باللغة العربية يعرف باسم نموذج اللغة الكبيرة. (تم الإبلاغ عن نموذج اللغة الكبير في وقت سابق من قبل Plus 972 ، وهو موقع إخباري إسرائيلي فلسطيني.)

كافح المطورون سابقًا لإنشاء مثل هذا النموذج بسبب ندرة بيانات اللغة العربية لتدريب التكنولوجيا. عندما كانت هذه البيانات متاحة ، كانت في الغالب باللغة العربية المكتوبة القياسية ، والتي هي أكثر رسمية من العشرات من اللهجات المستخدمة في اللغة العربية المنطوقة.

وقال الضباط الثلاثة إن الجيش الإسرائيلي لم يواجه هذه المشكلة. كان لدى البلاد عقودًا من الرسائل النصية المعتادة والمكالمات الهاتفية المكتوبة والمنشورات التي تم كشطها من وسائل التواصل الاجتماعي في لهجات اللغة العربية المنطوقة. لذلك قام الضباط الإسرائيليون بإنشاء نموذج اللغة الكبير في الأشهر القليلة الأولى من الحرب وبنوا chatbot لتشغيل الاستعلامات باللغة العربية. وقال أربعة من المسؤولين الإسرائيليين إنهم قاموا بدمج الأداة مع قواعد بيانات الوسائط المتعددة ، مما يسمح للمحللين بتشغيل عمليات تفتيش معقدة عبر الصور ومقاطع الفيديو.

وقال ثلاثة ضباط إسرائيليين إنه عندما اغتيلت إسرائيل زعيم حزب الله حسن نصر الله في سبتمبر ، حلل الدردشة الردود في العالم الناطق باللغة العربية. تباينت التكنولوجيا بين لهجات مختلفة في لبنان لقياس رد الفعل العام ، مما يساعد إسرائيل على تقييم ما إذا كان هناك ضغط عام من أجل counterstrike.

في بعض الأحيان ، لم يتمكن chatbot من تحديد بعض المصطلحات والكلمات الإلهية الحديثة التي تم ترجمتها من اللغة الإنجليزية إلى اللغة العربية ، على حد قول ضابطان. وقال أحد الضباط إن هذا يتطلب من ضباط المخابرات الإسرائيليين ذوي الخبرة في لهجات مختلفة لمراجعة وتصحيح عملها.

وقال ضباط الاستخبارات الإسرائيليين إن chatbot قد قدم أحيانًا إجابات خاطئة – على سبيل المثال ، عودة الصور للأنابيب بدلاً من الأسلحة – قال ضابطون الاستخبارات الإسرائيليان. ومع ذلك ، فإن أداة الذكاء الاصطناعى تسارعت بشكل كبير في البحث والتحليل.

عند نقاط التفتيش المؤقتة التي تم إنشاؤها بين قطاع غزة الشمالي والجنوبي ، بدأت إسرائيل أيضًا في تجهيز الكاميرات بعد هجمات 7 أكتوبر مع القدرة على مسح الصور عالية الدقة للفلسطينيين إلى برنامج التعرف على الوجه المدعوم من الذكاء الاصطناعى.

هذا النظام ، أيضًا ، واجه في بعض الأحيان مشكلة في تحديد الأشخاص الذين تم حجب وجوههم. وقال ضباط الاستخبارات الإسرائيليين إن ذلك أدى إلى اعتقالات واستجوابات الفلسطينيين الذين تم وضع علامة عليه عن طريق الخطأ من قبل نظام التعرف على الوجه.

كما استخدمت إسرائيل الذكاء الاصطناعي للخلع من خلال البيانات التي جمعها مسؤولو الاستخبارات على أعضاء حماس. قبل الحرب ، قامت إسرائيل ببناء خوارزمية تعلم الآلة-“اللافندر” المسمى “لافندر”-والتي يمكن أن تصنف بسرعة للبحث عن مسلحين منخفضة المستوى. تم تدريبه على قاعدة بيانات لأعضاء حماس المؤكدين ويهدف إلى التنبؤ بمن قد يكون جزءًا من المجموعة. على الرغم من أن تنبؤات النظام كانت غير كاملة ، إلا أن إسرائيل استخدمتها في بداية الحرب في غزة للمساعدة في اختيار أهداف الهجوم.

تلوح في الأهداف القليلة أكبر من العثور على قيادة حماس العليا والقضاء عليها. بالقرب من الجزء العلوي من القائمة ، كان السيد بياري ، قائد حماس الذي يعتقد المسؤولون الإسرائيليون دورًا رئيسيًا في التخطيط لهجمات 7 أكتوبر.

وسرعان ما اعترضت الذكاء العسكري لإسرائيل مكالمات السيد بياري مع أعضاء حماس الآخرين ولكن لم يستطع تحديد موقعه. لذا تحولوا إلى أداة الصوت المدعومة من الذكاء الاصطناعي ، والتي حللت أصوات مختلفة ، مثل القنابل الصوتية والغارات الجوية.

بعد استنتاج موقع تقريبي للمكان الذي كان فيه السيد بياري يقوم بإجراء مكالماته ، تم تحذير المسؤولين العسكريين الإسرائيليين من أن المنطقة ، التي تضمنت العديد من المجمعات السكنية ، مكتظة بالسكان ، حسبما قال ضابطان استخبارات. وقالوا إن الغارة الجوية تحتاج إلى استهداف العديد من المباني لضمان اغتيال السيد بياري. كانت العملية خضراء.

منذ ذلك الحين ، استخدمت الذكاء الإسرائيلي أيضًا أداة الصوت إلى جانب الخرائط والصور لمتاهة نفق غزة تحت الأرض لتحديد موقع الرهائن. مع مرور الوقت ، تم صقل الأداة للعثور على الأفراد بدقة أكثر ، حسبما قال ضابطان إسرائيليان.