"نقتل الناس استناداً إلى البيانات الوصفية": الذكاء الاصطناعي كأداة حرب

بقلم لوكا ماينولدي

روما (وكالة فيدس) - بمناسبة صدور الرسالة البابوية للبابا لاون الرابع عشر المخصصة للذكاء الاصطناعي (AI) في 25 ايار\ مايو، من المفيد مشاركة بعض المعلومات حول استخدام الذكاء الاصطناعي في المجال العسكري.

يُعدّ الذكاء الاصطناعي بإحداث ثورة في جميع مجالات الحياة البشرية، والقطاع العسكري هو من بين أوائل القطاعات التي تستفيد منه. تشكل الحروب الدائرة حالياً، ولا سيما تلك الدائرة في أوكرانيا (منذ عام 2022) وتلك الدائرة في الشرق الأوسط (منذ عام 2023)، ساحات تجارب للأسلحة والتكتيكات العسكرية المبتكرة. ومن بين هذه الأنظمة الروبوتية، مثل الطائرات بدون طيار بجميع أنواعها، بالإضافة إلى أشكال متنوعة من الذكاء الاصطناعي. من اللوجستيات إلى الاستخبارات، ومن تخطيط العمليات العسكرية إلى قيادتها ومراقبتها، ومن كشف الأهداف إلى توجيه الأسلحة الروبوتية المستقلة. لا يوجد مجال لا يُستخدم فيه الذكاء الاصطناعي في السياق العسكري والاستراتيجي.

ومن بين الأنظمة التي تثير مخاوف أخلاقية شديدة تلك التي تسمح بتحديد الأهداف البشرية، التي يتم اختيارها على أساس أشكال من التنميط التلقائي.

"نحن نقتل الناس بناءً على البيانات الوصفية"، يعترف بذلك وبصراحة تامة المدير السابق لوكالة الأمن القومي (NSA، من 1999 إلى 2005) ووكالة الاستخبارات المركزية (CIA، من 2006 إلى 2009)، الجنرال مايكل هايدن، في عام 2014 (وهو زمن بعيد، من الناحية التكنولوجية). لا تشير البيانات الوصفية إلى محتوى رسائل البريد الإلكتروني أو المكالمات الهاتفية، بل إلى البيانات المتعلقة بالرسالة، مثل التاريخ والوقت وموقع المُرسِل والمُستَلم. يتيح الاستخدام المنهجي للبيانات الوصفية إنشاء خرائط علاقات للأهداف المحتملة، مما يجعل ما يُسمى بالتنميط البيئي ممكنًا: الروتين اليومي، ونقاط الضعف المحتملة، والعلاقات الأسرية والصداقات والعلاقات المهنية. وهو نمط يعززه استخدام أدوات الذكاء الاصطناعي مثل نظام لافندر (Lavender) والنظام المسمى هاسبارا (Hasbara) («الإنجيل») اللذين يستخدمهما الجيش الإسرائيلي في غزة، بالإضافة إلى نظام آخر يسمى «أين أبي؟» (Where’s my Daddy؟). يتيح النظام الأول تتبع تحركات آلاف الأشخاص وتحديد أعضاء حماس المحتملين من خلال تحليل الاتصالات الهاتفية، والمنشورات على شبكات التواصل الاجتماعي، والمحادثات على واتساب وغيرها، والتعرف على الوجه، وغير ذلك الكثير. وبناءً على التقارير التي يضعها نظام لافندر، يقوم البرنامج الآخر، هاسبارا، تلقائيًا بوضع قائمة بالأشخاص المستهدفين بالقتل، والتي يتم إرسالها بعد ذلك إلى نظام «أين أبي؟». هذا النظام الأخير، من خلال تتبع تحركات الهواتف المحمولة، ينبه عندما يعيد الشخص المستهدف تشغيل هاتفه (الذي تم إيقاف تشغيله لأسباب أمنية)، عادةً عند عودته إلى منزله.
والمأساة هي أنه خلال حرب غزة، قُتل آلاف الأبرياء لمجرد وجودهم بجانب أو بالقرب من أهداف بشرية حددتها أنظمة الذكاء الاصطناعي التي صُممت في الأصل للاستخدام تحت إشراف بشري دقيق، لكنها استُخدمت دون تحقق دقيق من المعلومات التي تولدها.

في الحرب التي تشنّها إسرائيل والولايات المتحدة ضد إيران، تم استخدام أدوات الذكاء الاصطناعي التي قدمتها شركة بالانتير. تهيمن هذه الشركة الأمريكية، التي تأسست عام 2003، على سوق أدوات الذكاء الاصطناعي المخصصة للأغراض العسكرية والأمنية (ولكن ليس فقط: فالنظام الصحي الوطني البريطاني يستخدمها لتحليل بيانات مرضى جلالة الملكة). وقد لعب نظام مافن، على وجه الخصوص، دورًا محوريًا في العمليات العسكرية من خلال دمج البيانات الواردة من الأقمار الصناعية والطائرات بدون طيار والرادارات والإشارات الإلكترونية ومصادر أخرى لإنشاء «لوحة عملياتية مشتركة» لساحة المعركة. وقد أدى ذلك إلى تسريع مذهل لعملية تحديد الأهداف (”سلسلة الإقصاء“)، مما سمح، على سبيل المثال، لشخص واحد بإدارة في غضون أسابيع قليلة ما كان يتطلب في السابق شهورًا من عمل فرق كاملة من المحللين. يبدو أن النظام يدمج نماذج مثل Claude من Anthropic، وقد استخدمته كل من القوات الأمريكية والإسرائيلية.

إن تعميم استخدام مثل هذه الأدوات، بالإضافة إلى أنه يثير أسئلة أخلاقية خطيرة، سيؤدي إلى الاختفاء التدريجي للكوادر المتوسطة (على سبيل المثال، المسؤولون من المستوى المتوسط المكلفون بتحليل البيانات الأولية)، الذين سيتم استبدالهم بالذكاء الاصطناعي. وهذا بدوره يطرح مشكلة (مشتركة في القطاع المدني، لنفكر في المديرين المتوسطين في الشركات أو الهيئات العامة) تتعلق باختيار وتدريب الطبقات القيادية المستقبلية على أعلى المستويات، نظراً لأن التدريب من القاعدة («اكتساب الخبرة») سيصبح محدوداً بشكل متزايد بسبب استخدام الذكاء الاصطناعي. مع خطر أن يصبح الذكاء الاصطناعي المصدر الوحيد للمعلومات التي تستند إليها القرارات القاتلة. حتى يأتي اليوم الذي يتولى فيه الذكاء الاصطناعي نفسها زمام الأمور.
وهو خطر نلاحظه بالفعل في الأسلحة المستقلة القادرة على اتخاذ قرار القتل دون الرجوع إلى مُشرِف بشري.

إن قرار تطوير واستخدام هذا النوع من الأسلحة هو قرار سياسي. حتى الآن، أعلنت القوى الغربية أنها لا تريد تشغيل أنظمة قاتلة ذاتية التشغيل لا يخضع لسيطرة الإنسان. أما موقف القوى الأخرى فهو أكثر دقة. وفقاً لتقرير للأمم المتحدة، في عام 2020، في ليبيا، ارتكبت طائرة بدون طيار تركية مزودة بالذكاء الاصطناعي أول جريمة قتل موثقة ترتكبها آلة بشكل مستقل تماماً، دون رقابة بشرية. كما تظل التصريحات التي أدلى بها العقيد في سلاح الجو الأمريكي، تاكر هاميلتون، خلال مؤتمر حول الذكاء الاصطناعي عُقد في عام 2023، مثيرة للجدل. وقد أكد أنه، خلال تجربة محاكاة، قامت الطائرة بدون طيار المكلفة بتدمير رادار معادٍ، في الوقت الذي صدرت فيه أوامر لها بوقف الهجوم، بضرب مركز قيادتها الخاص حتى تتمكن من مواصلة مهمتها. وقد تم بعد ذلك التخفيف من حدة تصريحات العقيد الأمريكي، لكن السيناريو المتصور يُعتبر موثوقًا. (وكالة فيدس 21/5/2026)

مشاركة: