من الجنود إلى الخوارزميات: من يقرّر القتل؟

يقدم تقرير «خطر على حقوق الإنسان: الأسلحة الذاتية التشغيل وصنع القرارات الرقمي»، الصادر أخيراً عن منظمة «هيومن رايتس ووتش» (نيسان/أبريل 2025)، عرضاً مفصلاً للتهديدات التي تطرحها أنظمة القتل المؤتمتة. يوضح التقرير أن غياب السيطرة البشرية المباشرة يؤدي إلى انتهاكات خطيرة تمس الحق في الحياة والخصوصية والكرامة. وتطرح الوثيقة موقفاً واضحاً عبر تسجيل تأييد 129 دولة للدعوة إلى التفاوض على معاهدة دولية جديدة لضبط هذه الأنظمة. ينقل التقرير صورة دقيقة عن خطورة الانتقال نحو بيئات قتالية تدار بالكامل بواسطة معادلات حسابية. وتكشف تفاصيله كيف تندمج هذه التكنولوجيا ضمن مشروع أشمل يعيد تنظيم الحياة البشرية تحت منطق السيطرة الرقمية.

القتل كإجراء حسابي

تعمل أنظمة القتل الذاتية التشغيل عبر استقبال إشارات حيوية وحركية من محيطها، مثل الحرارة والحركة والصوت والأنماط. ولأن الأساس هنا نقل فعل القتل إلى الآلة أو الكود أو الروبوت حفاظاً على نظافة الكف، هناك من أمسك بالضحية في معادلة حسابية. إذ تعتمد هذه الأنظمة على المجسات لتحليل المعلومات التي تجمعها، بما في ذلك صور الكاميرات ومسوحات الرادار والأشكال الحرارية. ثم بعد جمع البيانات، تستخدم الخوارزميات نماذج تصنيفية مبرمجة مسبقاً لتحديد مستوى التهديد.

لأن الأساس هنا نقل فعل القتل إلى الآلة أو الكود أو الروبوت حفاظاً على نظافة الكف، هناك من أمسك بالضحية في معادلة حسابية

بمجرد تحديد الهدف بناءً على معايير الخطر، يطلق النظام النار أو يفرغ حمولته من دون مراجعة أو تدخل بشري. يُتخذ فعل القتل كنتيجة مباشرة لمعالجة بيانات داخل بيئة خوارزمية مغلقة، من دون اعتبار للسياق الإنساني أو الإدراك الأخلاقي. فأنظمة القتل الذاتية التشغيل تفتقد القدرة على فهم الألم البشري أو المعاناة النفسية، ما يجعلها غير قادرة على استيعاب وزن القرار بإنهاء حياة إنسان.

لا تتوقّف خطورة أنظمة القتل الذاتية التشغيل عند لحظة الضغط على الزناد الرقمي. تنطلق هذه الأنظمة من بيانات وتجارب ومحدّدات يضعها أشخاص وشركات ومؤسّسات. التحيزات التي تُزرع داخل الخوارزميات تحوّل قرارات القتل إلى نسخ رقمية من التمييز الاجتماعي والسياسي. يشير تقرير «هيومن رايتس ووتش» إلى أن التحيّزات البرمجية الناتجة عن خيارات المطوّرين أو طبيعة بيانات التدريب تؤثر بشكل مباشر في قرارات النظام. وتُظهر حالات متعدّدة كيف تستنسخ الأنظمة الذكية التحيّز ضد فئات عرقية وجندرية ومناطقية بسبب التدريب على بيانات غير محايدة.

من الذي يزرع التحيّز في الآلة؟

فعلياً، الأمر مشابه لتربية الأطفال. طفل وُلد وتربى في أسرة ومجتمع عنصري، من المحتمل أن يرث «أفكارهم». بالتوازي، تُبنى أنظمة الأسلحة الذاتية التشغيل على نماذج تعلم آلي تُدرّب على كميات ضخمة من البيانات المرئية والصوتية والسلوكية. تتلقى الخوارزميات معلومات من ساحات قتال، وأرشيفات مراقبة، وصور حرارية وصوتية وأنماط حركية متعددة، لتتعلّم تمييز «العدو» من «غير العدو". وبالتالي، «شخصية» الآلة مرتبطة مباشرة بأفكار من لقّنوها البيانات. ويشير تقرير «هيومن رايتس ووتش» إلى أن هذه التحيّزات تنتقل إلى أنظمة القتل المؤتمت حين تُبنى على بيانات مشابهة أو آليات تصنيف مبرمجة مسبقاً. يتعلّم النظام من الانحياز ويحوّله إلى معيار. والخطأ الإحصائي يتحول إلى قرار حاسم بإنهاء حياة.

تعتمد بعض الأنظمة الحديثة على تحليل بيانات الهواتف المحمولة لتحديد أهدافها. ويجري ذلك من خلال استخدام تقنية تُعرف بـ Triangulation، أي تحديد الموقع الجغرافي للأجهزة عبر إشارات الأبراج الخلوية المحيطة. عند تشغيل هذا النظام في ساحة قتال، يمكن توجيه هجوم إلى موقع يظهر فيه هاتف يُعتقد أنه يعود إلى «هدف معادٍ». تنطوي هذه الآلية على هامش خطأ كبير، لأنها لا تكشف من يملك الهاتف فعلياً، إنما موقع الجهاز لحظة الالتقاط فقط.

تُظهر حالات متعدّدة كيف تستنسخ الأنظمة الذكية التحيّز ضد فئات عرقية وجندرية ومناطقية بسبب التدريب على بيانات غير محايدة

تخيّلوا سيناريو تجسّسي تتعقب فيه الخوارزمية رقم هاتف معروف، ثم تجد الهاتف في مبنى سكني، فتعتبره «مؤشراً حرارياً للعدو». في بيئة مثل هذه، قد تُقصف شقة يسكنها مدنيون فقط لأن أحدهم استعار الهاتف أو التقط إشارته صدفة. يشبّه التقرير هذا النوع من الاستهداف بالاستخدام غير المنضبط لـ«الملامح» أو «البصمات الرقمية»، مثل الوزن أو الصوت أو الحرارة، كبدائل لهوية الشخص، ما يفتح الباب أمام «التصنيف القاتل» المبني على بيانات جزئية أو مضلّلة.

يتفاقم الخطر عندما تُدمج هذه البيانات مع خوارزميات تصنيف آلية. على سبيل المثال، نظام يتعلّم أن وجود هواتف عدة في حي معين مرتبط بعمليات عدائية، قد يُصنّف تلقائياً كل تحرّك هناك على أنه تهديد. تُفقد هذه الطريقة القرار أي تفاعل بشري نقدي، وتستبدله بعمليات تحليل بيانات غير شفافة، قد تُحوّل إشارات تقنية عادية إلى مبرّرات للقتل.

في السياقات المدنية والعسكرية، أظهرت التجارب أن بيانات الهواتف المحمولة لا تحدّد هوية الأفراد بدقة. تُقدّم هذه البيانات مؤشرات احتمالية. وعند تحويل هذه المؤشرات إلى أوامر قتل ذاتي التشغيل، تُصبح التقنية أداة لتنفيذ عقوبات مميتة على أساس افتراضات، لا على أساس أدلة بشرية محققة.

مطاردة وقتل الظلّ

في السنوات الأخيرة، أظهرت تقارير عدة أن استخدام بيانات الهواتف المحمولة في العمليات العسكرية لا يُنتج معلومات دقيقة على المستوى الفردي. في العام 2020، كشف تحقيق لموقع «فايس مذربورد» (Vice Motherboard) أن الجيش الأميركي اشترى بيانات من تطبيقات هاتف إسلامية شعبية (Muslim Pro, Qibla Finder, Prayer Times Muslim App) لتتبع تحرّكات المستخدمين المسلمين حول العالم. لم ترتبط البيانات بأسماء أشخاص حقيقية. استندت إلى إحداثيات GPS ومعرّفات رقمية عامة، مثل معرّف الجهاز (Device ID)، معرّف الإعلانات (Ad ID) المستخدم في تتبع السلوكيات الإعلانية، عنوان IP، ومعرّف GPS الزمني، أي الإحداثيات المرتبطة بزمن محدد. وهذا يعني أن الاستهداف يحصل اعتماداً على أنماط استخدام ووجود، لا على هوية شخصية مثبتة.

في السياق نفسه، ذكرت صحيفة «ذي إنترسبت» في العام 2014، استناداً إلى وثائق سربّها موظف الاستخبارات السابق، إدوارد سنودن، أن برنامجاً أميركياً يُسمى Geo Cell اعتمد على بيانات الهاتف المحمول لتحديد مواقع أهداف في باكستان واليمن. لاحقاً، تبيّن أن البرنامج لم يكن يميز بين «مالك الهاتف» و«حامل الهاتف»، ما أدّى إلى سقوط مدنيين في هجمات صاروخية بناءً على وجود هاتف مشبوه في المكان.

تقنياً، تعتمد خوارزميات تحديد المواقع عبر الهاتف على الاحتمال الإحصائي لا على اليقين. يتشارك كثير من الأجهزة المحمولة مواقع متقاربة، وقد يتنقل هاتف من شخص إلى آخر بسهولة. في مجتمع مدني أو منطقة حرب، ويؤدّي هذا الهامش من الخطأ إلى استهداف الأفراد الخطأ من دون فرصة للتصحيح، لأن القرار يُتخذ مسبقاً عبر خوارزمية قتالية لا تملك القدرة على المراجعة أو التريّث.

يمكن توجيه هجوم إلى موقع يظهر فيه هاتف يُعتقد أنه يعود إلى «هدف معادٍ». تنطوي هذه الآلية على هامش خطأ كبير، لأنها لا تكشف من يملك الهاتف فعلياً، إنما موقع الجهاز لحظة الالتقاط فقط

إذا لم يكن هناك تحقّق بشري مباشر وميداني، فإن الاعتماد على بيانات الهاتف لتحديد الهدف يشبه إطلاق النار على ظلّ؛ لا تُعرف ملامحه، ولا تُفهم نواياه، ولا يُمكن استجوابه.

مصالح تحمي الخوارزمية القاتلة

على الساحة الدولية، هناك إجماع واسع على ضرورة ضبط أنظمة القتل الذاتية التشغيل. وقد أبدى ما لا يقل عن 129 دولة تأييدها العلني للشروع في مفاوضات تهدف إلى صياغة معاهدة دولية ملزمة تنظّم استخدام هذه الأنظمة، وتمنع تطوير أو نشر أي تقنية تُنفذ ضربات قاتلة من دون تحكم بشري ذي معنى.

يقترح تقرير «هيومن رايتس ووتش» 3 عناصر أساسية لهذه المعاهدة: أولاً، فرض التزام عام بالحفاظ على تحكم بشري فعّال في كل مراحل استخدام القوة. ثانياً، حظر شامل لتطوير أو تشغيل الأنظمة التي تستهدف البشر آلياً أو تعمل من دون تدخل مباشر من الإنسان. ثالثاً، وضع ضوابط صارمة على باقي الأنظمة التي لا تدخل في نطاق الحظر الكامل، لضمان الشفافية والإشراف البشري في كل الظروف.

في المقابل، يظهر محور معارضة تقوده قوى عسكرية كبرى لا يذكره التقرير. بحسب قاعدة بيانات مواقف الدول التي تديرها منظمة Automated Decision Research، هناك 12 دولة لا تدعم صياغة معاهدة ملزمة قانونياً، تشمل: الولايات المتحدة وروسيا وبيلاروسيا وبريطانيا وإسرائيل والهند وكوريا الجنوبية واليابان وأستراليا وبولندا وإستونيا وكوريا الشمالية. وبطبيعة الحال، لهذه المعارضة مصالح تكنولوجية واستراتيجية، إذ تنشط معظم هذه الدول في تطوير أنظمة ذاتية القتل تعتمد على الذكاء الاصطناعي، وترى في أي تنظيم دولي للتقنية تهديداً لمستوى تفوّقها العسكري. في المقابل، تسعى غالبية دول العالم إلى سدّ الفجوة القانونية والتقنية التي خلّفها تسارع الأبحاث في هذا المجال، عبر معاهدة تضمن بقاء القرار القاتل في يد الإنسان، لا الخوارزمية.

لهذه المعارضة مصالح تكنولوجية واستراتيجية، إذ تنشط معظم هذه الدول في تطوير أنظمة ذاتية القتل تعتمد على الذكاء الاصطناعي، وترى في أي تنظيم دولي للتقنية تهديداً لمستوى تفوّقها العسكري

ما يبدو في الظاهر تحوّلاً تكنولوجياً محضاً، يُخفي في العمق تغييراً جوهرياً في طبيعة السلطة. عند إعادة تعريف القتل بمثابة عملية بيانات لا تحتاج إلى قرار بشري مباشر، ينزاح مركز الثقل من الجندي أو القائد إلى مهندس النظام ومُصمّم الخوارزمية. وهنا تبدأ السلطة الرقمية بممارسة نفوذها الجديد. سيطرة من دون أوامر، تنبثق من البرمجة نفسها. فتُعاد صياغة العلاقة بين الإنسان والنظام من خلال الكود. وهكذا يتحول القتل إلى أداة داخل «تقنيات السلطة».

في مفهوم ميشال فوكو عن السلطة الحيوية، يظهر هذا النوع من التنظيم. لا تفرض السلطة الموت من الخارج، بل تدمجه في منظومة تهدف إلى إدارة الحياة. يُدرج القتل ضمن نظام فرز وتحليل ومعالجة. ويُقتل الإنسان بناءً على تصنيفه ضمن نمط. لا يعود فاعلاً، ولا يظهر كمن قرّر شيئاً. يتحوّل إلى نتيجة. وصف فوكو هذه البنية في دراسته للسلطة التي تدير الحياة والموت ضمن تقنيات الحكم الحديثة.