تشغل ليلى إبراهيم في «غوغل ديب مايند» منصباً لم يكن موجوداً من قبل: رئيسة قسم الاستعداد للذكاء الاصطناعي، حيث تُركز على كيفية إعداد العالم للتطور السريع للذكاء الاصطناعي. وهي تُساعد الحكومات على التفكير في السياسات، وتُعزز فهم الجمهور للذكاء الاصطناعي، وتعمل على ضمان استخدام «جوجل» للذكاء الاصطناعي بمسؤولية.

وتقول ليلى إبراهيم، التي شغلت سابقاً منصب الرئيس التنفيذي للعمليات في «ديب مايند» لمدة ثماني سنوات تقريباً: «أتمنى لو كان المزيد من الناس يُجرون هذا النوع من الحوارات، لأنني أعتقد أن لدينا القدرة على التأثير في كيفية تشكيل هذا المجال».

تحسين الوعي بالذكاء الاصطناعي

يتضمن جزء من العمل تحسين الوعي بالذكاء الاصطناعي. تقول: «إن كنت لا تستخدمه، فلن تُتاح لك الفرصة لاتخاذ قرارات مدروسة بشأن المجالات التي تشعر فيها بالراحة عند استخدامه أو عدم استخدامه، أو كيفية تطوير الأمور».

وتتساءل: «كيف يمكننا أن نُساعد المعلمين على الشعور بالراحة عند التعامل مع البرمجة وإنشاء أدوات لفصولهم الدراسية؟»، و«كيف نتعاون مع صانعي السياسات لفهم الذكاء الاصطناعي؟».

تمارين ميدانية في سنغافورة

وفي وقت سابق من هذا العام، قاد فريقها تمريناً تمثيلياً مع مسؤولين في سنغافورة، لمساعدتهم على دراسة كيف يمكن للذكاء الاصطناعي أن يُعيد تشكيل اكتشاف الأمراض، وما قد يعنيه ذلك لإصلاح نظام الرعاية الصحية أو الحاجة إلى مؤسسات علمية جديدة. في هذا التمرين، المشابه لأعمال الشركة في أماكن أخرى.

وقد اقترح المسؤولون بعض السياسات، ثم درسوا كيف يمكن أن يتغير المشهد بعد عامين، ما قد يُحفز تغييرات إضافية في السياسات. كما يعمل فريقها مع الحكومات لتقييم كيفية تأثير الذكاء الاصطناعي الفاعل على الوظائف، وأين قد تكون هناك حاجة إلى إعادة تأهيل المهارات.

وتقول: «نحن نعرف إلى أين تتجه التكنولوجيا، لذا يمكننا التعامل مع هذه المحادثات بطريقة أكثر تعاوناً، مدركين أن التكنولوجيا لم تصل بعد، ولكن ما الذي نحتاج إلى فعله للاستعداد لما هو قادم؟

* مجلة «فاست كومباني».

تُفكّر إليزابيث مينور منذ سنوات في مخاطر الذكاء الاصطناعي، وتحديداً الأسلحة ذاتية التشغيل. ومينور هي رئيسة قسم السياسات في «أوقفوا الروبوتات القاتلة»، وهو تحالف تأسس عام 2012 لضمان احتفاظ البشر بالسيطرة على التكنولوجيا في أوقات الحرب. وقد نما هذا التحالف ليُمثّل أكثر من 300 منظمة في أكثر من 70 دولة، بما في ذلك «هيومن رايتس ووتش» ومنظمة العفو الدولية، كما كتبت ريبيكا هايلويل(*).

خرق أطر القانون الدولي

تُوضّح مينور قائلةً: «هذا أمرٌ يُهمّ العالم أجمع، لذا يجب أن يكون هناك تفاوض في إطار القانون الدولي. لا يزال القانون الدولي مُهماً، حتى وإن كان مُعرّضاً للهجمات في الوقت الراهن، وله قيودٌ تُحدّد كيفية رسم حدود ما هو مُتاح في العالم».

تسعى مينور ومنظمة «أوقفوا الروبوتات القاتلة» إلى استخدام القانون الدولي بوصفه أداةً في مكافحة انتشار أسلحة الذكاء الاصطناعي. ويتضمن جزء كبير من عملها حضور اجتماعات في الأمم المتحدة، في كل من نيويورك وجنيف. وتسعى المنظمة إلى إبرام معاهدة دولية يمكن لجميع الدول التوقيع عليها للحد من استخدام الأسلحة ذاتية التشغيل، على غرار اتفاقيات نزع السلاح والحد من التسلح التي أبرمها المجتمع الدولي بالفعل.

استخدام إسرائيل وأميركا للذكاء الاصطناعي

وقد ازداد عمل منظمة «أوقفوا الروبوتات القاتلة» أهميةً مع تزايد استخدام الذكاء الاصطناعي في ساحات المعارك. وتشير مينور إلى بعض الأمثلة من النزاعات الأخيرة، بما في ذلك استخدام إسرائيل لتقنية تحديد الأهداف خلال الحرب على غزة، واستناد الولايات المتحدة إلى نظام «كلود» في عمليتها للقبض على نيكولاس مادورو وفي الحرب على إيران.

وتوضح مينور قائلةً: «خلال العقد الماضي فقط، شهدنا تسارعاً هائلاً في محاولات تطوير هذه الأدوات ودمجها في استخدامها في ساحات المعارك». لقد رأينا دولاً أكثر تُعلن أن هذا النوع من الحرب «الثورية» مرغوب فيه وضروري، بدلاً من اعتباره أمراً خطيراً لا ترغب أبداً في خوضه.

* مجلة «فاست كومباني».

أفاد مسؤول رفيع المستوى في قطاع الصناعات الدفاعية الأوكرانية لمجلة «نيو ساينتست» بأن اختباراً أُجري قبل عامين على طائرات مسيّرة ذاتية التشغيل بالكامل، مُصممة لتدمير أي شيء في منطقة محددة، أسفر عن وقوع إصابات مؤكدة.

مسيرات روبوتية قاتلة

شمل الاختبار الذي أُجري لمرة واحدة، 10 طائرات مسيّرة من طراز «تيرميناتور Terminator» (المُدمر) تعمل بالذكاء الاصطناعي على خط المواجهة في الحرب الأوكرانية. وقُتل جنود روس، كما كتب ماثيو سباركس (*). ويقول ألكسندر كوخانوفسكي، المشرف على تصنيع الطائرات المسيّرة: «لقد جربنا ذلك. إنه اختبار، ولم نُطبّقه على نطاق أوسع».

وقد أُجري الاختبار قبل عامين، وشمل طائرات مسيّرة رباعية المراوح مُبرمجة للطيران باتجاه خط المواجهة، وقطع مسافة تتراوح بين 3 و5 كيلومترات خلال نحو 10 دقائق، ثم تفعيل «وضع تيرميناتور»، حيث يقوم نموذج الذكاء الاصطناعي بالبحث عن الأهداف واعتراضها.

إبادة شاملة

ويضيف كوخانوفسكي: «نطلقها ببساطة، ونعلم أن كل شيء سيُباد. كل ما يُعثر عليه في هذه المنطقة سيُباد». ويضيف: «لا يوجد أي اتصال بالطائرة المسيّرة على الإطلاق، لا يمكنك رؤية الفيديو، لا شيء... وكل من تراه سيُقتل».

ولعدم وجود أي وسيلة لمعرفة ما رصدته الطائرات المسيّرة الآلية أو ما استهدفته، أُرسلت طائرات مسيّرة يقودها طيارون بشريون إلى المنطقة لاحقاً للتحقق من النتائج يدوياً. ويشير كوخانوفسكي إلى أن الضحايا كانوا «جنديين وشاحنة واحدة». وبينما لا يوجد تسجيل للطائرات المسيّرة الآلية وهي تهاجم هذه الأهداف، فقد استُنتج أنها قتلتهم.

ويقول كوخانوفسكي إنه نُفذ بواسطة وحدة عسكرية، لم يُكشف عن اسمها، بالقرب من مدينتي باخموت وتشاسيف يار، كجزء من هجوم مضاد أوكراني. ولم ترد وزارة الدفاع الأوكرانية على أسئلة حول الاختبار أو الموقف القانوني الحالي بشأن استخدام الأسلحة ذاتية التشغيل بالكامل.

ذكاء اصطناعي مستقل عن البشر

يُعدّ استخدام الذكاء الاصطناعي شائعاً في الجيوش حول العالم، حيث يُساعد في اختيار الأهداف من بين كميات هائلة من البيانات الاستخباراتية، وأتمتة بعض وظائف الأسلحة، إلا أن العنصر البشري يبقى حاضراً في مرحلة ما. ويُعتبر اعتراف كوخانوفسكي أقوى دليل حتى الآن على وقوع حالة وفاة في معركة نتيجة استخدام الذكاء الاصطناعي وحده.

وفقاً لمصادر في شركات الدفاع فإن الحكومة الأوكرانية تحظر حالياً استخدام الذكاء الاصطناعي في المرحلة النهائية من اعتراض الأهداف، على الرغم من استخدامه في أجزاء كثيرة من العملية بواسطة العديد من الأجهزة حتى تلك المرحلة. ويقول كوخانوفسكي إن الحكومة تُدرك القدرات المتنامية للذكاء الاصطناعي، وأنها تُجري محادثات مع شركات الدفاع حول إمكانية تخفيف القواعد.

وكانت تقارير قد أشارت في عام 2023 إلى أن طائرات هجومية أوكرانية مُسيّرة مُجهزة بالذكاء الاصطناعي كانت تعثر على أهداف وتهاجمها دون مساعدة بشرية، ولكنها كانت تُستخدم ضد مركبات مثل الدبابات، وليس ضد المشاة. ولم يتم تأكيد وقوع أي إصابات بشرية في ذلك الوقت.

دعوات لحظر النظم القاتلة ذاتية التشغيل

رغم عدم وجود حظر دولي رسمي على الأسلحة ذاتية التشغيل القادرة على القتل دون تدخل بشري، فقد دعا الأمين العام للأمم المتحدة، أنطونيو غوتيريش، إلى فرض حظر، مصرحاً العام الماضي بأنه «لا مكان لأنظمة الأسلحة الفتاكة ذاتية التشغيل في عالمنا». وأشارت الأمم المتحدة إلى وجود مخاوف من أن تنتهك هذه الأسلحة القوانين الدولية الإنسانية وقوانين حقوق الإنسان، وذلك بإقصاء العنصر البشري عن العمليات العسكرية. كما يُوجد خطر من أن ترتكب الأنظمة ذاتية التشغيل أخطاءً، سواء بمهاجمة جنود من الجانب نفسه أو مدنيين.

وتعمل معظم الجيوش على تطوير أجهزة تُؤتمت جزءاً على الأقل من عملية مهاجمة الأهداف، إذ تمتلك الولايات المتحدة برمجيات تجمع وتحلل كميات هائلة من البيانات المتنوعة، وتختار أهدافاً في ساحة المعركة يمكن استهدافها بطائرات مسيرة. ولكن، نظرياً، يتطلب ذلك تأكيداً بشرياً. وقد وردت مزاعم بأن الولايات المتحدة تُطور أيضاً ما يُسمى بطائرات «حارس المرمى Goalkeeper» المسيرة، وطائرات «ويبلش Whiplash» البحرية المسيرة، القادرة على تحديد أهدافها وتدميرها.

مسيرات تركية قاتلة

وكان تقرير للأمم المتحدة قد صدر عام 2021، أشار إلى احتمال استخدام طائرة «كارغ -2» Kargu-2 رباعية المراوح، من إنتاج شركة تركية، في هجمات ذاتية على البشر في العام السابق. ولم يُفصّل التقرير مصدر هذه الادعاءات أو ما إذا كان قد سقط قتلى أو جرحى، لكنه رجّح أن حكومة «الوفاق الوطني» الليبية استخدمت هذه الطائرات المسيّرة ضد قوات حفتر المنسحبة.

أنظمة أميركية

وصرح الرائد دانيلو بولوجوخنو، وهو شخصية بارزة في فوج الأنظمة غير المأهولة الحادي والعشرين التابع للفيلق الثالث بالجيش الأوكراني، الذي لم يكن على علم بالتجربة أو مشاركاً فيها، لمجلة «نيو ساينتست» بأن جنوده يستخدمون أنظمة تحكم شبه ذاتية، لكن يبقى هناك عنصر بشري في عملية التحكم.

ويضيف بولوجوخنو: «تستطيع هذه الأنظمة والمنصات المسيّرة تحديد الأهداف وتتبعها تلقائياً، فضلاً عن توجيه نفسها ذاتياً خلال الأمتار الأخيرة من الاقتراب، ما يُسهّل عمل المشغلين. مع ذلك، لا نستخدم أنظمة مسيّرة ذاتية التشغيل بالكامل تقوم باختيار الأهداف ومهاجمتها بشكل مستقل دون أي تدخل بشري».

هل نريد مجتمعاً يقتل الآخرين.. دون تدخل بشري؟

وتقول مارياروزاريا تاديو الباحثة في جامعة أكسفورد، إن القتل باستخدام الذكاء الاصطناعي يسلب كرامة الجندي، ويُعفي المهاجم من المسؤولية، ويجب حظره. وتضيف: «الأمر ليس مجرد مشكلة، بل هو أمر مروع. هل نريد أن نكون مجتمعاً يقتل الآخرين، ويسمح لحكومته بقتل الآخرين، دون تدخل بشري؟».

طائرات اعتراضية ذاتية التشغيل

يقول كوخانوفسكي إن مشروع «المُدمر» لم يتقدم منذ تجربته، بسبب القوانين الأوكرانية. وهو الآن الرئيس التنفيذي لشركة «أيرو سنتر» لصناعة الطائرات المسيّرة - التي يقول إنها لم تشارك في التجربة لأنها لم تكن قد أُنشئت آنذاك - وهي شركة أوكرانية تعمل على تطوير طائرات اعتراضية ذاتية التشغيل. صُممت هذه الطائرات لاستهداف مسيرات «شاهد» الروسية الانتحارية القادمة وإسقاطها قبل وصولها إلى مناطق مكتظة بالمدنيين أو بنى تحتية حيوية.

سيتألف نظام «أليتا» التابع للشركة من 16 منصة إطلاق، مُجهزة بـ64 طائرة مسيّرة. سيكون النظام جاهزاً بحلول أكتوبر (تشرين الأول) المقبل، وقادراً على رصد الطائرات المسيّرة القادمة، والإقلاع تلقائياً، والتحرك نحو الهدف بسرعة 450 كيلومتراً في الساعة، لإسقاط أي شيء بدءاً من الطائرات المسيّرة الصغيرة وصولاً إلى المروحيات.

لكن القوانين الأوكرانية الحالية تمنع التشغيل الذاتي الكامل، وتُلزم بشرياً بالتحقق من الأهداف في المراحل النهائية للاعتراض. حتى في هذه الحالة، لن تحتاج مجموعة الطائرات المسيّرة الـ 64 بأكملها إلا إلى مُشغّلين بشريين فقط، ما يعني تقليصاً كبيراً في عدد الأفراد.

* مجلة «نيو ساينتست»، خدمات «تريبيون ميديا».