تُفكّر إليزابيث مينور منذ سنوات في مخاطر الذكاء الاصطناعي، وتحديداً الأسلحة ذاتية التشغيل. ومينور هي رئيسة قسم السياسات في «أوقفوا الروبوتات القاتلة»، وهو تحالف تأسس عام 2012 لضمان احتفاظ البشر بالسيطرة على التكنولوجيا في أوقات الحرب. وقد نما هذا التحالف ليُمثّل أكثر من 300 منظمة في أكثر من 70 دولة، بما في ذلك «هيومن رايتس ووتش» ومنظمة العفو الدولية، كما كتبت ريبيكا هايلويل(*).

خرق أطر القانون الدولي

تُوضّح مينور قائلةً: «هذا أمرٌ يُهمّ العالم أجمع، لذا يجب أن يكون هناك تفاوض في إطار القانون الدولي. لا يزال القانون الدولي مُهماً، حتى وإن كان مُعرّضاً للهجمات في الوقت الراهن، وله قيودٌ تُحدّد كيفية رسم حدود ما هو مُتاح في العالم».

تسعى مينور ومنظمة «أوقفوا الروبوتات القاتلة» إلى استخدام القانون الدولي بوصفه أداةً في مكافحة انتشار أسلحة الذكاء الاصطناعي. ويتضمن جزء كبير من عملها حضور اجتماعات في الأمم المتحدة، في كل من نيويورك وجنيف. وتسعى المنظمة إلى إبرام معاهدة دولية يمكن لجميع الدول التوقيع عليها للحد من استخدام الأسلحة ذاتية التشغيل، على غرار اتفاقيات نزع السلاح والحد من التسلح التي أبرمها المجتمع الدولي بالفعل.

استخدام إسرائيل وأميركا للذكاء الاصطناعي

وقد ازداد عمل منظمة «أوقفوا الروبوتات القاتلة» أهميةً مع تزايد استخدام الذكاء الاصطناعي في ساحات المعارك. وتشير مينور إلى بعض الأمثلة من النزاعات الأخيرة، بما في ذلك استخدام إسرائيل لتقنية تحديد الأهداف خلال الحرب على غزة، واستناد الولايات المتحدة إلى نظام «كلود» في عمليتها للقبض على نيكولاس مادورو وفي الحرب على إيران.

وتوضح مينور قائلةً: «خلال العقد الماضي فقط، شهدنا تسارعاً هائلاً في محاولات تطوير هذه الأدوات ودمجها في استخدامها في ساحات المعارك». لقد رأينا دولاً أكثر تُعلن أن هذا النوع من الحرب «الثورية» مرغوب فيه وضروري، بدلاً من اعتباره أمراً خطيراً لا ترغب أبداً في خوضه.

* مجلة «فاست كومباني».

أفاد مسؤول رفيع المستوى في قطاع الصناعات الدفاعية الأوكرانية لمجلة «نيو ساينتست» بأن اختباراً أُجري قبل عامين على طائرات مسيّرة ذاتية التشغيل بالكامل، مُصممة لتدمير أي شيء في منطقة محددة، أسفر عن وقوع إصابات مؤكدة.

مسيرات روبوتية قاتلة

شمل الاختبار الذي أُجري لمرة واحدة، 10 طائرات مسيّرة من طراز «تيرميناتور Terminator» (المُدمر) تعمل بالذكاء الاصطناعي على خط المواجهة في الحرب الأوكرانية. وقُتل جنود روس، كما كتب ماثيو سباركس (*). ويقول ألكسندر كوخانوفسكي، المشرف على تصنيع الطائرات المسيّرة: «لقد جربنا ذلك. إنه اختبار، ولم نُطبّقه على نطاق أوسع».

وقد أُجري الاختبار قبل عامين، وشمل طائرات مسيّرة رباعية المراوح مُبرمجة للطيران باتجاه خط المواجهة، وقطع مسافة تتراوح بين 3 و5 كيلومترات خلال نحو 10 دقائق، ثم تفعيل «وضع تيرميناتور»، حيث يقوم نموذج الذكاء الاصطناعي بالبحث عن الأهداف واعتراضها.

إبادة شاملة

ويضيف كوخانوفسكي: «نطلقها ببساطة، ونعلم أن كل شيء سيُباد. كل ما يُعثر عليه في هذه المنطقة سيُباد». ويضيف: «لا يوجد أي اتصال بالطائرة المسيّرة على الإطلاق، لا يمكنك رؤية الفيديو، لا شيء... وكل من تراه سيُقتل».

ولعدم وجود أي وسيلة لمعرفة ما رصدته الطائرات المسيّرة الآلية أو ما استهدفته، أُرسلت طائرات مسيّرة يقودها طيارون بشريون إلى المنطقة لاحقاً للتحقق من النتائج يدوياً. ويشير كوخانوفسكي إلى أن الضحايا كانوا «جنديين وشاحنة واحدة». وبينما لا يوجد تسجيل للطائرات المسيّرة الآلية وهي تهاجم هذه الأهداف، فقد استُنتج أنها قتلتهم.

ويقول كوخانوفسكي إنه نُفذ بواسطة وحدة عسكرية، لم يُكشف عن اسمها، بالقرب من مدينتي باخموت وتشاسيف يار، كجزء من هجوم مضاد أوكراني. ولم ترد وزارة الدفاع الأوكرانية على أسئلة حول الاختبار أو الموقف القانوني الحالي بشأن استخدام الأسلحة ذاتية التشغيل بالكامل.

ذكاء اصطناعي مستقل عن البشر

يُعدّ استخدام الذكاء الاصطناعي شائعاً في الجيوش حول العالم، حيث يُساعد في اختيار الأهداف من بين كميات هائلة من البيانات الاستخباراتية، وأتمتة بعض وظائف الأسلحة، إلا أن العنصر البشري يبقى حاضراً في مرحلة ما. ويُعتبر اعتراف كوخانوفسكي أقوى دليل حتى الآن على وقوع حالة وفاة في معركة نتيجة استخدام الذكاء الاصطناعي وحده.

وفقاً لمصادر في شركات الدفاع فإن الحكومة الأوكرانية تحظر حالياً استخدام الذكاء الاصطناعي في المرحلة النهائية من اعتراض الأهداف، على الرغم من استخدامه في أجزاء كثيرة من العملية بواسطة العديد من الأجهزة حتى تلك المرحلة. ويقول كوخانوفسكي إن الحكومة تُدرك القدرات المتنامية للذكاء الاصطناعي، وأنها تُجري محادثات مع شركات الدفاع حول إمكانية تخفيف القواعد.

وكانت تقارير قد أشارت في عام 2023 إلى أن طائرات هجومية أوكرانية مُسيّرة مُجهزة بالذكاء الاصطناعي كانت تعثر على أهداف وتهاجمها دون مساعدة بشرية، ولكنها كانت تُستخدم ضد مركبات مثل الدبابات، وليس ضد المشاة. ولم يتم تأكيد وقوع أي إصابات بشرية في ذلك الوقت.

دعوات لحظر النظم القاتلة ذاتية التشغيل

رغم عدم وجود حظر دولي رسمي على الأسلحة ذاتية التشغيل القادرة على القتل دون تدخل بشري، فقد دعا الأمين العام للأمم المتحدة، أنطونيو غوتيريش، إلى فرض حظر، مصرحاً العام الماضي بأنه «لا مكان لأنظمة الأسلحة الفتاكة ذاتية التشغيل في عالمنا». وأشارت الأمم المتحدة إلى وجود مخاوف من أن تنتهك هذه الأسلحة القوانين الدولية الإنسانية وقوانين حقوق الإنسان، وذلك بإقصاء العنصر البشري عن العمليات العسكرية. كما يُوجد خطر من أن ترتكب الأنظمة ذاتية التشغيل أخطاءً، سواء بمهاجمة جنود من الجانب نفسه أو مدنيين.

وتعمل معظم الجيوش على تطوير أجهزة تُؤتمت جزءاً على الأقل من عملية مهاجمة الأهداف، إذ تمتلك الولايات المتحدة برمجيات تجمع وتحلل كميات هائلة من البيانات المتنوعة، وتختار أهدافاً في ساحة المعركة يمكن استهدافها بطائرات مسيرة. ولكن، نظرياً، يتطلب ذلك تأكيداً بشرياً. وقد وردت مزاعم بأن الولايات المتحدة تُطور أيضاً ما يُسمى بطائرات «حارس المرمى Goalkeeper» المسيرة، وطائرات «ويبلش Whiplash» البحرية المسيرة، القادرة على تحديد أهدافها وتدميرها.

مسيرات تركية قاتلة

وكان تقرير للأمم المتحدة قد صدر عام 2021، أشار إلى احتمال استخدام طائرة «كارغ -2» Kargu-2 رباعية المراوح، من إنتاج شركة تركية، في هجمات ذاتية على البشر في العام السابق. ولم يُفصّل التقرير مصدر هذه الادعاءات أو ما إذا كان قد سقط قتلى أو جرحى، لكنه رجّح أن حكومة «الوفاق الوطني» الليبية استخدمت هذه الطائرات المسيّرة ضد قوات حفتر المنسحبة.

أنظمة أميركية

وصرح الرائد دانيلو بولوجوخنو، وهو شخصية بارزة في فوج الأنظمة غير المأهولة الحادي والعشرين التابع للفيلق الثالث بالجيش الأوكراني، الذي لم يكن على علم بالتجربة أو مشاركاً فيها، لمجلة «نيو ساينتست» بأن جنوده يستخدمون أنظمة تحكم شبه ذاتية، لكن يبقى هناك عنصر بشري في عملية التحكم.

ويضيف بولوجوخنو: «تستطيع هذه الأنظمة والمنصات المسيّرة تحديد الأهداف وتتبعها تلقائياً، فضلاً عن توجيه نفسها ذاتياً خلال الأمتار الأخيرة من الاقتراب، ما يُسهّل عمل المشغلين. مع ذلك، لا نستخدم أنظمة مسيّرة ذاتية التشغيل بالكامل تقوم باختيار الأهداف ومهاجمتها بشكل مستقل دون أي تدخل بشري».

هل نريد مجتمعاً يقتل الآخرين.. دون تدخل بشري؟

وتقول مارياروزاريا تاديو الباحثة في جامعة أكسفورد، إن القتل باستخدام الذكاء الاصطناعي يسلب كرامة الجندي، ويُعفي المهاجم من المسؤولية، ويجب حظره. وتضيف: «الأمر ليس مجرد مشكلة، بل هو أمر مروع. هل نريد أن نكون مجتمعاً يقتل الآخرين، ويسمح لحكومته بقتل الآخرين، دون تدخل بشري؟».

طائرات اعتراضية ذاتية التشغيل

يقول كوخانوفسكي إن مشروع «المُدمر» لم يتقدم منذ تجربته، بسبب القوانين الأوكرانية. وهو الآن الرئيس التنفيذي لشركة «أيرو سنتر» لصناعة الطائرات المسيّرة - التي يقول إنها لم تشارك في التجربة لأنها لم تكن قد أُنشئت آنذاك - وهي شركة أوكرانية تعمل على تطوير طائرات اعتراضية ذاتية التشغيل. صُممت هذه الطائرات لاستهداف مسيرات «شاهد» الروسية الانتحارية القادمة وإسقاطها قبل وصولها إلى مناطق مكتظة بالمدنيين أو بنى تحتية حيوية.

سيتألف نظام «أليتا» التابع للشركة من 16 منصة إطلاق، مُجهزة بـ64 طائرة مسيّرة. سيكون النظام جاهزاً بحلول أكتوبر (تشرين الأول) المقبل، وقادراً على رصد الطائرات المسيّرة القادمة، والإقلاع تلقائياً، والتحرك نحو الهدف بسرعة 450 كيلومتراً في الساعة، لإسقاط أي شيء بدءاً من الطائرات المسيّرة الصغيرة وصولاً إلى المروحيات.

لكن القوانين الأوكرانية الحالية تمنع التشغيل الذاتي الكامل، وتُلزم بشرياً بالتحقق من الأهداف في المراحل النهائية للاعتراض. حتى في هذه الحالة، لن تحتاج مجموعة الطائرات المسيّرة الـ 64 بأكملها إلا إلى مُشغّلين بشريين فقط، ما يعني تقليصاً كبيراً في عدد الأفراد.

* مجلة «نيو ساينتست»، خدمات «تريبيون ميديا».

تُضخ مليارات الدولارات من رأس المال الاستثماري في رهان واحد: إذا تمكنت من توليد إجابة طبية متطورة بسرعة كافية، فقد تكون حققتَ حلاً ذا قيمة في مجال الرعاية الصحية. وهذه الفكرة مغرية، فالأطباء تحت ضغط هائل من الوقت، والمرضى ينتظرون شهوراً، ونماذج اللغة الكبيرة للذكاء الاصطناعي قادرة الآن على إنتاج إجابات دقيقة، ومتعاطفة، وذات مصداقية سريرية في ثوانٍ، وبتكلفة زهيدة ، كما كتب فيكرام بهاسكاران(*).

رهان «خاطئ»... قد يدفع الطب ثمنه

تكمن المشكلة في أن هذا الرهان مبني على خطأ في التصنيف، وقد يدفع الطب ثمنه خلال العقد المقبل، إذ لم يكن الجزء الأصعب في الطب يوماً هو استرجاع المعلومات، بل معرفة أي المعلومات مهمة لهذا المريض، في هذه اللحظة، في ظل ظروف عدم اليقين، مع بيانات غير مكتملة، وعواقب حقيقية، وقيود لم يسبق لأي خوارزمية أن واجهتها.

وتتجسد العواقب في حالات: اللحظة التي لا تتوافق فيها حالة المريض مع تقرير الإحالة.. تحديد الفرق بين «أنا متعب» و«هناك مرض ما».. الشعور بملمس الأنسجة أثناء الجراحة.. القدرة على تحديد متى تنطبق قواعد الدليل الإرشادي، ومتى لا تنطبق، ومتى يكون الدليل نفسه متخلفاً عن الممارسة.

لم تُسجّل أيٌّ من هذه المعلومات بدقة في قاعدة بيانات. ولن يُسجّل الكثير منها أبداً.

الطب: معلومات+ تقديرات مستمدة من الخبرة

يجمع القطاع الطبي بين المعلومات الطبية والتقدير الطبي، بينما تتميز البرامج الذكية بقدرتها الفائقة على تحليل ما هو مدوّن. أما الكثير ممّا يجعل الطب جديراً بالثقة فانه يكمن في مكان آخر تماماً: في الخبرة، وفي السياق، وفي التعرّف على الأنماط المتراكمة عبر آلاف الحالات، وفي التفكير السريري المتبادل بين الأطباء. هذا الجزء الأخير بالغ الأهمية، وهو الجزء الذي تجاهله وادي السيليكون تماماً.

يتكوّن التقدير السريري في الممرّ بعد حالة صعبة، وفي الاستشارة السريعة، وفي حوار للتدقيق في الحالة بين طبيب قلب وطبيب عناية مركزة، لم يكن ليلتقيا لولا تلك الحالة. صحيح أن الطب يمتلك بنية تحتية معرفية رسمية واسعة وفريدة من نوعها: كالمجلات والمؤتمرات والإرشادات والجلسات العلمية الكبرى وغيرها. لكن طبقة التفكير الموزعة والفورية بين الأقران هي التي تُصاغ فيها معظم المعلومات السريرية.

* آلات قادرة على إنتاج إجابات دقيقة ومتعاطفة وذات مصداقية سريرية في ثوانٍ.. وبتكلفة زهيدة*

منصة سريرية عالمية مشتركة

للحظة وجيزة وغير متوقعة، غيّر موقع «ميدتويتر» MedTwitter هذا الواقع. فرغم كل عيوبه - من التزاحم والتنافس الهرمي إلى اليقين الظاهري - منح «ميدتويتر» الأطباء شيئاً لم يبنه الطب عمداً قط: منصة سريرية عالمية مشتركة، فورية، ومتعددة التخصصات. ويستطيع طبيب طوارئ في منطقة ريفية نشر رسم لتخطيط قلب كهربائي معقد والحصول على رأي خبير في غضون دقائق. ويستطيع المتدرب مشاهدة كبار الأطباء يناقشون دراسة في نفس يوم نشرها. كما يمكن مراجعة تجربة سريرية جديدة، وتحسينها، ووضعها في سياقها، واختبارها من قبل الأشخاص الذين سيتولون رعاية المرضى في صباح اليوم التالي. هذه هي القيمة الحقيقية لـ«ميدتويتر» في مجال الطب.

لقد ارتقى هذا النظام لفترة وجيزة إلى مستوى التفكير السريري غير الرسمي قبل أن ينهار تحت وطأة حوافز المنصة التي استضافته.

فشل المنصة «بنيوي» بسبب انعدام العمق الطبي

كان الفشل بنيوياً أيضاً. فالمنصة المصممة لزيادة الاهتمام لا يمكنها الحفاظ على مجتمع يعتمد على التفكير العميق، والثقة، والتواضع، والمعايير المهنية. يحتاج الطب إلى مساحات يستطيع فيها الطبيب أن يقول «لا أعرف» أو «هذا ما نفعله في مؤسستي» دون أن يُعاقب بخوارزمية مُحسَّنة. يحتاج الأطباء إلى أماكن يكون فيها الاختلاف مثمراً، والشك صادقاً، ولا يُضطرون فيها إلى استخدام خبراتهم لإرضاء المرضى والصحافيين وأصحاب العمل والمتصيدين والغرباء في آن واحد.

إن غياب هذه المساحة المشتركة للأطباء بات أكثر أهمية من أي وقت مضى. فالأطباء يواجهون دخول الذكاء الاصطناعي إلى الممارسة السريرية دون بنية تحتية فعّالة للتفسير الجماعي.

توصيات «ذكية» بناء على حالات من «المرضى الآخرين»

ما معنى الخبرة عندما تتحول عملية استرجاع المعلومات إلى مجرد سلعة؟ ما هي الأدوات التي تُمثل اختراقات حقيقية فعلاً، وما هي تلك التي لا تقدم سوى أوهام مُنمقة؟ كيف يُقيّم طبيب الأورام في المجتمع توصية علاجية مُولَّدة بواسطة الذكاء الاصطناعي، في حين أن النموذج قد يكون قد دُرّب على مرضى مختلفين، في مؤسسات مختلفة، وبظروف متباينة؟ كيف ينبغي للأدلة الواقعية، وأنماط الممارسة المحلية، والخبرة المؤسسية أن تُؤثر في استخدام هذه الأدوات؟

لن تُجاب هذه الأسئلة بعروض توضيحية للمنتجات، أو معايير قياس مُنمّقة، أو مُلخص آخر للذكاء الاصطناعي في ورقة بحثية. ستأتي الإجابات من إعادة بناء طبقة الاستدلال السريري، القائمة على التفاعل بين النظراء من الأطباء، التي تعمل في الوقت الفعلي، التي لطالما اعتمد عليها الطب.

دمج وتكامل المعلومات

سيُساعد الذكاء الاصطناعي بالتأكيد المرضى على فهم النظام، وسيُساعد الأطباء على استرجاع المعلومات، وتلخيص السجلات، وكتابة الملاحظات، وتحديد المخاطر، ودعم القرارات. ولكن أهمية الأطباء لن تقل مع انخفاض تكلفة استرجاع المعلومات وسرعته، بل سينتقلون إلى العمل الأكثر صعوبة المتمثل في دمج السياق الخاص بكل مريض، مع أطر القيود المؤسسية، ومع الخبرة المعيشية، وعدم اليقين، والأدلة، والقيم، والمخاطر في القرارات التي تؤثر فعلياً على حياة البشر.

الطبيب صاحب القرار

في هذا العالم، قد لا يكون السؤال الأهم الذي يطرحه الأطباء هو: «ماذا يقول النموذج؟» بل قد يكون السؤال الأقدم والأصعب والأكثر إنسانية: «ماذا ستفعل؟» لعلاج المريض؟

في الوقت الراهن، تتشتت المعرفة الجماعية للأطباء عبر قنوات تطبيق «سلاك» المنعزلة، ومحادثات المجموعات الخاصة، وسلاسل الرسائل النصية، والقنوات الخلفية غير الرسمية. غالباً ما تكون هذه المساحات عالية الثقة، ولكنها محدودة النطاق. فهي تفتقر إلى الوصول الشامل بين التخصصات، والهيكل المطلوب لفهم جماعي حقيقي. ولا يمكن أتمتة هذه التجربة ببساطة، لأن فهم الأمور في الطب يعتمد على الثقة، والدقة، والمصداقية. يعتمد الأمر على معرفة المتحدث، وما رآه، وكيف يمارس عمله، ولماذا يُعدّ رأيه مهماً. هذا هو الجانب الإنساني حيث تتحول الأدلة إلى أحكام، والأحكام إلى رعاية.

بنية تحتية موثوقة تُتيح فهماً سريرياً منطقياً

لن يتحدد مستقبل الرعاية الصحية الأفضل للمرضى بما يعرفه الذكاء الاصطناعي فحسب، بل سيعتمد على قدرتنا على إطلاق العنان للمعرفة والحكم والخبرة الهائلة الكامنة لدى الأطباء، وجعل هذا الذكاء الجماعي متاحاً لمن يقدمون الرعاية للمرضى في الواقع.

لا يحتاج العصر القادم للطب إلى منصة أخرى مُحسّنة لجذب الانتباه، أو أداة أخرى تُعامل الأطباء كنقاط نهاية لإجابات مُولّدة. بل يحتاج إلى بنية تحتية موثوقة تُتيح فهماً سريرياً منطقياً: بيئة يُمكن فيها الطعن في الأدلة، وتبادل الخبرات، ومناقشة الشكوك بصدق، ومساعدة الأطباء بعضهم بعضاً في تحديد معنى المعرفة بالنسبة للمريض الذي أمامهم. في عصر الذكاء الاصطناعي، لا تُمثل هذه الشبكة البشرية تراجعاً عن التقدم، بل هي البنية التحتية التي ستدفع الابتكار وتجعل التقدم ذا مغزى سريري.

في عصرنا الجديد للذكاء الاصطناعي، قد لا تكون أهم التقنيات هي النموذج نفسه. قد يكون المجتمع هو من يتعلم، ويتساءل، ويختبر، ويقرر في نهاية المطاف معنى هذا النموذج عملياً.

إن مستقبل الطب لن يقتصر على ما تستطيع الآلات معرفته، بل سيرتبط بما يمكن للأطباء اكتشافه معاً.

* مجلة «فاست كومباني».