حوكمة «الذكاء الاصطناعي المسؤول» لمؤسستك... خلال 90 يوماً

تضمن عمل الأدوات الذكية وفقاً لمبادئ أخلاقية وهياكل مساءلة

حوكمة «الذكاء الاصطناعي المسؤول» لمؤسستك... خلال 90 يوماً
TT

حوكمة «الذكاء الاصطناعي المسؤول» لمؤسستك... خلال 90 يوماً

حوكمة «الذكاء الاصطناعي المسؤول» لمؤسستك... خلال 90 يوماً

أعلنت شركة أنثروبيك هذا الشهر عن تطويرها نموذج ذكاء اصطناعي فائق القدرات، الأمر الذي حال دون نشره للجمهور.

تطويرات متلاحقة

اكتشف البرنامج الجديد «كلود ميثوس» بشكل مستقل، آلاف الثغرات الأمنية الحرجة في جميع أنظمة التشغيل ومتصفحات الويب الرئيسية. لذا اختارت «أنثروبيك» توفير النموذج فقط لمجموعة محددة من شركات التكنولوجيا، لمنحها فرصة لسد الثغرات وتعزيز الدفاعات قبل أن تقع نماذج مماثلة في أيدي من يستغلونها.

ويسلط هذا التطور الضوء على المخاطر المستقبلية المحتملة التي يحملها التطور السريع لنماذج الذكاء الاصطناعي، كما كتب فيصل حقّ(*).

أهمية الذكاء الاصطناعي المسؤول

ومن المتوقع أن تنتشر هذه النماذج القوية على نطاق واسع، وسيؤدي انتشارها إلى تزايد الحاجة إلى سياسات حوكمة تستند إلى مبادئ الذكاء الاصطناعي المسؤول.

وتهدف ممارسة الذكاء الاصطناعي المسؤول إلى ضمان أن تظل أنظمة الذكاء الاصطناعي، مع ازدياد قوتها، عادلة وقابلة للتفسير وخاضعة للإشراف البشري، وفقاً لمبادئ أخلاقية وهياكل مساءلة تحمي الأفراد المتأثرين بهذه الأنظمة.

إن الذكاء الاصطناعي المسؤول ضرورة ملحة للأعمال، وليس مجرد طموح مستقبلي. فالمؤسسات التي تستخدم الذكاء الاصطناعي دون أطر حوكمة معرضة بالفعل لمخاطر متزايدة على سمعتها وقانونها وتشغيلها، وتتفاقم هذه المخاطر بمرور الوقت مع توسع الأنظمة وتعمقها.

تبعات اجتماعية بتسريح العاملين

والأهم من ذلك، أن المخاطر تتجاوز الأعطال التقنية أو انتهاكات الامتثال. للذكاء الاصطناعي تبعات مجتمعية كبيرة، لا سيما في مجال التوظيف: إذ يتوقع استطلاع رأي أُجري بين المديرين الماليين فقدان نحو 500 ألف وظيفة مرتبطة بالذكاء الاصطناعي في عام 2026، مما يؤكد ضرورة أن تعالج المؤسسات اضطراب القوى العاملة، وليس فقط أداء النظام. لذا، يجب أن يدمج الذكاء الاصطناعي المسؤول الاعتبارات الأخلاقية والتنظيمية والإنسانية في استراتيجية حوكمة موحدة.

إطار الذكاء الاصطناعي المسؤول

يرتكز الإطار المُقدم للذكاء الاصطناعي المسؤول على ثلاثة أركان أساسية:

1. الأسس الأخلاقية. غالباً ما تبدأ المؤسسات بسياسات استخدام الذكاء الاصطناعي - وهي قواعد تحكم الاستخدام المقبول له - لكن هذه السياسات غير كافية دون قيم أساسية واضحة المعالم.

المبادئ الأخلاقية... قبل السياسات

يجب أن تسبق المبادئ الأخلاقية السياسات، لتكون بمثابة بوصلة لاتخاذ القرارات عند ظهور سيناريوهات جديدة لا تغطيها كل تفاصيل السياسات. وتُحدد هذه المبادئ الالتزامات بالعدالة، وعدم التمييز، والإشراف البشري، والمسؤولية المجتمعية. ومن دون هذا الأساس، تُصبح السياسات عرضةً لأن تكون ردود فعلية وغير متسقة.

تحديد السلطة والمسؤولية

2. المساءلة والإشراف. يفشل الذكاء الاصطناعي المسؤول عندما تكون الملكية غير واضحة. تتطلب الحوكمة الفعّالة تحديداً واضحاً للسلطة والمسؤولية: من يُوافق على عمليات النشر، ومن يُمكنه إيقافها، ومن الذي يُحاسب أمام القيادة عند حدوث إخفاقات. يجب أن يُستكمل ذلك بضمانات تشغيلية تضمن مشاركة بشرية فعَّالة، لا سيما في القرارات المصيرية أو التي لا رجعة فيها.

إن الحوكمة ليست مجرد تركيبة هيكلية؛ بل يجب أن تُمارس عملياً بسلطة قابلة للتنفيذ.

3. التأثير البشري. تُعيد أنظمة الذكاء الاصطناعي تشكيل حياة البشر - إذ تُغير الوظائف، والفرص، وبيئات صنع القرار. ويتطلب النهج المسؤول اهتماماً أصيلاً بهذه التأثيرات، مع إعطاء الأولوية للعدالة، والكرامة، والتحسين على عملية الاستبدال. وهذا يُحوِّل (توظيف النظم الذكية) من التركيز من التحسين التقني البحت إلى التصميم الاجتماعي التقني، حيث تُعامل النتائج البشرية كاعتبارات أساسية.

خطة تنفيذية بـ90 يوماً

وإليكم خطة تنفيذية بـ90 يوماً لتحقيق هذه الأهداف، مقسَّمة إلى ثلاث مراحل: التخطيط، والبناء، والتطبيق.

التخطيط

* الأيام 1-30: التخطيط. تركز المرحلة الأولى على فهم واقع الذكاء الاصطناعي الحالي قبل محاولة التحكم فيه. غالباً ما تقلل المؤسسات من شأن مدى انتشار استخدام الذكاء الاصطناعي لديها، لا سيما من خلال عمليات توظيفه بشكل غير رسمي أو حنى «خفي».

تعداد النظم والتهيؤ لأسوأ السيناريوهات

* حصر وتعداد أنظمة الذكاء الاصطناعي: تحديد جميع تطبيقات الذكاء الاصطناعي، بما في ذلك الأدوات غير الرسمية التي يستخدمها الموظفون. وتجرى لكل تطبيق عمليات لتوثيق وظائفه، ومصادر بياناته، والجهات المعنية، ومسؤولية إدارته. وغالباً ما سيكشف هذا التعداد والحصر عن بيئة مجزأة وغير منظمة بشكل كافٍ.

* إجراء تحليل لأسوأ السيناريوهات: باستخدام منهجية «التصور الكارثي» المنظمة، يُطلب من فرق القيادة تصور أخطر حالات الفشل المحتملة لكل نظام. صُممت هذه الطريقة للكشف عن المخاطر الخفية التي قد تغفلها التقييمات القياسية.

الفرز الفوري: في حال الكشف عن مخاطر حرجة - مثل اتخاذ الأنظمة قرارات مصيرية دون رقابة - يجب اتخاذ إجراء فوري. قد يشمل ذلك إيقاف توظيف الأدوات الذكية مؤقتاً أو إدخال مراجعة بشرية، حتى قبل وضع إطار حوكمة متكامل.

ثقافة المؤسسة والصلاحيات

* تقييم ثقافة المؤسسة: تعتمد فعالية الحوكمة على ما إذا كان الذكاء الاصطناعي المسؤول يُعامل كأولوية استراتيجية أم مجرد واحد من المتطلبات العصرية. إذا كان الأمر كذلك، فإن الإصلاحات الهيكلية وحدها ستفشل دون تغيير ثقافي أوسع.

توضيح صلاحيات اتخاذ القرار: تتطلب الحوكمة هياكل سلطة واضحة لا لبس فيها. يجب على المؤسسات تحديد من يمكنه الموافقة على مبادرات الذكاء الاصطناعي ومراجعتها وإيقافها وتوفير الموارد لها. من دون هذا الوضوح، يصبح اتخاذ القرار خاضعاً لديناميكيات السلطة غير الرسمية، ما يقوض المساءلة.

بناء النظم وتفعيلها

* الأيام 31-60: البناء. تركز المرحلة الثانية على بناء البنية التحتية اللازمة لتفعيل الذكاء الاصطناعي المسؤول.

تطوير إطار أخلاقي: يُضفي هذا الإطار طابعاً رسمياً على مبادئ المؤسسة، ويُحوّلها إلى توجيهات عملية، تشمل العدالة، والرقابة، والاستقلالية المقبولة، وتأثيرها على القوى العاملة، وتداعياتها المجتمعية. ويُشكِّل هذا الإطار الأساس لجميع قرارات الحوكمة.

* إنشاء بنية تحتية تقنية: يجب أن تدعم السياسات أنظمة قادرة على مراقبة سلوك الذكاء الاصطناعي. ويشمل ذلك تتبع المخرجات، واكتشاف التحيز وانحراف النموذج، وتوليد أدلة التدقيق. ومن دون هذه القدرات، تبقى الحوكمة نظرية.

فريق مخصص ومسؤول

* تحديد المسؤولية والهيكل: يجب أن يكون هناك فرد أو فريق مُخصَّص مسؤول عن حوكمة الذكاء الاصطناعي، يتمتع بصلاحيات كافية لإنفاذ المعايير. بالإضافة إلى ذلك، تضمن الأدوار اللامركزية داخل وحدات الأعمال تطبيق الحوكمة عملياً.

* تصميم عمليات التقييم: وضع إجراءات موحَّدة لتقييم أنظمة الذكاء الاصطناعي وفقاً لمعايير أخلاقية ومعايير المخاطر. وينبغي أن تُنتج هذه الإجراءات تصنيفات واضحة للمخاطر، مع تحديد «عتبات» تُحدد مستوى الرقابة المطلوب.

إعادة توجيه الحوافز: يتبع سلوك المؤسسة الحوافز. إذا ركزت مقاييس الأداء على السرعة والتكلفة فقط، فسيتم تجاهل الحوكمة. يجب دمج مقاييس الذكاء الاصطناعي المسؤول - مثل تخفيف المخاطر والامتثال - في تقييم القيادة.

تهيئة الكفاءات العالية

* بدء مراجعات المخاطر العالية: ابدأ بتطبيق إطار الحوكمة على الأنظمة الأكثر أهمية التي تم تحديدها سابقاً. هذا يخفف من المخاطر العاجلة ويختبر نموذج الحوكمة تحت الضغط.

* تطوير المهارات والقدرات: يتطلب الذكاء الاصطناعي المسؤول كفاءات جديدة في جميع أنحاء المؤسسة، بما في ذلك الكفاءات التقنية (كشف التحيز)، والإدارية (التعاون بين الإنسان والذكاء الاصطناعي)، والقانونية (الوعي التنظيمي). يُعد وجود برنامج تدريبي منظم أمراً ضرورياً.

تشغيل إطار الحوكمة المسؤولة

* الأيام 61-90: «تضمين» الحوكمة داخل المؤسسة. تضمن المرحلة الأخيرة أن تصبح الحوكمة قدرة تنظيمية مستدامة وليست مبادرة مؤقتة.

مواجهة الأزمات والمراجعة الدورية

* وضع استراتيجيات «الخروج» من الأزمات: يجب أن يكون لكل نظام ذكاء اصطناعي بروتوكول إيقاف تشغيل محدد مسبقاً. يضمن تصميم هذه الاستراتيجيات مسبقاً إمكانية إيقاف تشغيل الأنظمة بأمان أثناء الأزمات.

وضع إجراءات حوكمة فعَّالة: تُرسِّخ اجتماعات المراجعة الدورية الرقابة، موفِّرةً منبراً ثابتاً لرصد المخاطر ومعالجة القضايا المستجدة.

* دمج الحوكمة في سير العمل: يجب دمج الذكاء الاصطناعي المسؤول في سير العمل القياسي. تتطلب الأنظمة عالية المخاطر مراجعةً قبل توظيفها، ويجب إعادة تقييم جميع الأنظمة دورياً. ولهذا تصبح الحوكمة جزءاً لا يتجزأ من العمليات الاعتيادية بدلاً من كونها نقطة تفتيش خارجية.

* التحسين المستمر بناءً على الملاحظات: في هذه المرحلة، تمتلك المؤسسات بيانات تشغيلية حول أداء الحوكمة. ويُعدّ التحسين المستمر أمراً بالغ الأهمية، من خلال تحسين العمليات، ومعالجة المعوقات، وتعزيز التوافق الثقافي.

الخلاصة - الاستعداد لنظم ذكية متطورة

إن قدرات الذكاء الاصطناعي المتقدمة - كما يتضح من مثال «كلود ميثوس» - ليست افتراضية، بل وشيكة. السؤال المحوري ليس ما إذا كانت المؤسسات ستواجه أنظمة ذكاء اصطناعي قوية وربما محفوفة بالمخاطر، بل ما إذا كانت ستكون مستعدة عند حدوث ذلك.

والأهم من ذلك، يمكن تحقيق تقدم ملموس نحو حوكمة مسؤولة للذكاء الاصطناعي في غضون ربع سنة واحد إذا تم اتباع خط منهجي.

إجراءات فورية ومنظمة

الرسالة الأساسية واضحة: الذكاء الاصطناعي المسؤول ليس خياراً، ولا يمكن تأجيله. إنه يتطلب إجراءات فورية ومنظمة تدمج المبادئ الأخلاقية والمساءلة المؤسسية والتصميم الذي يركز على الإنسان في نظام حوكمة متماسك. والمنظمات التي لا تتخذ إجراءات لا تخاطر فقط بالإخفاقات التشغيلية، بل أيضاً بضرر مجتمعي أوسع وخسارة استراتيجية.

إن الذكاء الاصطناعي المسؤول ضرورة ملحة للأعمال، وليس مجرد طموح مستقبلي. فالمؤسسات التي تستخدم الذكاء الاصطناعي دون أطر حوكمة معرضة بالفعل لمخاطر متزايدة على سمعتها وقانونها وتشغيلها، وتتفاقم هذه المخاطر بمرور الوقت مع توسُّع الأنظمة وتعمقها.

* مجلة «فاست كومباني».


مقالات ذات صلة

الاقتصاد شعار شركة «ديب سيك» الصينية على هاتف ذكي (رويترز)

أميركا تتراجع عن إدراج «ديب سيك» على القائمة السوداء

أفادت تقارير بأن المستثمرين قدّروا قيمة شركة «ديب سيك» الصينية الناشئة في مجال الذكاء الاصطناعي بأكثر من 50 مليار دولار في أول جولة تمويلية للشركة

«الشرق الأوسط» (واشنطن - بكين)
الولايات المتحدة​ شعار برنامج الدردشة الآلي «غروك» التابع للملياردير إيلون ماسك يظهر على شاشة هاتف (رويترز) p-circle

واشنطن تكشف أنها استخدمت «غروك» في الحرب على إيران

كشفت الحكومة الأميركية في مذكرة قانونية، أنها استخدمت برنامج «غروك» للذكاء الاصطناعي العائد لمنصة «إكس» المملوكة لإيلون ماسك، في شنّ ضربات على إيران.

«الشرق الأوسط» (واشنطن)
الاقتصاد شعار شركة «إنفيديا» الأميركية على لوحة كمبيوتر (رويترز)

الحكومة الأميركية تمنح «ساندبوكس» المدعومة من «إنفيديا» 500 مليون دولار

منحت الحكومة الأميركية يوم الأربعاء 500 مليون دولار لشركة «ساندبوكس إيه كيو» الناشئة لتطوير مواد كيميائية جديدة لصناعة أشباه الموصلات محلياً

«الشرق الأوسط» (سان فرانسيسكو)
تكنولوجيا يختبر تطبيق «رسائل غوغل» أداة تكشف ما إذا كانت الصور أُنشئت أو عُدلت باستخدام الذكاء الاصطناعي

أداة جديدة في «رسائل غوغل» لكشف الصور المنشأة بالذكاء الاصطناعي

يختبر «رسائل غوغل» أداة تتيح التحقق من مصدر الصور وتعديلات الذكاء الاصطناعي، لمساعدة المستخدمين على اكتشافها داخل المحادثات بسهولة.

نسيم رمضان (لندن)

«رقعة الإبر الدقيقة» لإصلاح القلب... وتقنيات تحويل الكلام إلى «أجسام مادية»

«رقعة الإبر الدقيقة» لإصلاح القلب... وتقنيات تحويل الكلام إلى «أجسام مادية»
TT

«رقعة الإبر الدقيقة» لإصلاح القلب... وتقنيات تحويل الكلام إلى «أجسام مادية»

«رقعة الإبر الدقيقة» لإصلاح القلب... وتقنيات تحويل الكلام إلى «أجسام مادية»

تتبوأ الكليات والجامعات مكانة رائدة في مجال التصميم المبتكر، فالتعاون الذي يربط الطلاب والأساتذة والتقنيات الرائدة يُحوّل الأفكار التي تبدو مستحيلة إلى واقع ملموس، كما كتبت لويز إمبر(*).

ولا تقتصر إنجازات هذه المؤسسات التعليمية على تحقيق تقدم سريع في مجالات الاستدامة والتصميم والرعاية الصحية فحسب، بل إنها تُرسّخ أيضاً مساحاتٍ تُمكّن الطلاب من التجربة والتصميم من خلال مناهج عملية وأفكار مبتكرة، مما يُسهم في إعداد جيل جديد من صُنّاع التغيير.

«رقعة الإبر الدقيقة» لإصلاح القلب

يُصاب نحو 805 آلاف أميركي بنوبة قلبية كل عام، وفقاً لمراكز مكافحة الأمراض والوقاية منها. ويعمل رواد الابتكار في مجال الطب الحيوي بجامعة «تكساس إيه آند إم» على علاج، وعكس الضرر طويل الأمد الناتج عن السكتة القلبية، باستخدام رقعة إبر دقيقة قابلة للتحلل الحيوي.

تُحسّن «رقعة الإبر الدقيقة» لإصلاح القلب Microneedle patch for cardiac repair هذه، التي تُوصل جزيئاً مُعالجاً مباشرةً إلى أنسجة القلب المُصابة، شعور المرضى بعد النوبات القلبية من خلال تركيز العلاج واستدامته. وبالاقتران مع الذكاء الاصطناعي والنمذجة الإحصائية، تُعالج الرقعة القلب وتمنع الإصابة بفشل القلب المزمن. وفي العام الماضي، تطورت الرقعة من مشروع بحثي إلى علاج مدعوم من المعاهد الوطنية للصحة وجمعية القلب الأميركية.

أطراف صناعية ذكية تتكيف مع عادات المستخدم (جامعة كاليفورنيا)

مشروع «إحياء الغابات الحضرية»

يُعيد مشروع «غروف Grove»، من ابتكار طلاب كلية سافانا للفنون والتصميم الأميركية، إحياء الغابات الحضرية من خلال نهج استباقي لتأمين صحة أشجار المدينة. وباستخدام الذكاء الاصطناعي وأجهزة استشعار التربة الذكية، تُراقب تقنيات «غروف» صحة التربة وأنماط النمو وأولويات الصيانة، مما يُساعد خبراء الأشجار على منع المشاكل قبل ظهورها. كما تُغني تقنيات عرض البيانات والتحليلات التنبؤية في «غروف» عن التخمين والتقارير اليدوية، مما يجعل المساحات الخضراء الحضرية فعّالة واقتصادية.

يُطبّق المشروع أدواتٍ لإشراك المجتمع، مثل لوحة غروف Grove Plaque وتطبيق غروف سيتيزن Grove Citizen App، حيث يُمكن للسكان الإبلاغ عن مشكلات مثل الآفات والأضرار، ما يُضفي طابعاً تفاعلياً على رعاية الأشجار. وقد حظي المشروع بتقدير من إدارة الغابات الحضرية في نيويورك ومنظمة «تريز أتلانتا» لرفعه قيمة العقارات وتحسين جودة الهواء من خلال الاستثمار المدروس في البنية التحتية الخضراء.

أطراف اصطناعية ذكية تتكيف مع عادات المستخدم

يعمل طلاب جامعة ولاية كاليفورنيا في نورثبريدج، بالتعاون مع Autodesk، على تصميم طرف اصطناعي متطور للذراع Smart prosthetics design project، وبسعر معقول. يتميز تصميمهم الثوري بمجموعة واسعة من الإيماءات والميزات الفريدة.

تستخدم الأجهزة القابلة للارتداء التي طوَّرها فريق الذكاء الاصطناعي للتكيف مع عادات المستخدم، والتعرف البصري لتحديد المواد، ومستشعرات التغذية الراجعة لنقل الملمس. وفي العام الماضي، طوَّر الفريق نظاماً للتحكم بالقدم مخصصاً لمبتوري الأطراف الذين لا يملكون ما يكفي من العضلات المتبقية لاستخدام الأطراف الاصطناعية العضلية الكهربائية التقليدية.

يتميز المنتج بتصميمه الخفيف والقابل للفصل، مما يجعله مناسباً لمبتوري الأطراف والمصابين على حد سواء، وتبلغ تكلفة تصنيعه باستخدام طابعة ثلاثية الأبعاد نحو 300 دولار.

ذراع روبوتية تنشئ نموذجاً صغيراً لمقعد بعد تلقيها أوامر صوتية بصنعه (معهد ماساتشوستس للتكنولوجيا)

تحويل الكلام إلى «أجسام مادية»

يحوّل مشروع «تحويل الكلام إلى واقع»، الذي ابتكره باحثون من معهد ماساتشوستس للتكنولوجيا، الكلمات إلى أجسام مادية باستخدام الذكاء الاصطناعي التوليدي ثلاثي الأبعاد ونظام تجميع آلي. وعلى عكس مولدات النماذج ثلاثية الأبعاد الأخرى، التي تستخدم طابعات ثلاثية الأبعاد تستهلك الكثير من الوقت والموارد، يعتمد مشروع «تحويل الكلام إلى واقع» على أجزاء معيارية قابلة لإعادة الاستخدام لإنشاء منتج في دقائق، مما يُعيد تشكيل التصميم والتجميع والاستهلاك.

يستطيع المستخدمون من جميع مستويات الخبرة في التصميم تحويل الطاولات والكراسي وحتى المنحوتات إلى واقع بمجرد التحدث، ويتوسع المشروع بسرعة ليشمل بناء أجسام متحركة متينة باستخدام المفصلات والسكك والخشب والزجاج.

* مجلة «فاست كومباني».


مخاوف علمية من تأثير الذكاء الاصطناعي على القدرات المعرفية

مخاوف علمية من تأثير الذكاء الاصطناعي على القدرات المعرفية
TT

مخاوف علمية من تأثير الذكاء الاصطناعي على القدرات المعرفية

مخاوف علمية من تأثير الذكاء الاصطناعي على القدرات المعرفية

أظهرت دراسة جديدة أنه كلما زاد اعتمادك على الذكاء الاصطناعي في التفكير، قلّت قدرتك على الاعتماد على نفسك، كما كتب جود كريمر(*).

في هذه المرة، اختبر باحثون في معهد ماساتشوستس للتكنولوجيا تأثير الاعتماد على الذكاء الاصطناعي في التمييز بين الأخبار الحقيقية والمزيّفة على قدرة المستخدمين على تحديد المعلومات المضللة بأنفسهم.

1 من كل 5 شبان أميركيين يحصلون على الأخبار من النماذج الذكية

يُعدّ استخدام روبوتات الدردشة المدعومة بالذكاء الاصطناعي مصدراً للأخبار أمراً شائعاً بشكل متزايد، ولا سيما بين الشباب. تُشير تقارير حديثة من مركز بيو للأبحاث إلى أن واحداً من كل خمسة مراهقين في الولايات المتحدة يحصل على أخباره من روبوتات الدردشة، بينما أفاد واحد من كل خمسة بالغين دون سن الخمسين باستخدام الذكاء الاصطناعي للحصول على الأخبار، في بعض الأحيان على الأقل.

تتبعت الدراسة، التي أجراها مختبر الإعلام في معهد ماساتشوستس للتكنولوجيا، 67 مشاركاً، على مدار أربعة أسابيع، أثناء تقييمهم عناوين الأخبار والصور، وتحديد ما إذا كانوا يعتقدون أنها حقيقية أم مزيّفة، وذلك أحياناً بمساعدة روبوت دردشة مدعوم بالذكاء الاصطناعي.

الذكاء الاصطناعي يكتشف الأخبار المضللة... لكن

وعندما استعان المشاركون ببرنامج الدردشة الآلي، زادت دقة اكتشافهم الأخبار الكاذبة بنسبة 21 في المائة بفضل الذكاء الاصطناعي، لكن في نهاية الدراسة، ظهر أثر جانبي مُقلق.

وبحلول الأسبوع الرابع من الدراسة، انخفضت قدرة المشاركين على تحديد الأخبار الكاذبة دون مساعدة بنسبة 15 نقطة مئوية، مقارنةً بنتائجهم قبل بدء التجربة. ومع ذلك، ازدادت ثقتهم بأنفسهم، إذ قال ربع المشاركين إنهم شعروا بتحسن في قدراتهم على الكشف، حتى مع تراجع أدائهم.

صرحت أنكو راني، المؤلفة المشارِكة الرئيسية لورقة بحثية حول الدراسة، لموقع «MIT News»، بأن النتائج تعكس ثقة الناس المُفرطة في الذكاء الاصطناعي. وقالت راني: «يتحمس المستخدمون لهذه النماذج اللغوية (السحرية)، لكنهم ينسون أنها مجرد نماذج إحصائية تتنبأ بالرمز التالي في سلسلة من الأحداث. ويظهر عدد من السلوكيات المبهرة لهذه النماذج عند توسيع نطاقها، لكنها تأتي مع قيود حقيقية، سواء فيما يمكن للنموذج توليده بشكل موثوق أم في تأثيره الأوسع على مستخدميه».

الذكاء الاصطناعي والتدهور المعرفي

ليست هذه الدراسة الأولى التي تُظهر أن الاعتماد على الذكاء الاصطناعي يؤثر سلباً على القدرات المعرفية، فقد أظهرت دراسة حديثة، أُجريت في مايو (أيار) الماضي، أن استخدام الذكاء الاصطناعي لمدة عشر دقائق فقط جعل المشاركين أقل قدرة على حل مسائل الرياضيات وأسئلة القراءة المُشابهة لاختبارات امتحانات القبول الجامعية.

وهناك دراسات أخرى حول أطباء فقدوا قدرتهم على تشخيص السرطان بشكل مستقل، وعاملين في مجال البيانات تراجعت مهاراتهم في التفكير النقدي، وكُتاب مقالات انخفض نشاط أدمغتهم، كل ذلك بعد اعتمادهم على الذكاء الاصطناعي لإنجاز مهامهم.

المهارات تتحسن باستخدام الذكاء الاصطناعي ثم تتراجع وتتدهور من دونه

تشير هذه الدراسات مجتمعةً إلى ما يُعرف بـ«مفارقة الاعتماد على الذكاء الاصطناعي»، حيث تتحسن مهارات البشر مبدئياً عند استخدام الذكاء الاصطناعي، ثم تتراجع إلى ما دون مستواها السابق عند إزالة هذا الذكاء الاصطناعي.

طريقة أكثر ذكاءً لاستخدام الذكاء الاصطناعي

على الرغم من أن هذه الدراسة تدعو إلى إعادة النظر في اعتماد البعض على الذكاء الاصطناعي للتمييز بين الأخبار الحقيقية والمزيفة، لكنها تُشير إلى وجود طرق يُمكن للذكاء الاصطناعي من خلالها تقديم المساعدة دون المساس بمهارات التقييم الذاتي.

اقترح فالديمار دانري، المؤلف المشارِك الرئيسي الآخر للدراسة، أن المحادثات التي يُجريها الذكاء الاصطناعي وفقاً لـ«منهج سقراط» - وهي تفاعلات يطرح فيها الذكاء الاصطناعي أسئلة توجيهية لإرشاد المشاركين نحو الإجابة الصحيحة بدلاً من تقديمها بشكل مباشر - يمكن أن تساعد المشاركين على بناء مهاراتهم في كشف الأخبار الكاذبة بأنفسهم، حتى بعد إزالة الذكاء الاصطناعي.

نهج جديد لتحفيز المستخدم على إيجاد الحقائق بنفسه

قال دانري: «إن أنظمة الذكاء الاصطناعي التي تُقدّم إجابات مباشرة تُعزز، على الأرجح، استمرار الاعتماد عليها. ومن جهة أخرى، فإن تلك النماذج التي تطرح الأسئلة عبر (منهج سقراط) تُجيد تحفيز الأفراد على تعلم كيفية تمييز الحقيقة بأنفسهم، لكن الأمر يتطلب موازنة دقيقة بين السرعة والجهد».

وأضاف: «لا يزال أمامنا كثير من العمل لضمان عدم تفويض المهام الحيوية التي نرغب في الاستمرار بأدائها بالكامل إلى هذه النماذج. نحن بحاجة إلى تطوير نوع جديد من الوعي بالذكاء الاصطناعي».

* مجلة «فاست كومباني»


الذكاء الاصطناعي: برامج تعليمية لرصد كتاباته المقتبسة... ومنصات صحية وأخرى لمكافحة الهجمات الإلكترونية

الذكاء الاصطناعي: برامج تعليمية لرصد كتاباته المقتبسة... ومنصات صحية وأخرى لمكافحة الهجمات الإلكترونية
TT

الذكاء الاصطناعي: برامج تعليمية لرصد كتاباته المقتبسة... ومنصات صحية وأخرى لمكافحة الهجمات الإلكترونية

الذكاء الاصطناعي: برامج تعليمية لرصد كتاباته المقتبسة... ومنصات صحية وأخرى لمكافحة الهجمات الإلكترونية

مع أن ثورة الذكاء الاصطناعي تتجه نحو تطوير الأدوات الذكية، إلا أن هناك استخدامات كثيرة للتعلم الآلي والحوسبة التقليدية. وتتوجه بعض الشركات إلى مجال الرعاية الصحية، فيما تتوجه شركات أخرى إلى رصد وتحديد المحتوى المُنشأ بواسطة الذكاء الاصطناعي، وغيرها ، كما كتب مورغان كليندانيال.

لقطة من عرض برنامج «إيه آي لوجيك» لرصد الكتابات المقتبسة من الذكاء الاصطناعي

برنامج لرصد الكتابات المقتبسة من الذكاء الاصطناعي

قد يكون التكهن باستخدام الذكاء الاصطناعي في الكتابة أمراً مسلياً، لكنه قد يُشكل اتهاماً خطيراً بالنسبة لكثير من المهنيين وكذلك الطلاب الذين يقدمون أبحاثاً.

برنامج «إيه آي لوجيك» AI Logic، من شركة «كوبيليكس» Copyleaks مصمم لكشف الكتابة المُولّدة بواسطة الذكاء الاصطناعي، ويهدف إلى توضيح ما إذا كان النص مكتوباً بواسطته. والأهم من ذلك، شرح السبب ومستوى الثقة في ذلك. يحدد البرنامج العبارات الشائعة الاستخدام في الذكاء الاصطناعي، ويتحقق مما إذا كان أي جزء من النص مأخوذاً من مصادر أخرى معروفة مُولّدة بواسطة الذكاء الاصطناعي. وقد تم دمجه الآن في كثير من الأنظمة التعليمية، ما يتيح للمعلمين طريقة سهلة لمراقبة عمل الطلاب، وتؤكد الشركة أنها تُجري 650000 فحص للذكاء الاصطناعي يومياً.

برنامج لتدوين الملاحظات العلاجية بالذكاء الاصطناعي

أطلقت «غرو » Grow، وهي منصة علاجية عبر الإنترنت من شركة «Grow Therapy» وتتجاوز إيراداتها مليار دولار، برنامجاً لتدوين الملاحظات يعمل بالذكاء الاصطناعي لتقليل الوقت الذي يقضيه المعالجون في حفظ السجلات، ما يسمح لهم بالتركيز على التواصل مع المرضى. يسجل البرنامج الجديد الزيارة، ما يُمكّن المعالجين من الموافقة على الملاحظات لاحقاً بدلاً من التركيز عليها أثناء الجلسة، وبالتالي تقليل الوقت الذي يقضيه المعالجون في التدوين والتوثيق بنسبة 70 في المائة.

تساعد خدمة الذكاء الاصطناعي المرضى أيضاً على تدوين يومياتهم بين الجلسات - وهو أمر يفعله أكثر من 35000 مريض في مركز «غرو» كجزء من علاجهم النفسي - ما يُتيح إنشاء ملخصات سريعة تُستخدم كأنها نقطة انطلاق للجلسة التالية.

برنامج لمحاربة الهجمات الإلكترونية

يُعدّ «دايجست» Digest من شركة «Darktrace» نموذجاً للذكاء الاصطناعي تم تدريبه على أكثر من مليون حادثة أمن سيبراني، ويُستخدم لمكافحة الهجمات الإلكترونية باستخدام ذكاء اصطناعي متخصص. وهو إحدى ميزات «دارك تريس سايبر إيه آي أناليست»، وهي خدمة للكشف عن الاختراقات بسرعة وإيقافها قبل أن تُسبب اضطراباً أو تؤدي إلى كشف بيانات حساسة.

وبالتعاون مع عملاء من الشركات والهيئات الحكومية، أجرى البرنامج، الذي يُحقق تلقائياً في التنبيهات لتمكين متخصصي الأمن من تحديد أولوياتهم، أكثر من 90 مليون تحقيق في الجرائم الإلكترونية عام 2024. وفي إحدى الشركات، وهي هيئة مياه في كاليفورنيا، أدى برنامج «دارك تريس» إلى تقليل وقت فرز كل تنبيه أمني من ثلاث ساعات إلى 20 دقيقة.

منصة ألعاب «مي آند ماين»

برنامج ألعاب لتقييم الصحة النفسية للأطفال

عندما يلعب الطلاب ألعاب «مي آند ماين» MeandMine من Gamified، قد يبدو الأمر ممتعاً، ولكنه في الواقع يساعدهم على بناء مهارات ضبط النفس، كما يمنح المعلمين نظرة ثاقبة على المؤشرات المبكرة لسلوكيات مُزعجة. تساعد المتابعة اليومية للعواطف والطاقة والتواصل الاجتماعي والصحة البدنية الشركة على رسم خريطة «طيف ضبط النفس» لدى الطفل، ثم يقوم محرك الذكاء الاصطناعي الخاص بالشركة بتحليل أكثر من 160 مؤشراً سلوكياً في أكثر من 200 لعبة متوفرة على المنصة.

يستخدم البرنامج في أكثر من 200 مدرسة ومركز صحي لخدمة أكثر من 40000 طالب. وتم الإبلاغ عن زيادة بنسبة 70 في المائة في الاستعداد للتعلم والتحسن بنسبة 40 في المائة في مؤشرات الصحة السلوكية.

منصة ذكاء صحي للتسجيل

عندما تكون مريضاً، فأنت تريد أن يركز طبيبك على مرضك، وليس على الأعمال الإدارية أو رموز الفواتير. «أمبيانس هيلث كير» Ambience Healthcare تقنية تعتمد على الذكاء الاصطناعي، تستمع إلى محادثات المرضى، وتتولى تعبئة النماذج والفواتير، وغير ذلك من المهام الإدارية للأطباء بعد انتهاء الموعد، ما يتيح للطبيب التركيز على المريض.

أظهرت الاختبارات أن التقنية حققت انخفاضاً بنسبة 41 في المائة في وقت التوثيق الفعلي، وانخفاضاً بنسبة 39 في المائة في التوثيق المنجز خارج ساعات العمل لمستخدميها. وبفضل التدريب الذي يجعلها قابلة للتطبيق في أكثر من 200 تخصص طبي مختلف، تقدم الخدمة أيضاً ملخصات للسجلات الطبية، ما يوفر للأطباء ملخصات مفيدة لتاريخ المرضى الطبي قبل الزيارات. وبعد منافسة مع عدد من خدمات الرعاية الصحية الأخرى التي تعتمد على الذكاء الاصطناعي في كليفلاند كلينك، تم اختيار «أمبيانس هيلث كير» لشراكة مدتها خمس سنوات.

برنامج لقراءة الأشعة

سعى كثير من شركات الذكاء الاصطناعي إلى قراءة نتائج الأشعة بشكل أفضل من أخصائيي الأشعة. في المقابل، يسعى برنامج «بريسيجن بلاس في3» PrecisionPlus V3 إلى جعل النتائج أكثر سهولة في الفهم. فبعد إجراء التصوير بالرنين المغناطيسي، يُحسّن البرنامج التقرير تلقائياً برسوم توضيحية مفيدة، وصور مُعلّقة، وملخص مُوجز مُولّد بواسطة الذكاء الاصطناعي مكتوب بلغة بسيطة.

وهذا ما يجعل التقرير وثيقة مفيدة لكل من المريض الذي يفهم نتائجه بشكل أفضل، والطبيب المعالج الذي لا يحتاج إلى الاتصال بأخصائي الأشعة للحصول على معلومات إضافية. ويُستخدم البرنامج حالياً من قِبل إكسبيرت راديولوجي، وهي شبكة طب الأشعة عن بُعد تعمل في جميع الولايات الخمسين، وتغطي أكثر من 150000 حالة سنوياً.

* مجلة «فاست كومباني»