تصدرت قصة تحذيرية حديثة حول مخاطر الذكاء الاصطناعي مواقع التواصل الاجتماعي، كما كتب جود كريمر(*).

أداة برمجية ذكية تحذف البيانات
في هذه المرة، ادّعى مؤسس شركة برمجيات أن نسخةً من أداة البرمجة «كيرسور» Cursor، المدعومة ببرنامج «كلود» Claude، حذفت قاعدة بيانات الإنتاج المختزَنة لدى الشركة بالكامل، في غضون تسع ثوانٍ فقط.
تصرف دون إذن... وسوء تخزين
وفي منشورٍ حصد 6.5 مليون مشاهدة على منصة «إكس» زعم جير كرين، مؤسس شركة PocketOS، التي تُطوّر برامج إلكترونية مخصصة لشركات تأجير السيارات، أن سلسلة من الأحداث، مِن بينها تصرف «كيرسور» دون إذن، وسوء تخزين النسخ الاحتياطية (للبيانات) من قِبل شركة ريلواي Railway، المزوّدة لخدمات البنية التحتية لشركته، أدّت إلى فقدان هائل للبيانات.
ووفق كرين، فإن برنامج »كيرسور» كان يؤدي مهمة روتينية عندما «واجه خطأً في بيانات الاعتماد»، فقرر - بمبادرة منه - «إصلاح» المشكلة بحذف وحدة تخزين من نظام «ريلواي». وهكذا نفذ أمر «حذف وحدة التخزين» ومسح قاعدة بيانات الإنتاج.
استخراج نُسخ قديمة من البيانات المحفوظة
وكتب كرين أنه نظراً لأن نظام «ريلواي» يُخزن نسخاً احتياطية إضافية داخل وحدة التخزين نفسها، فقد اضطرت شركته للرجوع إلى نسخة احتياطية عمرها ثلاثة أشهر لضمان استمرارية عملها.
أحدث برنامج ذكي يخرق القواعد
وأكد أن فريقه كان يستخدم أحدث إصدار من «كيرسور»، وهو الإصدار المدعوم بأحدث نموذج كلود من «أنثروبيك» موديل «أوبوس 4.6» Opus 4.6.
وعندما ضغط كرين على برنامج الذكاء الاصطناعي للحصول على تفسير، اعترف البرنامج بانتهاكه المتعمَّد للقواعد التي وضعها نظام PocketOS، بما في ذلك قاعدة «لا تخمن أبداً!»، و«لا تُنفّذ أبداً أوامر تخريبية/لا رجعة فيها (مثل «ادفع- بقوة» push –force، أو «إعادة ضبط المنتج» hard reset... إلخ إلا إذا طلبها المستخدم صراحةً).
انتهاك سافر
وكتب نظام الذكاء الاصطناعي: «لقد انتهكتُ كل مبدأٍ وُضِعَ أمامي: خمّنتُ بدلاً من التحقق. نفّذتُ إجراءً تخريبياً دون استئذان. لم أفهم ما كنتُ أفعله قبل تنفيذه. لم أقرأ وثائق (ريلواي) حول سلوك وحدات التخزين عبر البيئات المختلفة».
اعتراف كتابي بالذنب
وتابع كرين مدّعياً أن «كيرسور» تُسوّق لنفسها على أنها أكثر أماناً مما هي عليه في الواقع. وكتب: «الحقيقة هي وجود سِجلّ موثَّق لأنظمة تنتهك هذه الضمانات، بشكلٍ كارثي أحياناً، وأحياناً مع اعتراف الشركة نفسها بالإخفاقات. في حالتنا، لم يكتفِ النظام بفشله في مجال السلامة، بل شرح كتابياً بالتحديد قواعد السلامة التي تجاهلها».
ولم تردّ كلٌّ من «كيرسور» و«ريلواي» و«أنثروبيك» على طلب مجلة «فاست كومباني» للتعليق.
العبرة من القصة
مع انتشار منشور كرين على نطاق واسع، انقسم المعلّقون حول المغزى الحقيقي من قصته.
وزعم بعض المعلّقين أنه على الرغم من تجاوز برنامج «كيرسور» صلاحياته وعدم كفاية إجراءات الحماية لدى «ريلواي»، لكن فريق كرين يتحمل جزءاً من المسؤولية لمنحه الذكاء الاصطناعي هذه الحرية الكبيرة والوصول إلى بيانات الشركة.
مسؤولية النظم الذكية... ومستخدميها
جاء في أحد الردود التي انتشرت على نطاق واسع: «هذا المنشور رائع لأنه ينتقد الذكاء الاصطناعي بشدة، ويحمّل، في الوقت نفسه، هذا الشخص المسؤولية كاملةً». وكتب معلّق آخر: «من المؤسف أن يقوم برنامج ذكاء اصطناعي بحذف قاعدة بيانات الإنتاج - دون أي وسيلة لعمل نسخة احتياطية - ما يُعرّض الأعمال بأكملها للخطر. لكن اللوم يقع على عاتق المطور الذي قرر تفويض اتخاذ القرارات لبرنامج الذكاء الاصطناعي، ثم لم يراجع الإجراءات، بل خاطر بها دون تفكير».
خروقات سابقة
لا تقتصر مخاطر الاعتماد على الذكاء الاصطناعي على مثال شركتيْ «كيرسور» و«ريلواي»، إذ وقعت فضيحة مماثلة، في فبراير (شباط) الماضي، حين صرّحت مديرة في شركة «ميتا» بأنها شاهدت برنامج OpenClaw يُفرغ بريدها الإلكتروني. وقد تجاهل البرنامج تعليماتها بعدم القيام بأي إجراء دون موافقة. ومع ذلك اعترف البرنامج بتقديم النص التالي: «لقد انتهكتُ التعليمات. من حقكِ أن تغضبي».
وتُجسّد هاتان الحادثتان معاً العبرة الحقيقية لأي شركة تسعى لاستخدام برامج الذكاء الاصطناعي: قد تتصرف هذه التقنية بشكل غير متوقع، نعم، لكن لهذا السبب يقع على عاتق البشر مسؤولية ضبطها.
* مجلة «فاست كومباني».
