في غضون خمسين يوماً فقط، تعرضت ثلاث من أكبر شركات الذكاء الاصطناعي في العالم لأربع حوادث أمنية مرتبطة بسلاسل التوريد. والأخطر أن لا واحدة منها استهدفت النموذج نفسه، بل جميعها اخترقت ما يُفترض أنه الأقل خطورة: خط الإطلاق والتعبئة.
ماذا حدث بالضبط؟
ثلاث من الحوادث الأربع كانت هجمات خارجية ممنهجة، فيما كانت الرابعة خطأً داخلياً في التعبئة، ما يُعرف بـ "packaging failure". ورغم اختلاف الجهات والأساليب، جمعها قاسم مشترك واحد: استغلال نقاط الضعف في خط التسليم قبل وصول النموذج إلى المستخدم النهائي. بمعنى آخر، لم يُخترق الذكاء الاصطناعي، بل اخترقت الطريقة التي يُوزَّع بها.
لماذا خطوط الإطلاق هدف مثالي؟
تركز فرق الأمن التقليدية، وحتى فرق "red team" المتخصصة، على اختبار النماذج ذاتها، سواء من حيث التحيزات أو الثغرات السلوكية. لكن خطوط التوريد والتوزيع تبقى في الغالب خارج نطاق هذا الفحص المنتظم. وهذا بالضبط ما يجعلها جذابة للمهاجمين: فرصة حقيقية مع حراسة أقل.
فجوة واضحة في منهجية الأمان
الحوادث الأربع أماطت اللثام عن فجوة منهجية، إذ إن استبيانات تقييم الموردين الحالية وأدوات إدارة سلاسل التوريد لم تُصمَّم لتواكب سرعة دورات الإطلاق في صناعة الذكاء الاصطناعي. الشركات تُطلق تحديثات بوتيرة مرتفعة جداً، والأدوات الأمنية لم تلحق بعد بهذا الإيقاع.
ماذا يعني هذا لك؟
إن كنت مطوراً يعتمد على نماذج أو مكتبات من هذه الشركات، فأنت تقع في منتصف سلسلة التوريد هذه. أي ثغرة في خط الإطلاق قد تصل إليك عبر تحديث تلقائي أو حزمة مُعدَّلة دون أن تعلم. وإن كنت مسؤولاً عن أمن مؤسسة تستخدم أدوات الذكاء الاصطناعي، فقد حان الوقت لمراجعة سياسات التحقق من المصادر والتحديثات.
ما المطلوب الآن؟
يرى الباحثون أن المرحلة المقبلة تستوجب توسيع نطاق فرق "red team" ليشمل خطوط الإطلاق والتوزيع، وليس النماذج فحسب. كما أن اعتماد قوائم مراجعة موحدة لسلاسل توريد الذكاء الاصطناعي بات ضرورة لا خياراً.
السؤال الذي يطرحه هذا الملف على الصناعة بأسرها: هل يمكن أن يكون الذكاء الاصطناعي آمناً إذا كانت الطريقة التي يصلنا بها هشة؟
المصدر: VentureBeat, https://venturebeat.com/security/supply-chain-incidents-openai-anthropic-meta-release-surface-vendor-questionnaire-matrix
