تحالف الأمن السحابي يوسّع تعاون أمن الذكاء الاصطناعي المتقدم بالشراكة مع الجامعات وRSAC لمواجهة تحديات الثغرات

مقدمة

مع النشر السريع للذكاء الاصطناعي التوليدي والنماذج اللغوية الكبيرة في المؤسسات، تحولت سلامة الذكاء الاصطناعي من موضوع استشرافي إلى تحدي حوكمة واقعي. مؤخرًا، أعلن تحالف أمن السحابة (Cloud Security Alliance – CSA)، وهو منظمة غير ربحية عالمية معروفة، عن شراكتين استراتيجيتين تهدفان إلى تعزيز أبحاث سلامة الذكاء الاصطناعي المتطورة والتعاون المجتمعي. وقد انضم معهد الأمن السيبراني بجامعة نيفادا في لاس فيغاس (UNLV NIC) رسميًا إلى مؤسسة CSAI كشريك أكاديمي رئيسي؛ وفي الوقت نفسه، ستتعاون مؤتمرات RSA (RSAC) مع CSA ومؤسسة CSAI لإطلاق "قمة عاصفة ثغرات الذكاء الاصطناعي" (AI Vulnerability Storm Summit). لا تعكس هذه الخطوات اتجاهًا بيئيًا في مجال سلامة الذكاء الاصطناعي فحسب، بل توفر أيضًا موارد أغنى للمؤسسات لمواجهة مخاطر الذكاء الاصطناعي.

نظرة عامة على الأحداث

وفقًا للبيان الصحفي الصادر عن CSA، تم الإعلان عن هاتين الشراكتين في لاس فيغاس، مما يعكس رغبة الأطراف المتعددة في مواجهة تحديات سلامة الذكاء الاصطناعي بشكل جماعي.

1. التعاون في البحث الأكاديمي: انضمام معهد UNLV للأمن السيبراني إلى مؤسسة CSAI

صرحت CSA بأن معهد UNLV للأمن السيبراني سيصبح شريكًا بحثيًا وأكاديميًا رئيسيًا لـ CSA. يهدف هذا التعاون إلى الجمع بين الدقة الأكاديمية والممارسات الصناعية، وإجراء أبحاث متعمقة حول سلامة الذكاء الاصطناعي وحوكمته ومرونته. تمتلك UNLV خبرة متراكمة في مجال الأمن السيبراني، ومن المتوقع أن يضفي انضمامها منظورًا أكاديميًا جديدًا على أبحاث سلامة الذكاء الاصطناعي.

2. التعاون المجتمعي الصناعي: دعم RSAC لقمة عاصفة ثغرات الذكاء الاصطناعي

تُعد RSAC واحدة من أكبر مؤتمرات الأمن السيبراني في العالم، وستتعاون هذه المرة مع CSA ومؤسسة CSAI لإطلاق قمة عاصفة ثغرات الذكاء الاصطناعي. يحمل اسم القمة كلمة "عاصفة" للتلميح إلى الطبيعة المفاجئة والانتشار السريع لثغرات الذكاء الاصطناعي، كما يؤكد على حاجة الصناعة إلى حشد القوى مسبقًا لـ"الإنذار المبكر بالعواصف". من المتوقع أن تستقطب القمة الباحثين والممارسين وصانعي السياسات لمناقشة تحديد ثغرات الذكاء الاصطناعي والإفصاح عنها وإصلاحها.

أكد جيم ريفيس، الرئيس التنفيذي لـ CSA، في بيانه: "مع تسارع تبني الذكاء الاصطناعي، يجب أن تكون المؤسسات قادرة على التعلم والتعاون من خلال الأبحاث الموثوقة والإرشادات العملية. تعمل هذه الشراكات على توسيع قدرتنا على الجمع بين الأوساط الأكاديمية والصناعة والمجتمعات الإقليمية لتعزيز سلامة ومرونة الذكاء الاصطناعي على نطاق عالمي."

التحليل التقني والمخاطر

• تختلف سلامة الذكاء الاصطناعي جوهريًا عن الأمن السيبراني التقليدي. يركز الأمن التقليدي على الدفاع عن الحدود وإدارة الثغرات، بينما تقدم أنظمة الذكاء الاصطناعي سطح هجوم جديد تمامًا:- الهجمات العدائية: خداع النماذج عبر مدخلات مصممة بعناية، مما يؤدي إلى قرارات خاطئة.
• تسميم البيانات: حقن بيانات خبيثة في مرحلة التدريب لتلويث سلوك النموذج.
• سرقة النموذج: استخراج معاملات النموذج عبر واجهات الاستعلام، مما ينتهك الملكية الفكرية.
• مخاطر سلسلة التوريد: قد تحمل الأطر مفتوحة المصدر، والأوزان المدربة مسبقًا، وواجهات برمجة التطبيقات التابعة لجهات خارجية التي تعتمد عليها نماذج الذكاء الاصطناعي ثغرات.
• مخاطر إساءة الاستخدام: الاستغلال الخبيث مثل التزييف العميق والتوليد التلقائي لمحتوى التصيد الاحتيالي.

تعني هذه المخاطر أن فرق الأمن المؤسسية يجب أن تعيد تقييم حدود الأصول. إن أوزان نماذج الذكاء الاصطناعي، وبيانات التدريب، وواجهات برمجة تطبيقات الاستدلال كلها أصول جديدة تحتاج إلى الحماية. ومع ذلك، تفتقر العديد من المؤسسات إلى أساليب ناضجة لتقييم أمن الذكاء الاصطناعي، وتعتاد على فكرة المسح التقليدي للثغرات، مما يجعل من الصعب التعامل مع "الثغرات المنطقية" الخاصة بالذكاء الاصطناعي.

تكمن الأهمية الرئيسية لهذا التعاون من جانب CSA في أنه يربط المؤسسات البحثية بأحداث الصناعة، محاولًا إنشاء قناة سريعة للتحويل من النظرية إلى التطبيق. قد تصبح قمة عواصف الثغرات في الذكاء الاصطناعي منصة لجمع والتحقق من حالات ثغرات الذكاء الاصطناعي ووضع استراتيجيات التخفيف.

تحليل تأثير المؤسسات

بالنسبة لمسؤولي أمن المعلومات (CISO) وصناع القرار في المؤسسات، فإن الإشارات التي تنقلها هذه التعاونات واضحة تمامًا:

على المستوى التشغيلي: إذا تعرض نظام الذكاء الاصطناعي للهجوم، فقد يؤدي ذلك إلى انقطاع العمليات التجارية. على سبيل المثال، قد يضلل نموذج توصيات مسموم قرارات المخزون، مما يتسبب في خسائر مالية مباشرة. تحتاج المؤسسات إلى إدخال كشف الشذوذ ومراقبة النماذج الخاصة بالذكاء الاصطناعي.

على المستوى المالي: قد تؤدي حوادث أمن الذكاء الاصطناعي إلى تعويضات وغرامات تنظيمية وانخفاض أسعار الأسهم. يولي المستثمرون والمدققون اهتمامًا متزايدًا بجودة حوكمة الذكاء الاصطناعي. من خلال المشاركة في مجتمعات مثل CSA، يمكن للمؤسسات تقليل مخاطر عدم تماثل المعلومات.

على المستوى التنظيمي: صدرت لوائح مثل قانون الذكاء الاصطناعي الأوروبي وإجراءات الإدارة الصينية للذكاء الاصطناعي التوليدي، مما يتطلب من المؤسسات تنفيذ حوكمة قائمة على المخاطر. قد تصبح نتائج أبحاث CSA مرجعًا لأفضل الممارسات، مما يساعد المؤسسات على إثبات امتثالها.

العلامة التجارية والثقة: قد يؤدي حادث أمن ذكاء اصطناعي واحد، مثل تسرب البيانات أو توليد محتوى مزيف، إلى الإضرار بشدة بسمعة العلامة التجارية. يتوقع المستهلكون والشركاء أن تمتلك المؤسسات حماية أمنية كافية عند نشر الذكاء الاصطناعي.

لا ينبغي للمؤسسات أن تنظر إلى هذه التعاونات على أنها "شأن يخص الآخرين"، بل يجب أن تشارك بنشاط أو على الأقل تتابع عن كثب، للحصول على أحدث معلومات التهديدات ونماذج الاستجابة للطوارئ.

مراقبة اتجاهات الصناعة

هذان التعاونان ليسا حدثين معزولين، بل يعكسان عدة اتجاهات كبرى:

1. أبحاث أمن الذكاء الاصطناعي أصبحت بنية تحتية: تمامًا كما عرّف تحالف الأمن السحابي في وقت مبكر معايير أمن السحابة، قد يدفع مؤسسو CSAI نحو تشكيل معايير أمن الذكاء الاصطناعي، بما في ذلك تصنيف الثغرات ومواصفات التقييم.

2. الاندماج العميق بين الأوساط الأكاديمية والصناعة: لم يعد البحث مجرد مفاهيم في الأوراق العلمية، بل ينتقل مباشرة إلى القمم الصناعية والممارسات المؤسسية. هذه الحلقة المغلقة من "البحث-الممارسة-التغذية الراجعة" ستسرّع تطور تقنيات أمن الذكاء الاصطناعي.3. تحول دور مؤتمرات الأمن: تحولت RSAC من منصة لعرض المنتجات والاتجاهات إلى منظمة تعمل بنشاط على حضانة المشاريع البحثية والتعاون المجتمعي. في المستقبل، قد نشهد المزيد من مؤتمرات الأمن تطلق قممًا متخصصة مماثلة.

4. معالجة نقص مواهب أمن الذكاء الاصطناعي: من خلال التعاون بين الأبحاث الجامعية والمشاريع الصناعية، يمكن تسريع تنمية المواهب التي تمتلك مهارات الذكاء الاصطناعي والأمن معًا، وتخفيف آلام القطاع.

تشير هذه الاتجاهات إلى أن أمن الذكاء الاصطناعي لم يعد موضوعًا يعالج بشكل منعزل من قبل مدراء المعلومات في المؤسسات، بل أصبح مجالًا للتعاون المشترك عبر القطاع بأكمله.

الدفاع وتوصيات الاستجابة

بالاستناد إلى الإشارات الصادرة عن هذا التعاون، توصي SecurityPost المؤسسات باتخاذ الإجراءات التالية:

• دمج أمن الذكاء الاصطناعي في إطار المخاطر المؤسسي: تحت صلاحية CISO، إنشاء فريق أو وظيفة متخصصة لأمن الذكاء الاصطناعي مسؤولة عن مخاطر النماذج والبيانات وأمن بيئة التشغيل.
• اعتماد تقييم نضج أمن الذكاء الاصطناعي: بالرجوع إلى الأطر الصناعية (مثل الإرشادات التي قد يصدرها CSA)، تقييم مستوى المؤسسة في حوكمة الذكاء الاصطناعي، وأمن البيانات، ومصداقية النماذج.
• نشر ضوابط أمن MLOps: دمج الاختبارات الأمنية في مراحل تطوير النماذج وتدريبها ونشرها ومراقبتها، مثل إجراء الاختبارات العدائية والتحقق من متانة النماذج.
• تعزيز إدارة أصول الذكاء الاصطناعي التابعة لجهات خارجية: إجراء تدقيق أمني لنماذج وواجهات برمجة التطبيقات للموردين، وتوضيح حدود المسؤولية المشتركة، لتجنب مخاطر سلسلة التوريد.
• المشاركة في تبادل المعلومات على مستوى القطاع: الانضمام إلى مجتمعات مثل CSA ومؤسسة CSAI، وحضور قمة عواصف ثغرات الذكاء الاصطناعي، للحصول في الوقت المناسب على تحذيرات الثغرات والحلول التخفيفية.
• تفعيل خطة الاستجابة للطوارئ الخاصة بالذكاء الاصطناعي: وضع إجراءات استجابة متخصصة لسيناريوهات مثل اختطاف النماذج، وتسرب بيانات التدريب، وإساءة استخدام المحتوى.

هذه التوصيات ليست مهامًا لمرة واحدة، بل هي ممارسات حوكمة تتطلب تكرارًا مستمرًا.

رؤية SecurityPost

أحدث إجراءات تحالف الأمن السحابي تمثل علامة على دخول أمن الذكاء الاصطناعي مرحلة جديدة من التطوير التعاوني. نرى أن أمن الذكاء الاصطناعي ينتقل من التقارير المتناثرة عن الثغرات إلى الاستجابة المنهجية والواسعة النطاق. بالنسبة للمؤسسات، هذه إشارة واضحة: أمن الذكاء الاصطناعي ليس مادة اختيارية، بل هو مادة إلزامية.

قد تشكل مؤسسة CSAI بالتعاون مع UNLV وRSAC، في السنوات القليلة القادمة، "مركز المعرفة لأمن الذكاء الاصطناعي" الفعلي. المؤسسات التي تتمكن من الانضمام إلى هذه الشبكة مبكرًا ستكون قادرة على المشاركة في المراحل الأولى من وضع المعايير وتحقيق ميزة الريادة. وعلى العكس، فإن المؤسسات التي تتجاهل النظام البيئي لأمن الذكاء الاصطناعي قد تجد نفسها في موقف سلبي في الموجة القادمة من الامتثال للذكاء الاصطناعي.

نقترح على مسؤولي الأمن ليس فقط متابعة نشر الذكاء الاصطناعي في مؤسساتهم، بل أيضًا متابعة تطور النظام البيئي الكامل لأمن الذكاء الاصطناعي. في المستقبل، ستصبح قمة عواصف ثغرات الذكاء الاصطناعي بلا شك عقدة مهمة للباحثين والممارسين، وتقاريرها وأدواتها تستحق أن تأخذها كل مؤسسة بعين الاعتبار.