رفعت حقبة الذكاء الاصطناعي الوكيلي عتبة الأمن السيبراني: لماذا تحتاج الشركات إلى منظومة دفاع قابلة للتوسع

عصر الذكاء الاصطناعي الوكيلي يرفع عتبة الأمن السيبراني: لماذا تحتاج الشركات إلى منظومة دفاع قابلة للتوسع

في السابق، عندما كانت الشركات تناقش أمن الذكاء الاصطناعي، كان التركيز غالبًا ينصب على مخاطر المحتوى المُولَّد، وتسرب البيانات، وإساءة استخدام النماذج. لكن النقاش الذي أجرته SecurityWeek مؤخرًا حول “عصر الوكيل” يُظهر أن دور الذكاء الاصطناعي يمر بتحول إضافي: فهو لم يعد يقتصر على توليد النصوص أو المساعدة في التحليل، بل بدأ يمتلك القدرة على استدعاء الأدوات، وتنفيذ المهام، واتخاذ قرارات ذاتية إلى حدٍّ معين. وبالنسبة لفرق أمن المؤسسات، فإن هذا يعني أن سطح الهجوم لم يعد يأتي من البشر فقط، بل من أنظمة وكيلة قادرة على التوسع بسرعة الآلة، والتجربة والخطأ، وتعديل الاستراتيجيات.

هذا ليس حدثًا منفردًا، بل تحولًا بنيويًا. ومع دمج الذكاء الاصطناعي في التطوير، والعمليات، وخدمة العملاء، وسير عمل المكاتب، ومنصات العمليات الأمنية، يعاد ربط أصول المؤسسات وهوياتها وصلاحياتها وسياق القرار ومسارات الأتمتة. وما تحذر منه SecurityWeek ليس سؤالًا من قبيل: “هل سيغيّر الذكاء الاصطناعي الأمن؟” بل: “هل دخلت فرق الأمن بالفعل مرحلة يجب فيها أن تتبارى مع الذكاء الاصطناعي بالسرعة نفسها؟” وبالنسبة إلى مسؤولي أمن المعلومات CISO، وفرق SOC، ومعماريي الأمن، فإن هذا السؤال له تبعات مباشرة على الميزانية والحوكمة والعمليات.

التحليل التقني وتحليل المخاطر

أسلوب الهجوم: من الاختراق التقليدي إلى الهجمات الوكيلة

في سلسلة الهجوم التقليدية، يعتمد المهاجمون عادةً على أساليب ناضجة مثل التصيّد، وسرقة بيانات الاعتماد، واستغلال الثغرات، والتحرك الجانبي، وتسريب البيانات. لكن في سيناريو الوكلاء، يمكن للمهاجمين الاستفادة من الذكاء الاصطناعي لتعزيز القدرات التالية:

• توليد حمولات الهجوم وتعديلها بسرعة أكبر: بما في ذلك رسائل التصيّد، والبرمجيات الخبيثة النصية، ومتغيرات استغلال الثغرات، وصياغات الهندسة الاجتماعية.
• إجراء الاختبارات والاستطلاع بوتيرة أعلى: عبر تحديد خطوط الدفاع تلقائيًا، وتكرار استراتيجيات التجاوز، واختبار مداخل مختلفة.
• قدرة أقوى على تنسيق العمليات: عبر ربط خطوات الاستطلاع، ورفع الصلاحيات، والاستمرارية، والتسريب في سلسلة هجوم أكثر ترابطًا.
• تكلفة بشرية أقل: ما يجعل الأنشطة الهجومية التي كانت تتطلب تشغيلًا متخصصًا أسهل في التوسّع.

لا تكمن خطورة هذا النوع من التغيير في نوع جديد من البرمجيات الخبيثة، بل في قدرة المهاجم على ضغط تكتيكاته الحالية ضمن نافذة زمنية أقصر. وبالنسبة لجهة الدفاع، فهذا يعني أن مسار الاستجابة التقليدي “اكتشاف—تأكيد—معالجة” سيصبح أسهل في التضييق عليه وتجاوزه.

الأصول المتأثرة: الهوية، وسياق القرار، وسطح التحكم في الذكاء الاصطناعي

• يؤكد منظور SecurityWeek أن “الحدود” الجديدة في عصر الذكاء الاصطناعي ليست الشبكة فقط، بل سطح التحكم الذي يتكوّن معًا من الأصول والهويات وسياق القرار. وتشمل الأصول المتأثرة في المؤسسات بشكل رئيسي:- أنظمة الهوية: إذا كانت لدى وكلاء الذكاء الاصطناعي صلاحية استدعاء واجهات API، والوصول إلى أنظمة التذاكر، وتنفيذ تغييرات التهيئة أو قراءة بيانات الأعمال، فإن إساءة استخدام الهوية ستكون أكثر تدميرًا من تسرب بيانات اعتماد فردية.
• بيئات السحابة وأدوات SaaS: غالبًا ما يُربط الذكاء الاصطناعي بمنصات السحابة وقواعد المعرفة ومستودعات الشيفرة وأنظمة التعاون، وإذا صُممت الصلاحيات على نحو أوسع من اللازم، فقد يتجاوز نطاق الوصول إلى البيانات ما كان متوقعًا في البداية.
• الأجهزة الطرفية وبيئات التطوير: قد يؤدي البرمجة بمساعدة الذكاء الاصطناعي، والبرامج النصية المؤتمتة، وأدوات الوكلاء المحلية إلى مخاطر شيفرة من نمط سلسلة التوريد.
• منصات العمليات الأمنية: إذا أصبحت عمليات الكشف والفرز والإصلاح تعتمد بشكل متزايد على الأتمتة، فإن إدخال سياق خاطئ أو مخرجات نموذجية جرى التلاعب بها سيؤثر في دقة المعالجة.

وهذا يعني أن على الشركات ألا تسأل فقط: «هل الذكاء الاصطناعي آمن؟»، بل أيضًا: «ما الأنظمة التي يُسمح للذكاء الاصطناعي بالوصول إليها، وبأي صلاحيات، وضمن أي حدود يمكنه التحرك؟»

أثر الشركات: تصاعد متزامن للمخاطر التشغيلية والمالية والامتثالية والسمعية

بالنسبة إلى الإدارة العليا، فإن مخاطر الوكلاء ليست مجرد شيء نظري.

المخاطر التشغيلية: إذا أسيء استخدام وكيل الذكاء الاصطناعي أو حدث خطأ في تهيئته، فقد يؤدي ذلك إلى عمليات خاطئة واسعة النطاق، أو انقطاع الخدمات، أو انتشار الصلاحيات. وما توفره الأتمتة ليس مجرد رفع للكفاءة، بل قد يكون أيضًا تسريعًا لانتشار الأخطاء.

المخاطر المالية: إذا استطاع المهاجمون استخدام الذكاء الاصطناعي لرفع معدل نجاح التصيّد، وتقليص زمن الاختراق، وتوسيع نطاق الابتزاز والاحتيال، فإن نفقات الاستجابة للحوادث والتعافي والشؤون القانونية والتأمين سترتفع كلها.

المخاطر الامتثالية: في القطاعات الخاضعة للتنظيم، ستكون ضوابط الوصول إلى أنظمة الذكاء الاصطناعي، والاحتفاظ بالسجلات، وتدقيق التغييرات، وإدارة مخاطر الأطراف الثالثة محط تدقيق. وإذا لم تتمكن الشركة من تفسير سبب تنفيذ وكيل الذكاء الاصطناعي لإجراء معين، فسترتفع الضغوط الامتثالية بشكل ملحوظ.

المخاطر السمعية: ما إن يؤدي خطأ متعلق بالذكاء الاصطناعي إلى كشف بيانات العملاء، أو حدوث خطأ في الخدمة، أو خروج المحتوى عن السيطرة، حتى يميل الجمهور إلى إرجاع المشكلة إلى قدرة الشركة على الحوكمة، وليس فقط إلى خلل تقني.

مخاطر البيانات: أحد أكبر أخطار الذكاء الاصطناعي التوليدي وأنظمة الوكلاء هو أنها غالبًا ما تحتاج إلى سياق بيانات أوسع. وإذا لم يُنفذ مبدأ تقليل البيانات على نحو سليم، فقد تنتشر المعلومات الحساسة من غير قصد إلى تدفقات عمل لا حاجة لها بها.

رصد اتجاهات القطاع: هذا ليس حدثًا معزولًا، بل تغيير في نموذج الدفاع

الأمر الأكثر أهمية للشركات في نقاش SecurityWeek ليس الذكاء الاصطناعي بحد ذاته، بل أن نموذج الدفاع يتحول من «إعطاء الأولوية للكشف» إلى «الموازنة بين الوقاية والأتمتة». وتشير المقالة إلى أن كثيرًا من المؤسسات لا تكتشف المشكلة إلا أثناء الهجوم أو بعده، وهو ما يجعلها أكثر سلبية أمام سرعة الهجمات المدفوعة بالذكاء الاصطناعي.

ويعكس هذا عدة اتجاهات طويلة الأمد:

1. اتساع فجوة السرعة بين الهجوم والدفاع يستطيع المهاجمون، بمساعدة الذكاء الاصطناعي، توليد التكتيكات واختبارها وتعديلها بسرعة أكبر، بينما لا تزال عمليات الاستجابة التي يقودها البشر تعتمد غالبًا على الانتظار في الطوابير، والفرز، والموافقات.2. أدوات الأمن نفسها أصبحت مدعومة بالذكاء الاصطناعي، لكن العمليات قد لا تواكب ذلك لقد أدخلت العديد من منتجات الأمن بالفعل الذكاء الاصطناعي التفاعلي أو القدرات القائمة على التوصية، لكن إذا ظل الإصلاح النهائي يعتمد على البشر لمعالجة كل بند على حدة، فإن سرعة المعالجة الإجمالية تبقى محدودة.

3. تزداد أهمية إدارة التعرض التنبيهات وحدها لا تغيّر النتائج. تحتاج الشركات إلى دمج إدارة سطح التعرض، وترتيب الأولويات، والمعالجة الآلية، من أجل تقليل “الثمار الدانية” القابلة للاستغلال.

4. ينتقل انعدام الثقة من مبدأ معماري إلى متطلب تشغيلي عندما يمكن لوكلاء الذكاء الاصطناعي استدعاء الموارد عبر الأنظمة، فإن مبدأ أقل قدر من الامتيازات، والتحقق المستمر، والعزل القطاعي لم تعد مجرد أفكار تصميمية، بل أصبحت شروطًا ضرورية لمنع الانتشار الجانبي.

بعبارة أخرى، فإن الذكاء الاصطناعي الوكيلي ليس موضوعًا تقنيًا منفصلًا، بل هو علامة على دخول العمليات الأمنية في الشركات عصر “سرعة الآلة”.

توصيات للدفاع والاستجابة

على مستوى المؤسسة: الحوكمة أولًا، ثم التوسع

• تحديد حدود استخدام الذكاء الاصطناعي: توضيح أي العمليات التجارية يُسمح فيها باستخدام الأنظمة الوكيلة، وأي البيانات والأنظمة والعمليات يجب حظرها.
• إعداد قائمة أصول الذكاء الاصطناعي: التعامل مع أدوات الذكاء الاصطناعي والنماذج والوكلاء والإضافات وواجهات API كأصول مؤسسية ضمن الإدارة.
• إجراء مراجعة مخاطر الطرف الثالث: تقييم صلاحيات قدرات الذكاء الاصطناعي لدى المورّدين، والسجلات، والاحتفاظ بالبيانات، وأنماط الفشل.

الهوية والتحكم في الوصول: تقليص الصلاحيات إلى حد يمكن تفسيره

• تطبيق مبدأ أقل قدر من الامتيازات على وكلاء الذكاء الاصطناعي.
• فرض المصادقة متعددة العوامل (MFA) والموافقة والوصول المشروط على العمليات عالية الخطورة.
• إدخال العزل القائم على الأدوار والمهام في الإجراءات عبر الأنظمة، لتجنب امتلاك الوكلاء صلاحيات مستمرة أوسع من اللازم.
• الاحتفاظ بسجلات غير قابلة للإنكار ومسارات تدقيق للعمليات الحرجة.

على المستوى التقني: جعل الكشف والمعالجة أقرب إلى الأتمتة

• استخدام SIEM / XDR / EDR لتوحيد مراقبة سلوك الأجهزة الطرفية والهوية والسحابة والتطبيقات.
• الاستفادة من Threat Intelligence مع السياق لتقليل الإنذارات الكاذبة والتنبيهات منخفضة القيمة.
• نشر إدارة التعرض المستمرة وآليات تحديد أولويات الثغرات، مع إصلاح النقاط الضعيفة الأكثر قابلية للتسليح أولًا.
• إضافة كشف السلوك غير الطبيعي إلى سير العمل المرتبط بالذكاء الاصطناعي، مثل معدل الاستدعاءات غير المعتاد، أو الوصول غير المصرح به، أو قراءة البيانات غير المتوقعة.

على المستوى الإداري: إدماج أمن الذكاء الاصطناعي ضمن إطار الحوكمة

• إدراج مخاطر الذكاء الاصطناعي ضمن خطط Incident Response.
• الفصل بوضوح بين المعالجة الآلية والموافقة البشرية، لتجنب “فوضى الأتمتة”.
• تتبع مؤشرات الأمن المرتبطة بالذكاء الاصطناعي على مستوى مجلس الإدارة أو لجنة المخاطر، بدلًا من اقتصار النقاش عليها داخل الفريق التقني.
• تقييم ما إذا كان الموظفون يستخدمون أدوات “الذكاء الاصطناعي الظلي” غير المعتمدة بشكل دوري.

SecurityPost Insight

إن المعنى الحقيقي لـ agentic AI ليس أن تمنح الشركات “أداة ذكية أخرى”، بل أن تدفع الهجوم والدفاع معًا إلى مرحلة أعلى في التواتر، وأكثر أتمتة، وأكثر اعتمادًا على الحكم السياقي.## رؤى SecurityPost

المعنى الحقيقي لـ agentic AI ليس أن تمنح المؤسسة «أداة ذكية إضافية»، بل أن تدفع كلًا من الهجوم والدفاع إلى مرحلة أعلى من التواتر والأتمتة والاعتماد على الحكم السياقي. وبالنسبة إلى المؤسسات، لا يكمن الخطر في النموذج نفسه فحسب، بل في ما إذا كان النموذج، بعد منحه القدرة على التنفيذ، سيُضخّم أوجه الضعف القائمة خارج حدود الصلاحيات والعمليات والبيانات.

ترى SecurityPost.org أن ما يستحق التركيز عليه خلال الأشهر 12 إلى 24 المقبلة ليس عينة هجوم AI منفردة، بل كيف تُدرج المؤسسات AI ضمن إطار الحوكمة الأمنية: بما في ذلك حدود الهوية، وأقل صلاحيات ممكنة، والأتمتة القابلة للتدقيق، وإدارة التعرض المستمرة، والتنسيق في الاستجابة عبر الفرق. تلك الجهات التي لا تزال تنظر إلى أمن AI بوصفه «مسألة اختيار أدوات» قد تتأخر عن المهاجمين من حيث السرعة والحجم والقدرة على التحكم. وعلى العكس، فإن المؤسسات القادرة على التعامل مع AI بوصفه طبقة تحكم جديدة ستتمتع بفرصة أكبر للحفاظ على المرونة في عصر سرعة الآلات.