هل سيحل الذكاء الاصطناعي محل متخصصي الأمن السيبراني؟ هكذا سيبدو هذا المجال في السنوات القليلة المقبلة

ما الذي يفعله الذكاء الاصطناعي جيدًا بالفعل في عالم الأمن السيبراني

أثبتت الأدوات التوليدية ونماذج اللغات الكبيرة (LLMs) فعاليتها في العمليات التي تتميز بكمية كبيرة من المعلومات والأنماط المتكررة. إنها تقلل بشكل كبير من وقت العمل في المهام الثانوية وتسمح لمتخصصي الأمن السيبراني بالتركيز على ما هو مهم حقًا.

• تلخيص السجلات والتنبيهات — تحويل المعلومات الخام إلى وصف قابل للقراءة.
• الفرز الأولي للحوادث — التصنيف حسب الخطورة، الفئة، أو النمط المعروف.
• كتابة الاستعلامات (KQL, SPL, SQL) وشرح الاستعلامات الحالية.
• إنشاء مستندات السياسات، نصوص عمليات SOC، إجراءات الاستجابة للحوادث (IR)، والنصوص الداخلية.
• أتمتة العمليات المتكررة عبر Playbooks في SOAR.
• المساعدة في التعلّم: شرح المفاهيم المعقدة بلغةٍ سهلة للمبتدئين.

ما الذي لا يزال الذكاء الاصطناعي لا يفعله جيدًا بما فيه الكفاية

إلى جانب القدرات الرائعة، لا يزال الذكاء الاصطناعي بعيدًا عن أن يكون بديلاً للمهنيين. هناك مجموعة من المهام التي لا يمكن فيها نقل الحكم، والسياق التنظيمي، والمسؤولية إلى نموذج.

• اتخاذ قرار بشأن تصنيف حادث خطير — إيجابي كاذب أو هجوم حقيقي.
• بناء نموذج تهديد لمؤسسة محددة بناءً على ثقافة العمل، والعملاء، واللوائح.
• التفاوض مع فريق التطوير أو الإدارة حول تحديد أولويات الثغرات.
• تفسير حادث DFIR معقد واتخاذ قرار بشأن التصعيد.
• المسؤولية المهنية والقانونية عن الإجراءات المتخذة.

مخاطر جديدة يولدها الذكاء الاصطناعي

استخدام الذكاء الاصطناعي لا يحل التحديات فحسب، بل يولد تحديات جديدة أيضًا. أصدرت NIST إطار عمل لإدارة مخاطر الذكاء الاصطناعي (AI RMF) لمساعدة المؤسسات على إدارة هذه المخاطر بطريقة منظمة.

• الهلوسات (Hallucinations) — النموذج يخترع حقائق وينتج إجابة تبدو موثوقة ولكنها غير دقيقة.
• حقن الأوامر (Prompt Injection) — يقوم المهاجم بإدخال تعليمات خبيثة في استعلام يقوم النموذج بتنفيذه.
• تسريب البيانات (Data Leakage) — قد تتسرب معلومات تنظيمية حساسة من خلال الاستخدام غير المتحكم به للنماذج العامة.
• الخصوصية (Privacy) — معالجة المعلومات الشخصية التعريفية للعملاء والموظفين في أدوات الذكاء الاصطناعي الخارجية.
• مخاطر النموذج (Model Risk) — الاعتماد الأعمى على مخرجات النموذج دون التحقق البشري.

كيف تتغير أدوار الأمن السيبراني الكلاسيكية

الذكاء الاصطناعي لا يلغي الأدوار، لكنه يغير بشكل كبير الروتين اليومي. يعرض الجدول أدناه أمثلة للمهام التي أصبحت أسرع بمساعدة الذكاء الاصطناعي، إلى جانب المهام التي تظل مسؤولية كاملة على عاتق المهنيين.

مهارات يجب تطويرها لعصر الذكاء الاصطناعي

• ✓أساسيات قوية في الشبكات، وأنظمة التشغيل، والهويات — الذكاء الاصطناعي لا يسد هذا النقص.
• ✓فهم نماذج المخاطر والتهديدات، بما في ذلك مخاطر الذكاء الاصطناعي المحددة.
• ✓القدرة على كتابة، وصيانة، ومراجعة Prompts احترافية.
• ✓التحكم في أدوات SOC, SIEM, SOAR الحديثة مع مكونات الذكاء الاصطناعي.
• ✓فهم أساسي لكيفية عمل النماذج والقيود التي تواجهها.
• ✓لغة إنجليزية تقنية جيدة — غالبية الوثائق المهنية مكتوبة باللغة الإنجليزية.

سير عمل آمن مع مشاركة بشرية (Human-in-the-loop)

المبدأ التوجيهي لمعظم المؤسسات اليوم هو Human-in-the-loop: النموذج يساعد، ولكن يجب على الإنسان الموافقة على العمليات ذات التأثير. هذا الهيكل العملي يقلل من خطر اتخاذ قرار خاطئ بناءً على مخرجات غير مؤكدة.

1. تحديد الحدود — ما هي الأنظمة والبيانات التي يمكن للنموذج الوصول إليها.
2. إعداد توجيهات منظمة — مع سياق، وقيود، وشكل إجابة.
3. التحقق من المخرجات — يقوم شخص بالتحقق، والتصحيح، والموافقة.
4. التوثيق والمراقبة — سجلات لكل استخدام، بما في ذلك الاستعلامات والمخرجات.
5. تحديث السياسة — مراجعة دورية للاستخدامات المسموح بها.

سيناريوهات واقعية من الميدان

لتقديم توضيح عملي، سنعرض ثلاثة سيناريوهات حيث يؤدي الجمع بين الإنسان والذكاء الاصطناعي إلى نتائج أفضل من كل منهما على حدة.

• SOC — يتلقى المحلل تنبيهًا، يقوم النموذج بتلخيص السجلات ذات الصلة ويقترح سيناريو. يقرر المحلل ما إذا كان سيزيد التصعيد ويوثق السبب.
• GRC — يقوم النموذج بإنشاء مسودة إجراء أمني. يقوم المستشار القانوني الداخلي وموظف GRC بتكييفه مع القوانين وثقافة المؤسسة قبل النشر.
• AppSec — يقترح النموذج إصلاحًا لرمز غير آمن. يراجع المطور النتيجة، ويتأكد من أنها لا تكسر منطقًا موجودًا، ويجري الاختبارات.

ماذا يعني هذا بالنسبة لك إذا كنت مبتدئًا في الأمن السيبراني اليوم

بالنسبة لمن يدخلون هذا المجال في هذه الأيام، فإن الفرصة كبيرة. إن مزيج فهم الأساسيات، والقدرة على العمل مع الذكاء الاصطناعي، والوعي بالمسؤولية المهنية هو بالضبط ما تبحث عنه المؤسسات اليوم. من المهم أن نتذكر أنه لا يمكن التنبؤ بالوقت الذي سيتغير فيه سوق العمل أو مدى السرعة، وبالتالي فإن الاستثمار في أساس متين والتعلم المستمر هو أفضل رهان.

قائمة التحقق للاستخدام المسؤول للذكاء الاصطناعي في الأمن السيبراني

• ✓لا تقم بإدخال معلومات شخصية حساسة أو معلومات تنظيمية سرية في نموذج عام دون إذن.
• ✓تحقق من أي مخرجات نموذج مقابل مصدر موثوق (RFC، وثائق رسمية، سياسة).
• ✓استخدم توجيهًا (prompt) بسياق واضح وقيود دقيقة.
• ✓وثق كل استخدام للذكاء الاصطناعي أدى إلى إجراء على نظام حقيقي.
• ✓قم بتحديث سياسة استخدام الذكاء الاصطناعي مرة واحدة على الأقل سنويًا أو عند أي تغيير كبير.

كيف تدمج فرق SOC الذكاء الاصطناعي بالفعل

في مراكز التحكم الحديثة، يتم دمج الذكاء الاصطناعي غالبًا في طبقات SIEM وSOAR. تساعد النماذج الإحصائية في تحديد الحالات الشاذة، وتساعد نماذج اللغة في تلخيص التنبيهات، وتقدم الوكلاء شبه التلقائيون أدلة تشغيل (playbooks) لموافقة المحلل. من المهم فهم: هذه طبقات مساعدة، وليست بديلاً لعملية التحقيق التي يقوم بها محلل ذو خبرة. قد يكون فشل النموذج في تحديد حادث واحد هو الفرق بين حادث صغير وتسرب بيانات كبير.

لهذا السبب، تقوم المؤسسات أيضًا بقياس دقة ومعدل الإيجابيات الكاذبة للنماذج التي تستخدمها، وتحدد آليات احتياطية يدوية. هذه المعرفة — قياس النموذج، وتحديد متى يخطئ، وتحديد استجابة مناسبة — هي إحدى المهارات الجديدة المطلوبة من محلل SOC في عصر الذكاء الاصطناعي.

ماذا يجب أن تقرأ للتعمق

وثائق المفتاح في هذا المجال متاحة ومعظمها باللغة الإنجليزية. يقدم NIST AI RMF إطار عمل عام لإدارة المخاطر لأي استخدام للذكاء الاصطناعي، ووثائق CISA تفصل التوصيات التشغيلية لفرق الأمن، ويحدد مشروع OWASP GenAI Security مخاطر الأمن المحددة للتطبيقات القائمة على النماذج. قراءة هذه الوثائق توفر إطار عمل فكريًا مهنيًا يصعب الحصول عليه من الدورات القصيرة أو منشورات المدونات.

إلى جانب المصادر الرسمية، من المفيد متابعة تقارير ما بعد الحوادث (post-mortems) العلنية للشركات التي تعرضت لهجمات. فهي توضح كيف تم دمج الذكاء الاصطناعي أو عدم دمجه في الكشف، وكيف أن التوثيق البشري الجيد هو ما سمح في النهاية بفهم سلسلة الأحداث.

الخلاصة

لن يحل الذكاء الاصطناعي محل متخصصي الأمن السيبراني في المستقبل المنظور. سيستمر في تسريع المهام، وتقليل العمل الروتيني، وطرح أسئلة أخلاقية وتنظيمية جديدة. المهنيون الذين سيظلون ذوي صلة هم أولئك الذين يتعلمون العمل معه: استغلال المزايا، وكونهم على دراية بالقيود، والحفاظ على المسؤولية البشرية في كل قرار يتعلق ببيانات وأنظمة المؤسسة.

الأسئلة الشائعة