مع التحديث السريع لتكنولوجيا الذكاء الاصطناعي، تُعدّ الوكلاء الذكيّون حاملاً مهمًّا للاندماج العميق بين الذكاء الاصطناعي والاقتصاد الحقيقي، وهم يؤثّرون تأثيرًا عميقًا في أساليب الإنتاج والحياة، ويُعيدون تشكيل حدود الأمن.
مع التحديث السريع لتكنولوجيا الذكاء الاصطناعي، تُعدّ الوكلاء الذكيّون حاملاً مهمًّا للاندماج العميق بين الذكاء الاصطناعي والاقتصاد الحقيقي، وهم يؤثّرون تأثيرًا عميقًا في أساليب الإنتاج والحياة، ويُعيدون تشكيل حدود الأمن.
وفي المؤتمر الرابع عشر للأمن السيبراني الذي عُقد مؤخرًا، أشار الخبراء إلى ضرورة الاستفادة من التكنولوجيا الأساسية لمعالجة المشكلات الجوهرية، وتعزيز المهارات الداخلية، وبناء حاجزٍ متينٍ عبر إنشاء الأنظمة والقواعد، وتوجيه معايير القطاع عبر بناء أنظمة معيارية، وذلك لرسم مسارٍ يجمع بين التنمية المنسّقة والأمن في عصر الوكلاء.
يحمل الوكلاء الذكيّون مخاطر جديدة.
وحاليًّا، يمرّ الذكاء الاصطناعي بمرحلة انتقالٍ بالغة الأهمية من النماذج الكبيرة إلى الوكلاء الذكيّين. وعندما يبدأ الوكلاء الذكيّون في اتّخاذ قراراتٍ ذاتيّةٍ، واستدعاء الأدوات، وتنفيذ المهام، تظهر مخاطر أمنيّةٌ أيضًا.
«مقارنةً بأنظمة المعلومات السابقة، لم تعد الوكلاء أداةً للإجابة عن الأسئلة تنفذ المهام بشكل سلبي، بل منحت القدرة على الإدراك والقرار والتنفيذ المستقلين. وقد غيّرت هذه القفزة في الخصائص التكنولوجية وضع الهجوم والدفاع في أمن الشبكات تغييرًا جذريًّا.» هكذا علَّق تشاو تشيغويو، نائب رئيس رابطة الإنترنت الصينية والمهندس الرئيسي السابق بوزارة الصناعة وتكنولوجيا المعلومات.
وبما أن انتشار الوكلاء الذكية يتسارع في مجالاتٍ حيوية مثل التصنيع والمالية والطاقة، فقد يؤدي أي خطر أمني إلى تفاعل سلسلةٍ من التأثيرات عبر الشبكات والصناعات خلال فترة وجيزة، وذلك بفضل قدرة الوكلاء الذكية على الجدولة الذاتية، ما يفرض متطلباتٍ أعلى في الوقاية من المخاطر والاستجابة الطارئة.
ذَكَرَ تشاو تشيغويو أَنَّهُ بَعْدَ أَنْ تَحْصُلَ الْوُكَلَاءُ الذَّكِيَّةُ عَلَى قُدْرَةٍ عَلَى اتِّخَاذِ القَرَارَاتِ بِاسْتِقْلَالٍ، تَزْدَادُ مَخَاطِرُ الأَمْنِ لِتَشْمُلَ لَيْسَ «الْعَوَزَ التِّقْنِيَّ» فَقَطْ، بَلْ أَيْضًا «فَقْدَانَ السَّيْطَرَةِ عَلَى اتِّخَاذِ القَرَارَاتِ». وَبِحُدُوثِ أَيِّ انْحِرَافٍ أَوْ اضْطِرَابٍ، يُمْكِنُ أَنْ تَقُومَ هَذِهِ الْوُكَلَاءُ بِأَفْعَالٍ تَخْرُجُ عَنْ تَوَقُّعَاتِ الْبَشَرِ، وَيَكُونُ لِذَلِكَ عَوَاقِبُ غَيْرَ مُتَوَقَّعَةٍ. وَيُعَدُّ هَذَا الخَطَرُ الدَّاخِلِيُّ تَحَدِّيًا أَسَاسِيًّا لِقَابِلِيَّةِ التَّحَكُّمِ فِي السَّلَامَةِ. وَبِالإِضَافَةِ إِلَى ذَلِكَ، تَعْمَلُ الْوُكَلَاءُ الذَّكِيَّةُ بِاسْتِقْلَالٍ فِي النِّظَامِ بِطَرِيقَةٍ شَبِيهَةٍ جِدًّا بِالْبَشَرِ، مِمَّا يُعَرِّضُ آلِيَّاتِ الثِّقَةِ الْمَبْنِيَّةَ عَلَى الهُوِيَّةِ التِّقْلِيدِيَّةِ لِخَطَرِ الْفَشَلِ. وَعِنْدَمَا تَقُومُ الْوُكَلَاءُ الذَّكِيَّةُ بِالتَّوْقِيعِ عَلَى الْعُقُودِ، وَتَنْفِيذِ الْمُعَامَلَاتِ، وَاسْتِدْعَاءِ الْمَوَارِدِ بِاسْتِقْلَالٍ، تَصْبِحُ مَسْأَلَةُ تَحْدِيدِ مَسْؤُولِيَّاتِ الأَمْنِ وَوَصْفِ السُّلُوكِ غَيْرِ الْمُرَخَّصِ مَسَائِلَ عَمَلِيَّةً مُلِحَّةً يَجِبُ حَلُّهَا.
وَفْقًا لِوُو هِيْكُوَانْ، عَضُو الأَكَادِيمِيَّةِ الصِّينِيَّةِ لِلهَنْدَسَةِ وَالرَّئِيسُ التَّشْرِيفِيُّ لِمُؤْتَمَر أَمْنِ الشَّبَكَةِ، تُظْهِر هَجَمَاتُ العُمَّالِ الخَاصَّةِ السِّمَاتِ التِّقْنِيَّةَ التَّالِيَةَ: اتِّخَاذُ القَرَارَاتِ بِاسْتِقْلَالٍ، وَالتَّعَاوُنَ الجَمَاعِيَّ، وَالتَّطَوُّرَ المُسْتَمِرَ. وَتَعْتَمِدُ الهَجَمَاتُ السَّيْبَرَانِيَّةُ التَّقْلِيدِيَّةُ اعْتِمَادًا كَبِيرًا عَلَى العَمَلِيَّاتِ اليَدَوِيَّةِ، في حِينِ تُغَيِّرُ الهَجَمَاتُ المُدْفُوعَةُ بِالعُمَّالِ الخَاصَّةِ هَذَا النَّمْطَ جُذْرِيًّا.
وَبِشَكْلٍ مُحَدَّدٍ، يُمْكِنُ لِلعُمَّالِ الذَّكِيَّةِ أَنْ تُدْرِكَ البِيئَةَ بِاسْتِقْلَالٍ، وَتُخطِّطَ لِمَسَارَاتِ الهَجْمَةِ، وَتُنَفِّذَ مَهَامَ الاختِرَاقِ، وَيُمْكِنُ لِعَدَّةِ عُمَّالٍ أَنْ يَتَبَادَلُوا المَعْلُومَاتِ وَيَتَعَاوَنُوا. وَيُمْكِنُ شَنُّ هَذِهِ الهَجَمَاتِ الجَمَاعِيَّةِ فِي وَقْتٍ قَصِيرٍ جِدًّا مِنْ عَدَّةِ مَدَاخِلَ فِي آنٍ وَاحِدٍ، مَا يُؤَدِّي إِلَى إِرْهَاقِ نِظُمِ الحِمَايَةِ مِنْ كَثْرَةِ الرَّدِّ. وَمَا يَجِبُ أَنْ نَكُونَ أَكْثَرَ يَقَظَةً فِيهِ هُوَ أَنَّ العُمَّالَ الذَّكِيَّةَ تَمْتَلِكُ القُدْرَةَ عَلَى التَّعَلُّمِ وَالتَّطَوُّرِ المُسْتَمِرَ، وَسَيَكُونُ كُلُّ مُوَاجَهَةٍ بَيْنَ الهَجْمَةِ وَالدِّفَاعِ مَادَّةً لِتَحْسِينِهَا، مِمَّا يُؤَدِّي إِلَى تَغَيُّرٍ مُسْتَمِرٍ فِي أُسْلُوبِ الهَجْمَاتِ مَعَ المَرُورِ الزَّمَنِيِّ.
يؤمن تشو هونغ يي، مؤسس مجموعة 360 ورئيس مؤتمر أمن الإنترنت، بأن الذكاء الاصطناعي قد أحدث انقلابًا في قطاع أمن الشبكات. وعلى سبيل المثال، فإن قدرات نموذج ميثوس الآلية بالكامل لاكتشاف الثغرات وبناء سلاسل الهجمات قد زادت من سرعة اكتشاف الثغرات بعشرات المرات، وخفضت التكاليف إلى أقل من جزء من الألف.
تحول طريقة التفكير في أمن المعلومات الرقمي
تزوير الهوية، وفشل النماذج، وضعف إدارة الصلاحيات، والابتزاز الخبيث... ومع دخول الوكلاء الذكيين مرحلة التطبيقات التجارية، تظهر باستمرار مخاطر جديدة متعددة. وفي الوقت نفسه، تؤثر مخاطر مثل التنقيب الخفي عن البيانات التي تُدار بواسطة الذكاء الاصطناعي أيضًا على دقة النماذج وموثوقية القرارات.
قدّم تشاو تشونجيانغ، عضو الأكاديمية الصينية للهندسة وأستاذ مشارك في الرابطة الصينية للذكاء الاصطناعي، أن مخاطر أمن أنظمة الذكاء الاصطناعي تشمل أربعة أبعاد: الطبقة البياناتية، وطبقة النموذج، وطبقة التطبيق، والطبقة الأساسية. كما تختلف المشكلات الأمنية التي تواجهها كل بعدٍ عن الأخرى، ولذلك يلزم اتخاذ إجراءات مُوجَّهةٍ خصيصًا.
ورأى وو هي كوان أن فكرة العمل الأمني كانت لفترة طويلة تتمحور حول إخماد الحرائق حيثما اشتعلت. وهذه الطريقة الاستجابية السلبية قد تكفي لمواجهة الهجمات البشرية، لكنها لا تتمكن من مواكبة سرعة الاستجابة المطلوبة أمام الهجمات المشبَّعة القادمة من مجموعات الوكلاء الذكية.
من كان أقوى في الماضي، ومن سيكون أسرع في المستقبل؟ يجب على الصين أن تبني قدرات مستقلة وخاضعة للسيطرة الوطنية لاكتشاف الثغرات الأمنية في أنظمة الذكاء الاصطناعي. وقال تشو هونغيي.
يجب أن يتحول نموذج الأمن من الدفاع السلبي إلى المناعة النشطة، كما قال وو هي تشوان. ونحتاج إلى بناء إطار عمل تشغيلي أمني منهجي يغطي دورة الحياة الكاملة للتنبؤ والدفاع والكشف والاستجابة والتعافي. ويجب أن ندمج العمليات والكوادر والتكنولوجيا في قدرة مغلقة التغذية الراجعة، بحيث يتمتّع النظام الأمني أيضاً بقدرات إدراكية وتوقُّعية وتكيُّفية ذكية، ونحقِّق تحولاً من الإصلاح بعد وقوع الحادث إلى التحذير المسبق والحجب أثناء التنفيذ.
هذا ليس مجرَّد تحسينٍ تكميلي، بل هو إعادة بناء جوهرية لمدى البقاء. فبدون مناعة نشطة، لا يمكن تحقيق الأمن الرقمي في عصر الوكلاء الذكيّة، كما قال وو هي تشوان.
يؤمن تشاو تشي قوه بأن من الضروري إيلاء الأولوية لأبحاث وتطوير التقنيات الأساسية المتعلقة بأمن الوكلاء الذكية، وتعزيز الاستثمارات في مجالات البحث والتطوير الحاسمة مثل تفسير الخوارزميات وحماية خصوصية البيانات ومتانة الأنظمة، ورفع القدرات الدفاعية الاستباقية منذ المراحل الأولى، والمبادرة في عملية التطوير. وينبغي التعجيل بإنشاء معايير أمنية وآليات تقييم واعتماد تتماشى مع خصائص الوكلاء الذكية، وتطبيق إدارة مرتبطة بالتصنيف والتقسيم حسب الدرجة للمُجرِّبين ذوي المخاطر العالية، وتوضيح حدود المسؤولية في مراحل البحث والتطوير والنشر والتشغيل، لضمان وجود قواعد وأنظمة واضحة يُحتكم إليها. وفي إطار المعايير الوطنية، يجدر تعزيز التكامل العميق بين القطاع الصناعي والأوساط الأكاديمية والبحثية والتطبيقات العملية، والتعجيل بوضع معايير حماية تشمل دورة حياة الوكلاء الذكية بكاملها، بدءاً من البحث والتطوير وانتهاءً بالتنفيذ والتشغيل والصيانة.
الانتقال من بيع المنتجات إلى بيع القدرات
ووفقًا لتقرير أصدرته شركة International Data Corporation (IDC)، ظل سوق الأمن السيبراني الصيني ينمو بشكلٍ ثابتٍ بسبب التصعيد المستمر في السياسات واللوائح، وازدياد استعداد المؤسسات للاستثمار في مجال الأمن، وتسارع تطبيق التقنيات الجديدة. ومن المتوقع أن يتجاوز حجم السوق الإجمالي ٨٠ مليار يوان بحلول عام ٢٠٢٦، وبمعدل نمو سنوي مركب قدره ٨,٩٪ خلال الفترة من ٢٠٢٤ إلى ٢٠٢٩. وأصبح الأمن السيبراني قدرة أساسية لا غنى عنها في تطوير الاقتصاد الرقمي.
حاليًّا، تتسارع وكالات الذكاء الاصطناعي في التغلغل إلى القطاعات الرأسية مثل المالية والصناعة والرعاية الصحية، لتصبح مكوّناتٍ أساسيةً في الأنظمة التجارية الفعلية. ومع ذلك، لا يمتلك معظم مستخدمي القطاعات بعدُ القدرةَ على تطوير أنظمة دفاع ذكية خاصة بهم، بينما ما زالت شركات الأمن التقليدية تميل إلى بيع جدران الحماية وأدوات الكشف وغيرها، ما يؤدي إلى عدم تطابقٍ واضحٍ بين العرض والطلب.
«مَن يُمكنه إنجاز التحوُّل من مُقدِّم منتجاتٍ إلى مُقدِّم خدماتٍ أولًا، سيتمكن من احتلال الصدارة في المجال الجديد لأمن الوكلاء الذكيّة»، هكذا عبَّر وو هي تشوان. ويجب على شركات الأمن الرقمي في عصر الوكلاء الذكيّة أن تنتقل من بيع المنتجات إلى بيع القدرات، أي أن تقدِّم خدمات استضافة الأمن التي تغطّي دورة حياة الوكلاء الذكيّة بكاملها: مراجعة الجوانب الأمنيّة أثناء مرحلة التطوير، وإجراء المراقبة الفورية والاستجابة للحالات غير الطبيعية أثناء مرحلة التشغيل، وتقييم المخاطر وتقديم اقتراحات التعزيز أثناء مرحلة التكرار والتطوير. وهذه تشكّل تحوّلًا جذريًّا في النموذج، وعائقًا لا بدّ من تجاوزه من قِبل القطاع.
اقترح تشاو تشي قوه إنشاء منصة أمنية تعاونية بين القطاعات الصناعية والأكاديمية والبحثية لدمج موارد الشبكة وتعزيز التعاون العميق بين الشركات والجامعات والمؤسسات البحثية في مجالات بحوث وتطوير تقنيات أمن الوكلاء الذكية، والتعاون في الاستجابة للطوارئ، ونشر أفضل الممارسات. وينبغي بناء نموذج حوكمة يرتكز على التوجيه الحكومي، والمسؤولية المؤسسية، والمشاركة المجتمعية، لمواجهة التحديات المشتركة بروح انفتاح وتعاون.
في الوقت الراهن، تتخذ مؤسسات القطاع ذات الصلة إجراءاتٍ لتسريع تنمية الكوادر الجديدة المُلائمة لعصر الوكلاء الذكية. وخلال المؤتمر الرابع عشر للأمن الإلكتروني، جرى إطلاق عملية منح شهادة «مهندس وكيل الذكاء الاصطناعي ADE» من شركة 360، وكذلك منحة مؤسسة 360 للعمل الخيري الخاصة بالمواهب في مجال الذكاء الاصطناعي، وذلك بشكل متزامن؛ لتوفير وسيلة عمليةٍ للتعاون التعليمي المتعمِّق بين القطاع الصناعي والجامعات والبحث العلمي، من زاويتي تنمية الكوادر وشمولية التعليم.
ذكر تشاو تشي قوه أن من الضروري الترويج بنشاط لوزارات الحكومة والشركات الرائدة ومعاهد البحث لتسريع وضع معايير الصناعة والمعايير الجماعية في مجالات تقييم قدرات الأمان للوكلاء الذكية، وتصنيف المخاطر، والامتثال لأمن البيانات وغيرها، لتوفير أساس مؤسسي للتنمية القياسية للصناعة ومعالجة عدم اليقين المتعلق بمخاطر الأمان من خلال يقين التنمية عالية الجودة. وبجانب ذلك، ينبغي المشاركة بنشاط في صياغة وتنسيق قواعد الحوكمة العالمية للأمان في مجال الذكاء الاصطناعي، وبناء منصة حوار أمنية للوكلاء الذكية، واستكشاف المسار التعاوني للحوكمة الأمنية الشبكية العالمية في عصر الذكاء المشترك، والعمل معًا على بناء مجتمع مشترك المصير في الفضاء السيبراني، والإسهام بالحكمة والقوة الصينيتين في التنمية الصحية لصناعة الوكلاء الذكية عالميًّا.