با تکرار سریع فناوری هوش مصنوعی، عاملهای هوشمند بهعنوان یک رسانهٔ مهم برای ادغام عمیق هوش مصنوعی و اقتصاد واقعی، تأثیری عمیق بر سبک تولید و زندگی دارند و مرزهای امنیتی را دوباره تعریف میکنند.
با تکرار سریع فناوری هوش مصنوعی، عاملهای هوشمند بهعنوان یک رسانهٔ مهم برای ادغام عمیق هوش مصنوعی و اقتصاد واقعی، تأثیری عمیق بر سبک تولید و زندگی دارند و مرزهای امنیتی را دوباره تعریف میکنند.
در کنفرانس چهاردهم امنیت اینترنت که اخیراً برگزار شد، کارشناسان اشاره کردند که باید از فناوریهای هستهای برای حل مسائل کلیدی استفاده کرد، مهارتهای درونی را تقویت نمود، با ساختاردهی سیستمی و قاعدهمند، مانعی محکم ایجاد کرد و با ساختاردهی سیستم استانداردها، هنجارهای صنعتی را هدایت کرد تا مسیری برای توسعهٔ هماهنگ و امن در عصر عاملها ایجاد شود.
عاملهای هوشمند خطرات جدیدی را بههمراه دارند.
در حال حاضر، هوش مصنوعی در آستانهٔ انتقال حیاتی از مدلهای بزرگ به عاملهای هوشمند قرار دارد. هنگامی که عاملهای هوشمند شروع به تصمیمگیری مستقل، فراخوانی ابزارها و اجرای وظایف میکنند، خطرات امنیتی نیز پدیدار میشوند.
ژائو ژیگوئو، معاون انجمن اینترنت چین و سابقًا مهندس ارشد وزارت seguir صنعت و فناوری اطلاعات، گفت: «در مقایسه با سیستمهای اطلاعاتی گذشته، عاملها دیگر ابزاری برای پاسخ به سؤالات در حالت اجرای منفعل نیستند، بلکه توانایی ادراک، تصمیمگیری و اجرا بهصورت مستقل را بهدست آوردهاند. این پرش در ویژگیهای فناوری، وضعیت تهاجمی و دفاعی امنیت شبکه را بهطور عمیقی تغییر داده است.»
با نفوذ سریعتر عاملهای هوشمند در حوزههای کلیدی مانند تولید، مالی و انرژی، هرگونه خطر امنیتی ممکن است در مدت کوتاهی از طریق قابلیت زمانبندی خودکار عاملهای هوشمند، واکنش زنجیرهای را در سراسر شبکهها و صنایع بهوجود آورد که این امر الزامات بالاتری را برای پیشگیری از خطرات و پاسخدهی اضطراری ایجاد میکند.
ژائو ژیگوئو اعلام کرد که هنگامی که عاملهای هوشمند توانایی تصمیمگیری مستقل را کسب میکنند، خطرات امنیتی از «خرابیهای فنی» به «از دست دادن کنترل بر تصمیمگیری» گسترش مییابد. در صورت رخ دادن انحراف یا اختلال، عاملهای هوشمند ممکن است اقداماتی انجام دهند که از انتظارات انسانی فاصله داشته باشند و پیامدهای آن غیرقابل پیشبینی است. این خطر ذاتی، چالشی بنیادین برای قابلیت کنترل ایمنی ایجاد میکند. علاوه بر این، عاملهای هوشمند بهصورت خودمختار و با شیوهای بسیار انساننما در سیستم عمل میکنند و مکانیزمهای سنتی اعتماد مبتنی بر هویت با خطر شکست مواجه هستند. هنگامی که عاملهای هوشمند بهصورت خودمختار قراردادها را امضا میکنند، تراکنشها را اجرا میکنند و منابع را فرا میخوانند، تعریف مسئولیتهای امنیتی و شناسایی رفتارهای غیرمجاز به مشکلات عملی فوری تبدیل شدهاند که نیازمند راهحلهای فوری هستند.
بر اساس گفتهٔ وو هوئیچوان، عضو فرهنگستان مهندسی چین (CAE) و رئیس افتخاری کنفرانس امنیت اینترنت، حملات عاملمحور ویژگیهای فنی تصمیمگیری مستقل، همکاری خوشهای و تکامل پیوسته را نشان میدهند. حملات سنتی سایبری بهطور گستردهای متکی بر عملیات دستی هستند، درحالیکه حملات مبتنی بر عامل این الگو را اساساً تغییر میدهند.
بهطور خاص، عاملهای هوشمند میتوانند بهصورت خودکار محیط را ادراک کرده، مسیرهای حمله را برنامهریزی کرده و وظایف نفوذ را انجام دهند؛ همچنین چندین عامل میتوانند اطلاعات را بهاشتراک گذاشته و با یکدیگر همکاری کنند. این نوع حملهٔ خوشهای میتواند در بازهٔ زمانی بسیار کوتاهی از چندین ورودی بهطور همزمان آغاز شود و سیستمهای دفاعی را در پاسخدهی خسته کند. آنچه نیازمند هوشیاری بیشتر است این است که عاملهای هوشمند توانایی یادگیری و تکرار پیوسته دارند و هر رویارویی بین حمله و دفاع مادهای برای بهینهسازی آنها محسوب میشود؛ بنابراین روشهای حمله با گذشت زمان بهطور مداوم تغییر میکنند.
ژو هونگیی، بنیانگذار گروه ۳۶۰ و رئیس کنفرانس امنیت اینترنت، معتقد است که هوش مصنوعی باعث کاهش هزینههای نگهداری در صنعت امنیت شبکه شده است. به عنوان مثال، قابلیتهای کاملاً خودکار استخراج آسیبپذیری و ساخت زنجیره حمله در مدل میتوس، سرعت کشف آسیبپذیری را دو مرتبه افزایش داده و هزینهها را به کمتر از یک هزارم کاهش داده است.
تغییر تفکر در امنیت دیجیتال
تزییف هویت، خرابی مدل، آسیبپذیریهای مدیریت دسترسی، ابتزاز خصمانه... همزمان با ورود عاملهای هوشمند به مرحله کاربرد تجاری، انواع ریسکهای جدید بهطور مداوم ظهور میکنند. در عین حال، ریسکهایی مانند استخراج پنهان دادهها توسط هوش مصنوعی نیز بر دقت مدل و قابلیت اطمینان تصمیمگیری تأثیر میگذارند.
ژائو چونجیانگ، عضو آکادمی مهندسی چین و معاون رئیس انجمن هوش مصنوعی چین، توضیح داد که خطرات امنیتی سیستمهای هوش مصنوعی در چهار بعدِ لایهٔ داده، لایهٔ مدل، لایهٔ کاربرد و لایهٔ زیربنایی نمود پیدا میکند. مشکلات امنیتی موجود در هر یک از این ابعاد متفاوت است و باید اقدامات هدفمندی اتخاذ شود.
از دیدگاه وو هوکوان، طی سالها، رویکرد کارهای امنیتی همواره واکنش به حملات پس از وقوع بوده است. این الگوی واکنشگرا ممکن است در برابر حملات انسانی مقاومت کند، اما در برابر حملات فشردهٔ خوشههای عاملهای هوشمند، همواره با تأخیری معادل نیمضربه مواجه میشود.
در گذشته که کسی قویتر بود و در آینده که کسی سریعتر خواهد بود؟ چین باید توانایی مستقل و قابل کنترلِ کشف آسیبپذیریهای هوش مصنوعی را توسعه دهد.» ژو هونگی گفت.
الگوی امنیت باید از دفاع منفعل به ایمنی فعال تغییر کند، «وو هوئیچوان» گفت. ما باید چارچوبی سیستمی برای عملیات امنیتی بسازیم که تمام مراحل چرخهٔ حیات را شامل شود: پیشبینی، دفاع، تشخیص، واکنش و بازیابی. باید فرآیندها، نیروی انسانی و فناوری را در ظرفیتی حلقهبسته یکپارچه کنیم تا سیستم امنیتی نیز قابلیتهای ادراک، پیشبینی و سازگاری هوشمند داشته باشد و جابجایی از اقدامات اصلاحی پس از حادثه به هشدارهای پیش از وقوع و مسدودسازی در حین وقوع رخ دهد.
این تنها تزئین اضافی نیست، بلکه بازسازی اساسی و حیاتی قابلیتهاست. بدون ایمنی فعال، در عصر عاملان هوشمند، امنیت دیجیتالی امکانپذیر نیست، «وو هوئیچوان» گفت.
ژائو ژیگوئو معتقد است که لازم است تحقیق و توسعهٔ فناوریهای اصلی امنیت عاملهای هوشمند را برجسته کرد، سرمایهگذاری در تحقیق و توسعهٔ حوزههای کلیدی مانند تفسیرپذیری الگوریتمها، حفاظت از حریم خصوصی دادهها و مقاومت سیستم را تقویت نمود، تواناییهای دفاع پیشگیرانه را از منشأ بهبود بخشید و در توسعه پیشقدم شد. همچنین باید ایجاد استانداردهای امنیتی و مکانیزمهای ارزیابی و گواهیدهی که با ویژگیهای عاملهای هوشمند سازگارند را تسریع کرد، مدیریت سطحبندیشده و دستهبندیشده را برای عاملهای هوشمند پرخطر اعمال نمود، مرزهای مسئولیت در زمینههای تحقیق و توسعه، استقرار و بهرهبرداری را روشن ساخت و اطمینان حاصل کرد که قوانین و مقررات لازم وجود دارد. در چارچوب استاندارد ملی، ادغام عمیق صنعت، آموزش عالی، پژوهش و کاربرد را ترویج داد و تشکیل استانداردهای حفاظتی را که تمامی مراحل چرخهٔ عمر تحقیق و توسعه، اجرای، بهرهبرداری و نگهداری عاملهای هوشمند را پوشش میدهد را تسریع کرد.
تغییر از فروش محصولات به فروش توانایی
بر اساس گزارش مرکز دادههای بینالمللی (IDC)، بازار امنیت سایبری چین به دلیل تقویت مداوم سیاستها و مقررات، افزایش تمایل بنگاههای اقتصادی به سرمایهگذاری در حوزه امنیت و شتاب گرفتن کاربرد فناوریهای نوین، رشد پایداری را حفظ کرده است. پیشبینی میشود که تا سال ۲۰۲۶، اندازه کلی این بازار از ۸۰ میلیارد یوان فراتر رود و نرخ رشد سالانه ترکیبی آن از سال ۲۰۲۴ تا ۲۰۲۹ برابر با ۸٫۹ درصد باشد. امنیت سایبری امروزه به یکی از تواناییهای اساسی ضروری در توسعه اقتصاد دیجیتال تبدیل شده است.
در حال حاضر، عاملهای هوشمند در حال تسریع نفوذ خود به صنایع تخصصی مانند مالی، تولید و مراقبتهای بهداشتی هستند و به اجزای اصلی سیستمهای کسبوکار واقعی تبدیل شدهاند. با این حال، اکثر کاربران صنعتی هنوز قادر به توسعه سیستمهای دفاعی هوشمند خود نیستند و تأمینکنندگان سنتی امنیت نیز همچنان عادت دارند که دیوارهای آتشی، ابزارهای تشخیص و غیره را عرضه کنند؛ در نتیجه عدم تطابق آشکاری بین عرضه و تقاضا ایجاد شده است.
کسی که زودتر از ارائهدهندهٔ محصول به ارائهدهندهٔ خدمات تبدیل شود، میتواند در حوزهٔ جدید امنیت عاملهای هوشمند پیشتاز شود،" وو هِ چُوان گفت. شرکتهای امنیت دیجیتال در عصر عاملهای هوشمند باید از فروش محصولات به فروش تواناییها تغییر دهند؛ یعنی خدمات میزبانی امنیتی را که تمام دورهٔ عمر عاملهای هوشمند را پوشش میدهد، ارائه دهند: بررسی امنیت در مرحلهٔ توسعه، نظارت بلادرنگ و پاسخ به رویدادهای غیرعادی در مرحلهٔ عملیاتی، ارزیابی ریسک و ارائهٔ پیشنهادات تقویتی در مرحلهٔ تکرار و بهروزرسانی. این تغییر الگویی است و مانعی است که صنعت باید از سر گذراند.
ژائو ژیگوئو پیشنهاد داد که یک پلتفرم امنیتی مشترک بین صنعت، دانشگاهها و مراکز تحقیقاتی ایجاد شود تا منابع شبکهای یکپارچه شوند و همکاری عمیقتری میان شرکتها، دانشگاهها و مؤسسات تحقیقاتی در زمینههای توسعه فناوری امنیتی عاملهای هوشمند، همکاری در پاسخ به حوادث اضطراری و گسترش بهترین روشهای کاری فراهم آید. همچنین باید الگویی برای حکمرانی شکل گیرد که تحت راهنمایی دولت، مسئولیتپذیری شرکتها و مشارکت جامعه باشد تا چالشهای مشترک با رویکردی باز و همکارانه حل شوند.
در حال حاضر، شرکتهای مرتبط با این صنعت اقداماتی را برای تسریع در پرورش نیروی انسانی جدید در عصر عاملهای هوشمند آغاز کردهاند. در طول چهاردهمین کنفرانس امنیت اینترنت، فرآیند اعطای مجوز «مهندس عامل هوشمند ۳۶۰» (ADE) به سخنرانان و همچنین بورسیه ویژه استعدادهای هوش مصنوعی بنیاد خیریه ۳۶۰ بهصورت همزمان رونمایی شد؛ این اقدام، ظرفیت عملی برای همکاری عمیقتر بین صنعت، دانشگاه و پژوهش از دو زاویه پرورش نیروی انسانی و گسترش آموزش بهصورت فراگیر فراهم میکند.
ژائو ژیگوئو اعلام کرد که لازم است بهصورت فعال از دستگاههای دولتی، بنگاههای پیشرو و مراکز تحقیقاتی حمایت شود تا توسعهٔ استانداردهای صنعتی و گروهی در زمینههای ارزیابی توانایی امنیتی عاملهای هوشمند، طبقهبندی ریسکها، انطباق امنیتی دادهها و سایر حوزهها را تسریع کنند و اینگونه استانداردها پایهای نهادی برای توسعهٔ استانداردشدهٔ این صنعت فراهم آورند و عدم قطعیت ریسکهای امنیتی را با قطعیت رشد باکیفیت جبران نمایند. علاوه بر این، باید در تدوین و هماهنگسازی قواعد جهانی حکمرانی امنیت هوش مصنوعی بهصورت فعال شرکت کرد، پلتفرمی برای گفتوگوی امنیتی عاملهای هوشمند ایجاد نمود، مسیر همکاری در حکمرانی امنیت شبکهٔ جهانی را در عصر هوشمندسازی مشترکاً کاوش کرد، در کنار یکدیگر جامعهای از آیندهٔ مشترک در فضای سایبری را بنا نهاد و خرد و توان چین را در راستای توسعهٔ سالمِ صنعت جهانی عاملهای هوشمند به ارمغان آورد.