עם ההתקדמות המהירה של טכנולוגיית הבינה המלאכותית, סוכנים אינטליגנטיים, כנשא חשוב לאיחוד העמוק של בינה מלאכותית והכלכלה האמיתית, משפיעים באופן משמעותי על ייצור וסגנון חיים, ומביאים ליצירת גבולות חדשים לביטחון.
עם ההתקדמות המהירה של טכנולוגיית הבינה המלאכותית, סוכנים אינטליגנטיים, כנשא חשוב לאיחוד העמוק של בינה מלאכותית והכלכלה האמיתית, משפיעים באופן משמעותי על ייצור וסגנון חיים, ומביאים ליצירת גבולות חדשים לביטחון.
בכנס הביטחון באינטרנט ה-14, שערך לאחרונה, ציינו מומחים כי יש להשתמש בטכנולוגיה הליבה כדי להתמודד עם בעיות מפתח, לחזק את הכישורים הפנימיים, לבנות מחסום איתן באמצעות בניית מערכות וכללים, ולנהל את נורמות התעשייה באמצעות בניית מערכות תקנים, כדי ליצור מסלול להתפתחות מאוזנת ובתאום עם הביטחון בעידן הסוכנים.
סוכנים אינטליגנטיים מביאים סיכונים חדשים
כרגע, הבינה המלאכותית עוברת מעבר קריטי ממודלים גדולים לסוכנים אינטליגנטיים. כאשר סוכנים אינטליגנטיים מתחילים לקבל החלטות עצמאיות, לקרוא לכלי ולבצע משימות, עולמות סיכון בביטחון גם מתעוררים.
«ביחס למערכות המידע של העבר, סוכנים אינם עוד כלי לשאלות ותשובות לביצוע פסיבי, אלא ניתנה להם היכולת לתפיסה עצמאית, קבלת החלטות וביצוע. הקפיצה הזו בתכונות הטכנולוגיות שינתה באופן משמעותי את המצב ההתקפי וההגנתי באבטחת הרשתות.» אמר ג'או ג'יגואו, סגן יושב-הראש של האגודה הסינית לאינטרנט וمهندس ראשי לשעבר במשרד התעשייה והטכנולוגיה_INFORMATION.
עם החדירה המאיצה של סוכנים אינטליגנטיים לתחומים מרכזיים כגון ייצור, פיננסים ואנרגיה, כל סיכון לאבטחה עלול להפעיל תגובת שרשרת ברשתות ובענפים השונים תוך זמן קצר באמצעות יכולת השידור האוטונומית של הסוכנים האינטליגנטיים, מה שמהווה דרישות גבוהות יותר למניעת סיכונים ולתגובה חירום.
צָאוֹ זִי גּוֹאִי הִדְלִיק שֶׁבְּעֵת שֶׁסּוֹפִים חַכְמָנִיִּים מַשִּׂיגִים כֹּשֶׁר לִקְבֹּעַ הֲלָכוֹת בְּצִוְרָה אַטּוֹנוֹמִית, סַכָּנַת הַבְּטִיחוּת מִתְרַחֶבֶת מִ"כִּשְׁלוֹנִים טֶכְנִיִּים" לְ"אַבְדַּן בְּטִיחוּת בְּקִבּוּעַ הֲלָכוֹת". בְּעֵת שֶׁמְּקֹרִים סִטּוּאָצִיוֹת אוֹ פְּרָטוּף, סוֹפִים חַכְמָנִיִּים יָכוֹלִים לַעֲשׂוֹת מַעֲשִׂים הַמְשַׁנִּים מִהַצִּפִּיָּה הָאֱנוֹשִׁית, וְהַתּוֹצָאוֹת אֵינָן נִקְבָּעוֹת. סַכָּנַת פְּנִימִית זוֹ מַעֲמִידָה אֶת בְּטִיחוּת הַהִדְרוּךְ בְּאֵיזוֹר עִקָּרִי. בְּנֹסֶף, סוֹפִים חַכְמָנִיִּים פּוֹעֲלִים בְּצִוְרָה אַטּוֹנוֹמִית בַּמַּעֲרָכָה בְּאוֹפֶן דּוֹמֶה לְאָדָם בְּיוֹתֵר, וּמְכָנִיזְמֵי הַבְּטָחוֹן הַמִּתְיַסְדִים עַל זֶהוּת נוֹפְלִים בְּסַכָּנַת כִּשְׁלוֹן. בְּעֵת שֶׁסוֹפִים חַכְמָנִיִּים חוֹתְמִים בְּצִוְרָה אַטּוֹנוֹמִית עַל הַחֲזָקוֹת, מַגְשִׁימִים מַעֲשִׂים וּמְקָרְאִים מְשָׁאֲבוֹת, הַשְּׁאֵלָה אֵיךְ לְהַגְדִּיר אַחֲרָיוּת בְּטִיחוּת וּלְהַגְדִּיר מַעֲשִׂים שֶׁאֵינָם מְרֻשָּׁאִים הִיא לְמַעֲשֶׂה דְּחוּף שֶׁצְּרִיכִים לְפָתְרוֹ.
לפי וו חֶקוּאן, אקדמאי של האקדמיה הסינית להנדסה (CAE) ויו"ר כבוד של ועידת האבטחה באינטרנט, התקפות על ידי סוכנים מציגות מאפיינים טכנולוגיים של קבלת החלטות עצמאית, שיתוף פעולה קבוצתי והתפתחות מתמדת. תקיפות סייבר מסורתיות מסתמכות במידה רבה על פעולות ידניות, בעוד שתקיפות המונעות על ידי סוכנים משנות באופן מהותי את הדפוס הזה.
באופן ספציפי, סוכנים אינטליגנטיים יכולים לתפוש באופן עצמאי את הסביבה, לתכנן מסלולי התקפה ולבצע משימות חדירה, ומספר סוכנים יכולים לשתף מידע ולשתף פעולה. התקפה קבוצתית כזו יכולה להתחיל בו זמנית ממספר כניסות בפרק זמן קצר מאוד, מה שמוביל למערכת ההגנה להתעייף מהגבהת תגובות. מה שצריך להישמר ממנו במיוחד הוא שהסוכנים האינטליגנטיים מחזיקים בכושר ללמוד ולהשתכלל באופן מתמיד, וכל התנגשות בין התקפה להגנה הופכת לחומר לאופטימיזציה שלהם, כך ששיטות ההתקפה משתנות ללא הרף עם הזמן.
ג'ו הונג-י, מייסד קבוצת 360 ויו"ר הכנס הבינלאומי לאבטחת האינטרנט, מאמין ש־AI גרם לירידה חדה בתפעול של תעשיית אבטחת הרשתות. כדוגמה, המודל מייתוס, שמתמחה בחיפוש אוטומטי מלא של פגיעויות ובבניית שרשרת התקפות, העלה את מהירות גילוי הפגיעויות בשני סדרי גודל ופחת את העלות לפחות מאלף השניה.
השנה במחשבה על אבטחת דיגיטלי
זיוף זהות, כשל מודל, פגעי ניהול הרשאות, רצון לריצ'ט... ככל שסוכנים אינטליגנטיים נכנסים לשלב היישום המסחרי, סיכונים חדשים מתעוררים ללא הפסקה. במקביל, סיכונים כמו כרייה נסתרת של נתונים שמנועה על ידי בינה מלאכותית משפיעה גם על דיוק המודל ועל אמינות ההחלטות.
צ'או צ'וןג'יאנג, אקדמאי באקדמיה הסינית להנדסה וסגן נשיא האגודה הסינית לבינה מלאכותית, הציג שסיכונים לאבטחת מערכות בינה מלאכותית מכסים ארבעה ממדים: שכבת הנתונים, שכבת המודלים, שכבת היישומים ושכבת היסודות. הבעיות הביטחוניות שמופעלות בכל ממד הן שונות זו מזו, ולכן יש לנקוט באמצעים ממוקדים.
לפי דעותיו של וו חהצ'ואן, לאורך זמן, הרעיון העומד בבסיס עבודת האבטחה היה לכבות את האש במקום שבו היא מתפרצת. מצב התגובה הפסיבי הזה מסוגל לעמוד בהתקפות אנושיות, אך מול התקפות מרובות וממושכות של קבוצות סוכנים חכמים, מהירות התגובה תמיד מאחרת בצעד אחד.
מי היה חזק יותר בעבר ומי יהיה מהיר יותר בעתיד? סין חייבת לבנות יכולת עצמאית ונתונה לשליטה לחשיפת פגיעויות במערכות בינה מלאכותית. »אמר ג'ואו הונגיי.
הפרדיגמה של האבטחה חייבת להשתנות מהגנה פסיבית לחיסון אקטיבי", אמר וו חה-צ'ואן. "עלינו לבנות מסגרת מערכתית לפעולת אבטחה שמכסה את כל מחזור החיים של התחזית, ההגנה, הבחינה, התגובה והשיקום. עלינו לשלב תהליכים, עובדים וטכנולוגיות לתוך יכולת מעגל סגור, כך שמערכת האבטחה תוכל גם לזהות, לחזות ולהתאים עצמה באופן אינטליגנטי, ולהשיג מעבר מטיפול לאחר האירוע להזהרה מראש ולחסימה בזמן האמת.
זו אינה רק תוספת יפה לעוגה, אלא בנייה מחדש של יכולות במשמעויות של חיים או מוות. ללא חיסון אקטיבי לא תהיה אבטחה דיגיטלית בעידן הסוכנים האינטליגנטים", אמר וו חה-צ'ואן.
צאו ג'יגואו מאמין שחשוב להעניק דגש מיוחד לפיתוח טכנולוגיות ליבה בתחום האבטחה של סוכנים אינטיליגנטיים, לחזק את ההשקעה במחקר ופיתוח בתחומים מרכזיים כגון פירוש אלגוריתמים, הגנת פרטיות הנתונים ועמידות המערכת, לשפר את יכולות ההגנה הפעילה כבר בשלב המקור ולתפוס את היוזמה בפיתוח. יש להאיץ את הקמת תקני אבטחה ומנגנוני הערכה ואישור מתאימים לאופי הסוכנים האינטיליגנטיים, ליישם ניהול מדורג וממיין עבור סוכנים אינטיליגנטיים מסוכנים במיוחד, לחדד את גבולות האחריות במחקר ופיתוח, בהצבה ובפעילות, ולהבטיח כי קיימים חוקים והנחיות להתייחסות אליהם. במסגרת מסגרת התקנים הלאומיים, יש לקדם את ההתמזגות העמוקה בין התעשייה, האקדמיה, המחקר והיישום, ולהאיץ את היווצרות תקני ההגנה שמכסים את מחזור החיים המלא של מחקר ופיתוח, יישום, פעילות ותחזוקה של סוכנים אינטיליגנטיים.
מעבר ממכירת מוצרים למכירת יכולת
לפי דו"ח של חברת International Data Corporation (IDC), שוק האבטחה السيبرנית בסין שמר על צמיחה מתמדת בשל החזקה מתמדת של מדיניות ותקנות, הגדלת המוכנות של חברות להשקיע באבטחה, והאצת יישום טכנולוגיות חדשות. צפוי כי עד לשנת 2026, גודל השוק הכולל יעלה על 80 מיליארד יואן, עם שיעור צמיחה שנתי מחושב של 8.9% בין השנים 2024–2029. אבטחה סייברנית הפכה ליכולת יסודית חיונית בפיתוח הכלכלה הדיגיטלית.
כרגע, סוכנים אינטיליגנטיים מאיצים את החדירה שלהם לתשתיות התעשייה המורכבות כגון פיננסים, ייצור ובריאות, והופכים לרכיב מרכזי במערכות עסקיות אמיתיות. עם זאת, רוב משתמשי התעשייה עדיין אינם בעלי היכולת לפתח בעצמם מערכות הגנה אינטיליגנטיות, וספקני האבטחה המסורתיים ממשיכים להתרגל למכירת חומות אש, כלים לזיהוי וכו', מה שמייצר אי-התאמה ברורה בין היצע ובין ביקוש.
מי שיסיים את המעבר מהספק מוצר לספק שירות ראשונים יתפוס את הנהגות בשדה החדש של אבטחת סוכנים חכמים", אמר וו היי-צ'ואן. חברות אבטחה דיגיטלית בעידן הסוכנים החכמים חייבות לעבור ממכירת מוצרים למכירת יכולות, כלומר לספק שירותי אירוח אבטחה שמכסים את מחזור החיים המלא של הסוכנים החכמים: בדיקת האבטחה בשלב הפיתוח, ניטור בזמן אמת ותגובה לאנומליות בשלב הפעלה, הערכת סיכונים והצעת המלצות לחיזוק בשלב האיטרציה. זהו מעבר טיפולוגי ומפתח קשיח שה תעשייה חייבת להתגבר עליו.
צָאוֹ ג'י גְ'וֹ הִציע לְהַקִּים פְּלַטְפוֹרְמָה מְשׁוּתֶּפֶת לְבִטָּחוֹן שֶׁתְּאַחֵד אֶת הַתַּעֲשִׂיָּה, הַמִּסְפָּדִים וְהַמֶּחְקָר, כְּדֵי לְאַחֵד אֶת מְשָׁבְרֵי הָרֶשֶׁת וּלְהַחֲזִיק שִׁיתוּף פְּעֻלָּה עָמֹק בֵּין חֲבֵרוֹת, מִסְפָּדִים וּמוֹסְדוֹת מֶחְקָר בְּחִקּוּר וּפִתּוּחַ טֶכְנוֹלוֹגִיוֹת בִּטָּחוֹן לְסָנִיפֵי פְּעֻלָּה מְשֻׁמֶּשֶׁת, בְּשִׁתּוּף פְּעֻלָּה בְּמַצָּבִים מְדֻפָּעִים וּבְהַפְצָת מִשְׁתַּמְּשִׁים מְטוּבִים. צָרִיךְ לִבְנוֹת דֶּלֶגֶת מֶמְשָׁלָה שֶׁתִּתְמַכֵּךְ עַל נִהוּל מִשְׁרָדִי, אַחֲרָיוּת הַחֲבֵרוֹת וְהִשְׁתַּתְּפוּת הַחֶבְרָתִית, כְּדֵי לְהִתְאַמֵּץ לִקְשִׁיּוֹת מְשֻׁתָּפוֹת בְּאֹפֶן פָּתוּחַ וּמְשׁוּתָּף.
בזמן זה, חברות רלוונטיות בתעשייה פועלות כדי להאיץ את הוראת הכישורים החדשים לתקופת הסוכנים האינטליגנטיים. במהלך הכנס ה-14 לביטחון באינטרנט, הושקו במקביל תהליך הענקת התואר 'מהנדס סוכני בינה מלאכותית של 360' (ADE) ומענק המלגה המיוחד לבעלי כישורים בתחום הבינה המלאכותית של קרן הרווחה של 360, ובכך הוצע מסגרת מעשית לחינוך שיתופי מעמיק בין התעשייה, האוניברסיטאות והמחקר, מנקודת מבט של הוראת הכישורים והשכלה הכללית.
צָאוֹ ג'י גּוֹאּ הִדְלִיק שֶׁצָּרִיךְ לְהַחֲלִיף בְּצִיּוּר אַקְטִיבִי אֶת מִשְׁרָדוֹת הַמֶּמְשָׁלָה, הַחֲבֵרוֹת הַמַּנְהִיגוֹת וּמוֹסְדוֹת הַמִּשְׁתַּמְּשִׁים בְּמִשְׁרָדוֹת הַמֶּמְשָׁלָה, כְּדֵי לְהַאֲצִיל אֶת פִּתּוּחַ תַּקָּנוֹן תַּעֲשִׂיתִי וְתַקָּנוֹן קְבוּצָתִי בְּחֻקְקוֹת כְּמוֹ אֲמִינוּת סִגְנוֹן סָגֵן חָכְמָנִי, מַחְלָקַת סִכּוּנִים, הִתְאַמְתוּת בְּחִיּוּבִים דַּתִּיִּים לְבִטְחוֹן הַדַּתָּאִים וְכוּ', כְּדֵי לְהַעֲמִיד יְסוֹד מְסוּדָּר לְפִתּוּחַ הַתַּעֲשִׁיְּת וּלְהַגְבִּישׁ אֶת הַסִּכּוּנִים הַבִּטְחוֹנִיִּים הַמְּסֻפָּקִים עַל־יְדֵי הוֹדָעַת הַפִּתּוּחַ הַמְּעֻלֶּה. בְּנֹסֶף, צָרִיךְ לְהִשְׁתַּתֵּף בְּצִיּוּר וּבְהַתְאָמָה שֶׁל כְּלַל הַמֶּמְשָׁלָה הַגְּלוֹבָלִית לְבִטְחוֹן בְּחָכְמָה מְנֻבָּאָה, לִבְנוֹת פְּלַטְפוֹרְמַת דִּיאָלוֹג לְבִטְחוֹן סָגֵן חָכְמָנִי, לְחַקֵּר בְּיַחַד אֶת הַדֶּרֶךְ הַמְּשֻׁתֶּפֶת לְמֶמְשַׁלְת רֶשֶׁת הַבִּטְחוֹן הַגְּלוֹבָלִית בַּזְּמַן הַחָכְמָנִי, לִבְנוֹת בְּיַחַד קְהִלָּה שֶׁל עֲתִיד מְשֻׁתָּף בַּמֶּרְחָב הַסִּבֶּרְנֶטִי, וּלְהַשְׁקִיעַ אֶת הַחָכְמָה וְהַכֹּחַ הַסִּינָאִי לְפִתּוּחַ הַבְּרִיאוּתִי שֶׁל הַתַּעֲשִׁיְּת הַגְּלוֹבָלִית שֶׁל סָגְנִים חָכְמָנִיִּים.