ด้วยการพัฒนาเทคโนโลยีปัญญาประดิษฐ์อย่างรวดเร็ว ตัวแทนอัจฉริยะ ซึ่งเป็นหนึ่งในช่องทางสำคัญที่ทำให้ปัญญาประดิษฐ์ผสานเข้ากับเศรษฐกิจจริงอย่างลึกซึ้ง กำลังส่งผลกระทบอย่างมากต่อรูปแบบการผลิตและการใช้ชีวิต รวมทั้งปรับเปลี่ยนขอบเขตความมั่นคงด้านความปลอดภัย
ด้วยการพัฒนาเทคโนโลยีปัญญาประดิษฐ์อย่างรวดเร็ว ตัวแทนอัจฉริยะ ซึ่งเป็นหนึ่งในช่องทางสำคัญที่ทำให้ปัญญาประดิษฐ์ผสานเข้ากับเศรษฐกิจจริงอย่างลึกซึ้ง กำลังส่งผลกระทบอย่างมากต่อรูปแบบการผลิตและการใช้ชีวิต รวมทั้งปรับเปลี่ยนขอบเขตความมั่นคงด้านความปลอดภัย
ในการประชุมความมั่นคงทางอินเทอร์เน็ตครั้งที่ 14 ที่จัดขึ้นเมื่อเร็วๆ นี้ ผู้เชี่ยวชาญระบุว่า ควรใช้เทคโนโลยีหลักเพื่อแก้ไขปัญหาสำคัญ ยกระดับศักยภาพภายใน สร้างแนวป้องกันที่แข็งแกร่งผ่านการจัดตั้งระบบและกฎเกณฑ์ และนำร่องมาตรฐานอุตสาหกรรมด้วยการพัฒนาระบบมาตรฐาน เพื่อกำหนดแนวทางการพัฒนาที่สอดคล้องกันระหว่างความก้าวหน้าและความมั่นคงในยุคของตัวแทนอัจฉริยะ
ตัวแทนอัจฉริยะนำมาซึ่งความเสี่ยงใหม่
ปัจจุบัน ปัญญาประดิษฐ์กำลังอยู่ในช่วงเปลี่ยนผ่านสำคัญจากโมเดลขนาดใหญ่ไปสู่ตัวแทนอัจฉริยะ เมื่อตัวแทนอัจฉริยะเริ่มตัดสินใจด้วยตนเอง เรียกใช้เครื่องมือ และดำเนินการงานต่างๆ ความเสี่ยงด้านความปลอดภัยก็จะเกิดขึ้นตามมา
"เมื่อเปรียบเทียบกับระบบสารสนเทศในอดีต ตัวแทน (agents) ไม่ใช่เพียงเครื่องมือตอบคำถามแบบรับคำสั่งอย่างแข็งขันอีกต่อไป แต่ได้รับความสามารถในการรับรู้ การตัดสินใจ และการดำเนินการอย่างอิสระ ความก้าวหน้าเชิงเทคโนโลยีนี้ได้เปลี่ยนแปลงสถานการณ์ด้านความมั่นคงปลอดภัยของเครือข่ายทั้งในเชิงรุกและเชิงรับอย่างลึกซึ้ง" เจ้า เจ้อกั๋ว รองประธานสมาคมอินเทอร์เน็ตแห่งประเทศจีน และอดีตวิศวกรใหญ่กระทรวงอุตสาหกรรมและเทคโนโลยีสารสนเทศแห่งประเทศจีน กล่าว
ด้วยการแทรกซึมอย่างรวดเร็วของตัวแทนอัจฉริยะเข้าสู่ภาคสำคัญต่าง ๆ เช่น การผลิต การเงิน และพลังงาน ความเสี่ยงด้านความมั่นคงปลอดภัยใด ๆ ก็อาจก่อให้เกิดปฏิกิริยาลูกโซ่ข้ามเครือข่ายและข้ามภาคอุตสาหกรรมภายในระยะเวลาอันสั้นผ่านความสามารถในการจัดสรรงานโดยอัตโนมัติของตัวแทนอัจฉริยะ ส่งผลให้มีข้อกำหนดที่สูงขึ้นต่อการป้องกันความเสี่ยงและการตอบสนองฉุกเฉิน
เจ้า จื้อปู้ กล่าวว่า เมื่อเอเจนต์อัจฉริยะมีความสามารถในการตัดสินใจอย่างอิสระแล้ว ความเสี่ยงด้านความปลอดภัยจะขยายตัวจาก "ความล้มเหลวทางเทคนิค" ไปสู่ "การสูญเสียการควบคุมการตัดสินใจ" ทันทีที่เกิดความคลาดเคลื่อนหรือสิ่งรบกวน เอเจนต์อัจฉริยะอาจดำเนินการที่ขัดแย้งกับความคาดหวังของมนุษย์ และผลลัพธ์ที่ตามมาไม่สามารถทำนายได้ ความเสี่ยงแบบภายในนี้สร้างความท้าทายพื้นฐานต่อความสามารถในการควบคุมด้านความปลอดภัย นอกจากนี้ เอเจนต์อัจฉริยะยังปฏิบัติงานอย่างอิสระภายในระบบด้วยลักษณะที่เลียนแบบมนุษย์อย่างมาก ทำให้กลไกการวางใจที่อาศัยเอกลักษณ์แบบดั้งเดิมเผชิญความเสี่ยงที่จะล้มเหลว เมื่อเอเจนต์อัจฉริยะลงนามในสัญญา ดำเนินธุรกรรม และเรียกใช้ทรัพยากรอย่างอิสระ คำถามที่ว่าจะกำหนดความรับผิดชอบด้านความปลอดภัยอย่างไร และจะระบุพฤติกรรมที่ไม่ได้รับอนุญาตอย่างไร จึงกลายเป็นปัญหาเชิงปฏิบัติเร่งด่วนที่จำเป็นต้องแก้ไข
ตามที่อู่ เหอฉวน นักวิชาการแห่งสถาบันวิศวกรรมจีน (CAE) และประธานกิตติมุขของงานประชุมความมั่นคงทางอินเทอร์เน็ต ระบุว่า การโจมตีแบบเอเจนต์แสดงลักษณะเชิงเทคนิคสามประการ ได้แก่ การตัดสินใจอย่างอิสระ การทำงานร่วมกันเป็นกลุ่ม และการพัฒนาอย่างต่อเนื่อง ซึ่งแตกต่างจากการโจมตีไซเบอร์แบบดั้งเดิมที่พึ่งพาการดำเนินการด้วยมือเป็นหลัก ขณะที่การโจมตีที่ขับเคลื่อนด้วยเอเจนต์เปลี่ยนรูปแบบนี้โดยสิ้นเชิง
โดยเฉพาะอย่างยิ่ง เอเจนต์อัจฉริยะสามารถรับรู้สภาพแวดล้อมด้วยตนเอง วางแผนเส้นทางการโจมตี และปฏิบัติภารกิจแทรกซึมได้ ทั้งยังสามารถแลกเปลี่ยนข้อมูลและประสานงานร่วมกันระหว่างเอเจนต์หลายตัวได้ อีกทั้งการโจมตีแบบกลุ่มนี้สามารถเริ่มต้นพร้อมกันจากหลายจุดเข้าในช่วงเวลาอันสั้นมาก จนทำให้ระบบป้องกันเกิดภาวะหมดแรงในการตอบสนอง สิ่งที่ต้องระมัดระวังยิ่งกว่านั้นคือ เอเจนต์อัจฉริยะมีความสามารถในการเรียนรู้และปรับปรุงตัวอย่างต่อเนื่อง ดังนั้นทุกการเผชิญหน้าระหว่างการโจมตีกับการป้องกันจึงกลายเป็นข้อมูลสำหรับการปรับแต่งให้ดียิ่งขึ้น ซึ่งวิธีการโจมตีก็จะเปลี่ยนแปลงไปเรื่อย ๆ ตามกาลเวลา
โจว หงอี้ ผู้ก่อตั้งกลุ่ม 360 และประธานการประชุมความมั่นคงด้านอินเทอร์เน็ต เชื่อว่าปัญญาประดิษฐ์ (AI) ได้เปลี่ยนแปลงแนวทางการบำรุงรักษาในอุตสาหกรรมความมั่นคงปลอดภัยไซเบอร์อย่างสิ้นเชิง โดยยกตัวอย่างโมเดล Mythos ซึ่งมีความสามารถในการค้นหาช่องโหว่และการสร้างสายการโจมตีแบบอัตโนมัติเต็มรูปแบบ ทำให้ความเร็วในการค้นพบช่องโหว่เพิ่มขึ้นสองระดับของขนาด (100 เท่า) และลดต้นทุนลงเหลือต่ำกว่าหนึ่งในพัน
การเปลี่ยนผ่านแนวคิดด้านความมั่นคงปลอดภัยดิจิทัล
การปลอมแปลงตัวตน ความล้มเหลวของโมเดล ช่องโหว่ในการจัดการสิทธิ์ การข่มขู่เรียกค่าไถ่แบบมีเจตนาชั่วร้าย... เมื่อเอเจนต์อัจฉริยะเข้าสู่ขั้นตอนการใช้งานเชิงพาณิชย์ ความเสี่ยงใหม่ๆ ต่างๆ ยังคงปรากฏขึ้นอย่างต่อเนื่อง ในขณะเดียวกัน ความเสี่ยงอื่นๆ เช่น การขุดข้อมูลที่แฝงอยู่ซึ่งขับเคลื่อนโดยปัญญาประดิษฐ์ ก็ส่งผลกระทบต่อความแม่นยำของโมเดลและความน่าเชื่อถือของการตัดสินใจ
เจ้า ชุนเจียง สมาชิกวิชาการของสถาบันวิศวกรรมจีน (CAE) และรองประธานสมาคมปัญญาประดิษฐ์แห่งประเทศจีน กล่าวว่า ความเสี่ยงด้านความมั่นคงของระบบปัญญาประดิษฐ์ครอบคลุมสี่มิติ ได้แก่ ชั้นข้อมูล ชั้นแบบจำลอง ชั้นการใช้งาน และชั้นพื้นฐาน ปัญหาด้านความมั่นคงที่แต่ละมิติเผชิญนั้นมีลักษณะต่างกัน จึงจำเป็นต้องดำเนินมาตรการเฉพาะทางที่เหมาะสม
อู่ เหอฉวน มองว่า แนวคิดด้านงานความมั่นคงในอดีตมานานนั้น มักเน้นการดับไฟที่เกิดขึ้นแล้วเท่านั้น รูปแบบการตอบสนองแบบเชิงรับนี้อาจรับมือกับการโจมตีจากมนุษย์ได้ แต่เมื่อเผชิญกับการโจมตีอย่างต่อเนื่องและหนักแน่นจากฝูงเอเจนต์อัจฉริยะ ความเร็วในการตอบสนองมักจะช้ากว่าเหตุการณ์ไปครึ่งจังหวะ
ใครแข็งแกร่งกว่ากันในอดีต และใครจะเร็วกว่ากันในอนาคต? จีนจำเป็นต้องสร้างศักยภาพในการค้นหาช่องโหว่ของระบบปัญญาประดิษฐ์ที่เป็นอิสระและควบคุมได้ด้วยตนเอง” โจว หงอี้หยี่ กล่าว
รูปแบบความมั่นคงต้องเปลี่ยนผ่านจากกลไกการป้องกันแบบพาสซีฟ ไปสู่ระบบภูมิคุ้มกันเชิงรุก "อู่ เหอฉวน กล่าว" เราจำเป็นต้องสร้างกรอบการดำเนินงานด้านความมั่นคงอย่างเป็นระบบ ครอบคลุมทั้งวัฏจักรชีวิต ได้แก่ การทำนาย การป้องกัน การตรวจจับ การตอบสนอง และการฟื้นฟู เราต้องผสานรวมกระบวนการ บุคลากร และเทคโนโลยีเข้าด้วยกันเป็นความสามารถแบบวงจรปิด เพื่อให้ระบบความมั่นคงสามารถรับรู้ ทำนาย และปรับตัวได้อย่างชาญฉลาด พร้อมเปลี่ยนผ่านจากแนวทางการแก้ไขหลังเกิดเหตุ ไปสู่การแจ้งเตือนล่วงหน้าและการบล็อกระหว่างดำเนินการ
สิ่งนี้ไม่ใช่เพียงการเสริมแต่งเล็กน้อย แต่คือการปฏิรูปขีดความสามารถอย่างสิ้นเชิง ซึ่งส่งผลต่อชีวิตและมรณะ หากปราศจากระบบภูมิคุ้มกันเชิงรุกแล้ว จะไม่มีความมั่นคงทางดิจิทัลในยุคของ intelligent agent ได้เลย "อู่ เหอฉวน กล่าว"
เจ้า จื้อปู้โถว เชื่อว่าจำเป็นต้องให้ความสำคัญกับการวิจัยและพัฒนาเทคโนโลยีหลักด้านความมั่นคงของเอเจนต์อัจฉริยะ ยกระดับการลงทุนด้านการวิจัยและพัฒนาในสาขาสำคัญ เช่น ความสามารถในการอธิบายอัลกอริทึม การคุ้มครองความเป็นส่วนตัวของข้อมูล และความแข็งแกร่งของระบบ เพื่อเสริมสร้างศักยภาพในการป้องกันเชิงรุกตั้งแต่ต้นทาง และเข้าควบคุมกระบวนการพัฒนาอย่างแข็งขัน ต้องเร่งจัดตั้งมาตรฐานด้านความมั่นคงและกลไกการประเมินรวมทั้งการรับรองที่สอดคล้องกับลักษณะเฉพาะของเอเจนต์อัจฉริยะ ใช้การจัดการแบบแบ่งระดับและจัดหมวดหมู่สำหรับเอเจนต์อัจฉริยะที่มีความเสี่ยงสูง ชี้แจงขอบเขตความรับผิดชอบอย่างชัดเจนในแต่ละขั้นตอน ได้แก่ การวิจัยและพัฒนา การนำเข้าใช้งาน และการดำเนินงาน เพื่อให้มีกฎเกณฑ์และระเบียบข้อบังคับที่สามารถปฏิบัติตามได้อย่างแน่นอน ภายใต้กรอบมาตรฐานแห่งชาติ ต้องส่งเสริมการผสานรวมอย่างลึกซึ้งระหว่างอุตสาหกรรม สถาบันการศึกษา หน่วยงานวิจัย และการประยุกต์ใช้งานจริง พร้อมเร่งสร้างมาตรฐานการคุ้มครองที่ครอบคลุมวงจรชีวิตทั้งหมดของการวิจัยและพัฒนา การนำไปใช้งาน การดำเนินงาน และการบำรุงรักษาเอเจนต์อัจฉริยะ
เปลี่ยนจากการขายผลิตภัณฑ์มาเป็นการขายความสามารถ
ตามรายงานของ International Data Corporation (IDC) ตลาดความมั่นคงปลอดภัยทางไซเบอร์ของจีนยังคงเติบโตอย่างต่อเนื่อง เนื่องจากนโยบายและข้อบังคับต่างๆ มีความเข้มงวดมากขึ้น องค์กรต่างๆ มีความพร้อมในการลงทุนด้านความมั่นคงปลอดภัยสูงขึ้น และการประยุกต์ใช้เทคโนโลยีใหม่ๆ เร่งตัวขึ้น คาดว่าภายในปี ค.ศ. 2026 ขนาดตลาดโดยรวมจะเกิน 8 หมื่นล้านหยวน โดยมีอัตราการเติบโตเฉลี่ยต่อปี (CAGR) อยู่ที่ 8.9% ระหว่างปี ค.ศ. 2024 ถึง 2029 ความมั่นคงปลอดภัยทางไซเบอร์จึงกลายเป็นสมรรถนะพื้นฐานที่จำเป็นต่อการพัฒนาเศรษฐกิจดิจิทัล
ปัจจุบัน ตัวแทนอัจฉริยะกำลังเร่งขยายการใช้งานเข้าสู่อุตสาหกรรมเฉพาะทาง เช่น การเงิน การผลิต และสาธารณสุข โดยกลายเป็นองค์ประกอบหลักของระบบธุรกิจจริง อย่างไรก็ตาม ผู้ใช้งานในอุตสาหกรรมส่วนใหญ่ยังไม่มีความสามารถในการพัฒนาระบบป้องกันอัจฉริยะด้วยตนเอง ในขณะที่ผู้ให้บริการความปลอดภัยแบบดั้งเดิมยังคงคุ้นเคยกับการขายไฟร์วอลล์ เครื่องมือตรวจจับ ฯลฯ ส่งผลให้เกิดความไม่สอดคล้องกันอย่างชัดเจนระหว่างอุปทานกับอุปสงค์
ผู้ที่สามารถเปลี่ยนผ่านจากผู้ให้ผลิตภัณฑ์ไปเป็นผู้ให้บริการได้ก่อน จะสามารถนำหน้าในสาขาความมั่นคงปลอดภัยของเอเจนต์อัจฉริยะแห่งใหม่ได้” อู่ เหอเฉวียน กล่าว องค์กรด้านความมั่นคงปลอดภัยดิจิทัลในยุคของเอเจนต์อัจฉริยะจำเป็นต้องเปลี่ยนจากการขายผลิตภัณฑ์มาเป็นการขายความสามารถ ซึ่งหมายถึงการให้บริการด้านความมั่นคงปลอดภัยแบบโฮสติ้งครอบคลุมทั้งวงจรชีวิตของเอเจนต์อัจฉริยะ ได้แก่ การทบทวนด้านความมั่นคงปลอดภัยในระยะพัฒนา การตรวจสอบแบบเรียลไทม์และตอบสนองต่อเหตุผิดปกติในระยะปฏิบัติงาน และการประเมินความเสี่ยงพร้อมเสนอแนะแนวทางเสริมความแข็งแกร่งในระยะปรับปรุงซ้ำ นี่คือการเปลี่ยนแปลงเชิงพาณิชย์ครั้งใหญ่ และเป็นอุปสรรคสำคัญที่ภาคอุตสาหกรรมจำต้องฝ่าฟัน
เจ้า จื้อปู้ แนะนำให้จัดตั้งแพลตฟอร์มความมั่นคงร่วมกันระหว่างภาคอุตสาหกรรม สถาบันการศึกษา และหน่วยงานวิจัย เพื่อผสานรวมทรัพยากรเครือข่ายและส่งเสริมความร่วมมืออย่างลึกซึ้งระหว่างบริษัท มหาวิทยาลัย และสถาบันวิจัย ในการวิจัยและพัฒนาเทคโนโลยีความมั่นคงของเอเจนต์อัจฉริยะ การประสานงานตอบสนองเหตุฉุกเฉิน และการเผยแพร่แนวทางปฏิบัติที่ดีที่สุด ควรสร้างรูปแบบการกำกับดูแลที่มีบทบาทนำจากภาครัฐ ความรับผิดชอบจากภาคเอกชน และการมีส่วนร่วมจากสังคม เพื่อรับมือกับความท้าทายร่วมกันด้วยทัศนคติเปิดกว้างและร่วมมือกัน
ปัจจุบัน บริษัทในอุตสาหกรรมที่เกี่ยวข้องกำลังดำเนินการเพื่อเร่งการพัฒนาบุคลากรรุ่นใหม่สำหรับยุคของเอเจนต์อัจฉริยะ ระหว่างการประชุมความมั่นคงปลอดภัยทางอินเทอร์เน็ตครั้งที่ 14 ได้มีการประกาศเปิดตัวกระบวนการมอบรางวัลให้กับผู้บรรยายที่ได้รับการรับรองในตำแหน่งวิศวกรเอเจนต์ปัญญาประดิษฐ์ (ADE) ของบริษัท 360 และทุนการศึกษาพิเศษด้านบุคลากรปัญญาประดิษฐ์จากมูลนิธิเพื่อสาธารณประโยชน์ของ 360 พร้อมกัน ซึ่งถือเป็นกลไกปฏิบัติจริงที่ส่งเสริมการร่วมมือเชิงลึกด้านการศึกษาในรูปแบบอุตสาหกรรม-มหาวิทยาลัย-สถาบันวิจัย จากมุมมองทั้งการพัฒนาบุคลากรและการเข้าถึงการศึกษาอย่างเท่าเทียม
เจ้า จื้อปู้โงว์ กล่าวว่า จำเป็นต้องส่งเสริมอย่างแข็งขันให้หน่วยงานรัฐบาล องค์กรชั้นนำ และสถาบันวิจัยเร่งพัฒนามาตรฐานอุตสาหกรรมและมาตรฐานกลุ่มในด้านต่าง ๆ เช่น การประเมินความสามารถด้านความมั่นคงปลอดภัยของเอเจนต์อัจฉริยะ การจัดหมวดหมู่ความเสี่ยง ความสอดคล้องด้านความมั่นคงปลอดภัยของข้อมูล เป็นต้น เพื่อจัดเตรียมกรอบเชิงสถาบันสำหรับการพัฒนาอุตสาหกรรมอย่างเป็นระบบ และลดความไม่แน่นอนของความเสี่ยงด้านความมั่นคงปลอดภัยด้วยความมั่นคงของพัฒนาการคุณภาพสูง นอกจากนี้ ควรเข้าร่วมอย่างแข็งขันในการจัดทำและประสานกฎระเบียบการกำกับดูแลด้านความมั่นคงปลอดภัยของปัญญาประดิษฐ์ระดับโลก สร้างแพลตฟอร์มการสนทนาด้านความมั่นคงปลอดภัยของเอเจนต์อัจฉริยะ ร่วมกันสำรวจแนวทางความร่วมมือในการกำกับดูแลความมั่นคงปลอดภัยของเครือข่ายระดับโลกในยุคแห่งปัญญาประดิษฐ์ ร่วมกันสร้างชุมชนแห่งอนาคตที่แบ่งปันร่วมกันในโลกไซเบอร์ และร่วมกันเสนอปัญญาและพลังจากจีนเพื่อสนับสนุนการพัฒนาอย่างมีสุขภาพดีของอุตสาหกรรมเอเจนต์อัจฉริยะระดับโลก