すべてのカテゴリ

インテリジェント・エージェントの発展のための堅固な防衛ラインの構築

2026-11-18
人工知能技術の急速な進化に伴い、インテリジェント・エージェントは、AIと実体経済の深層連携における重要な担い手として、生産や生活様式に大きな影響を与え、セキュリティの境界を再構築しています。
人工知能技術の急速な進化に伴い、インテリジェント・エージェントは、AIと実体経済の深層連携における重要な担い手として、生産や生活様式に大きな影響を与え、セキュリティの境界を再構築しています。
先日開催された第14回インターネットセキュリティ会議において、専門家は、基幹技術を活用して重要課題に取り組み、内発的な技術力を高め、システムやルールの構築によって堅固な防衛線を築き、標準化体制の整備によって業界の規範を牽引すべきだと指摘しました。これにより、エージェント時代における発展とセキュリティの調和ある道を切り拓くことができます。
  インテリジェント・エージェントが新たなリスクをもたらす
現在、人工知能は大規模言語モデルからインテリジェント・エージェントへと、重要な転換期を迎えています。エージェントが自律的な意思決定を行い、ツールを呼び出し、タスクを実行し始める段階において、セキュリティ上のリスクも同時に生じます。
『過去の情報システムと比べて、エージェントはもはや受動的な実行にとどまる質問応答ツールではなく、自立した知覚・意思決定・実行能力が付与されるようになりました。この技術的特徴における飛躍が、ネットワークセキュリティにおける攻撃と防御の状況を根本的に変化させました。』と、中国インターネット協会副会長で、工業情報化部元総エンジニアである趙志国氏は述べています。
製造・金融・エネルギーなどの重要分野へのインテリジェントエージェントの浸透が加速する中、万一セキュリティ上のリスクが発生した場合、エージェントの自律的なスケジューリング機能を通じて、短時間でネットワークや業界をまたぐ連鎖反応を引き起こす可能性があります。これにより、リスク予防および緊急対応に対する要求がさらに高まっています。
趙志国氏は、インテリジェントエージェントが自律的な意思決定能力を獲得すると、セキュリティリスクが「技術的障害」から「意思決定の制御喪失」へと拡大すると指摘しました。一度逸脱や攪乱が生じると、インテリジェントエージェントは人間の期待から外れた行動をとる可能性があり、その結果は予測不能です。こうした内因性のリスクは、安全性と制御可能性に対する根本的な課題を提起します。さらに、インテリジェントエージェントは、システム内で極めて人間らしい形で自律的に動作するため、従来のアイデンティティに基づく信頼メカニズムは機能不全に陥る危険にさらされています。インテリジェントエージェントが自律的に契約を締結し、取引を実行し、リソースを呼び出す際には、セキュリティ上の責任範囲をいかに定義し、無許可の行為をいかに特定・評価するかという問題が、喫緊の実務的課題となっています。
中国工程院院士でインターネットセキュリティ会議の名誉会長を務める呉賀泉氏によると、エージェント攻撃は、自律的な意思決定、集団協調、継続的進化という技術的特徴を示している。従来のサイバー攻撃は人的操作に大きく依存していたが、エージェント主導型攻撃はこのパターンを根本的に変えるものである。
具体的には、知能型エージェントは環境を自律的に認識し、攻撃経路を計画し、侵入作業を実行できるほか、複数のエージェント間で情報を共有・連携することが可能である。このような集団攻撃は、極めて短時間のうちに複数の入り口から同時に展開され、防御システムを対応に追われて疲弊させてしまう。さらに警戒すべき点として、知能型エージェントは継続的に学習・反復する能力を有しており、攻撃と防御のたびに得られる経験が、その最適化のための素材となる。そのため、攻撃手法は時とともに絶えず変化していく。
360グループの創業者でインターネットセキュリティ会議の議長を務める周鴻禕氏は、AIがネットワークセキュリティ業界におけるメンテナンスの在り方を根本から変えたと指摘しています。たとえば「ミソス(Mythos)」モデルでは、脆弱性の自動発見や攻撃チェーンの完全自動構築が可能となり、脆弱性の発見速度が従来の100倍に向上し、コストは1,000分の1以下に削減されています。
  デジタルセキュリティへの考え方の転換
なりすまし、モデルの誤動作、権限管理の不備、悪意ある恐喝……など、インテリジェントエージェントが商用応用段階に入ることで、さまざまな新たなリスクが次々と顕在化しています。同時に、AI駆動による隠蔽されたデータ収集といったリスクも、モデルの精度や意思決定の信頼性に影響を及ぼしています。
中国工程院院士で中国人工知能学会副会長の趙春江氏は、AIシステムのセキュリティリスクはデータ層、モデル層、アプリケーション層、基盤層の4つの次元に及ぶと指摘。各次元が直面するセキュリティ課題は異なり、それぞれに応じた対策が必要であると述べました。
呉賀泉氏の見解では、これまでセキュリティ対策の考え方は「火事場での消火」に終始してきました。こうした受動的な対応方式は、人間による攻撃には耐えられるものの、知能エージェント群による飽和攻撃に対しては、常に半拍遅れの対応となってしまいます。
かつては『誰が強いか』が問われていたが、今後は『誰が速いか』が問われる。中国は、自立・自律可能なAI脆弱性発掘能力を確立しなければならない――周鴻禕氏はこう語りました。
セキュリティのパラダイムは 消極的な防御から 積極的な免疫に 移行しなければなりません"とウ・ヘクアン氏は言いました. 予測 防御 検出 対応 回復のライフサイクルを 覆う 体系的なセキュリティ運営の枠組みを 作らなければなりません プロセスや人材や技術を 閉鎖的なループの能力に統合する必要があります 安全システムは 知的代理人認識,予測,適応能力も備えており 修復後から 予告や プロセス中のブロックへの移行を実現します
これは単なるケーキのではなく 能力の生死を巡る再構築です 知的エージェントの時代には デジタルセキュリティができない"と 武河泉氏は述べた.
趙志国氏は、インテリジェントエージェントのセキュリティに関するコア技術の研究開発を重点的に推進する必要があると指摘しています。アルゴリズムの解釈可能性、データプライバシー保護、システムの堅牢性といったキーエリアへの研究開発投資を強化し、根源から能動的な防御能力を高め、主導的な展開を図るべきだと述べています。また、インテリジェントエージェントの特性に応じたセキュリティ基準および評価・認証メカニズムの早期整備を加速させ、高リスクなインテリジェントエージェントについては段階的・分類的な管理を実施すべきです。さらに、研究開発・展開・運用それぞれにおける責任範囲を明確にし、ルールと規制が確立されるよう確保する必要があります。国家標準の枠組みのもとで、産学研用の深度融合を推進し、インテリジェントエージェントの研究開発・実装・運用・保守に至る全ライフサイクルをカバーする保護基準の早期策定を加速させるべきです。
 製品販売から「能力」の提供へとシフト
国際データコーポレーション(IDC)の報告書によると、中国のサイバーセキュリティ市場は、政策・規制の継続的な強化、企業によるセキュリティ投資意欲の高まり、および新技術の適用加速を背景に、堅調な成長を維持しています。2026年には市場規模が800億元を超えると予測されており、2024年から2029年までの年平均成長率(CAGR)は8.9%です。サイバーセキュリティは、デジタル経済の発展において不可欠な基盤的機能となっています。
現在、インテリジェント・エージェントは金融、製造、医療などの垂直産業への浸透を加速しており、実際のビジネスシステムの核となる構成要素となっています。しかし、多くの業界ユーザーは、自社向けのインテリジェントなセキュリティ対策システムを開発する能力をまだ有しておらず、従来型のセキュリティベンダーも依然としてファイアウォールや検知ツールなどの販売に慣れ親しんでおり、供給と需要の間に明確なミスマッチが生じています。
『知能エージェントセキュリティという新たな分野において、製品提供者からサービス提供者へといち早く転換を果たす企業が、主導権を握ることになる』と、呉賀泉氏は述べました。知能エージェント時代のデジタルセキュリティ企業は、従来の『製品販売』から『能力の提供』へとビジネスモデルを転換する必要があります。つまり、知能エージェントのライフサイクル全体をカバーするセキュリティ・ホスティングサービスを提供することです。具体的には、開発段階ではセキュリティレビューを行い、運用段階ではリアルタイム監視と異常時の迅速な対応を実施し、改善・進化段階(イテレーション段階)ではリスク評価を行い、強化に向けた提言を行います。これはまさにパラダイムシフトであり、業界が乗り越えなければならない大きな課題です。
趙志国氏は、産学研が連携するセキュリティプラットフォームを構築し、ネットワーク資源を統合することで、企業・大学・研究機関が知的エージェントのセキュリティ技術に関する研究開発、緊急時対応の連携、およびベストプラクティスの普及において、より深い協力を推進することを提言しました。また、政府の指導、企業の責任、社会の参加を柱とするガバナンス体制を構築し、オープンで協調的な姿勢で共通の課題に取り組むべきであると述べています。
現在、関連業界の企業が、インテリジェントエージェント時代に対応する新規人材の育成を加速させるための取り組みを進めています。第14回インターネットセキュリティ会議において、『360人工知能エージェントエンジニア(ADE)認定講師』および『360公益基金AI人材特別奨学金』の授与が同時に開始され、人材育成と教育の包摂性という観点から、産学研連携による実践的な教育推進の足場が整いました。
趙志国氏は、政府機関、リーディング企業、研究機関が、インテリジェントエージェントのセキュリティ能力評価、リスク分類、データセキュリティコンプライアンスなどの分野における業界標準および団体標準の策定を加速させるよう積極的に推進することが必要であると述べました。これにより、業界の標準化された発展に向けた制度的基盤が提供され、高品質な発展という「確実性」によってセキュリティリスクの「不確実性」に対応できるようになります。さらに、グローバルなAIセキュリティガバナンス規則の策定・調整への積極的な参画、インテリジェントエージェントのセキュリティ対話プラットフォームの構築、知能化時代におけるグローバルネットワークセキュリティガバナンスの協働の道を探る共同取り組み、サイバースペースにおける人類運命共同体の構築などにも力を入れていくとしています。こうした活動を通じて、グローバルなインテリジェントエージェント産業の健全な発展に、中国の知見と力を貢献していきます。

Facebook Facebook
Facebook
WhatsApp WhatsApp
WhatsApp