Alle Kategorien

Aufbau einer sicheren Abwehrlinie für die Entwicklung intelligenter Agenten

2026-11-18
Mit der raschen Weiterentwicklung der KI-Technologie beeinflussen intelligente Agenten – als wichtiger Träger für die tiefe Integration von Künstlicher Intelligenz und der realen Wirtschaft – Produktion und Lebensweise nachhaltig und gestalten Sicherheitsgrenzen neu.
Mit der raschen Weiterentwicklung der KI-Technologie beeinflussen intelligente Agenten – als wichtiger Träger für die tiefe Integration von Künstlicher Intelligenz und der realen Wirtschaft – Produktion und Lebensweise nachhaltig und gestalten Sicherheitsgrenzen neu.
Auf der kürzlich stattgefundenen 14. Internet-Sicherheitskonferenz erklärten Experten, man müsse Kerntechnologien nutzen, um zentrale Herausforderungen anzugehen und interne Kompetenzen zu stärken; durch den Aufbau von Systemen und Regeln solle eine solide Schutzbarriere errichtet werden; zudem müsse die Standardisierung als Leitfaden für branchenweite Normen dienen, um einen Weg koordinierter Entwicklung und Sicherheit im Zeitalter der Agenten zu bahnen.
  Intelligente Agenten bergen neue Risiken
Derzeit befindet sich die Künstliche Intelligenz in einer entscheidenden Übergangsphase – von großen Modellen hin zu intelligenten Agenten. Sobald intelligente Agenten autonome Entscheidungen treffen, Werkzeuge aufrufen und Aufgaben ausführen, entstehen auch Sicherheitsrisiken.
„Im Vergleich zu früheren Informationssystemen sind Agenten nicht mehr nur ein passives Frage-und-Antwort-Tool, sondern erhalten nun die Fähigkeit zur eigenständigen Wahrnehmung, Entscheidungsfindung und Ausführung. Dieser technologische Sprung hat die Offensiv- und Defensivlage der Netzwerksicherheit tiefgreifend verändert.“, so Zhao Zhiguo, stellvertretender Vorsitzender des China Internet Association und ehemaliger Chefingenieur des Ministeriums für Industrie und Informationstechnologie.
Mit der beschleunigten Durchdringung intelligenter Agenten in Schlüsselbereiche wie Fertigung, Finanzen und Energie kann jedes Sicherheitsrisiko innerhalb kurzer Zeit über die autonome Planungsfähigkeit intelligenter Agenten eine Kettenreaktion über Netzwerke und Branchen hinweg auslösen – was höhere Anforderungen an die Risikoprävention und die Notfallreaktion stellt.
Zhao Zhiguo erklärte, dass sich Sicherheitsrisiken, sobald intelligente Agenten über autonome Entscheidungsfähigkeiten verfügen, von „technischen Fehlern“ auf eine „Entscheidungsverlustkontrolle“ ausweiten. Sobald Abweichungen oder Störungen auftreten, können intelligente Agenten Handlungen vornehmen, die von menschlichen Erwartungen abweichen; die Folgen sind unvorhersehbar. Dieses endogene Risiko stellt eine grundlegende Herausforderung für die Sicherheitskontrollierbarkeit dar. Zudem agieren intelligente Agenten im System autonom und in stark anthropomorpher Weise, wodurch herkömmliche, auf Identität basierende Vertrauensmechanismen dem Risiko eines Versagens ausgesetzt sind. Wenn intelligente Agenten autonom Verträge unterzeichnen, Transaktionen ausführen und Ressourcen aufrufen, stellen sich dringende praktische Fragen: Wie lassen sich Sicherheitsverantwortlichkeiten definieren und wie ist unautorisiertes Verhalten zu charakterisieren?
Laut Wu Hequan, Mitglied der Chinesischen Akademie der Ingenieurwissenschaften (CAE) und Ehrenvorsitzender der Internet Security Conference, weisen Agentenangriffe die technischen Merkmale eigenständiger Entscheidungsfindung, Cluster-Kooperation und kontinuierlicher Evolution auf. Traditionelle Cyberangriffe stützen sich stark auf manuelle Operationen, während agentengesteuerte Angriffe dieses Muster grundlegend verändern.
Konkret können intelligente Agenten die Umgebung autonom wahrnehmen, Angriffspfade planen und Penetrationsaufgaben ausführen; zudem können mehrere Agenten Informationen austauschen und kooperieren. Solche Cluster-Angriffe können innerhalb eines sehr kurzen Zeitraums gleichzeitig über mehrere Zugangspunkte gestartet werden, wodurch Verteidigungssysteme bei der Reaktion erschöpft werden. Besonders wachsam sein muss man jedoch darüber, dass intelligente Agenten die Fähigkeit besitzen, kontinuierlich zu lernen und sich weiterzuentwickeln: Jede Auseinandersetzung zwischen Angriff und Verteidigung wird zum Optimierungsmaterial für sie, sodass sich die Angriffsmethoden im Laufe der Zeit ständig verändern.
Zhou Hongyi, Gründer der 360 Group und Vorsitzender der Internet Security Conference, ist der Ansicht, dass KI die Wartung in der Netzwerksicherheitsbranche revolutioniert hat. Am Beispiel des Mythos-Modells lässt sich zeigen, dass die vollautomatisierte Schwachstellenanalyse und die Konstruktion von Angriffsketten die Geschwindigkeit der Schwachstellenerkennung um zwei Größenordnungen erhöht und die Kosten auf weniger als ein Tausendstel gesenkt haben.
  Der Wandel im Denken zur digitalen Sicherheit
Identitätsfälschung, Modellfehler, Schwachstellen im Berechtigungsmanagement, böswillige Erpressung … Während intelligente Agenten in die kommerzielle Anwendungsphase eintreten, treten stetig neue Risiken zutage. Gleichzeitig beeinträchtigen Risiken wie verdecktes Daten-Mining durch künstliche Intelligenz die Modellgenauigkeit und die Zuverlässigkeit von Entscheidungen.
Zhao Chunjiang, Mitglied der Chinesischen Akademie der Ingenieurwissenschaften (CAE) und stellvertretender Vorsitzender des Chinesischen Verbands für Künstliche Intelligenz, erläuterte, dass Sicherheitsrisiken von KI-Systemen vier Dimensionen umfassen: Datenebene, Modellebene, Anwendungsebene und Basisebene. Die Sicherheitsprobleme, mit denen die jeweiligen Dimensionen konfrontiert sind, unterscheiden sich ebenfalls, weshalb gezielte Maßnahmen erforderlich sind.
Nach Ansicht von Wu Hequan beruhte die Sicherheitsarbeit lange Zeit auf der Vorstellung, Brände dort zu löschen, wo sie ausbrechen. Dieser passive Reaktionsmodus mag menschlichen Angriffen standhalten, doch bei überlastenden Angriffen durch intelligente Agentencluster bleibt die Reaktionsgeschwindigkeit stets um eine halbe Sekunde zurück.
Wer war früher stärker – und wer wird künftig schneller sein? China muss eigenständige und kontrollierbare Fähigkeiten zur Aufdeckung von KI-Sicherheitslücken entwickeln.“, so Zhou Hongyi.
Das Sicherheitsparadigma muss sich von einer passiven Verteidigung hin zu einer aktiven Immunität verschieben", sagte Wu Hequan. „Wir müssen einen systematischen Sicherheitsbetriebsrahmen aufbauen, der den gesamten Lebenszyklus aus Vorhersage, Verteidigung, Erkennung, Reaktion und Wiederherstellung abdeckt. Wir müssen Prozesse, Personal und Technologie zu einer geschlossenen Schleife integrieren, sodass das Sicherheitssystem auch über intelligente Agentenwahrnehmung, Vorhersage- und adaptive Fähigkeiten verfügt und somit eine Verschiebung von der Nachbesserung hin zur Frühwarnung und Echtzeit-Blockierung erreicht.
Dies ist nicht nur die Krönung, sondern eine lebenswichtige Neugestaltung der Fähigkeiten. Ohne aktive Immunität kann es im Zeitalter intelligenter Agenten keine digitale Sicherheit geben", sagte Wu Hequan.
Zhao Zhiguo ist der Ansicht, dass die Erforschung und Entwicklung kerntechnischer Sicherheitsaspekte für intelligente Agenten stärker in den Fokus gerückt werden muss; zudem sei die Forschungs- und Entwicklungsfinanzierung in Schlüsselbereichen wie Algorithmus-Interpretierbarkeit, Datenschutz und Systemrobustheit auszubauen, um proaktive Verteidigungsfähigkeiten bereits an der Quelle zu stärken und die Initiative bei der Entwicklung zu übernehmen. Die Erstellung von Sicherheitsstandards und Zertifizierungsmechanismen für Bewertungen, die speziell auf die Merkmale intelligenter Agenten zugeschnitten sind, ist zu beschleunigen; hochrisikobehaftete intelligente Agenten sind nach Risikostufen und Kategorien zu verwalten; die Verantwortungsgrenzen für Forschung und Entwicklung, Bereitstellung sowie Betrieb sind klar zu definieren, um sicherzustellen, dass klare Regeln und Vorschriften zur Anwendung stehen. Im Rahmen des nationalen Normensystems ist die enge Integration von Industrie, Wissenschaft, Forschung und Anwendung voranzutreiben sowie die rasche Entwicklung von Schutzstandards für den gesamten Lebenszyklus der Forschung und Entwicklung, Implementierung, des Betriebs und der Wartung intelligenter Agenten zu beschleunigen.
 Vom Verkauf von Produkten zum Verkauf von Fähigkeiten
Laut einem Bericht des International Data Corporation (IDC) verzeichnet der chinesische Cybersicherheitsmarkt aufgrund der stetigen Verschärfung von Richtlinien und Vorschriften, der gestiegenen Bereitschaft von Unternehmen, in Sicherheitsmaßnahmen zu investieren, sowie der beschleunigten Anwendung neuer Technologien ein kontinuierliches Wachstum. Bis 2026 soll die Gesamtmarktkapazität über 80 Milliarden Yuan liegen; die durchschnittliche jährliche Wachstumsrate (CAGR) wird für den Zeitraum von 2024 bis 2029 mit 8,9 % prognostiziert. Cybersicherheit ist mittlerweile eine wesentliche Grundfähigkeitsvoraussetzung für die Entwicklung der digitalen Wirtschaft geworden.
Derzeit beschleunigen intelligente Agenten ihren Einzug in vertikale Branchen wie Finanzen, Fertigung und Gesundheitswesen und werden zu zentralen Komponenten realer Geschäftssysteme. Die meisten Branchenanwender verfügen jedoch noch nicht über die Fähigkeit, eigene intelligente Sicherheitssysteme zu entwickeln, und traditionelle Sicherheitsanbieter verkaufen nach wie vor hauptsächlich Firewalls, Erkennungstools usw., was zu einer deutlichen Diskrepanz zwischen Angebot und Nachfrage führt.
„Wer als Erster die Transformation vom Produktanbieter zum Dienstleister vollzieht, wird in dem neuen Bereich der intelligenten Agentensicherheit die Führung übernehmen können“, sagte Wu Hequan. Digitale Sicherheitsunternehmen im Zeitalter intelligenter Agenten müssen von einem Verkauf von Produkten zu einem Verkauf von Fähigkeiten übergehen – das heißt, Sicherheits-Hosting-Dienstleistungen anzubieten, die den gesamten Lebenszyklus intelligenter Agenten abdecken: Sicherheitsüberprüfungen während der Entwicklungsphase, Echtzeit-Monitoring und Reaktion auf Anomalien während der Betriebsphase sowie Risikobewertungen und Vorschläge zur Stärkung der Sicherheit während der Iterationsphase. Dies stellt einen Paradigmenwechsel dar und eine Hürde, die die Branche unbedingt bewältigen muss.
Zhao Zhiguo schlug vor, eine gemeinsame Sicherheitsplattform zwischen Industrie, Hochschulen und Forschungseinrichtungen einzurichten, um Netzwerkressourcen zu integrieren und eine intensive Zusammenarbeit zwischen Unternehmen, Hochschulen und Forschungseinrichtungen bei der Erforschung und Entwicklung von Sicherheitstechnologien für intelligente Agenten, bei der Zusammenarbeit im Notfallmanagement sowie bei der Verbreitung bewährter Verfahren zu fördern. Es sollte ein Governance-Modell aufgebaut werden, das auf staatlicher Steuerung, unternehmerischer Verantwortung und gesellschaftlicher Beteiligung beruht, um gemeinsame Herausforderungen mit einer offenen und kooperativen Haltung anzugehen.
Derzeit ergreifen relevante Unternehmen der Branche Maßnahmen, um die Ausbildung neuer Fachkräfte für das Zeitalter intelligenter Agenten zu beschleunigen. Während der 14. Internet-Sicherheitskonferenz wurden gleichzeitig die Zertifizierung von 360 Artificial Intelligence Agent Engineer (ADE)-Dozenten sowie das 360 Public Welfare Foundation AI Talent Special Scholarship eingeführt – eine konkrete Maßnahme zur vertieften kooperativen Bildung von Industrie, Hochschule und Forschung aus den Perspektiven der Fachkräfteentwicklung und inklusiver Bildung.
Zhao Zhiguo erklärte, dass es notwendig sei, Regierungsbehörden, führende Unternehmen und Forschungsinstitute aktiv dabei zu unterstützen, die Entwicklung von Industriestandards und Gruppenstandards im Bereich der Sicherheitsfähigkeitsbewertung intelligenter Agenten, der Risikoklassifizierung, der Datensicherheitskonformität usw. zu beschleunigen, um eine institutionelle Grundlage für die standardisierte Entwicklung der Branche zu schaffen und die Unsicherheit von Sicherheitsrisiken durch die Gewissheit einer hochwertigen Entwicklung zu bewältigen. Darüber hinaus sollten wir uns aktiv an der Ausarbeitung und Abstimmung globaler KI-Sicherheitsregelungen beteiligen, eine Dialogplattform für die Sicherheit intelligenter Agenten aufbauen, gemeinsam den kooperativen Weg einer globalen Cybersicherheitsgovernance im Zeitalter der Intelligenz erforschen, gemeinsam eine Gemeinschaft mit einer gemeinsamen Zukunft im Cyberraum gestalten und mit chinesischem Wissen und chinesischer Stärke zur gesunden Entwicklung der globalen Branche intelligenter Agenten beitragen.

Facebook Facebook
Facebook
WhatsApp WhatsApp
WhatsApp