Todas as Categorias

Construindo uma linha de defesa segura para o desenvolvimento de agentes inteligentes

2026-11-18
Com a rápida iteração da tecnologia de inteligência artificial, agentes inteligentes — como um importante veículo para a profunda integração da inteligência artificial e da economia real — estão influenciando profundamente a produção e o estilo de vida, além de reconstruir os limites da segurança.
Com a rápida iteração da tecnologia de inteligência artificial, agentes inteligentes — como um importante veículo para a profunda integração da inteligência artificial e da economia real — estão influenciando profundamente a produção e o estilo de vida, além de reconstruir os limites da segurança.
Na 14ª Conferência de Segurança na Internet, realizada recentemente, especialistas afirmaram que devemos utilizar tecnologias centrais para resolver problemas-chave, fortalecer competências internas, construir uma barreira sólida por meio da criação de sistemas e regras, e liderar as normas do setor com a construção de um sistema padronizado, a fim de traçar um caminho de desenvolvimento coordenado e seguro na era dos agentes.
  Agentes inteligentes trazem novos riscos
Atualmente, a inteligência artificial está passando por uma transição crucial, de grandes modelos para agentes inteligentes. Quando esses agentes começam a tomar decisões autônomas, invocar ferramentas e executar tarefas, também surgem riscos de segurança.
"Em comparação com os sistemas de informação anteriores, os agentes deixaram de ser uma ferramenta de perguntas e respostas para execução passiva e passaram a ter capacidade de percepção, tomada de decisão e execução independentes. Esse salto nas características tecnológicas alterou profundamente a situação ofensiva e defensiva da segurança cibernética." afirmou Zhao Zhiguo, vice-presidente da Associação Chinesa da Internet e ex-engenheiro-chefe do Ministério da Indústria e Tecnologia da Informação.
Com a penetração acelerada de agentes inteligentes em setores-chave, como manufatura, finanças e energia, qualquer risco de segurança pode desencadear, em curto prazo, uma reação em cadeia através das redes e indústrias, graças à capacidade de agendamento autônomo dos agentes inteligentes, o que impõe requisitos mais elevados para prevenção de riscos e resposta a emergências.
Zhao Zhiguo afirmou que, assim que agentes inteligentes adquirem capacidades de tomada de decisão autônoma, os riscos de segurança se expandem de "falhas técnicas" para "perda de controle na tomada de decisão". Assim que ocorrem desvios ou perturbações, os agentes inteligentes podem tomar ações que se afastam das expectativas humanas, e as consequências são imprevisíveis. Esse risco endógeno representa um desafio fundamental à controlabilidade da segurança. Além disso, os agentes inteligentes operam de forma autônoma no sistema de maneira altamente antropomórfica, e os mecanismos tradicionais de confiança baseados em identidade enfrentam o risco de falha. Quando os agentes inteligentes assinam contratos, executam transações e acessam recursos de forma autônoma, definir responsabilidades de segurança e caracterizar comportamentos não autorizados tornaram-se problemas práticos urgentes que precisam ser resolvidos.
Segundo Wu Hequan, acadêmico da Academia Chinesa de Engenharia (CAE) e presidente honorário da Conferência sobre Segurança na Internet, os ataques por agentes revelam características técnicas de tomada de decisão independente, colaboração em grupo e evolução contínua. Os ciberataques tradicionais dependem fortemente de operações manuais, enquanto os ataques impulsionados por agentes alteram fundamentalmente esse padrão.
Especificamente, agentes inteligentes conseguem perceber autonomamente o ambiente, planejar rotas de ataque e executar tarefas de penetração; além disso, múltiplos agentes podem compartilhar informações e colaborar. Esse ataque em grupo pode ser lançado simultaneamente a partir de múltiplas entradas num curto período de tempo, esgotando os sistemas de defesa com a necessidade constante de resposta. O que exige ainda mais vigilância é que os agentes inteligentes possuem capacidade de aprendizado e iteração contínuos: cada confronto entre ataque e defesa torna-se material para sua otimização, e os métodos de ataque mudam constantemente ao longo do tempo.
Zhou Hongyi, fundador do Grupo 360 e presidente da Conferência sobre Segurança na Internet, acredita que a IA reduziu drasticamente os custos operacionais no setor de segurança cibernética. Tomando como exemplo o modelo Mythos, as capacidades totalmente automatizadas de detecção de vulnerabilidades e construção de cadeias de ataque aumentaram a velocidade de descoberta de vulnerabilidades em duas ordens de grandeza e reduziram os custos para menos de um milésimo do valor anterior.
  A transformação do pensamento em segurança digital
Falsificação de identidade, falha do modelo, vulnerabilidades na gestão de permissões, extorsão maliciosa... À medida que agentes inteligentes avançam para a fase de aplicação comercial, diversos novos riscos continuam a surgir. Ao mesmo tempo, riscos como mineração oculta de dados impulsionada por inteligência artificial também afetam a precisão dos modelos e a confiabilidade das decisões.
Zhao Chunjiang, acadêmico da Academia Chinesa de Engenharia e vice-presidente da Associação Chinesa de Inteligência Artificial, explicou que os riscos de segurança dos sistemas de IA abrangem quatro dimensões: camada de dados, camada de modelos, camada de aplicações e camada de infraestrutura. Os problemas de segurança enfrentados por cada dimensão também diferem, exigindo medidas específicas.
Na opinião de Wu Hequan, durante muito tempo, a abordagem ao trabalho de segurança baseou-se na ideia de apagar incêndios sempre que surgissem. Esse modo reativo passivo pode resistir a ataques humanos, mas, diante de ataques saturados provenientes de grupos de agentes inteligentes, a velocidade de resposta fica sempre meio passo atrás.
Quem era mais forte no passado e quem será mais rápido no futuro? A China precisa desenvolver capacidades próprias e autônomas de detecção de vulnerabilidades em IA.”, afirmou Zhou Hongyi.
O paradigma de segurança deve mudar da defesa passiva para a imunidade ativa", afirmou Wu Hequan. Precisamos construir uma estrutura sistemática de operações de segurança que abranja todo o ciclo de vida: previsão, defesa, detecção, resposta e recuperação. Precisamos integrar processos, pessoal e tecnologia numa capacidade em circuito fechado, de modo que o sistema de segurança também possua percepção, previsão e capacidades adaptativas inteligentes, alcançando uma mudança da correção pós-incidente para alertas prévios e bloqueio em tempo real.
Isso não é apenas um toque final, mas uma reconstrução vital das capacidades. Sem imunidade ativa, não pode haver segurança digital na era dos agentes inteligentes", afirmou Wu Hequan.
Zhao Zhiguo acredita que é necessário dar destaque ao desenvolvimento de tecnologias nucleares para a segurança de agentes inteligentes, reforçar os investimentos em P&D em áreas-chave como interpretabilidade de algoritmos, proteção da privacidade de dados e robustez do sistema, aprimorar as capacidades de defesa proativa desde a origem e assumir a iniciativa no desenvolvimento. Acelerar a criação de normas de segurança e mecanismos de avaliação e certificação adaptados às características dos agentes inteligentes, implementar uma gestão escalonada e classificada para agentes inteligentes de alto risco, esclarecer os limites de responsabilidade nas fases de pesquisa e desenvolvimento, implantação e operação, e garantir que haja regras e regulamentos a serem seguidos. No âmbito do quadro de normas nacionais, promover a integração profunda entre indústria, academia, pesquisa e aplicação, e acelerar a formulação de normas de proteção que abranjam todo o ciclo de vida do desenvolvimento, implementação, operação e manutenção de agentes inteligentes.
 Mudar da venda de produtos para a venda de capacidades
Segundo um relatório da International Data Corporation (IDC), o mercado cibernético chinês manteve um crescimento estável devido ao reforço contínuo das políticas e regulamentações, ao aumento da disposição das empresas para investir em segurança e à aplicação acelerada de novas tecnologias. Prevê-se que, até 2026, o tamanho total do mercado ultrapasse 80 bilhões de yuans, com uma taxa de crescimento anual composta de 8,9% entre 2024 e 2029. A cibersegurança tornou-se uma capacidade fundamental essencial no desenvolvimento da economia digital.
Atualmente, agentes inteligentes estão acelerando sua penetração em setores verticais, como finanças, manufatura e saúde, tornando-se componentes centrais de sistemas empresariais reais. No entanto, a maioria dos usuários industriais ainda não possui capacidade para desenvolver seus próprios sistemas inteligentes de defesa, e os fornecedores tradicionais de segurança continuam acostumados a vender firewalls, ferramentas de detecção etc., resultando em uma clara disparidade entre oferta e demanda.
Quem conseguir concluir primeiro a transformação de fornecedor de produtos para fornecedor de serviços poderá assumir a liderança no novo campo da segurança de agentes inteligentes", afirmou Wu Hequan. As empresas de segurança digital na era dos agentes inteligentes devem migrar da venda de produtos para a venda de capacidades, ou seja, oferecer serviços de segurança gerenciada que abrangem todo o ciclo de vida dos agentes inteligentes: revisão da segurança durante a fase de desenvolvimento, monitoramento em tempo real e resposta a anomalias durante a fase de operação, avaliação de riscos e sugestões de reforço durante a fase de iteração. Trata-se de uma mudança de paradigma e de um desafio que o setor precisa superar.
Zhao Zhiguo sugeriu que uma plataforma colaborativa de segurança entre indústria, academia e pesquisa deveria ser estabelecida para integrar recursos de rede e promover uma cooperação profunda entre empresas, universidades e instituições de pesquisa no desenvolvimento de tecnologias de segurança para agentes inteligentes, na colaboração em respostas a emergências e na disseminação de boas práticas. Deveria ser construído um modelo de governança com orientação governamental, responsabilidade corporativa e participação social, para enfrentar desafios comuns com uma atitude aberta e colaborativa.
Atualmente, empresas relevantes do setor estão tomando medidas para acelerar a formação de novos talentos para a era dos agentes inteligentes. Durante a 14ª Conferência de Segurança na Internet, foi lançado simultaneamente o processo de certificação de instrutores do programa 360 Artificial Intelligence Agent Engineer (ADE) e da Bolsa Especial em Inteligência Artificial da Fundação de Beneficência 360, oferecendo um veículo prático para a colaboração profunda entre indústria, universidade e pesquisa, sob as perspectivas do desenvolvimento de talentos e da inclusão educacional.
Zhao Zhiguo afirmou que é necessário promover ativamente a participação de departamentos governamentais, empresas líderes e institutos de pesquisa para acelerar o desenvolvimento de normas industriais e normas de grupo nas áreas de avaliação da capacidade de segurança de agentes inteligentes, classificação de riscos, conformidade em segurança de dados, entre outras, fornecendo uma base institucional para o desenvolvimento padronizado do setor e enfrentando a incerteza dos riscos de segurança com a certeza de um desenvolvimento de alta qualidade. Além disso, devemos participar ativamente na formulação e coordenação das regras globais de governança da segurança de IA, construir uma plataforma de diálogo sobre segurança de agentes inteligentes e explorar conjuntamente caminhos colaborativos para a governança global da cibersegurança na era da inteligência, trabalhando juntos para construir uma comunidade de futuro compartilhado no ciberespaço e contribuindo com sabedoria e força chinesas para o desenvolvimento saudável da indústria global de agentes inteligentes.

Facebook Facebook
Facebook
WhatsApp WhatsApp
WhatsApp