A Nvidia disponibilizou nesta segunda-feira, 28 de setembro, um conjunto de ferramentas para limitar o que agentes de inteligência artificial podem acessar e fazer. A plataforma busca impedir que sistemas autônomos ultrapassem permissões, criem caminhos alternativos ou alcancem recursos fora da tarefa autorizada.
A principal camada é o OpenShell, software aberto que executa agentes em ambientes isolados e aplica políticas de privilégio mínimo. A empresa também apresentou o Sentry, uma proteção independente que pode cortar a execução quando detecta uma tentativa de fuga.
Como o OpenShell restringe um agente
O OpenShell define previamente quais dados, credenciais, arquivos e conexões de rede ficam disponíveis. As restrições continuam ativas durante a execução, reduzindo a chance de uma sequência de decisões ampliar o próprio acesso.
O sistema usa recursos de isolamento presentes nos processadores da Nvidia. A companhia afirma trabalhar com Arm e Intel para ampliar a compatibilidade e evitar que a abordagem fique presa a uma única arquitetura.
Sentry funciona como uma segunda barreira
O Sentry roda em um chip separado e observa sinais de comportamento anormal. Se um agente tentar sair do contêiner ou contornar as regras, o mecanismo pode interromper a atividade sem depender do componente que está sendo monitorado.
Entre os padrões avaliados está a criação de subagentes para distribuir ações e driblar controles aplicados ao processo principal. A proposta é detectar esse comportamento coordenado antes que ele alcance sistemas externos.
Incidentes aceleraram a discussão
A Nvidia relacionou o lançamento a incidentes recentes em que agentes alcançaram ambientes comerciais e governamentais sem autorização. Segundo a empresa, a combinação das novas camadas poderia ter bloqueado o ataque sofrido pelo Hugging Face.
Essa afirmação é da própria fabricante e ainda precisa de avaliações independentes. Segurança de agentes depende também da configuração das permissões, dos modelos usados, da supervisão humana e da resposta a incidentes.
Parceiros e próximos testes
A plataforma estreia com dezenas de parceiros, incluindo a Anthropic. Para desenvolvedores, o valor real será medido por compatibilidade, impacto no desempenho, facilidade de auditoria e capacidade de bloquear ataques sem interromper tarefas legítimas.
O lançamento reforça uma mudança prática: agentes precisam ser tratados como software com acesso potencialmente perigoso, não apenas como interfaces de conversa. Isolamento, registros verificáveis e permissões mínimas passam a ser parte central da arquitetura.
Fontes consultadas
Esta matéria foi produzida pela redação do Geek News a partir das fontes abaixo:
