O Amazon Bedrock Guardrails anuncia uma nova API voltada para fluxos de trabalho de IA agêntica
O Amazon Bedrock Guardrails agora oferece a API InvokeGuardRailChecks, uma nova API sem recursos que permite aplicar proteções individuais a qualquer momento em seus aplicativos de IA agêntica sem criar recursos de proteção. A API fornece controle granular, por solicitação, sobre quais salvaguardas devem ser executadas em cada etapa do ciclo do agente, retornando pontuações numéricas de severidade e confiança para que você possa implementar limites e ações personalizadas, seja para bloquear, aprovar, tentar novamente ou registrar, com base em seus requisitos específicos.
Os aplicativos de IA agêntica operam por meio de ciclos iterativos; planejando tarefas, chamando ferramentas, processando saídas e iterando novamente, enquanto geralmente executam dezenas de etapas para uma única solicitação. Cada etapa tem um perfil de risco diferente, dificultando a escalabilidade de uma grade de proteção única para todos. A API InvokeGuardRailChecks resolve isso operando no modo somente detecção, sem IDs de guardrail para rastrear e sem versões para gerenciar. Você especifica quais proteções devem ser executadas diretamente em cada solicitação, facilitando a adição, a remoção ou o ajuste de verificações à medida que seus fluxos de trabalho evoluem.
A API oferece suporte a filtros de conteúdo (detecção de conteúdo nocivo em várias categorias, incluindo ódio, violência, sexo, insultos e má conduta), detecção imediata de ataques (identificação de jailbreak, injeção imediata e vazamento imediato como verificações independentes) e filtros de informações confidenciais (detectando tipos de entidades de PII compatíveis). A detecção imediata de ataques é exposta como uma proteção separada, oferecendo a granularidade de invocar cada vetor de ataque suportado de forma independente.
A API InvokeGuardRailChecks está disponível hoje nas seguintes regiões da AWS: Leste dos EUA (Norte da Virgínia), Leste dos EUA (Ohio), Oeste dos EUA (Oregon), Europa (Londres), Europa (Estocolmo), Ásia-Pacífico (Tóquio) e Ásia-Pacífico (Sydney).
Para saber mais, acesse a documentação técnica do Amazon Bedrock Guardrails.