Les barrières de protection pour Amazon Bedrock annoncent une nouvelle API ciblant les flux de travail d’IA agentique
Les barrières de protection pour Amazon Bedrock proposent désormais l’API InvokeGuardrailChecks, une nouvelle API sans ressources qui vous permet d’appliquer des mesures de protection individuelles à tout moment dans vos applications d’IA agentiques sans créer de ressources de barrière de protection. L’API fournit un contrôle granulaire, par demande, des garanties à exécuter à chaque étape de votre boucle d’agents, en renvoyant des scores de gravité et de confiance numériques afin que vous puissiez mettre en œuvre des seuils et des actions personnalisés, que ce soit pour bloquer, réussir, réessayer ou enregistrer en fonction de vos besoins spécifiques.
Les applications d’IA agentique fonctionnent selon des boucles itératives ; elles planifient des tâches, appellent des outils, traitent les résultats et recommencent à itérer, tout en exécutant souvent des dizaines d’étapes pour une seule demande. Chaque étape comporte un profil de risque différent, ce qui rend difficile la mise à l’échelle d’une barrière de protection universelle. L’API InvokeGuardRailChecks résout ce problème en fonctionnant en mode détection uniquement, sans ID de barrière de protection à suivre ni aucune version à gérer. Vous spécifiez les mesures de protection à exécuter directement dans chaque demande, ce qui facilite l’ajout, la suppression ou l’ajustement de contrôles au fur et à mesure de l’évolution de vos flux de travail.
L’API prend en charge les filtres de contenu (détectant le contenu préjudiciable dans toutes les catégories, notamment la haine, la violence, la sexualité, les insultes et les comportements répréhensibles), la détection des attaques d’invites (identification du débridage, de l’injection d’invite et de la fuite d’invite sous forme de vérifications autonomes indépendantes) et les filtres d’informations sensibles (détectant les types d’entités PII pris en charge). La détection des attaques d’invite est présentée comme une protection distincte, vous donnant la granularité nécessaire pour invoquer chaque vecteur d’attaque pris en charge indépendamment.
L’API InvokeGuardRailChecks est disponible aujourd’hui dans les Régions AWS suivantes : USA Est (Virginie du Nord), USA Est (Ohio), USA Ouest (Oregon), Europe (Londres), Europe (Stockholm), Asie-Pacifique (Tokyo) et Asie-Pacifique (Sydney).
Pour en savoir plus, consultez la documentation technique des barrières de protection Amazon Bedrock.