Amazon-Bedrock-Integritätsschutz kündigt eine neue API für agentenbasierte KI-Workflows an
Amazon-Bedrock-Integritätsschutz bietet jetzt die InvokeGuardrailChecks-API, eine neue ressourcenlose API, mit der Sie einzelne Schutzmaßnahmen an jedem Punkt Ihrer agentenbasierten KI-Anwendungen anwenden können, ohne Integritätsschutz-Ressourcen zu erstellen. Die API bietet granulare Kontrolle pro Anfrage darüber, welche Schutzmaßnahmen in jedem Schritt Ihrer Agentenschleife ausgeführt werden sollen. Sie gibt numerische Schweregrad- und Konfidenzwerte zurück, sodass Sie benutzerdefinierte Schwellenwerte und Aktionen implementieren können, etwa blockieren, zulassen, erneut versuchen oder protokollieren, je nach Ihren spezifischen Anforderungen.
Agentenbasierte KI-Anwendungen arbeiten in iterativen Schleifen: Sie planen Aufgaben, rufen Tools auf, verarbeiten Ausgaben und iterieren erneut, wobei für eine einzelne Anfrage oft Dutzende von Schritten ausgeführt werden. Jeder Schritt hat ein anderes Risikoprofil, wodurch ein einheitlicher Integritätsschutz nur schwer skalierbar ist. Die InvokeGuardrailChecks-API löst dieses Problem, indem sie im reinen Erkennungsmodus arbeitet, ohne Integritätsschutz-IDs, die nachverfolgt werden müssen, und ohne Versionen, die verwaltet werden müssen. Sie geben direkt in jeder Anfrage an, welche Schutzmaßnahmen ausgeführt werden sollen. Dadurch ist es einfach, Prüfungen hinzuzufügen, zu entfernen oder anzupassen, während sich Ihre Workflows weiterentwickeln.
Die API unterstützt Inhaltsfilter zur Erkennung schädlicher Inhalte in Kategorien wie Hass, Gewalt, Sexualität, Beleidigungen und Fehlverhalten, Erkennung von Prompt-Angriffen zur Identifizierung von Jailbreaks, Promptinjektion und Prompt Leakage als unabhängige eigenständige Prüfungen sowie Filter für sensible Informationen zur Erkennung unterstützter PII-Entitätstypen. Die Erkennung von Prompt-Angriffen wird als separate Schutzmaßnahme bereitgestellt, sodass Sie jeden unterstützten Angriffsvektor unabhängig und mit der erforderlichen Granularität aufrufen können.
Die InvokeGuardrailChecks API ist ab heute in den folgenden AWS-Regionen verfügbar: USA Ost (Nord-Virginia), USA Ost (Ohio), USA West (Oregon), Europa (London), Europa (Stockholm), Asien-Pazifik (Tokio) und Asien-Pazifik (Sydney).
Weitere Informationen finden Sie in der technischen Dokumentation zu Amazon-Bedrock-Integritätsschutz.