Amazon Bedrock Bütünlük Korumaları, etken yapay zeka iş akışlarını hedefleyen yeni bir API duyurdu
Amazon Bedrock Bütünlük Korumaları artık bütünlük koruması kaynakları oluşturmadan etken yapay zeka uygulamalarınızın herhangi bir noktasında bireysel korumalar uygulamanıza olanak tanıyan yeni kaynaksız InvokeGuardrailChecks API'sini sunuyor. API hangi güvenlik önlemlerinin hangi temsilci döngüsünde çalıştırılacağı üzerinde ayrıntılı ve istek başına denetim sağlar ve özel eşikler ve belirli gereksinimlerinize göre durdurma, geçirme, yeniden deneme veya günlüğe kaydetme gibi eylemler uygulayabilmeniz için sayısal önem ve güven skorları döndürür.
Etken yapay zeka uygulamaları yinelemeli döngüler aracılığıyla çalışır; görevleri planlar, araçları çağırır, çıktıları işler ve genellikle tek bir istek için onlarca adımı yürütürken tekrar yineleme yapar. Her adım farklı bir risk profili taşır, bu durum herkese uyan tek bir bütünlük korumasının ölçeklendirilmesini zorlaştırır. InvokeGuardrailChecks API'si, izlenecek bütünlük koruması kimlikleri ve yönetilecek sürümler olmadan salt algılama modunda çalışarak bunu giderir. Her istekte doğrudan hangi güvenlik önlemlerinin çalıştırılacağını belirlersiniz, böylece iş akışlarınız geliştikçe denetim eklemek, kaldırmak veya ayarlamak kolaylaşır.
API, içerik filtrelerini (nefret, şiddet, cinsel, hakaret ve suistimal gibi kategorilerde zararlı içeriği tespit etme), istem saldırısı tespiti (jailbreak, istem ekleme ve istem sızıntısını bağımsız denetimler olarak tanımlama) ve hassas bilgi filtrelerini (desteklenen PII varlık türlerini tespit etme) destekler. İstem saldırısı algılama, ayrı bir koruma önlemi olarak size desteklenen her saldırı vektörünü bağımsız olarak çağırmak için gereken ayrıntı düzeyini sağlar.
InvokeGuardrailChecks API'si bugün aşağıdaki AWS Bölgelerinde mevcuttur: ABD Doğu (Kuzey Virginia), ABD Doğu (Ohio), ABD Batı (Oregon), Avrupa (Londra), Avrupa (Stokholm), Asya Pasifik (Tokyo) ve Asya Pasifik (Sidney).
Daha fazla bilgi edinmek için Amazon Bedrock Bütünlük Korumaları teknik belgelerini ziyaret edin.