Amazon Bedrock Guardrails mengumumkan API baru yang menargetkan alur kerja AI agentik
Amazon Bedrock Guardrails kini menawarkan API InvokeGuardrailChecks, sebuah API baru tanpa sumber daya yang memungkinkan Anda menerapkan pengamanan individual di titik mana pun dalam aplikasi AI agentik Anda tanpa membuat sumber daya pengamanan. API ini menyediakan kontrol terperinci per permintaan atas pengamanan mana yang akan dijalankan di setiap langkah siklus agen Anda, mengembalikan skor tingkat keparahan dan kepercayaan numerik sehingga Anda dapat menerapkan ambang batas dan tindakan khusus, baik untuk memblokir, meneruskan, mencoba lagi, atau mencatat berdasarkan persyaratan spesifik Anda.
Aplikasi AI agentik beroperasi melalui perulangan iteratif; merencanakan tugas, memanggil tool, memproses output, dan mengulanginya lagi sambil sering kali mengeksekusi puluhan langkah untuk satu permintaan. Setiap tahapan memiliki profil risiko yang berbeda, sehingga sulit untuk menerapkan batasan pengaman untuk semua situasi. API InvokeGuardrailChecks mengatasi hal ini dengan beroperasi dalam mode deteksi saja tanpa ID batasan pengaman untuk dilacak dan tanpa versi untuk dikelola. Anda menentukan pengamanan mana yang akan dijalankan langsung di setiap permintaan, sehingga memudahkan untuk menambah, menghapus, atau menyesuaikan pemeriksaan seiring perkembangan alur kerja Anda.
API ini mendukung filter konten (mendeteksi konten berbahaya di berbagai kategori termasuk ujaran kebencian, kekerasan, seksual, penghinaan, dan pelanggaran), deteksi serangan prompt (mengidentifikasi jailbreak, injeksi prompt, dan kebocoran prompt sebagai pemeriksaan mandiri independen), dan filter informasi sensitif (mendeteksi jenis entitas PII yang didukung). Deteksi serangan prompt diekspos sebagai pengamanan terpisah, memberi Anda kemampuan untuk menginvokasi setiap vektor serangan yang didukung secara independen.
API InvokeGuardrailChecks tersedia hari ini di AWS Region berikut: AS Timur (Virginia Utara), AS Timur (Ohio), AS Barat (Oregon), Eropa (London), Eropa (Stockholm), Asia Pasifik (Tokyo), dan Asia Pasifik (Sydney).
Untuk mempelajari lebih lanjut, kunjungi dokumentasi teknis Amazon Bedrock Guardrails.