Guardrails สำหรับ Amazon Bedrock ประกาศเปิดตัว API ใหม่สำหรับเวิร์กโฟลว์ Agentic AI
Guardrails สำหรับ Amazon Bedrock ขณะนี้มี InvokeGuardrailChecks API ซึ่งเป็น API แบบไม่ต้องใช้ทรัพยากรตัวใหม่ ที่ช่วยให้คุณสามารถนำมาตรการป้องกันแต่ละรายการไปใช้ ณ จุดใดก็ได้ภายในแอปพลิเคชัน Agentic AI ของคุณ โดยไม่จำเป็นต้องสร้างทรัพยากรกฎควบคุมระบบขึ้นมาก่อน API นี้มอบการควบคุมแบบแกรนูลาร์สำหรับแต่ละคำขอ ว่าจะให้เรียกใช้มาตรการป้องกันใดบ้างในแต่ละขั้นตอนของลูป Agent พร้อมส่งกลับคะแนนความรุนแรง และคะแนนความเชื่อมั่น ในรูปแบบตัวเลข เพื่อให้คุณสามารถกำหนดเกณฑ์และการดำเนินการแบบกำหนดเองได้ ไม่ว่าจะเป็นการบล็อก การอนุญาตให้ผ่าน การลองใหม่ หรือการบันทึกข้อมูล ตามข้อกำหนดเฉพาะของคุณเอง
แอปพลิเคชัน Agentic AI ทำงานผ่านลูปแบบวนซ้ำ โดยมีการวางแผน Task, การเรียกใช้เครื่องมือ, การประมวลผลเอาต์พุต และการวนซ้ำอีกครั้ง ซึ่งในหลายกรณีอาจมีการดำเนินการหลายสิบขั้นตอนเพื่อรองรับคำขอเพียงรายการเดียว แต่ละขั้นตอนมีระดับความเสี่ยงที่แตกต่างกัน ทำให้กฎควบคุมระบบแบบเดียวที่ใช้ได้กับทุกกรณียากต่อการปรับใช้ในระดับขนาดใหญ่ InvokeGuardrailChecks API เข้ามาแก้ปัญหานี้ด้วยการทำงานในโหมดตรวจจับเท่านั้น โดยไม่ต้องมี ID ของกฎควบคุมระบบสำหรับติดตาม และไม่ต้องจัดการเวอร์ชัน คุณสามารถระบุมาตรการป้องกันที่ต้องการเรียกใช้ได้โดยตรงในแต่ละคำขอ ทำให้สามารถเพิ่ม ลบ หรือปรับเปลี่ยนการตรวจสอบต่าง ๆ ได้อย่างง่ายดายตามการเปลี่ยนแปลงของเวิร์กโฟลว์ของคุณในอนาคต
API นี้รองรับตัวกรองเนื้อหา (สำหรับตรวจจับเนื้อหาที่เป็นอันตรายในหมวดหมู่ต่าง ๆ รวมถึง ความเกลียดชัง ความรุนแรง เนื้อหาทางเพศ การดูหมิ่น และการประพฤติมิชอบ), การตรวจจับการโจมตีผ่านพร้อมท์ (การเจลเบรก, Prompt Injection และการรั่วไหลของพร้อมท์ ซึ่งเป็นการตรวจสอบแบบแยกอิสระจากกัน) และตัวกรองข้อมูลที่ละเอียดอ่อน (การตรวจจับประเภทเอนทิตี้ PII ที่รองรับ) การตรวจจับการโจมตีผ่านพร้อมท์ถูกจัดให้เป็นมาตรการป้องกันแยกต่างหาก ทำให้คุณสามารถเรียกดำเนินการเวกเตอร์โจมตีแต่ละประเภทที่รองรับได้อย่างอิสระในระดับละเอียด
InvokeGuardrailChecks API พร้อมใช้งานแล้ววันนี้ใน AWS Region ต่อไปนี้ ได้แก่ สหรัฐอเมริกาฝั่งตะวันออก (เวอร์จิเนียฝั่งเหนือ), สหรัฐอเมริกาฝั่งตะวันออก (โอไฮโอ), สหรัฐอเมริกาฝั่งตะวันตก (ออริกอน), ยุโรป (ลอนดอน), ยุโรป (สตอกโฮล์ม), เอเชียแปซิฟิก (โตเกียว) และเอเชียแปซิฟิก (ซิดนีย์)
หากต้องการเรียนรู้เพิ่มเติม โปรดไปที่เอกสารประกอบทางเทคนิคของ Guardrails สำหรับ Amazon Bedrock