AWS Transform รองรับการประเมินการย้ายจากโมเดลหนึ่งไปยังอีกโมเดลหนึ่งสำหรับเวิร์กโหลด AI ช่วยสร้างแล้ว
ขณะนี้ AWS Transform มีการแปลงข้อมูลแบบกำหนดเองสำหรับการย้ายจากโมเดลหนึ่งไปยังอีกโมเดลหนึ่ง ซึ่งช่วยประเมินเวิร์กโหลด AI ช่วยสร้างของคุณ และสร้างแผนการย้ายระบบแบบครอบคลุมสำหรับการย้ายจากผู้ให้บริการบุคคลภายนอกไปยัง Amazon Bedrock Agent ที่ขับเคลื่อนด้วย AI จะสแกน Codebase ของคุณ, ระบุ SDK และโมเดล AI ทั้งหมดที่ใช้งานอยู่, รวบรวมข้อกำหนดในการย้ายระบบผ่านคำถามแบบโต้ตอบ และจับคู่โมเดลกับโมเดลที่เทียบเท่าบน Bedrock พร้อมการเปรียบเทียบค่าใช้จ่ายอย่างโปร่งใส และการเปลี่ยนแปลงโค้ดที่พร้อมสำหรับการใช้งานจริง การแปลงข้อมูลแบบกำหนดเองที่มีการจัดการนี้ช่วยให้องค์กรสามารถรวมเวิร์กโหลด AI ของตนไว้บน AWS เพื่อรับประโยชน์จากความปลอดภัยที่อิงตาม IAM, การแยกตำแหน่งข้อมูลสำหรับ VPC, การแคชพร้อมท์, Amazon Bedrock Guardrails และเครื่องมือการดำเนินงานแบบรวมศูนย์ผ่าน Amazon CloudWatch
การแปลงข้อมูลดังกล่าวรองรับการย้ายระบบจาก OpenAI, Google Gemini, การใช้งาน Anthropic SDK โดยตรง และโมเดลโอเพนซอร์สผ่าน LiteLLM หรือ Ollama ความสามารถนี้รองรับทั้งการผสานรวม SDK โดยตรง รูปแบบการใช้งานที่ถูกห่อหุ้มด้วยเฟรมเวิร์ก เช่น LangChain และ LlamaIndex, สถาปัตยกรรมแบบ Agent ซึ่งรวมถึง CrewAI และ LangGraph ตลอดจนเลเยอร์การกำหนดเส้นทางสำหรับผู้ให้บริการหลายราย โดยยังคงรักษาสถาปัตยกรรมแอปพลิเคชันของคุณไว้ และเปลี่ยนเฉพาะเลเยอร์ของโมเดลเท่านั้น Agent มาพร้อมความสามารถอัจฉริยะด้านการปรับค่าใช้จ่ายให้เหมาะสม โดยมีคำแนะนำการกำหนดเส้นทางโมเดลแบบหลายระดับ การวิเคราะห์การแคชพร้อมท์ และการรับรู้วงจรชีวิตของโมเดล ซึ่งจะยกเว้นโมเดลที่เหลือเวลาไม่เกิน 90 วันก่อนสิ้นสุดอายุการใช้งานออกจากคำแนะนำทั้งหมด สำหรับบางเวิร์กโหลด Agent จะแนะนำการใช้ตำแหน่งข้อมูลที่เข้ากันได้กับ OpenAI ของ Amazon Bedrock เป็นแนวทางการย้ายระบบที่ไม่ต้องมีการเปลี่ยนแปลงโค้ด
การย้ายจากโมเดลหนึ่งไปยังอีกโมเดลหนึ่งของ AWS Transform พร้อมใช้งานใน AWS Region ทุกแห่งที่มี AWS Transform ให้บริการ โดยไม่มีค่าใช้จ่ายเพิ่มเติมนอกเหนือจากค่าบริการมาตรฐานของ AWS Transform ในการเริ่มต้นใช้งาน ให้ติดตั้ง ATX CLI และเรียกใช้การแปลงข้อมูลแบบกำหนดเอง mke-genai-model-migration กับ Codebase ของคุณ หากต้องการเรียนรู้เพิ่มเติม โปรดดู เอกสารประกอบการแปลงข้อมูลแบบกำหนดเองของ AWS Transform และบล็อกประกาศเปิดตัว