AWS Transform 現在支援生成式 AI 工作負載的模型至模型移轉評估
AWS Transform 現在提供模型至模型移轉自訂轉換,能夠評估您的生成式 AI 工作負載,並產生從第三方提供者移至 Amazon Bedrock 的全面移轉計劃。AI 支援的代理程式會掃描您的程式碼庫、識別所有使用的 AI SDK 和模型、透過互動式問題收集您的移轉需求,並透過透明的成本比較和生產就緒的程式碼變更,將模型對應到 Bedrock 等效項目。這種受管自訂轉換能夠協助組織在 AWS 上整合其 AI 工作負載,以獲得 IAM 型安全性、VPC 端點隔離、提示快取、Amazon Bedrock 防護機制,以及透過 Amazon CloudWatch 的整合式作業工具。 這項轉型支援透過 LiteLLM 或 Ollama,從 OpenAI、Google Gemini、直接 Anthropic SDK 使用及開放原始碼模型進行移轉。該功能會處理直接的 SDK 整合、由框架封裝的模式 (例如 LangChain 和 LlamaIndex)、代理架構 (包括 CrewAI 和 LangGraph) 以及多提供者路由層,從而在保留應用程式架構的同時,僅替換模型層。代理程式包括智慧成本最佳化功能,包括分層模型路由建議、提示快取分析及模型生命週期感知,進而在所有建議中排除生命週期在 90 天內結束的模型。對於部分工作負載,該功能會建議 Amazon Bedrock 的 OpenAI 相容端點作為零程式碼變更移轉路徑。
AWS Transform 模型至模型移轉適用於提供 AWS Transform 的所有 AWS 區域,除了標準 AWS Transform 定價外,無需額外費用。若要著手使用,請安裝 ATX CLI,並針對您的程式碼庫執行 mke-genai-model-migration 自訂轉換。若要進一步了解,請參閱 AWS Transform 自訂轉換文件和公告部落格。