AWS Transform artık üretken yapay zeka iş yükleri için modelden modele geçiş değerlendirmesini destekliyor
AWS Transform artık üretken yapay zeka iş yüklerinizi değerlendiren ve üçüncü taraf sağlayıcılardan Amazon Bedrock'a geçmek için kapsamlı bir geçiş planı oluşturan bir modelden modele geçiş özel dönüşümü sunuyor. Yapay zeka destekli temsilci kod tabanınızı tarar, kullanılan her yapay zeka SDK'sini ve modelini tanımlar, etkileşimli sorular aracılığıyla geçiş gereksinimlerinizi toplar ve şeffaf maliyet karşılaştırmaları ve üretime hazır kod değişiklikleriyle modelleri Bedrock eşdeğerleriyle eşleştirir. Yönetilen bu özel dönüşüm, kuruluşların yapay zeka iş yüklerini AWS üzerinde birleştirerek IAM tabanlı güvenlik, VPC uç nokta yalıtımı, istem önbelleğe alma, Amazon Bedrock Bütünlük Korumaları ve Amazon CloudWatch aracılığıyla birleşik operasyonel araçlar elde etmelerine yardımcı olur.
Bu dönüşüm, OpenAI, Google Gemini, doğrudan Anthropic SDK'si kullanımı ve LiteLM veya Ollama aracılığıyla açık kaynaklı modellerden geçişleri destekler. Doğrudan SDK entegrasyonlarını, LangChain ve LlamaIndex gibi çerçeveye sarılmış kalıpları, CreWAI ve LangGraph dahil temsilci destekli mimarilerini ve çoklu sağlayıcı yönlendirme katmanlarını işler ve yalnızca model katmanını değiştirirken uygulama mimarinizi korur. Temsilci, katmanlı model yönlendirme önerileriyle akıllı maliyet optimizasyonu, istem önbelleğe alma analizi ve kullanım ömrünün sona ermesinden sonraki 90 gün içindeki modelleri tüm önerilerin dışında tutan model yaşam döngüsü farkındalığı içerir. Bazı iş yükleri için Amazon Bedrock'ın OpenAI ile uyumlu uç noktalarını sıfır kod değişikliği geçiş yolu olarak önerir.
AWS Transform modelden modele geçiş, AWS Transform'un sunulduğu tüm AWS Bölgelerinde standart AWS Transform fiyatlandırmasının ötesinde ek ücret ödemeden kullanılabilir. Başlamak için ATX CLI'yi yükleyin ve kod tabanınıza karşı mke-genai-model-migration özel dönüşümünü çalıştırın. Daha fazla bilgi edinmek için AWS Transform Özel Dönüşümler belgelerine ve duyuru bloguna bakın.