AWS Transform prend désormais en charge l’évaluation de la migration de modèle à modèle pour les charges de travail d’IA générative
AWS Transform propose désormais une transformation personnalisée de migration de modèle à modèle, qui évalue vos charges de travail d’IA générative et produit un plan de migration complet pour le passage de fournisseurs tiers à Amazon Bedrock. L’agent alimenté par l’IA analyse votre code base, identifie chaque kit SDK et modèle d’IA utilisés, rassemble vos exigences en matière de migration par le biais de questions interactives et associe les modèles aux équivalents de Bedrock grâce à des comparaisons de coûts transparentes et à des modifications de code prêtes à être mises en production. Cette transformation personnalisée gérée aide les entreprises à consolider leurs charges de travail d’IA sur AWS afin de bénéficier d’une sécurité basée sur IAM, d’une isolation des points de terminaison d’un VPC, d’une mise en cache des invites, des barrières de protection pour Amazon Bedrock et d’outils opérationnels unifiés via Amazon CloudWatch.
La transformation prend en charge les migrations depuis OpenAI, Google Gemini, l’utilisation directe du kit SDK Anthropic et les modèles open source via LiteLLM ou Ollama. Elle gère les intégrations directes du kit SDK, les modèles encapsulés dans des cadres tels que LangChain et LlamaIndex, les architectures agentiques telles que CrewAI et LangGraph, et les couches de routage multifournisseurs, préservant ainsi l’architecture de votre application tout en échangeant uniquement la couche de modèle. L’agent inclut une optimisation intelligente des coûts avec des recommandations de routage des modèles hiérarchisés, une analyse de la mise en cache des invites et une prise en compte du cycle de vie des modèles, qui exclut les modèles dans les 90 jours suivant leur fin de vie de toutes les recommandations. Pour certaines charges de travail, il recommande les points de terminaison compatibles OpenAI d’Amazon Bedrock comme chemin de migration sans changement de code.
La migration de modèle à modèle vers AWS Transform est disponible dans toutes les Régions AWS où AWS Transform est proposé, sans frais supplémentaires au-delà de la tarification standard d’AWS Transform. Pour commencer, installez l’interface de ligne de commande ATX et exécutez la transformation personnalisée mke-genai-model-migration sur votre code base. Pour en savoir plus, consultez la documentation sur la transformation personnalisée d’AWS Transform et le blog d’annonce.