샌드박스에서 확장까지: Jentic, Amazon BedRock AgentCore와의 에이전트 통합 지원

다양한 산업 분야의 기업에서 에이전틱 AI는 이사회 논의를 넘어 배포에 이르기까지 빠르게 발전하고 있습니다. MIT의 연구에 따르면 이미 채택률이 35%에 이르렀으며, McKinsey는 조직의 62%가 이 기술을 적극적으로 실험하고 있다고 밝혔습니다. 하지만 AI 에이전트가 의미 있는 가치를 제공하려면 엔터프라이즈 시스템에 안전하게 연결하고, 운영 소프트웨어와 상호 작용하고, 실제 비즈니스 프로세스 내에서 작업을 실행할 수 있어야 합니다.

Jentic을 활용하면 기업이 AI 에이전트를 맞춤형 시스템에 연결하고 기본 제공되는 보안 및 규정 준수 기능을 통해 결정론적 워크플로를 구축할 수 있습니다. 이 회사는 API와 AI 사이에 누락된 계층을 제공하여 기업이 에이전트 기능을 프로덕션 환경에 배포하기 전에 시뮬레이션하고 테스트할 수 있도록 지원합니다. 가장 최근에 Jentic은 개발자가 AI 에이전트를 실제 시스템에 더 안전하게 연결할 수 있도록 설계된 무료 오픈 소스 자체 호스팅 서비스인 Jentic Mini로 이러한 접근 방식을 확장했습니다. 이 팀은 Amazon Web Services(AWS)와 긴밀하게 협력하고 Amazon Bedrock AgentCore와 같은 확장 가능한 서비스를 활용하여 기업이 AI 에이전트가 일상적으로 운용되는 미래에 대비할 수 있도록 지원하고 있습니다.

AI 에이전트를 기업 운영 시스템에 연결

더블린에서 활동하는 세 명의 기업가가 2024년에 설립한 Jentic은 기업이 에이전트 AI를 안전하게 통합하고 확장할 수 있도록 지원합니다. CEO인 Sean Blanchfield는 “모든 기업에는 실제로 비즈니스를 운영하는 자체 맞춤형 시스템이 있습니다”라고 말합니다. “AI의 이점을 활용하려면 해당 시스템에 안전하게 연결하는 에이전트를 구축해야 합니다. 이는 해결하기 어려운 통합 과제이며 보안, 세분화된 액세스 제어, 관찰성 및 거버넌스를 보장하면서 안전하게 수행하기는 훨씬 더 어렵습니다.”

Blanchfield는 “프로덕션 환경밖에 없는데 AI를 프로덕션에 바로 배포할 수는 없기 때문에, AI를 배포하는 방법을 찾으려는 기업이 어려움을 겪는 경우가 많습니다. 의료 데이터일 수도 있고, 은행 계좌일 수도 있고, 보험일 수도 있습니다. 그것이 무엇이든 대규모 언어 모델(LLM)을 연결하여 레코드 업데이트를 시작하도록 내버려 둘 수는 없다”며, “고객을 위해 가장 먼저 설정하는 것은 기존 인프라의 디지털 트윈인 시뮬레이션 샌드박스입니다. 에이전트를 위한 연중무휴 훈련 공간 역할을 합니다”라고 말합니다.

기업은 샌드박스를 사용하여 에이전트를 테스트하고 나중에 프로덕션 환경에서 사용할 수 있는 결정론적 워크플로를 개발할 수 있습니다. 이러한 워크플로는 반복 가능하며 AI가 주요 시스템과 상호 작용하고 작동하는 방식을 기업이 제어할 수 있도록 합니다. Blanchfield는 “결정론적이고 설명이 가능하기 때문에 속도가 매우 빠른데, 이는 규제 관점에서 볼 때 매우 중요합니다”라고 말합니다.

무엇보다, Jentic은 기업이 소규모 파일럿 프로젝트를 넘어서서 시스템 전반에 걸쳐 대규모 에이전트 플릿을 운영할 준비를 할 수 있도록 지원하는 통합되고 확장 가능한 기반을 제공합니다. Blanchfield는 “세 개의 파일럿을 보유하는 것도 괜찮지만 고객들은 이미 수천 개의 에이전트를 관리할 수 있는 미래를 계획하고 있습니다”라고 말합니다. 이러한 목표를 지원하기 위해 Jentic은 AWS와 긴밀히 협력하여 안전하고 전 세계적으로 확장 가능한 엔터프라이즈급 플랫폼을 구축하고 있습니다.

실험부터 실행까지 AI의 속도로 진행

Jentic은 Amazon Bedrock을 사용하여 여러 제공업체의 고성능 기반 모델에 액세스하여 대규모 AI를 구축, 배포, 관리하는 방법을 간소화합니다. Cordner는 “인프라와 같은 위치에서 이러한 모든 모델에 액세스할 수 있기 때문에 규정 준수가 간소화되고 여러 제공업체를 관리할 필요가 없습니다”라고 말합니다. 또한 수행 중인 작업에 따라 여러 모델을 쉽게 평가하고 전환할 수 있습니다. 예를 들어 특정 워크로드에는 고급 추론 기능이 필요할 수 있지만 다른 워크로드에는 더 빠르거나 비용 효율적인 추론이 도움이 될 수 있습니다.

Jentic은 효과적인 에이전트를 대규모로 안전하게 구축, 배포, 운영하기 위한 에이전트 플랫폼인 Amazon Bedrock AgentCore를 샌드박스 환경 내의 런타임 계층으로 사용합니다. 영구 메모리, 완전한 세션 격리, 에이전트 성능 추적과 같은 기능을 갖춘 Amazon Bedrock AgentCore를 통해 Jentic은 복잡한 다단계 워크플로에서 에이전트를 구축, 배포, 모니터링할 수 있습니다. Cordner는 “저희는 AgentCore에 직접 에이전트를 배포한 최초의 회사 중 하나입니다. 세션 범위 실행, 지속적 상태 관리 등의 기능을 제공하므로 직접 구축할 필요가 없습니다”라고 말합니다.

Jentic은 최근 개발자와 팀이 범용 에이전트를 실제 시스템에 보다 안전하게 연결할 수 있는 실용적인 방법을 제공하는 무료 오픈 소스 자체 호스팅 서비스인 Jentic Mini를 출시했습니다. 세부적인 권한 관리, 런타임 자격 증명 삽입, 에이전트 액세스를 즉시 취소할 수 있는 단일 킬 스위치 등을 통해 에이전트와 외부 API 간의 제어된 실행 계층을 제공하며, 1만 여 개의 API로 구성된 카탈로그에 액세스할 수 있습니다. Jentic에게 있어, 이는 회사의 광범위한 플랫폼 비전을 자연스럽게 확장한 것입니다. 즉, 조직이 보다 강력한 운영 제어를 통해 실험 단계에서 실제 에이전트 배포 단계로 전환할 수 있도록 지원하는 것입니다.

Jentic은 Amazon Elastic Container Service(Amazon ECS), AWS Fargate, Amazon Simple Storage Service(Amazon S3) 등 다양한 AWS 서비스를 기반으로 플랫폼 인프라를 실행하고 있습니다. 이러한 서비스를 함께 사용함으로써 Jentic은 단일 통합 환경에서 플랫폼을 실행하여 운영 복잡성을 줄이고 엔터프라이즈 배포에 필요한 안정성과 보안을 유지할 수 있습니다. Cordner는 “모델뿐 아니라 인프라, 보안, 규정 준수도 중요합니다. 모든 것을 한곳에 통합할 수 있다는 점은 정말 중요합니다”라고 말합니다.

기술 혁신을 바탕으로 사업적 성과 실현

기술 외에, AWS는 Jentic이 비즈니스 범위를 확장하는 데에도 지원을 제공했습니다. COO인 Dorothy Creaven은 “더블린과 영국에 있는 AWS 팀은 잠재 고객에게도 저희를 소개하기 위해 매우 적극적으로 노력해 왔는데, 정말 좋았습니다. AWS와 협력하면 고객 회의에 더욱 편안하게 참석할 수 있습니다. AWS와 협력하고 있다는 사실을 고객이 알게 되면 우리가 매우 신뢰할 수 있는 공급업체와 협력하고 있다고 생각하기 때문입니다”라고 말합니다.

Jentic은 생성형 AI Startup과 에이전틱 AI Startup을 지원하는 8주간의 글로벌 하이브리드 프로그램인 AWS Generative AI Accelerator에도 참여했습니다. 참여 업체는 노련한 AWS 전문가의 네트워크를 통해 배우고, 최대 1백만 USD의 AWS 크레딧을 획득하고, 혁신적인 Startup 커뮤니티와 교류하고, 독점적인 시장 진출 기회를 활용할 수 있습니다. Creaven은 “액셀러레이터를 통해 처음부터 AWS 기술 전문 지식과 전체 AWS 에코시스템에 더 가까이 다가갈 수 있었습니다”라고 말합니다. “글로벌 프로그램인 만큼 저희와 같은 성장 단계에 있는 다른 Startup을 만날 수 있었고, 이 프로그램에 참여한다는 사실 자체로도 잠재 고객에게 AWS와 같은 회사의 지원을 받고 있다는 것을 보여줍니다.”

또한 AWS 이벤트는 고객 및 파트너와 교류할 수 있는 귀중한 노출 기회와 교류 기회를 제공했습니다. “이런 종류의 이벤트는 모두 같은 관심사를 가진 잠재 고객과 파트너를 만날 수 있다는 점에서 정말 가치가 있습니다. Creaven은 “Cloud Day Dublin에서 패널 토론을 진행했는데, 이를 통해 훨씬 더 많은 청중에게 노출될 수 있었습니다. Gen AI Loft 이벤트에도 참여했는데, 같은 스페이스에서 솔루션을 구축하는 다른 Startup과 사람들을 만나기에 아주 좋았습니다. 이 기술을 적극적으로 탐구하고 있는 사람들이 있는 곳이기 때문에 생태계의 일원이 되어 이러한 대화에 참여하는 것이 도움이 됩니다”라고 말합니다.

Jentic이 AWS Marketplace에 오퍼링을 등록한 것도 대고객 판매 방식을 간소화하는 데 도움이 되었습니다. Blanchfield는 “Marketplace에 등록하는 것은 중요한 첫 번째 단계이며 이를 신속하게 진행할 수 있도록 많은 직접적인 도움을 받았습니다. 해당 리스팅에는 품질에 대한 확실한 보증이 제공되며 계약 및 조달의 간소화와 같은 실용적인 측면도 있습니다. Startup으로서 전 세계의 모든 이상적인 고객을 신속하게 확보할 수 있다는 것은 정말 중요한 일입니다”라고 말합니다. 이 회사는 이제 클릭 한 번으로 고객의 가상 사설 클라우드에 서비스를 배포할 수 있도록 하기 위해 노력하고 있습니다.

엔터프라이즈 전반에서 운영되는 에이전틱 플릿을 지원하도록 구축된 플랫폼

기업이 에이전틱 AI를 계속 탐색함에 따라 실험에서 장기 운영으로 초점이 옮겨가고 있습니다. Jentic은 이러한 미래를 염두에 두고 플랫폼을 구축하고 있습니다. 즉, 전부는 아니더라도, 대부분의 핵심 비즈니스 시스템에 AI 에이전트가 내장되는 플랫폼입니다. Blanchfield는 “저희가 진정으로 목표로 하고 있는 것은 기업이 대규모 에이전트를 운영하는 세상입니다. 이는 에이전트를 통제된 방식으로 운영하고 관리할 수 있는 경우에만 효과가 있습니다”라고 말합니다.

이러한 전환을 지원하기 위해 Jentic은 이제 기업이 에이전트 전략에서 프로덕션으로 전환할 수 있도록 체계적인 6주간의 온보딩 프로그램을 제공합니다. Creaven은 “고객이 에이전트를 어떻게 활용해야 할지 잘 모르는 상태에서 시작해, 실제로 작동하는 무언가를 갖추도록 돕습니다. 샌드박스를 구축하고, 고객의 시스템과 연동한 뒤 워크플로를 만들기 시작하죠. 이 과정이 끝날 때쯤이면, 프로덕션 환경으로 확장할 수 있는 실질적인 기반을 갖추게 됩니다”라고 말합니다.

앞으로도 AWS와의 협력은 Jentic의 비전과 성장을 계속 지원할 것입니다. Blanchfield는 “AWS를 통해 열심히 일하고 매우 똑똑한 사람들과 함께 일할 수 있게 되었습니다”라고 말합니다. 이 회사는 확장 가능한 AI 인프라를 기반으로 플랫폼을 구축함으로써 첫 번째 에이전트를 배포하는 것부터 첫 에이전트 플릿을 구축하기까지 전 과정에서 기업 고객을 지원할 수 있습니다. CTO인 Michael Cordner는 “AWS를 사용하면 엔터프라이즈급 리소스 없이도 엔터프라이즈 환경을 구축할 수 있습니다. 완전한 패키지를 제공하는 거죠”라고 말합니다.

Jentic과 같은 야심찬 Startup이 AWS를 기반으로 성공을 거두고 있습니다. AWS Activate와 같은 프로그램은 AWS 크레딧 형태의 직접 자금 지원을 통해 35만 여 개의 혁신 기업이 운영을 개시하고, 투자자의 관심을 끌고, 아이디어를 시장성 있는 제품으로 전환하도록 지원했습니다. 과감하게 구축하고, 제한 없이 확장하고, 리스크 없이 제품을 출시하고 싶다면 지금 신청하세요.