일반 AI 뛰어넘기: Trovia가 제도적 지식을 제공하는 방법

중견기업의 본질적인 강점 중 하나는 심층적이고 제도적인 지식입니다. 여기에는 다년간 축적된 모범 사례, 풍부한 회사 역사, 비즈니스 관련 뉘앙스가 포함되며, 이 모든 것이 조직을 경쟁업체와 차별화합니다. 따라서 이러한 기업이 인터넷을 통해 학습된 데이터에만 기반하여 구축되는 일반 AI 시스템을 사용할 경우 자신들만의 독창성을 잃을 위험이 있습니다.

Amazon Web Services(AWS)와 함께, AI 스타트업 Trovia는 중견기업이 AI를 사용하여 지능적이고 안전하게 전문성을 확장할 수 있도록 합니다. Trovia는 AWS Lambda, Amazon Bedrock, AWS Fargate와 같은 서비스를 사용하여 제도적 지식을 단일 소스로 통합하여 기업에서 이미 사용하고 있는 AI 도구를 개선합니다. 코딩이 필요 없는 Trovia는 사용이 간편하여 기업이 주요 인력으로부터 모범 사례를 쉽게 추출할 수 있으므로 지식 기반이 최신 상태로 유지되고 시간에 따라 정확도가 향상됩니다.

AI의 컨텍스트 위기

Trovia의 설립자는 수년간 엔터프라이즈급 AI 시스템을 직접 구축한 경험을 바탕으로 AI를 운영하려는 모든 기업의 주요 과제를 파악했습니다. \\\“에이전트 시스템이 제대로 작동하려면 컨텍스트별 콘텐츠를 제공해야 한다는 것을 알게 되었습니다. 하지만 수많은 주제를 다루고 다양한 형식으로 된 문서가 수백 개, 심지어 수천 개에 달했습니다.\\\”라고 Trovia의 CEO 겸 공동 설립자인 Aaron Rallo는 설명합니다.

이 콘텐츠를 AI 에이전트에게 문의했더니 AI 에이전트는 콘텐츠를 문자 그대로 해석하거나 완전히 잘못 해석한 후 그럴듯하지만 틀릴 가능성이 높은 답변으로 합성했습니다. Rallo는 이렇게 덧붙입니다. \\\“결국 우리는 이러한 격차를 메우고 신뢰할 수 있는 답을 얻기 위해 수백 시간을 노력해야 했습니다. 많은 작업이 필요했고 내구성이 뛰어난 솔루션은 아니었습니다. 우리는 이 문제를 자동화가 필요한 과제로 인식했으며, AI 시스템을 이용하려는 모든 기업, 특히 엔지니어를 고용하지 않은 기업에 큰 도움이 될 것이라고 생각했습니다.\\\”

기업이 자체 콘텐츠를 사용하는 것에 대한 대안은 인터넷에서 학습된 일반 모델에만 의존하는 것입니다. 이는 다른 문제를 야기합니다. 심층적이고 제도적인 지식을 기반으로 구축된 미드 마켓 조직의 경우 일반 AI 솔루션으로 인해 경쟁력이 제한될 수 있습니다. Rallo는 이렇게 설명합니다. \\\“경쟁업체와 동일한 데이터를 기반으로 학습되는 AI 시스템을 비즈니스에 사용하고 있다면, 시간이 지날수록 더 비슷해지기 시작할 것입니다. 시스템이 실제로 일반화되고 속도가 빨라지지만 차별성을 잃을 수 있습니다.\\\”

이러한 과제는 Trovia의 설립에 영감을 주었습니다. Trovia의 설립자들은 AI 시스템에서 사용하기 전에 콘텐츠를 통합, 검증, 압력 테스트하는 솔루션을 만들었습니다. Rallo는 \\\“우리는 모든 콘텐츠를 미리 살펴보고 사람이 할 수 있는 질문을 예상한 다음 해당 답변을 신뢰도 점수로 매길 수 있는 시스템을 구축했습니다\\\”라고 설명합니다. \\\“그런 다음 미드 마켓과 자체 AI 엔지니어가 없는 사용자를 포함하여 누구나 이용할 수 있도록 패키지로 만들어 쉽게 액세스할 수 있도록 했습니다.\\\”

문서화부터 차별화까지

\\\“Trovia는 운영 정책, 절차, 장비 유지 관리 또는 고객 서비스 사고 처리 관련 문서를 비롯한 지식 리포지토리에서 정보를 추출하는 데 정말 능숙합니다.\\\”라고 Rallo는 말합니다. 시간에 따라 Trovia에 비즈니스 문서와 제도적 지식을 모두 추가함으로써 고객은 지식 계층을 구축하므로 AI 도구가 일반적이거나 합성된 답변 대신 관련성 있고 구체적이며 정확한 답변을 제공할 수 있습니다. \\\“Trovia는 답변을 합성하지 않을 것입니다. 답을 모르는 질문이 나오면 사람에게 답을 구합니다. 사람의 답을 캡처한 후에는 지식 계층이 업데이트됩니다.\\\”라고 Rallo는 덧붙입니다.

스마트한 확장

Trovia 팀은 처음부터 AWS의 유연성, 확장성, 글로벌 접근성을 활용하여 AWS를 기반으로 제품을 구축했습니다. Rallo는 \\\“AWS를 기반으로 구축한 이유는 이 제품이 정말 크고 빠르게 발전할 것이라는 것을 알고 있어서 처음부터 안전하고 확장 가능한 아키텍처가 필요했기 때문입니다.\\\”라고 설명합니다. Trovia의 공동 설립자 겸 CTO인 Gabriel Wiebe는 다음과 같이 부연합니다. \\\“우리의 역량은 수평적으로뿐만 아니라 지리적으로도 성장하고 있기 때문에 다중 지역 지원과 지역별로 세분화된 데이터 전략도 필요했습니다.\\\”

Trovia는 서버리스 인프라 관리를 위한 AWS Lambda, 간소화된 컨테이너 관리를 위한 AWS Fargate를 비롯한 여러 AWS 서비스를 사용하여 구축되었습니다. Wiebe는 \\\“서비스가 필요한 경우 AWS의 포트폴리오에 해당 서비스가 있다는 것을 알고 있습니다.\\\”라고 설명합니다. Rallo는 다음과 같이 부연 설명합니다. \\\“Trovia는 매우 유용하며 이를 통해 훨씬 빠르게 구축할 수 있었습니다. 실제로 Trovia는 단 3개월 만에 아이디어에서 시제품으로 발전했습니다.\\\” 또한 Trovia 팀은 Amazon Bedrock을 통해 여러 AI 서비스를 사용했습니다. \\\“Amazon Bedrock을 통해 다양한 모델을 이용할 수 있어서 정말 좋았습니다. 당사는 코딩 지원을 위한 Claude Code를 포함한 Anthropic을 주로 사용하지만 Amazon Nova 및 OpenAI도 사용하므로 개발이 더 쉽고 빨라졌습니다.\\\”라고 Rallo는 말합니다.

Trovia 실제 사례 

Trovia의 대표적인 고객은 Synergy Franchising입니다. Synergy Franchising는 38개의 Popeye’s 및 Firehouse Subs 패스트푸드 레스토랑으로 구성된 성장 중인 포트폴리오를 관리하는 다중 가맹 프랜차이즈 운영자입니다. Trovia를 구현하기 전에는 장비 고장부터 회사 정책까지 팀원들이 긴급한 질문을 할 때마다 이메일, 문자 메시지 또는 WhatsApp을 통해 Synergy 경영진에게 연락했습니다. Synergy 팀은 이 프로세스에 많은 시간을 들였지만 응답자에 따라 달라지는 일관성 없는 답변이 돌아왔습니다.

Trovia를 사용하면 Synergy의 모든 제도적 지식이 단일 소스로 통합되고 검증됩니다. Trovia의 플랫폼을 사용하면서 직원들이 질문에 대해 일관되고 정확한 답변을 얻을 수 있기 때문에 이미 요청 처리 시간을 절약할 수 있습니다. 이제 Synergy는 티켓, 통화, 이메일을 75% 줄이는 것을 목표로 하고 있습니다.

또한 Synergy는 기술자의 불필요한 지원 요청 횟수를 20% 줄이는 것을 목표로 합니다. 현장 팀은 Trovia를 사용하여 지식 계층에 액세스하여 스스로 문제를 해결하거나 기술자를 배치하기 전에 문제를 진단할 수 있습니다.

Synergy의 최고 운영 책임자 Kyle Ferbey는 \\\“Trovia를 사용하면 프로세스 초기에 진단할 수 있습니다. 예를 들어, 어플라이언스 관련 문제를 해결하기 위해 기술자를 파견하기 전에 팀원에게 오류 코드 또는 장비의 사진을 찍은 후 Trovia에 전송하도록 하여 사람이 개입하기 전에 문제를 해결할 수 있습니다.\\\”

Synergy는 650명의 직원이 선임 스태프에게 보내는 일회성 메시지 및 전화 통화를 75% 줄이는 것을 목표로 하고 있습니다. Synergy는 Trovia가 기존 시스템과 통합할 수 있다는 점이 가장 마음에 듭니다. \\\“현재 우리는 이메일, WhatsApp, 문자 메시지를 사용하는데, 이제 Trovia가 이 모든 것을 대신하고 있습니다. 더 이상 새로운 것을 도입할 필요가 없습니다.\\\”라고 Ferbey는 부연했습니다. 현재 Trovia는 650명 이상의 Synergy 직원들이 보다 일관되고 효율적인 숙박 경험을 제공할 수 있도록 도와주고 있습니다.

지식 엔진 가속화

Trovia가 계속해서 범위와 기능을 확장함에 따라 이 스타트업은 AWS 서비스 이용을 확대할 것입니다. Trovia의 고객들이 자사의 제도적인 데이터를 AI 시스템에 제공하는 것에 당연히 경계심을 보이고 있는 만큼, 데이터 주권은 점점 더 중요한 역할을 하게 될 것입니다. Trovia의 CTO 겸 공동 설립자인 Gabriel Wiebe는 다음과 같이 설명합니다. \\\“AWS가 제공하는 모든 기능, 액세스 제어, 암호화 계층 및 데이터 세분화를 갖추는 것은 고객에게 정말 중요합니다. 당사가 더 넓은 분야에서 서비스와 기능을 확장해 나감에 따라 AWS가 이를 뒷받침해 줄 수 있다는 것을 알고 있습니다.\\\”

이 스타트업이 여전히 제품 포트폴리오를 구축하고 있는 상황에서 Trovia는 Amazon Bedrock AgentCore 플러그인 아키텍처와 내장 가드레일 지원도 활용할 방안을 모색하고 있습니다. Wiebe는 \\\“고객이 있는 곳에서 고객을 만나하며 Amazon Bedrock AgentCore가 모든 고객에게 맞춤형 통합을 훨씬 빠르게 제공할 수 있도록 도와줄 것입니다.\\\”라고 말합니다. 또한 Trovia는 전 세계 고객이 스타트업의 기술을 더 쉽게 찾아서 활용할 수 있도록 AWS Marketplace에 가입하고 있는 중입니다.

오늘 Trovia는 프랜차이즈 및 자산 관리 분야로 확장하게 되어 매우 기쁩니다. Rallo는 “인간의 지식은 오늘날 매우 소중하며, 당사가 AI를 계속 구현함에 따라 그 가치도 커질 것입니다. 지속적으로 학습할 수 있는 Trovia와 같은 시스템은 이러한 지식이 대체되는 것이 아니라 증폭되도록 도와줍니다.\\\”라고 말합니다.

Trovia와 마찬가지로 전 세계의 야심찬 스타트업들이 AWS Activate의 도움을 받아 영감을 실제 영향력으로 바꾸고 있습니다. AWS의 주력 스타트업 프로그램인 AWS Activate는 35만 개 이상의 글로벌 스타트업이 함께하는 플랫폼이며, 설립자와 성장 중인 팀이 자신 있게 구축, 출시, 확장할 수 있도록 돕기하기 위해 구축되었습니다. 참여 스타트업에는 여정을 가속화하는 데 도움이 되는 필수 도구, 전문가 지원, 맞춤형 리소스 및 AWS 크레딧이 제공됩니다. 자세히 알아보고 커뮤니티에 가입하세요.