Crypto.com, AWS 기반 생성형 AI를 통해 1초 안에 정확한 감정 분석 제공

Crypto.com은 모든 이들이 암호화폐를 사용하게 한다는 대담한 포부를 가지고 2016년에 설립되었습니다. 이 회사는 가맹점과 결제 게이트웨이를 포함한 광범위한 파트너 네트워크를 통해 사용자의 도입을 유도하는 데 중점을 두고 있다는 점에서 다른 거래 플랫폼과 차별화됩니다. Crypto.com은 현재 90개국에서 약 1억 명의 사용자에게 서비스를 제공하고 있습니다.

변화가 빠르고 경쟁이 치열한 이 산업 분야에서, 급격한 성장과 다양한 고객층을 뒷받침하기 위해 Crypto.com은 최적화된 고객 경험을 신속하게 제공할 수 있는 생성형 인공 지능(AI)을 도입하게 되었습니다. 이 회사의 AI 사용 사례로는 온보딩 및 고객 문의를 위한 대화형 도우미와 소셜 미디어 마케팅 캠페인을 생성하는 마법사 등이 있습니다.

생성형 AI 애플리케이션에서 감정 분석과 뉴스 내러티브 분류의 중요성이 갈수록 커지고 있습니다. 특히 암호화폐 분야의 투자자들은 정보에 입각한 결정을 내리기 위해 시기적절하고 정확한 시장 인텔리전스를 필요로 합니다. Crypto.com은 사용자가 암호화폐 및 기존 뉴스 소스의 최신 뉴스와 정보에 액세스하여 회사의 인텔리전스 엔진으로부터 인사이트를 얻을 수 있는 시장 인사이트 서비스를 제공합니다. 각 구독 상품은 사용자의 거래 수준과 지갑에 있는 코인에 따라 맞춤화됩니다.

Crypto.com은 감정 분석을 위한 자체 맞춤형 모델과 함께 다양한 기성 기계 학습(ML) 모델을 사용합니다. 하지만 개발자들은 오픈 소스 모델의 한계와 대규모 언어 모델(LLM)을 자체적으로 호스팅하는 데 드는 높은 비용 때문에 어려움을 겪었습니다. 게다가, 특히 다국어 뉴스 사이트를 다룰 때 오픈 소스 모델에서 생성된 출력의 정확성 문제에 직면했습니다. 이에 Crypto.com은 암호화폐 시장에 대한 정확하고 신뢰할 수 있으며 포괄적인 인사이트를 제공하기 위해 사전 훈련된 모델과 맞춤형 모델을 모두 포괄하는 여러 ML 모델의 결과물을 통합하고 합성할 수 있는 보다 효과적인 솔루션을 모색하게 되었습니다.

Crypto.com은 출시 이래로 줄곧 Amazon Web Services(AWS)에서 운영해 온 만큼, 감정 분석을 위한 새로운 LLM을 도입할 때 Amazon Bedrock 기반의 Anthropic Claude 3가 합리적인 선택이었습니다. 이 LLM은 확장성이 뛰어나고 방대한 양의 데이터를 실시간으로 처리하여 포괄적인 시장 조사를 지원합니다. 초기 결과에 따르면 Amazon Bedrock의 LLM은 결과를 매우 빠르게(일반적으로 1초 이내) 반환하는 것으로 나타났습니다.

Amazon Bedrock을 통합한 결과, 자체적으로 LLM을 호스팅하는 데 따른 수작업, 추가 비용, 계산의 제약이 사라졌습니다. Crypto.com은 한 달 만에 Amazon Bedrock을 기반으로 감정 분석을 위한 Anthropic Claude 3를 구현하여 25개 이상의 언어로 암호화폐 뉴스를 수집 및 분석할 수 있었습니다. 또한 이 회사는 지속적인 개념 증명(POC) 및 개발에도 Amazon Bedrock을 활용합니다. Crypto.com AI & Innovation Technology 부문 책임자인 Sunny Fok는 “Amazon SageMaker, Amazon Bedrock 등, AWS 서비스의 생성형 AI 덕분에 최신 LLM 및 AI 기술을 쉽게 도입할 수 있었습니다. 이제 POC에서 얻은 혁신적인 아이디어를 몇 주 만에 정식 프로덕션 환경에 적용할 수 있게 되었습니다”라고 말합니다.

분야별 지식이 모델 출력에 적용되도록 하기 위해, Crypto.com은 Amazon Elastic Compute Cloud(Amazon EC2)에서 자체 데이터를 사용하여 Mistral AI 및 Meta Lama를 포함한 오픈 소스 모델을 미세 조정했습니다. 기성 모델의 경우 수준 이하의 결과를 제공하는 경우가 빈번하기 때문에, 이러한 접근 방식은 시장에 새로운 코인이 등장할 때 특히 중요합니다. 그 후 Crypto.com은 Amazon SageMaker를 온디맨드 엔드-투-엔드 ML 개발 플랫폼으로 사용하여 맞춤형 모델을 미세 조정하기 시작했습니다.

Crypto.com의 Senior Engineer인 Raymond Lam은 “Amazon SageMaker는 사용자 친화적인 인터페이스를 사용하여 모델을 쉽게 조정할 수 있는 도구와 API를 제공합니다. Amazon Bedrock과 마찬가지로 필요할 경우에만 기계 학습 작업을 실행하면 되고, 맞춤형 모델링을 직접 관리하는 데 비해 관리하기도 훨씬 수월합니다”라고 말합니다.

Crypto.com은 멀티 에이전트 배포의 아이디어 생성, POC 및 프로덕션 단계 전반에 걸쳐 AWS로부터 다양한 지원을 받았습니다. Lam은 “다양한 사용 사례에 맞추어 어떤 도구 또는 프레임워크를 배포할지 여러 차례 논의했습니다. AWS 팀은 기존 사용 사례를 공유하고, 샘플 코드를 제공하고, 각 단계를 데모로 보여주었습니다. 기술적인 문제가 발생하면 AWS 솔루션스 아키텍트가 문제 해결을 돕고 솔루션을 제안해 주었습니다. 그 덕분에 AWS 서비스에서 생성형 AI에 대한 온보딩이 가속화되었습니다”라고 말합니다.