Crypto.com fornece uma análise de sentimentos precisa em um segundo por meio da IA generativa na AWS

A Crypto.com foi fundada em 2016 com uma missão ousada: levar criptomoedas para todas as carteiras. A empresa se destaca de outras plataformas de negociação por meio de seu forte foco em promover a adoção pelos usuários, com uma ampla rede de parceiros, incluindo comerciantes e gateways de pagamento. Atualmente, a Crypto.com atende a cerca de 100 milhões de usuários em 90 países.

Com um crescimento tão rápido e uma base de clientes diversificada, tudo isso em um setor competitivo e em evolução, a Crypto.com adotou a inteligência artificial (IA) generativa para oferecer experiências otimizadas aos clientes rapidamente. Os casos de uso de IA da empresa incluem assistentes de conversação para integração e consultas de clientes, além de assistentes para gerar campanhas de marketing em redes sociais.

Em aplicações de IA generativa, a análise de sentimentos e a categorização de narrativas de notícias estão se tornando cada vez mais vitais. Especialmente no espaço das criptomoedas, os investidores precisam de inteligência de mercado precisa e oportuna para tomar decisões embasadas. A Crypto.com oferece um serviço de insights de mercado em que os usuários podem acessar as últimas notícias e informações de fontes de notícias tradicionais e de criptomoedas para obter insights dos mecanismos de inteligência da empresa. Cada assinatura é personalizada de acordo com o nível de negociação do usuário e as moedas em sua carteira.

A Crypto.com emprega uma série de modelos de machine learning (ML) prontos para uso, além de seus próprios modelos personalizados para análise de sentimentos. No entanto, os desenvolvedores enfrentaram desafios com as limitações dos modelos de código aberto e o alto custo dos grandes modelos de linguagem (LLMs) auto-hospedados. Eles também enfrentaram problemas de precisão com os resultados gerados por modelos de código aberto, especialmente ao lidar com sites de notícias multilíngues. Por isso, a Crypto.com buscou uma solução mais eficaz para integrar e sintetizar os resultados de vários modelos de ML, tanto pré-treinados quanto personalizados, para fornecer insights precisos, confiáveis e abrangentes sobre o mercado das criptomoedas.

Como a Crypto.com é executada na Amazon Web Services (AWS) desde seu lançamento, quando ela procurou novos LLMs para análise de sentimentos, o Claude 3 da Anthropic no Amazon Bedrock foi uma escolha lógica. Esses LLMs são altamente escaláveis e processam grandes quantidades de dados em tempo real, facilitando uma pesquisa de mercado abrangente. Os resultados iniciais mostraram que os LLMs no Amazon Bedrock retornaram resultados com muita rapidez, geralmente em menos de um segundo.

A integração do Amazon Bedrock eliminou o esforço manual, o custo extra e as restrições computacionais dos LLMs auto-hospedados. Em um mês, a Crypto.com implementou os modelos Claude 3 Haiku da Anthropic no Amazon Bedrock para análise de sentimentos, coletando e analisando notícias sobre criptomoedas em mais de 25 idiomas. A empresa também utiliza o Amazon Bedrock para provas de conceito (POCs) e desenvolvimento contínuos. Segundo Sunny Fok, chefe de tecnologia de IA e inovação da Crypto.com, “A IA generativa nos serviços da AWS, como o Amazon SageMaker e o Amazon Bedrock, simplificou nossa adoção dos LLMs e das tecnologias de IA mais recentes. Agora, conseguimos levar ideias inovadoras da POC até a produção completa em semanas.”

Para garantir que o conhecimento específico do domínio seja aplicado na saída do modelo, a Crypto.com usou seus próprios dados para ajustar os modelos de código aberto, incluindo o Mistral AI e o Meta Llama no Amazon Elastic Compute Cloud (Amazon EC2). Essa abordagem é crucial quando uma nova moeda aparece no mercado, pois os modelos prontos para uso geralmente apresentam resultados abaixo da média. A Crypto.com começou então a usar o Amazon SageMaker como uma plataforma de desenvolvimento de ML sob demanda e de ponta a ponta para ajustar seus modelos personalizados.

Segundo Raymond Lam, engenheiro sênior da Crypto.com, "O Amazon SageMaker fornece as ferramentas e APIs para adaptar facilmente nossos modelos com uma interface amigável. Semelhante ao Amazon Bedrock, só precisamos executar trabalhos de machine learning conforme necessário, e é muito mais fácil gerenciar a modelagem personalizada do que se estivéssemos fazendo isso por conta própria.”

A Crypto.com recebeu amplo suporte da AWS durante as fases de geração de ideias, POC e produção da implantação de vários agentes. “Tivemos várias discussões sobre quais ferramentas ou estruturas implantar para diferentes casos de uso”, diz Lam. “A equipe da AWS compartilhou casos de uso existentes, forneceu exemplos de código e demonstrou cada etapa. Quando surgiram problemas técnicos, os arquitetos de soluções da AWS ajudaram a solucionar problemas e ofereceram sugestões, o que acelerou nossa integração à IA generativa nos serviços da AWS.”