Crypto.com fornisce un'analisi accurata del sentiment in un secondo con l'IA generativa su AWS

Crypto.com è stata fondata nel 2016 con una missione ambiziosa: portare le criptovalute in ogni portafoglio. L'azienda si distingue dalle altre piattaforme di trading per il suo forte impegno nel promuovere l'adozione da parte degli utenti, avvalendosi di una vasta rete di partner che include servizi e gateway di pagamento. Crypto.com attualmente serve circa cento milioni di utenti in novanta Paesi.

Con una crescita rapida e una base clienti eterogenea, in un settore competitivo e in costante evoluzione, Crypto.com ha implementato l'IA generativa per offrire rapidamente esperienze cliente ottimali. I casi d'uso dell'intelligenza artificiale dell'azienda comprendono assistenti conversazionali per l'onboarding e la gestione delle richieste dei clienti, nonché procedure guidate per creare campagne di marketing sui social media.

Nelle applicazioni di IA generativa, l'analisi del sentiment e la categorizzazione delle notizie diventano sempre più essenziali, in particolare nel settore delle criptovalute, dove gli investitori richiedono informazioni di mercato tempestive e precise per prendere decisioni informate. Crypto.com offre un servizio di approfondimenti sul mercato che permette agli utenti di accedere alle ultime notizie e informazioni sia da fonti di notizie criptovalutarie che tradizionali, per ottenere approfondimenti dai motori di intelligenza dell'azienda. Ogni abbonamento è personalizzato in base al livello di trading dell'utente e alle valute nel suo wallet.

Crypto.com utilizza una gamma di modelli di machine learning (ML) pronti all'uso insieme ai propri modelli personalizzati per l'analisi del sentiment. Tuttavia, gli sviluppatori hanno incontrato difficoltà dovute alle limitazioni dei modelli open source e all'elevato costo di modelli linguistici di grandi dimensioni (LLM) con hosting autonomo. Inoltre, hanno riscontrato problemi di precisione con i risultati generati da modelli open source, specialmente nel caso di siti di notizie multilingue. Di conseguenza, Crypto.com ha cercato una soluzione più efficace per integrare e sintetizzare i risultati di vari modelli ML, sia pre-addestrati che personalizzati, per fornire approfondimenti accurati, affidabili e completi sul mercato delle criptovalute.

Crypto.com utilizza Amazon Web Services (AWS) dal suo lancio, quindi quando ha cercato nuovi LLM per l'analisi del sentiment, Anthropic Claude 3 su Amazon Bedrock è stata una scelta logica. Questi LLM sono altamente scalabili ed elaborano grandi quantità di dati in tempo reale, facilitando ricerche complete sul mercato. I risultati preliminari indicano che gli LLM su Amazon Bedrock hanno fornito risposte molto velocemente, generalmente in meno di un secondo.

L'integrazione di Amazon Bedrock ha eliminato il lavoro manuale, i costi aggiuntivi e i vincoli computazionali associati agli LLM con hosting autonomo. Nel giro di un mese, Crypto.com ha implementato i modelli Anthropic Claude 3 Haiku su Amazon Bedrock per l'analisi del sentiment, raccogliendo e analizzando notizie sulle criptovalute in più di 25 lingue. Inoltre, l'azienda utilizza Amazon Bedrock per i proof of concept (POC) e lo sviluppo continui. Sunny Fok, Head of AI Innovation Technology presso Crypto.com, afferma: “L'IA generativa su servizi AWS come Amazon SageMaker e Amazon Bedrock ha semplificato la nostra adozione delle più recenti tecnologie di intelligenza artificiale e LLM. Ora siamo in grado di sviluppare idee innovative, passando dalla proof of concept alla produzione su larga scala in poche settimane.”

Per garantire l'applicazione di conoscenze specifiche del settore nei risultati dei modelli, Crypto.com ha utilizzato i propri dati per eseguire il fine-tuning dei modelli open source, tra cui Mistral AI e Meta Llama, su Amazon Elastic Compute Cloud (Amazon EC2). Questo approccio è fondamentale quando una nuova moneta appare sul mercato, poiché i modelli standard spesso tendono a fornire risultati insoddisfacenti. Crypto.com ha, quindi, iniziato a utilizzare Amazon SageMaker come piattaforma di sviluppo ML end-to-end on demand per eseguire il fine-tuning dei suoi modelli personalizzati.

Raymond Lam, Senior Engineer presso Crypto.com, afferma: “Amazon SageMaker fornisce gli strumenti e le API per adattare facilmente i nostri modelli tramite l'intuitiva interfaccia. Similmente ad Amazon Bedrock, eseguiamo processi di machine learning solo quando necessario, e gestire la modellazione personalizzata è molto più semplice rispetto a farlo autonomamente.”

Crypto.com ha ricevuto ampio supporto da AWS durante le fasi di sviluppo dell'idea, POC e produzione dell'implementazione multiagente. “Ci siamo confrontati molte volte su quali strumenti o framework implementare per i vari casi d'uso”, afferma Lam. “Il team AWS ha condiviso i casi d'uso esistenti, fornito codice di esempio e illustrato ogni passaggio. Quando sono emersi problemi tecnici, gli architetti delle soluzioni AWS ci hanno aiutato a risolverli e hanno offerto suggerimenti, che hanno accelerato il nostro onboarding nell'uso dell'IA generativa sui servizi AWS.”