Crypto.com 利用 AWS 上的生成式 AI，在 1 秒內提供準確的情緒分析

Crypto.com 成立於 2016 年，肩負著大膽的使命：將加密貨幣帶入每個人的錢包。該公司專注於推動使用者採用，並擁有由商家和支付閘道組成的廣泛合作夥伴網路，藉此在衆多交易平台中脫穎而出。Crypto.com 目前為 90 個國家/地區的約 1 億名使用者提供服務。

Crypto.com 處於不斷發展、競爭激烈的產業，同時擁有如此快速的成長和多元化的客戶群，因此決定採用生成式人工智慧 (AI) 來快速提供最佳化的客戶體驗。該公司的 AI 使用案例包括用於新使用者引導和客戶查詢的對話助理，以及用於生成社群媒體行銷活動的精靈。

在生成式 AI 應用程式中，情緒分析和新聞敘事分類變得越來越重要。特別是在加密貨幣領域，投資者需要及時、準確的市場情報來做出明智的決策。Crypto.com 提供市場洞察服務，使用者可以在其中取得來自加密貨幣和傳統新聞來源的最新新聞和資訊，藉此從該公司的情報引擎中獲得洞察。每個訂閱都根據使用者的交易等級和錢包中的加密貨幣量身定制。

Crypto.com 採用一系列現成的機器學習 (ML) 模型及自家自訂模型進行情緒分析。然而，開發人員遇到了開放原始碼模型方面的限制以及自行託管大型語言模型 (LLM) 成本高昂的挑戰。他們還面臨開放原始碼模型產生的輸出準確性問題，尤其是在處理多語言新聞網站時。因此，Crypto.com 尋求更有效的解決方案來整合和綜合來自多個 ML 模型 (包括預先訓練和自訂模型) 的輸出，以提供準確、可靠和全面的加密貨幣市場洞察。

Crypto.com 自推出以來一直在 Amazon Web Services (AWS) 上執行，因此該公司尋求用於情緒分析的新 LLM 時，Amazon Bedrock 上的 Anthropic Claude 3 是合乎邏輯的選擇。這些 LLM 具有高度可擴展性，並可即時處理大量資料，有助於進行全面的市場研究。初步結果顯示，Amazon Bedrock 上的 LLM 通常能在一秒內迅速傳回結果。

該公司藉由整合 Amazon Bedrock，消除了自行託管 LLM 的手動工作、額外成本和運算限制。在一個月內，Crypto.com 在 Amazon Bedrock 上實作了 Anthropic Claude 3 Haiku 模型來進行情緒分析，收集和分析超過 25 種語言的加密貨幣新聞。該公司還利用 Amazon Bedrock 進行持續的概念驗證和開發。Crypto.com AI 暨創新技術主管 Sunny Fok 表示：「Amazon SageMaker 和 Amazon Bedrock 等 AWS 上的生成式 AI 服務簡化了我們採用最新 LLM 和 AI 技術的流程。我們現在能在幾週內將創新想法從概念驗證階段進階至全面生產。」

為了確保在模型輸出中套用特定領域的知識，Crypto.com 使用自己的資料在 Amazon Elastic Compute Cloud (Amazon EC2) 上微調包括 Mistral AI 和 Meta Llama 在內的開放原始碼模型。這種方法在市場上出現新加密貨幣時極為重要，因為現成的模型通常會產生不理想的結果。然後，Crypto.com 開始使用 Amazon SageMaker 作為隨需的端到端 ML 開發平台來微調其自訂模型。

Crypto.com 資深工程師 Raymond Lam 表示：「Amazon SageMaker 提供了可用於輕鬆調整我們模型的工具和 API，並具有便於使用者操作的介面。與 Amazon Bedrock 類似，我們只須根據需要執行機器學習工作，而且管理自訂模型比我們自己上手要容易得多。」

在多代理程式部署的構思、概念驗證和生產階段，Crypto.com 獲得 AWS 的廣泛支援。「我們針對不同使用案例部署哪些工具或框架進行多次討論。」Lam 表示：「AWS 團隊分享了現有使用案例、提供範例程式碼，並示範每個步驟。出現技術問題時，AWS 解決方案架構師會協助疑難排解並提供建議，這加速了我們在 AWS 服務上採用生成式 AI 的過程。」