Crypto.com が AWS で生成 AI を活用して 1 秒で正確な感情分析を実現

Crypto.com は、あらゆるウォレットに暗号通貨をもたらすという大胆なミッションを掲げて 2016 年に設立されました。同社は、マーチャントや支払いゲートウェイを含む幅広いパートナーネットワークを持ち、ユーザーによる採用を促進することに極めて重点的に取り組むことで、他の取引プラットフォームと一線を画しています。Crypto.com は現在、90 か国で約 1 億人のユーザーにサービスを提供しています。

進化し続ける競争の激しい業界における急速な成長と多様な顧客基盤を踏まえて、Crypto.com は、最適化されたカスタマーエクスペリエンスを迅速に提供するために、生成 AI を採用しています。同社の AI ユースケースには、オンボーディングや顧客からの問い合わせに対応する会話型アシスタント、ソーシャルメディアマーケティングキャンペーンを生成するウィザードが含まれます。

生成 AI アプリケーションでは、感情分析とニュースナラティブの分類がますます重要になっています。特に暗号通貨の分野では、投資家は、十分な情報に基づいた意思決定を行うために、適時かつ正確なマーケットインテリジェンスを必要としています。Crypto.com は、ユーザーが暗号通貨と従来のニュースソースの両方から最新のニュースや情報にアクセスして、同社のインテリジェンスエンジンからインサイトを得ることができる市場インサイトサービスを提供しています。各サブスクリプションは、ユーザーの取引レベルとウォレット内のコインに合わせてカスタマイズされます。

Crypto.com は、感情分析用の独自のカスタムモデルに加えて、さまざまな既製の機械学習 (ML) モデルを採用しています。しかし、デベロッパーは、オープンソースモデルの制限と、大規模言語モデル (LLM) の自己ホスティングのコストが高いという課題に直面しました。また、特に多言語ニュースサイトを扱う際に、オープンソースモデルによって生成された出力の精度の問題にも直面していました。そのため、Crypto.com は、暗号通貨市場に関する正確で信頼性が高く包括的なインサイトを提供することを目的として、複数の ML モデル (事前トレーニング済み ML モデルとカスタム ML モデルの両方) からの出力を統合および合成するためのより効果的なソリューションを求めていました。

Crypto.com は創業以来、Amazon Web Services (AWS) 上で事業を運営しているため、感情分析用の新しい LLM を探した際には、Amazon Bedrock 上の Anthropic Claude 3 が理にかなった選択肢となりました。これらの LLM は高度にスケーラブルで、膨大な量のデータをリアルタイムで処理するため、包括的な市場調査が容易になります。当初の結果では、Amazon Bedrock 上の LLM は通常 1 秒以内という非常に迅速な結果を返すことがわかりました。

Amazon Bedrock を統合することで、LLM のセルフホスティングに伴う人間による作業、追加コスト、計算上の制約がなくなりました。Crypto.com は、感情分析を実現するために、1 か月以内に Amazon Bedrock で Anthropic の Claude 3 Haiku モデルを実装し、25 を超える言語で暗号通貨関連のニュースを収集および分析しました。同社はまた、進行中の概念実証 (POC) と開発でも Amazon Bedrock を活用しています。Crypto.com の Head of AI & Innovation Technology である Sunny Fok 氏は次のように述べています。「Amazon SageMaker や Amazon Bedrock などの AWS サービスでの生成 AI により、当社における最新の LLM と AI テクノロジーの導入が効率化されました。今では数週間で、革新的なアイデアを POC からフルスケールの本番にもたらすことができます」。

ドメイン固有の知識がモデル出力に確実に適用されるように、Crypto.com は独自のデータを使用して、Amazon Elastic Compute Cloud (Amazon EC2) 上の Mistral AI や Meta Llama などのオープンソースモデルをファインチューニングしました。このアプローチは、新しいコインが市場に登場するときに非常に重要です。なぜなら、既製のモデルでは、期待に沿わない結果になることが多いためです。その後、Crypto.com は、カスタムモデルをファインチューニングするためのオンデマンドのエンドツーエンド ML 開発プラットフォームとして Amazon SageMaker の利用を開始しました。

Crypto.com の Senior Engineer である Raymond Lam 氏は次のように述べています。「Amazon SageMaker は、ユーザーフレンドリーなインターフェイスを使用してモデルを簡単に適応させるためのツールと API を提供します。Amazon Bedrock と同様に、必要に応じて機械学習ジョブを実行するだけで済み、独自に行う場合よりもカスタムモデリングの管理ははるかに簡単です」。

Crypto.com は、マルチエージェントデプロイのアイデアの創出、POC、および本番フェーズ全体を通じて AWS から広範なサポートを受けました。「私たちは、さまざまなユースケースにどのツールまたはフレームワークをデプロイするのかについて、何度も話し合いました」と Lam 氏は述べています。「AWS チームは、既存のユースケースを共有し、サンプルコードを提供するとともに、各ステップをデモンストレーションしてくれました。技術的な問題が発生した際には、AWS Solutions Architect がトラブルシューティングをサポートし、提案してくれたため、AWS サービスでの生成 AI へのオンボーディングが迅速化されました」。