Crypto.com Memberikan Analisis Sentimen yang Akurat dalam 1 Detik dengan AI Generatif di AWS

Crypto.com didirikan pada tahun 2016 dengan misi ambisius: untuk membawa mata uang kripto ke setiap dompet. Perusahaan tersebut membedakan dirinya dari platform perdagangan lainnya melalui fokus yang kuat dalam mendorong adopsi pengguna, dengan jaringan partner yang luas termasuk merchant dan gateway pembayaran. Crypto.com saat ini melayani sekitar 100 juta pengguna di 90 negara.

Dengan pertumbuhan yang begitu cepat dan basis pelanggan yang beragam—semuanya dalam industri yang berkembang serta kompetitif—Crypto.com telah merangkul kecerdasan buatan (AI) generatif untuk dengan cepat menghadirkan pengalaman pelanggan yang dioptimalkan. Kasus penggunaan AI perusahaan tersebut termasuk asisten percakapan untuk orientasi dan kueri pelanggan, ditambah wizard untuk menghasilkan kampanye pemasaran media sosial.

Dalam aplikasi AI generatif, analisis sentimen dan kategorisasi narasi berita menjadi makin penting; khususnya dalam ranah mata uang kripto, investor membutuhkan kecerdasan pasar yang tepat waktu dan akurat untuk membuat keputusan yang tepat. Crypto.com menyediakan layanan wawasan pasar yang memungkinkan pengguna mengakses berita dan informasi terbaru dari kripto serta sumber berita tradisional untuk mendapatkan wawasan dari mesin kecerdasan perusahaan. Setiap langganan disesuaikan dengan tingkat perdagangan pengguna dan koin di dompet mereka.

Crypto.com menggunakan berbagai model machine learning (ML) siap pakai di samping model kustomnya sendiri untuk analisis sentimen. Namun, developer menghadapi tantangan dengan keterbatasan model sumber terbuka dan tingginya biaya model bahasa besar (LLM) yang di-hosting secara mandiri. Mereka juga menghadapi masalah akurasi dengan output yang dihasilkan oleh model sumber terbuka, terutama ketika berhadapan dengan situs berita multibahasa. Oleh karena itu, Crypto.com mencari solusi yang lebih efektif untuk mengintegrasikan dan menyintesis output dari banyak model ML—baik yang dilatih sebelumnya maupun kustom—guna memberikan wawasan ke dalam pasar kripto yang akurat, andal, serta komprehensif.

Crypto.com telah berjalan di Amazon Web Services (AWS) sejak diluncurkan, jadi ketika mencari LLM baru untuk analisis sentimen, Anthropic Claude 3 di Amazon Bedrock adalah pilihan yang logis. LLM ini sangat dapat diskalakan dan memproses sejumlah besar data secara waktu nyata, sehingga memfasilitasi riset pasar yang komprehensif. Hasil awal menunjukkan bahwa LLM di Amazon Bedrock menampilkan hasil dengan sangat cepat, biasanya dalam satu detik.

Mengintegrasikan Amazon Bedrock menyingkirkan upaya manual, biaya tambahan, dan kendala komputasi LLM yang di-hosting secara mandiri. Dalam satu bulan, Crypto.com telah menerapkan model Haiku Anthropic Claude 3 di Amazon Bedrock untuk analisis sentimen, yang mengumpulkan dan menganalisis berita kripto dalam lebih dari 25 bahasa. Perusahaan tersebut juga menggunakan Amazon Bedrock untuk bukti konsep (POC) dan pengembangan berkelanjutan. Sunny Fok, head of AI & innovation technology di Crypto.com, mengatakan, "AI generatif pada layanan AWS seperti Amazon SageMaker dan Amazon Bedrock menyederhanakan adopsi kami dalam teknologi LLM dan AI terbaru. Kini kami dapat membawa ide-ide inovatif dari POC ke produksi skala penuh dalam beberapa minggu."

Untuk memastikan pengetahuan khusus domain diterapkan dalam output model, Crypto.com menggunakan datanya sendiri untuk menyempurnakan model sumber terbuka, termasuk Mistral AI dan Meta Llama di Amazon Elastic Compute Cloud (Amazon EC2). Pendekatan ini sangat penting ketika koin baru muncul di pasar, karena model siap pakai sering memberikan hasil di bawah standar. Crypto.com kemudian mulai menggunakan Amazon SageMaker sebagai platform pengembangan ML ujung-ke-ujung sesuai permintaan untuk menyempurnakan model kustomnya.

Raymond Lam, Senior Engineer di Crypto.com, mengatakan, "Amazon SageMaker menyediakan alat dan API untuk mengadaptasi model kami secara mudah dengan antarmuka yang ramah pengguna. Mirip dengan Amazon Bedrock, kami hanya perlu menjalankan tugas machine learning sesuai kebutuhan, dan jauh lebih mudah untuk mengelola pemodelan kustom daripada jika kami melakukannya sendiri."

Crypto.com menerima dukungan ekstensif dari AWS selama fase pembuatan ide, POC, dan produksi deployment multiagen. "Kami memiliki beberapa diskusi tentang alat atau kerangka kerja yang harus di-deploy untuk kasus penggunaan yang berbeda," kata Lam. "Tim AWS membagikan kasus penggunaan yang ada, memberikan kode sampel, dan mendemonstrasikan setiap langkah. Ketika masalah teknis muncul, arsitek solusi AWS membantu memecahkan masalah dan menawarkan saran, yang mempercepat orientasi kami ke AI generatif pada layanan AWS."