Crypto.com stellt mithilfe generativer KI in AWS genaue Stimmungsanalysen in 1 Sekunde bereit

Crypto.com wurde 2016 mit einem ambitionierten Ziel gegründet: der weitverbreiteten Nutzung von Kryptowährungen. Das Unternehmen unterscheidet sich von anderen Handelsplattformen durch den starken Fokus auf die Förderung der Benutzerakzeptanz. Es verfügt über ein umfangreiches Netzwerk von Partnern, darunter Händler und Zahlungsgateways. Derzeit hat Crypto.com rund 100 Millionen Benutzer in 90 Ländern.

Angesichts des rasanten Wachstums und des vielfältigen Kundenstamms – in einer sich ständig weiterentwickelnden, umkämpften Branche – setzt Crypto.com auf generative künstliche Intelligenz (KI), um schnell optimierte Kundenerlebnisse bieten zu können. Zu den KI-Anwendungsfällen des Unternehmens gehören Konversationsassistenten für Onboarding und Kundenanfragen sowie Assistenten zur Entwicklung von Marketingkampagnen für die sozialen Medien.

Bei generativen KI-Anwendungen werden Stimmungsanalysen und die Kategorisierung von Nachrichten immer wichtiger. Vor allem im Bereich der Kryptowährungen benötigen Anleger zeitnahe und genaue Marktinformationen, um fundierte Entscheidungen treffen zu können. Crypto.com bietet einen Service für Markteinblicke, bei dem Benutzer auf die neuesten Nachrichten und Informationen aus Krypto- und traditionellen Nachrichtenquellen zugreifen können, um Erkenntnisse aus den Intelligence-Engines des Unternehmens zu gewinnen. Jedes Abonnement ist auf das Handelsvolumen des jeweiligen Benutzers und auf die Coins in seinem Wallet zugeschnitten.

Crypto.com setzt zur Stimmungsanalyse neben eigenen maßgeschneiderten Modellen verschiedene fertige ML-Modelle (Machine Learning) ein. Die Entwickler stießen jedoch auf Schwierigkeiten, die mit den Grenzen von Open-Source-Modellen und den hohen Kosten für selbst gehostete große Sprachmodelle (LLMs) zusammenhängen. Außerdem waren die Ergebnisse von Open-Source-Modellen nicht präzise genug, insbesondere bei mehrsprachigen Nachrichten-Websites. Daher suchte Crypto.com nach einer effektiveren Lösung zur Integration und Synthese von Ergebnissen mehrerer – vortrainierter und maßgeschneiderter – Modelle, um genaue, zuverlässige und umfassende Einblicke in den Kryptomarkt bereitstellen zu können.

Crypto.com wird von Anfang an in Amazon Web Services (AWS) ausgeführt. Als das Unternehmen nach neuen LLMs für die Stimmungsanalyse suchte, war Anthropic Claude 3 in Amazon Bedrock eine logische Wahl. Diese LLMs sind hochgradig skalierbar und verarbeiten große Datenmengen in Echtzeit, was eine umfassende Marktforschung ermöglicht. Bei ersten Tests zeigte sich, dass LLMs in Amazon Bedrock sehr schnell Ergebnisse liefern, in der Regel innerhalb einer Sekunde.

Durch die Integration von Amazon Bedrock entfielen der manuelle Aufwand, die zusätzlichen Kosten und die Rechenbeschränkungen, die mit selbst gehosteten LLMs einhergehen. Innerhalb eines Monats hat Crypto.com die Claude-3-Haiku-Modelle von Anthropic zur Stimmungsanalyse in Amazon Bedrock implementiert. Damit werden Kryptonachrichten in mehr als 25 Sprachen gesammelt und analysiert. Die Firma nutzt Amazon Bedrock außerdem für laufende Proofs of Concepts (PoCs) und für die Entwicklung. Sunny Fok, Head of AI and Innovation Technology bei Crypto.com, sagt: „Die generative KI in AWS-Services wie Amazon SageMaker und Amazon Bedrock hat unseren Einsatz der neuesten LLMs und KI-Technologien optimiert. Jetzt können wir innovative Ideen innerhalb weniger Wochen vom Proof of Concept zur vollen Produktionsreife weiterentwickeln.“

Damit fachspezifisches Wissen in die Ausgabe der Modelle einfließt, nutzte Crypto.com eigene Daten zur Optimierung von Open-Source-Modellen wie Mistral AI und Meta Llama in Amazon Elastic Compute Cloud (Amazon EC2). Diese Vorgehensweise ist entscheidend, wenn neue Coins auf den Markt kommen, da fertige Modelle oft nur unzureichende Ergebnisse liefern. Anschließend begann Crypto.com, Amazon SageMaker als bedarfsgesteuerte Plattform für die komplette ML-Entwicklung zu nutzen, um seine maßgeschneiderten Modelle zu optimieren.

Raymond Lam, Senior Engineer bei Crypto.com, sagt: „Amazon SageMaker bietet die Tools und APIs, um unsere Modelle mit einer benutzerfreundlichen Oberfläche mühelos anzupassen. Ähnlich wie bei Amazon Bedrock müssen wir Machine-Learning-Aufträge nur nach Bedarf ausführen. Und es ist wesentlich einfacher, maßgeschneiderte Modelle zu verwalten, als alles selbst zu machen.“

Crypto.com erhielt bei der Multi-Agent-Bereitstellung in den Phasen Ideenfindung, PoC und Produktion umfassende Unterstützung von AWS. „Wir hatten mehrere Gespräche darüber, welche Tools oder Frameworks für die verschiedenen Anwendungsfälle eingesetzt werden sollten“, so Lam. „Das AWS-Team informierte uns über bestehende Anwendungsfälle, stellte Beispielcode zur Verfügung und demonstrierte die einzelnen Schritte. Als technische Probleme auftauchten, halfen die AWS-Lösungsarchitekten bei der Fehlerbehebung und unterbreiteten entsprechende Vorschläge, was unsere Einarbeitung in die generative KI in AWS-Services beschleunigte.“