CYDAS PEOPLEが「ChatGPT」を用いたAI搭載チャットボットにMomento Cacheを組み合わせわずか2時間で商用化

Momento Cacheは、CYDAS PEOPLEにとって完璧な履歴チャットデータストアソリューションです。

Shingo Yoshida

著者

Saas ISVAWSMomento Cache

業種: SaaS, Chatbot, AI

ユースケース: Chatbot Cache

2020年に設立された CYDAS PEOPLE は、日本におけるHRテックサービスのリーディングカンパニーです。人事チームの組織マネジメントと従業員サービスの拡張を支援するツールを提供しています。従業員数が数百人から数万人まで、あらゆる規模の企業が当社の製品を利用し、従業員エンゲージメントの強化を推進しています。

HRチームの負担軽減

社員が人事部に質問してきた場合、迅速に回答することが不可欠です。このような質問に対する回答は、社内の多数のFAQや既存のドキュメントの中に見つかることが多いのですが、従業員が検索に異なる単語を使用するために失われてしまうことがよくあります。”休暇日 “のクエリでは、完全一致の回答が得られる可能性が高いですが、誰かが “休日 “とクエリを組み立てた途端、単純なフルテキストクエリの回答では、検索結果のトップに休暇ポリシーのページが表示されなくなる可能性があります。手作業による問い合わせは、それがどんなに答えやすいものであっても、すぐに蓄積され、窮地に立たされた人事チームにとって持続不可能な仕事量となります。

そこで私たちは、大規模言語モデル（LLMs）のパワーを活用した直感的なチャットボットの開発に着手しました：それが、CYDAS PEOPLE Copilot Chatです。

AI搭載チャットボットの構築

私たちは特に LangChain と、それを使って開発者コミュニティが構築している多数のチャットボットに興奮していました。ただ、ここに一つ問題がありました。サーバーを設置したり、アイドル状態のインフラにお金を払ったりすることなく、とチャット履歴を一時的に保存し、すぐに高い可用性を得たいと考えていました。そこで Momento Cache が登場したのですが、これは完全にサーバーレスのキャッシュサービスです。Momentoとインテグレーションして、本番環境でチャット履歴を2時間以内に保存することができたのです。

チャットボットを構築し、デプロイを開始した直後、LangChainが Momentoとのインテグレーションを発表したことに気づきました。これにより、Momentoをチャット履歴の保存だけでなく、プロンプトのキャッシュとしても使えるようになりました。ユーザーが既に回答済みの質問をした場合、チャットボットはPineconeやOpenAIにコールすることなく、より早く回答を提供することができます。

次に向けた準備

Momentoにはとても満足しています。サービスは使いやすく、高速で安定しており、メンテナンスウィンドウもありません。将来的には、Momento Cacheをもっと大規模なワークフローに利用する予定です。当社の主要なCYDAS PEOPLE製品のアプリケーションキャッシュを置き換えるつもりです。

Momento Cacheでチャットアプリケーションのコスト削減とパフォーマンス向上を実現しましょう。今すぐサインアップしてお試しください。