エクサの生成AIチャレンジ日記

連載コラム:エクサの生成AIチャレンジ日記

AIアシスタント「たまちゃん」をより良いサービスにするために

キャラクター1
たまちゃんの精度計測まではできるようになったけど、次に何をすればいいんだろう?
キャラクター2
実際に使用したユーザーからの声を聞いてみると、精度の面だけでなく
使いやすさの面での改善も必要ですよね...。
キャラクター1
生成AIやRAGの精度改善策も世の中にはたくさんあるみたいだし、
何からやればいいのか全然わからない...。
キャラクター1
まずは課題を整理して、そこからタスクをリストアップしていきましょう!

はじめに

AIアシスタントの改善活動に取り組もうとしているが、どこから手を付けて良いか分からない、といった課題はお持ちでしょうか?

私たちは、生成AIを活用したAIアシスタント「たまちゃん」を社内に公開したことで、実際にサービスを使用したユーザーから様々な声をいただきました。その声を受け、私たちは、たまちゃんをより良いサービスに改善していく活動に取り組むことにしました。

今回のコラムでは、たまちゃんの改善活動の足がかりとして行った、課題と問題点の整理、タスクのリストアップについて実施した内容をご紹介させていただきます。

AIアシスタントや生成AIを活用したサービスの改善活動に、ご興味のある方の参考になれば幸いです。

ユーザーからの声

たまちゃんをリリースして実際にユーザーに使っていただいたところ、「便利だった」という声から、「使い勝手が不十分だった」という声まで、様々な声がありました。

  • 社内ドキュメントを探したり、熟読する時間が短縮された

  • 回答が見つからないケースが思ったよりも多い

  • 回答が見つからなかった時のアフターフォローが足りない

  • 入力した質問が不正と判断された時に、どの部分が不正だったか分からない

  • 学習データの管理(追加/削除など)は、たまちゃんのプロジェクトメンバーだけでなく、社内規定を管理している担当部署でも実施したい

このようなユーザーからの声を踏まえ、私たちは、まず、たまちゃんの課題を整理しました。

RAGとは

たまちゃんはRAG(Retrieval Augmented Generation:検索拡張生成)の仕組みを活用したサービスです。

RAGは、ユーザーからの質問に関連するドキュメントを検索し、そのドキュメントを生成AIへの入力(プロンプト)に加えて渡す仕組みです。

たまちゃんでは、ユーザーからの質問に対して、関連する社内ドキュメントを検索し、生成AIに渡すことで、生成AIが社内ドキュメントを参照しながら回答を生成しています。

図1 RAG(検索拡張生成)の概要
図1. RAG(検索拡張生成)の概要

RAGにおける課題

このRAGの仕組みを踏まえ、私たちは、主に3つの課題を解決していく必要があると考えました。

  • 1. 検索の課題

  • 2. 回答生成の課題

  • 3. UI/UX(ユーザーインターフェース/ユーザーエクスペリエンス)の課題

図2 RAG(検索拡張生成)と解決すべき課題
図2. RAG(検索拡張生成)と解決すべき課題

それぞれの課題で実現したいことは以下となります。

表1. 各課題で実現したいこと
課題実現したいこと
検索の課題 検索エンジンから関連ドキュメントを正確に取得できるようにする
回答生成の課題 生成AIがユーザーからの質問と関連ドキュメントを理解し、質問に的確に答えられるようにする
UI/UXの課題 AIアシスタントの思考状況や思考結果をユーザーに分かりやすく伝え、ユーザーに次の行動を促す

マインドマップを使った問題点の整理とタスクのリストアップ

課題を解決するため、次は問題点の整理と問題点に対するタスクをリストアップしていく必要があります。そこで私たちは、マインドマップを用いて、問題点の整理とタスクのリストアップを行いました。

マインドマップとは、思考の整理やアイデア発散に役立つツールです。1つのテーマから想起されるキーワードなどを線で繋げながら書き出していくことで、頭の中で次々と思いついた内容を整理しながら書き出すことができるツールです。

私たちプロジェクトメンバーが実際に作成したマインドマップは以下のようになりました。

課題に対して、問題点を整理しながら多くのタスクをリストアップできたことが分かります。

図3 作成したマインドマップ
図3. 作成したマインドマップ

タスク(検索の課題)

検索の課題に対しては、主に検索精度の向上と検索コンテンツの拡充に関するタスクをリストアップしました。特に検索精度の向上に関しては多くのタスクをリストアップしました。

図4 「検索の課題」に対するタスク
図4. 「検索の課題」に対するタスク

タスク(回答生成の課題)

回答生成の課題に対しては、プロンプトエンジニアリングやドキュメントの加工まで、様々なタスクをリストアップしました。

図5 「回答生成の課題」に対するタスク
図5. 「回答生成の課題」に対するタスク

タスク(UI/UXの課題)

UI/UXの課題に対しては、まず管理者とユーザーを区別してから、問題点の整理とタスクのリストアップを行いました。

管理者向けの学習データ管理については、専用アプリを提供するタスクをベースに、「検索の課題」の調査に役立つ機能(検索だけでも試せるようにしたい)や「回答生成の課題」の調査に役立つ機能(回答できなかった質問を確認したい)に関するタスクもリストアップしました。

ユーザー向けのタスクとしては、回答できなかった場合に提示される情報を拡充したり、有人サポートに対応しているチャンネルに誘導するタスクなどをリストアップしました。

図6 「UI/UXの課題」に対するタスク
図6. 「UI/UXの課題」に対するタスク

さいごに

今回は、たまちゃんをより良いサービスに改善していく活動の足がかりとして、実施した課題の検討や問題点の整理、タスクのリストアップについて、紹介させていただきました。

特にマインドマップを使った問題点の整理とタスクのリストアップについては、生成AIを活用したサービスに限らず、どのサービスにおいても有効なプロセスなので、ぜひご活用ください。

また、リストアップしたタスクについて実際に取り組んだ成果は、今後のコラムに投稿させていただきますので、ご期待ください。


本記事に記載されているロゴ、システム名称、企業名称、製品名称は各社の登録商標または商標です。

執筆者紹介

関連コラム

関連ソリューション

関連事例

お問い合わせ

CONTACT

Webからのお問い合わせ
エクサの最新情報と
セミナー案内を
お届けします