エクサの生成AIチャレンジ日記

連載コラム:エクサの生成AIチャレンジ日記

生成AI導入初期の取り組み

キャラクター1
最近、生成AIがすごいってよく聞くけど、いっぱいありすぎてよくわからない...
うちの会社でも何か活用できるのかな?
キャラクター2
実は、私たちも最初は同じように悩んでいたんです。
セキュリティとか、社内にどうやって導入すればいいのかとか、分からないことだらけで。
キャラクター1
やっぱり、どこも同じなんですね。
キャラクター2
私たちは色々と試行錯誤した結果、安全に生成AIと対話できる社内向けツール「Slap4」を開発して、2024年3月から運用を開始しました。
キャラクター1
すごい!どんなツールなんですか?
キャラクター2
Slap4の開発背景や特徴、運用してみて分かった課題とその対応などを、本記事で紹介します。生成AI導入の参考に、ぜひ読んでみてください。

はじめに

生成AIは、私たちの生活や仕事に急速に浸透しつつあります。 文章作成、画像生成、翻訳など、様々な場面で活用され、その可能性は日々広がっています。 一方で、いざ会社で導入しようとした際に、どのようなツールを選べばいいのか、セキュリティ面はどうすればいいのか、など、具体的な活用方法に悩む方も多いのではないでしょうか?


実は私たちも、最初は同じような悩みを抱えていました。 生成AIの進化は目覚ましく、その可能性に惹かれる一方で、セキュリティ面や社内への導入方法など、わからないことだらけ...。


それでも、私たちは「生成AIをもっと身近に、そして業務をもっと効率化したい!」という思いから、2023年に生成AIの社内活用に向けた研究開発をスタートさせました。


試行錯誤の末、安全に生成AIと対話できる社内向けツール「Slap4」を開発し、2024年3月から運用を開始しました。


本記事では、Slap4の開発背景や特徴、運用してみてわかった課題とその対処などをご紹介します。 生成AI導入にあたり、少しでも参考になれば幸いです。

安全かつ身近なAIを目指して

生成AIの活用が叫ばれる中、私たちもその可能性に注目し、社内業務への導入を検討し始めました。しかし、2023年当時、選択肢として挙がっていた生成AIサービスは、まだ発展途上でした。特に、ChatGPTのような汎用的なサービスは、2023年当時では入力したデータが学習に利用される可能性があったため、社内業務に利用するには懸念がありました。


そこで私たちは、以下のポイントを重視し、独自の生成AIツールを開発することにしました。

1.安全性:
社内情報が外部に漏洩するリスクを最小限に抑えるため、入力データを学習に利用しない生成AIを使う方針としました。

2.  利便性:
弊社ではコミュニケーションツールとしてSlackを導入しているため、社員なら誰でもSlackから簡単にアクセスできるツールにしたいと考えました。

こうして誕生したのが、Slack上で動作するチャットボット「Slap4」です。

Slap4とは

Slap4は、生成AIの一種である大規模言語モデル(Large Language Model, 以降LLMと表記)と対話するためのSlackbotです。弊社で普段利用しているSlackから気軽にLLMと対話することができます。

Slack上でLLMと対話しているSlap4のスクリーンショット
図1. Slap4の利用イメージ

Slap4には以下の特徴があります。


1.セキュリティを考慮したLLMの利用

  • LLMとしてAzure OpenAI Serviceを利用しています。

  • Azure OpenAI Serviceは入力データを学習しないため、入力した情報が外部に漏れる心配がありません。

  • Azure OpenAI Serviceに備わっているフィルター機能で、有害なコンテンツの入出力を検出して防止することができます。

  • Azure OpenAI Serviceのフィルター機能で対応しきれない社内の機密情報のチェックなどに関しては、独自にNGワードによるチェック機能を実装し、補完しています。

2.ログ取得と分析

  • ユーザーの利用回数や利用用途、定着度合いなどのデータを取得することでSlap4の活用状況を分析しています。

3.会話履歴を利用したチャット

  • Slackのスレッド機能を活用し、同一スレッド内で行った会話の履歴を使いながらLLMと対話することができます。

図2 Slap4のシステム構成
図2. Slap4のシステム構成

Slap4を運用してみてわかった課題とその対応

Slap4をリリースした当初は、業務効率化の起爆剤として社内で広く活用されることを期待していました。ところが現実は厳しく、利用者数の伸びは予想をはるかに下回るものでした。この状況に危機感を覚えた私たちは、まず現状を把握することが重要だと考えました。そこで、Slap4の利用状況を詳細に分析し、課題を明確にすることから始めました。


利用状況の分析
Slap4の利用状況の分析を継続的に行う必要があると考え、Slap4の管理者向けに月ごとの利用状況を可視化する機能を実装しました。この機能では、アクティブユーザー数、新規ユーザー数、リピーター数、平均利用回数などを集計し、グラフで表示するようにしました。

図3 利用状況分析画面イメージ
図3. 利用状況分析画面イメージ


利用状況を可視化した結果、以下のような課題があることがわかりました。
・新規利用者はゆるやかに増えているものの、そもそもSlap4を使ったことがない人が多い
・リピーター(2か月連続で週1回以上利用している人)の割合が50%程度と低い
・ヘビーユーザーが一定数存在し、ヘビーユーザーは月に約500回Slap4を使っている
これらのデータから、Slap4は一部のユーザーには深く浸透しているものの、多くのユーザーは利用頻度が低いか、全く利用していない状態であることがわかりました。


利用促進に向けて
Slap4の利用状況分析結果を受けて、ユーザー(特にヘビーユーザー)がどのような用途でSlap4を使っているのかを分析し、また使ったことのない人や、使ってみたけどよくわからなかった、という人に使い方を共有していくことが大切なのではないかと考えました。


そこで、まずはユーザーによるSlap4への投稿内容をカテゴリ分けし、利用状況を分析することにしました。


ユーザーによるSlap4への投稿内容をカテゴリ分けした結果を図4のグラフに示します。弊社はシステム開発を行うシステムエンジニアが多いため、一番よく使われる用途は「技術サポート(IT関連の技術的な質問)」であることがわかりました。次いで「情報提供(IT以外のテーマの質問)」「文章校正」と続きます。併せて行ったユーザーへのアンケートにおいても、IT技術の質問に関して欲しい答えが迅速に得られるといった声が寄せられました。


図4 Slap4の利用用途の分類(2024年7月のデータを元に分析)
図4. Slap4の利用用途の分類(2024年7月のデータを元に分析)


ちなみに、図4の分析にはSlap4と同じLLMを使って行っています。LLMへの指示(プロンプト)を以下の図5に掲載しました。


図5 Slap4の利用用途分類に用いたプロンプト
図5. Slap4の利用用途分類に用いたプロンプト


このように文章を分類したい場合にもLLMを利用することができます。Slap4の開発者自身も様々な業務でLLMを利用しているので、利用方法や具体的なプロンプトをSlap4のユーザーへ伝えていく活動も大事だと考えました。


利用者への情報共有活動の1つとして、Slap4開発者とユーザーが集まるオフィスアワーを開催しました。このオフィスアワーでは、Slap4の効果的な活用方法、改善してほしい点、疑問点などを自由に意見交換できる場としました。過去には図4の分析結果の紹介や、効果的なプロンプト、どんなことにSlap4を使っているのか、などのテーマで情報共有を行いました。


オフィスアワーの開催前後で比較すると、アクティブユーザー数は開催前の約100人から開催後には約150人に増加しました。社内イベントでのSlap4の紹介などの影響も考えられますが、Slap4の利用促進に一定の効果はあったのではないかと感じています。とはいえ、まだまだ社内に十分に浸透しているとは言い難い状況なので、引き続き情報共有を大事にしていきたいと思っています。

おわりに

Slap4の開発と運用を通して、生成AIは私たちの働き方を大きく変える可能性を実感しました。同時に、効果的な活⽤法などの情報共有と利⽤促進が重要であると考えています。現在はSlap4に加え、GoogleワークスペースのGeminiやGitHub Copilotなど、社内利用可能な⽣成AIツールが身近にどんどん増えています。どのツールを使うにしても、Slap4の導入初期に奮闘していた経験が役に立つのではないかと考えています。


最後までご覧いただきありがとうございました。Slap4の取り組みに関しては弊社のTech資料としても公開しておりますので、ぜひ併せてご覧いただければと思います。


本記事に記載されているロゴ、システム名称、 企業名称、製品名称は各社の登録商標または商標です。

執筆者紹介

連載コラム:エクサの生成AIチャレンジ日記

本コラムでは、エクサ社内における生成AIの活用に向けた技術的な取り組みと、実際の業務適用事例をご紹介いたします。生成AIによる業務効率化や新たな価値創造のヒントとなれば幸いです。

関連コラム

関連ソリューション

関連事例

お問い合わせ

CONTACT

Webからのお問い合わせ
エクサの最新情報と
セミナー案内を
お届けします