こんにちは。テックラボの高橋です。
以前の記事にて、会社全体でのAI利活用の取り組みを紹介させていただきました。
本日はその取組の一環で展開している、現在弊社で活用中のシステムを紹介させていただきます。
弊社では全社で利用される単機能のAIチャットボットと、 その他各種ドキュメント参照機能のついたRAG(Retrieval-Augmented Generation)機能を持った チャットボットを絶賛運用中です。
本記事ではそれらについて説明していきます。
全社向けAIチャットボット
全社向けAIチャットボットは2024年3月に社内向けにリリースした、CCCのグループ会社社員が利用することができるチャットボットです。
社員がチャットツールとして利用しているTeamsをクライアントとして、LLMとやりとりすることができます。
全社向けAIチャットボットは、社員がAIに触れ、体験してもらうためにスピード優先で開発を行いました。 そのため、web検索機能やファイル参照機能の無い単機能のAIチャットボットとなっています。 認証機能やUIをTeamsに寄せたシンプルな構成のおかげで、初めてAIチャットボットを利用するユーザーでも利用しやすく設計しています。
多様なAIツールが日々生み出される世の中の状況の中でも、『AIチャットボットはどのようなことをできるのか』という感覚を掴みやすいベンチマークプロダクトになっています。
こちらに関する内部実装は、以下の記事をご参照ください。
RAG機能付きチャットボット
RAG機能付きチャットボットは、社内の様々な情報を参照できるようにチューニングされたAIチャットボットです。CCCでは2024年6月にカスタマーサポートチーム向けのアプリの活用を開始して以降、現在は各部署や用途ごとに複数個のアプリを実運用しています。
RAG(Retrieval-Augmented Generation)は2020年に発表された論文「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks 」(知識集約型NLPタスクのための検索拡張生成)で紹介された手法です。 arxiv.org
図のように"専門知識を持ったデータベース"を参照させることで、取得した情報をプロンプトに組み込み、チャットボットに専門知識を含めた回答をさせることができます。
RAGについての概要は以下の記事をご参照ください。
techblog.cccmkhd.co.jp techblog.cccmkhd.co.jp
例えば、そのようなRAG機能を持ったチャットボットの一つである『営業サポートbot』では、社内に蓄積された営業に関する資料をAzureのリソースであるAzure AI Searchに取り込んで、営業に関する情報を含んだ回答をさせることができました。
エンジニアとしてこのようなアプリを開発する上で重要となってくるのが、「いかに適切に資料を参照させてプロンプトに組みこむか」という観点です。 どのような形でデータを取り込むかという前処理や、実際の検索に必要な適切なインデックス設計などがアプリの性能に直結してきます。
M365 Copilot等AIサービスのファイル参照機能では、十分な性能が出ない場合もあると思います。CCC社内で個別に開発しているAIチャットボットでは、各データに対して前処理を十分に行い、チューニングすることで案件ごとに性能向上を図っています。
おわりに
以上のように、テックラボでは様々なAIツールを開発・運用しています。
特に全社向けAIチャットボットでは社内の利用ユーザー数の推移や活用方法などが社内チャットで共有され、ユーザーのフィードバックを間近で受けられる非常にやりがいのある開発だったかと思います！
今後も機会がありましたら、テックラボのプロダクト開発の様子をブログにて発信していく予定です。 ぜひお楽しみに！
