CCCMKホールディングス TECH Labの Tech Blog

TECH Labスタッフによる格闘記録やマーケティング界隈についての記事など

ChatGPTのClone、LibreChat

こんにちは、CCCMKホールディングスTECH LABの井上です。

現在世界的に・世間的にChatGPTの活用が進んでいますが、企業で利用するときの大きな問題がセキュリティーの確保だと思います。 そのためAzureOpenAIを利用している企業も多いと思います。
しかしAzureOpenAIは現時点ではAPIの提供はあるもののフロントのUIが提供されていません。 ですので一般社員が利用するためにはフロントのUIを各自で準備することが必要です。

UIの準備にはいくつか方法はあると思いますが、その一つとしてChatGPTのCloneアプリを利用する方法があります。
CloneなのでChatGPTのUIを模倣したようなものになります。
Cloneアプリもいくつかありますが活発に更新がされているLibreChatというのがよさそうなのでご紹介したいと思います。

LibreChat

github.com
docs.librechat.ai

導入と起動

インストールはDocker環境があれば

git clone https://github.com/danny-avila/chatgpt-clone.git

をして

docker-compose up -d

でコンテナを起動して http://localhost:3080 にアクセスします。

設定

このアプリは複数のLLMサービスに対応しています。主なものとして下記のものとなります。

  • OpenAI
  • AzureOpenAI
  • Bing
  • Palm2
  • ChatGPT

使いたいサービスのAPIのキー取得をして.envファイルに設定します。 今回はAzureOpenAIを利用するので下記のように設定します。

使ってみて

  • 操作性
    本家ChatGPTとそんなに変わらないので説明不要かと思います
  • パラメータ設定
    パラメータをUIから設定できます。設定できるパラメータは下記のものです。
    ・Temperature
    ・Top P
    ・Frequency Penalty
    ・Presence Penalty
    ・Prompt Prefix
    設定した内容は保存して再利用できます。
  • キーワード検索機能
    全てのChatの中で指定したキーワードにヒットした文字列が太文字になってChatが表示されます。検索結果がリンクになっていて会話に遷移できます。
  • Chatのダウンロード機能(png、csv,json,markdown,txt)
    ※本家では一括ダウンロードのみ
  • レスポンス
    若干遅い気もします。一応ストリーミング表示はされるのですがもう少し滑らかだといいのにと思います。

まとめ

  • 導入、設定も簡単
  • 使い勝手もよい
  • 本家GPTにない便利な機能もある
  • アップデートも頻繁に行われている

また今後プラグインへの対応を匂わせもあり楽しみなところです。