CCCMKホールディングス TECH Labの Tech Blog

TECH Labスタッフによる格闘記録やマーケティング界隈についての記事など

ブログタイトル

描いた絵をものすごくほめてもらえるアプリを生成AIの力を借りて作ってみました!

こんにちは、CCCMKホールディングス TECH LABの三浦です。 10月になってだいぶ気温が下がってきました。秋は自分にとっては夏が終わった後に訪れる、過ごしやすくて食べ物が美味しい季節、という印象ですが、秋から学校の新学年が始まる国もあり、その国の人…

StreamlitとAzure OpenAI Serviceを使って自然言語でグラフを描けるアプリを作ってみました。

CCCMKホールディングス TECH LAB三浦です。 10月になりました。ちょうど過ごしやすい時期で、一年の中で一番好きな時期かもしれません。外を歩いていても気持ちがいいので、今のうちに色々なところに出かけたいな、と思っています。 以前Streamlitを使ってCh…

Reinforcement Learning from Human Feedback(RLHF)について調べて実装まで試してみました!

こんにちは、CCCMKホールディングス TECH LAB三浦です。 なんだか急に涼しくなってきました。過ごしやすくなってありがたいのですが、急な気温の変化に体が付いていけていないです・・・。こういう時期はちゃんと睡眠をとらないと、と意識するようになりまし…

Tree of Thoughts(ToT)でなぞなぞ作りを試してみた話。

こんにちは、CCCMKホールディングスTECH LABの三浦です。 手書きの手紙を送ることが最近減ってきたのですが、敬老の日には手書きの手紙を送ったりします。そもそも手書きで文章を書くこと自体が減ってきたので、この漢字ってこの書き方でいいんだっけ・・・…

Prompt Engineeringのテクニック、"Tree of Thoughts"について調べてみました。

こんにちは、CCCMKホールディングスTECH LABの三浦です。 学生の頃に好きだった漫画を久しぶりに読みました。数十年ぶりに読んだのですが、当時何度も繰り返し読んだストーリーなのでしっかり今でも内容を覚えていました。当時と違って今はインターネットで…

LLMsのチューニング手法"Prompt Tuning"について論文を読んで調べてみました!

LLM

こんにちは、CCCMKホールディングスTECH LABの三浦です。 9月になりました。まだまだ暑い日が続いていますが、9月になると私は"夏は終わったんだな"という気持ちになります。少し寂しい気もしますが、とにかく早く涼しくなってほしいな・・・と思う今日この…

Streamlitでユーザー認証機能を搭載したChatアプリを作ってみました。

ユーザー認証機能付きのChatアプリを作ります! こんにちは、CCCMKホールディングスTECH LAB三浦です。 先日ゆりかもめに乗ってお台場に出かけました。モノレールのゆりかもめから見える景色は開放感があって好きです。今度は一日くらいゆっくり時間を取って…

FastAPIを使ってAPI開発の勉強を始めた話。

こんにちは、CCCMKホールディングス TECH LABの三浦です。 8月も後半に入り、そろそろ夏休みも終わりの頃ですね。私が子どもの頃は夏休みがもうすぐ終わってしまうこの頃が嫌で、時間が流れるのが止まっちゃえばいいのに、といつも思っていたことを思い出し…

Retrieval Augmented Generation(RAG)アーキテクチャをHuggingFaceのモデルで作ってみよう! ~Training編

前回の続きです。今回は赤枠の部分に取り組みます。 こんにちは、CCCMKホールディングス TECH LABの三浦です。 朝早くに外に出ると、なんとなく前に比べたら涼しくなったかも、という気がしました。一時期本当に暑い日が続き、だいぶ身体も堪えたので、涼し…

Retrieval Augmented Generation(RAG)アーキテクチャをHuggingFaceのモデルで作ってみよう! ~Retrieval編

こんにちは、CCCMKホールディングス TECH LABの三浦です。 駅で電車の路線図を眺めていたら、どこかふらっと電車に乗って、今まで行ったことがない駅に行ってみたくなりました。今度休みが取れたら、チャレンジしてみようと思います。 Large Language Models…

LangChainのRetrievalQAとAgentの日本語対応方法について調べてみました

こんにちは、CCCMKホールディングスTECH LABの三浦です。 家族の誕生日に何かサプライズをしたいけど、何をしたらいいかな・・・と考えていた時に、ふとChatGPTに聞いたらなんて答えるんだろう、と思い、試しに聞いてみました。ChatGPTが提示したアイデアは…

Databricks SQLのdashboard機能を使ってモデルの可視化を試してみました!

こんにちは、CCCMKホールディングスTECH LABの三浦です。 先日自宅の部屋の整理をしました。整理をしていると、以前は必要で手に入れたはずなのに、今ではもう必要なくなっているものもいくつかありました。自分を取り巻く環境もそうですし、自分自身の考え…

DatabricksのUnity Catalog環境でのモデル開発を試してみました

こんにちは、CCCMKホールディングス TECH LABの三浦です。 学校はもうすぐ夏休みみたいですね。自分が子どもだった頃、頑張って7月中に夏休みの宿題を終わらせようとしたことがありました。でも自分にとってはそれがすごくキツくて、結局続かなかったことを…

DeepSpeedのZeRO-Inferenceを使ってV100-16GBの環境で30BのLLMを動かしてみました。

LLM

こんにちは、CCCMKホールディングス TECH LABの三浦です。 この頃はとても暑い日が続いています。年を取るにつれ、だんだん暑いのが苦手になってきたように思います。日差しが強い中外を歩くと、明らかに身体にダメージを受けているような気がします。出来る…

サンフランシスコで開催されたDatabricksのイベントDATA+AI SUMMITに参加してきました!

こんにちは、CCCMKホールディングスTECH LABの三浦です。 7月になり、2023年も気が付けばこれで半分ですね。今年はChatGPTをはじめとする生成AIが本当にいろんなところで話題の中心になっていると思います。今年の末にはさらにどんなアップデートがあるのか…

Deepspeedを使ったHugging Face ModelのFine Tuningを試してみました

こんにちは、CCCMKホールディングスTECH LABの三浦です。 普段乗り慣れていないので、飛行機に乗る時は少し緊張します。実は今週飛行機に乗って海外に出張することになり、この記事を書き終えたら出発する予定です。行先は人生初のアメリカなので、無事に目…

LLMをカスタマイズする方法としてLoRAについて調べてみました。

LLM

こんにちは、CCCMKホールディングス株式会社TECH LAB三浦です。 まだ6月ですが、夏みたいに暑い日がちょこちょこと訪れるようになりました。この時期になると、うちの冷凍庫の中でアイスが占める割合が増えてきます。「3個まとめて買うとお得!」なんていうP…

LangChainを使ってGenerative Agentを試してみる!

LLM

こんにちは、CCCMKホールディングス TECH LABの三浦です。 雨の日が多くなってきました。洗濯物がなかなか乾かなくて困ってしまいます。あっという間に洗濯物が乾くソリューションが何かないかな・・・と考えてしまいます。 前回も触れたのですが、最近こち…

embedding database "Chroma"とLLMを使って記憶に基づいた回答をAgentにさせてみました。

LLM

こんにちは、CCCMKホールディングス TECH LABの三浦です。 私はとても忘れっぽいのですが、何故か何十年経っても覚えていること、思い出せることがあります。すぐ忘れてしまうことと、ずっと覚えていることの違いってなんだろう、と考えてみるのですがよくわ…

LangChainのprompt周りの機能を手を動かしながら理解してみる!

こんにちは、CCCMKホールディングス TECH LABの三浦です。 80年を秒数に表すと、80x365x24x60x60で、約25億になります。2.5billion(2.5b)ですね。大規模言語モデル(LLM)のパラメータ数がよくbillion単位で表現されているので、ちょっと不思議な感覚になりま…

MLflow 2.3で搭載されたLLMの管理機能を試してみました!

こんにちは、CCCMKホールディングス TECH LABの三浦です。 5月はずっと好きなアーティストのアルバムがリリースされたり、楽しみにしていたゲームが発売されたり、うれしいことがたくさんありました。心に栄養を取ってる感じがしました。 先日Databricksのウ…

LLMと様々なデータを繋ぐ"LlamaIndex"の基本的な使い方を調べて使ってみました。

こんにちは、CCCMKホールディングスTECH LABの三浦です。 この前近所で買い物をしていた時にふと空を見上げたら、飛行機が飛んでいるのを見つけました。その後数分くらいでまた次の飛行機が通り過ぎていき、すぐに次の飛行機が通り過ぎていく・・・。飛行機…

Vision Transformer(ViT)のモデルSwin Transformerについて調べてみました。

こんにちは、CCCMKホールディングス TECH LAB三浦です。 ふと気が付くと近所に小型のスポーツジムがたくさんできていました。スポーツジムというと、プールがあって、サウナがあって・・・と、とても大規模な施設の印象があったのですが、小型のスポーツジム…

LLMに行動と思考のプロセスを与える"ReAct: Reasoning and Acting"について調べてみました。

LLM

こんにちは、CCCMKホールディングスTECH LABの三浦です。 LLMのフレームワークLangChainの使い方を調べていると、"Agent"というとても面白い機能があることを知りました。これはLLMに状況に応じて適切なTool(例えばインターネットで検索したり、Pythonのプロ…

LLMと会話するChat風アプリをLLMの力を借りて作ってみた話。

LLM

こんにちは、CCCMKホールディングスTECH LABの三浦です。 最近目の疲れが気になってきたので、夜寝る前に目の周りをマッサージしたり温めたりしてケアするようにし始めました。あと、寝る15分前はスマートフォンやタブレットを見ないようにする習慣も付ける…

Large Language Model(LLM)をもっと活用したい!"LangChain"を使ってみました。

LLM

こんにちは、CCCMKホールディングス TECH LABの三浦です。 "シャドーイング"という英語の学習方法があり、最近試してみています。これは英語の音声を聞きながら、それを追いかけるように発音する、という方法で、ヒアリングやスピーキング力の改善に効果があ…

最近読んだ論文"Guiding Large Language Models via Directional Stimulus Prompting"についてまとめてみます。

こんにちは、CCCMKホールディングス TECH LABの三浦です。最近は暖かくなってきました。寒い冬に比べると雨が降る日が多くなりましたが、晴れた日は外を歩くととても気持ちがいいです。あっという間に雨の季節が来て外を歩くと汗びっしょりになる夏になって…

Prompt Engineeringのテクニック"Self-Consistency"と"Knowledge Promptning"について調べてみました。

こんにちは、CCCMKホールディングス技術開発の三浦です。この前重いものを運んだのですが、その時にどうも腰を痛めてしまったようで、休日は痛くて安静にしていました。最近自分の身体との付き合い方をちゃんと考えないと、と思うことが増えてきました。あま…

私の知らない"Prompt Engineering"の世界!"Prompt Engineering Guide"を読んで色々試してみました!

こんにちは、CCCMKホールディングス技術開発の三浦です。 せっかく桜が咲いたのに、週末は雨ばかりでした。洗濯物もたまってしまい、ちょっと困ってしまいました。季節が変わる頃は雨が降りやすいと聞いたことがあります。過ごしやすい季節が来ることが楽し…

Azure OpenAI入門!PythonのプログラムからAPIでAzure OpenAIを利用する方法などを調べてみました。

こんにちは、CCCMKホールディングス技術開発の三浦です。久しぶりに自然の中でキャンプをしました。今は結構どこでもスマートフォンに電波が届き、通信機能が使えるので火のおこしかたを調べたり出来て本当に便利だなぁと思いました。でもどれだけ技術が進歩…