CCCMKホールディングス TECH Labの Tech Blog

TECH Labスタッフによる格闘記録やマーケティング界隈についての記事など

深層学習

Deepspeedを使ったHugging Face ModelのFine Tuningを試してみました

こんにちは、CCCMKホールディングスTECH LABの三浦です。 普段乗り慣れていないので、飛行機に乗る時は少し緊張します。実は今週飛行機に乗って海外に出張することになり、この記事を書き終えたら出発する予定です。行先は人生初のアメリカなので、無事に目…

分散学習をすると本当に処理時間が速くなるのか、LT用に確かめてみました。

こんにちは、技術開発の三浦です。 最近とても寒い日が続いています。毎年この時期になると手にあかぎれができてしまうので、今年はちょっと外に出る場合も手袋をするように心がけるようにしました。今のところあかぎれはできていないのですが、だんだんでき…

Diffusion Probablistic Modelについて調べてみました。

こんにちは、技術開発の三浦です。 最近色々なところでテキストから画像を生成するAIが話題になっています。色々なAIが発表されていますが、その中で私にとって、特に印象に残っているのが"Stable Diffusion"です。この技術の中核にあるのが"Latent Diffusio…

深層学習フレームワーク「PyTorch Lightning」に入門してみました!

こんにちは、技術開発の三浦です。 今年はセミの鳴き声が聞こえないな、と思っていたのですが、最近になって聞こえるようになってきました。自分の中ではセミの鳴き声がしたら夏が始まったんだなと感じます。 今回は深層学習のフレームワークPyTorch Lightni…

「Zero-Shot Text-to-Image Generation」という論文を読んでいます。

こんにちは、技術開発の三浦です。 技術との付き合い方って難しいと感じることがあります。本当は全て自分たちで出来るようになりたいと思うのですが、限られた時間の中ではなかなか難しいです。自分たちで頑張った方がいいところと誰かの力を借りた方がいい…

Azure DatabricksのSparkで深層学習モデルの分散学習をしました。

こんにちは、技術開発の三浦です。 この前の休日はとても暑くて、ベランダに打ち水をしてみてもたった30分で乾いてしまうような、それくらいの暑さでした。何か夏らしいことを、ということで、かき氷機を出してかき氷を作ってみました。冷たくて美味しくて大…

TransformerによるImage Captioningを試してみました。

こんにちは、技術開発の三浦です。 毎朝コーヒー豆を挽いてコーヒーを淹れるのですが、コーヒーを淹れるためには豆を挽く、お湯を沸かす、フィルタのセットをする・・・といった具合にいくつものタスクをこなす必要があります。 調子のいい日は全てのタスク…

Progressive GANを使って画像生成に挑戦してみました。

こんにちは、技術開発ユニットの三浦です。 最近3Dモデルを作ったり、作ったモデルを3Dプリンタで出力したり、といったことが少しずつ出来るようになってきました。3Dモデルを自分で作るようになると、世の中にある色々なものの形が、実はとても考えて作られ…

「Progressive GAN」の論文を読みました。

こんにちは、技術開発ユニットの三浦です。 少しずつ、汗ばむ陽気の日が増えてきました。もうすぐ梅雨がやってきて、それが終わったら夏がやってくるんだなぁと感じ始める頃です。今年の夏は、どこか静かで涼しいところに遊びに行ければなぁと思います。 画…

WGAN-GPをKerasで実装する際のポイントについて

こんにちは、技術開発ユニットの三浦です。 ゴールデンウィークが始まりました。このゴールデンウィーク中に3Dモデリングにチャレンジしようと考えています。この前生まれて初めて3Dプリンタが動くところを見てから、自分でも何か作ってみたい!と思うように…

DCGAN→WGAN-GPによってGANsの学習の安定化を実現しました。

こんにちは、技術開発ユニットの三浦です。 先日3Dプリンタが動くところを見せてもらったのですが、だんだんモノが出来ていく様子はずっと見ていても飽きないな、と感じました。これを見ながら一日過ごせそうだなぁと。ニューラルネットワークが学習を繰り返…

【完結編?】DCGANを使って"お寿司"の画像を生成できるように色々試した話。

こんにちは、技術開発ユニットの三浦です。 今年度に入り、新しく始めたことに「オンライン英会話」があります。朝仕事を始める前に、短い時間ですが外国の方と話してみています。英会話にチャレンジするのが人生初の経験なので、最初は緊張してちょっとしん…

DCGANを使って"お寿司"の画像を生成しようとしたけど上手くいかなかった話。

こんにちは、技術開発ユニットの三浦です。 暖かい日が続くと思いきや、急に冷たい雨が降ったりと、この時期の天気や気候はなかなか安定しません。今日ご紹介するGANsもなかなか安定した学習が実現できず、空も私のNotebookの中も、なかなか安定しない時間が…

TensorFlow.jsを使ってKerasのモデルを動かすWebアプリを作ってみました。

こんにちは、技術開発ユニットの三浦です。成人の日を含む三連休が終わり、学校では三学期が始まりました。スーパーでは節分の豆が売り始められて、この時期から春まではあっという間に過ぎていく印象があります。春までには部屋の掃除や片づけをしたいので…

TensorFlow DatasetsとKerasの学習済みのモデルを使ってサクッと画像分類モデルを作りました

こんにちは、技術開発ユニットの三浦です。2022年になりました。外の寒さがキツすぎて今年は三が日の殆どを自宅で過ごしてしまいました・・・。今年は新しいプログラミング言語の取得など、今までとは違う世界に飛び込んでみたいなぁと考えております。 さて…

畳み込みニューラルネットワークの可視化について(CAM/Grad-CAM)

こんにちは、技術開発ユニットの三浦です。寒い日が増えてきました。パソコンのキーボードを打っていても手が寒くて、ちょっと文字を打ってはポケットに手を入れて温めて、またちょっと打って・・・の繰り返しで資料やコードを書いています。 今回は畳み込み…

TF Similarityについてまとめてみた(概要編)

こんにちは、技術開発ユニットの矢澤です。 私が個人的に興味を持っている分野として、データ間の類似度の分析というものがあります。 例えば、Aさんと趣味嗜好が似ているBさんの購買履歴がわかった場合、Aさんにも同じような商品をレコメンドすれば買っても…

深層学習モデル"EfficientNet"について

こんにちは、技術開発ユニットの三浦です。今色々なところで「ブラックフライデー」のセールが開催されていますね。これまで見過ごしていたか、気づいていなかっただけなのかもしれませんが、今年は特に「ブラックフライデー」の文字を目にする機会が多い気…

Raspberry Pi 3, 4を比較してみた

はじめに こんにちは、技術開発ユニットの伊藤です。 ラズパイ3, 4の基本的な仕様の比較(担当: 矢澤)と 実際に物体検出を行った際の性能の比較(担当: 伊藤)を行いました。 仕様比較 初めに、Web上の情報などを基に、ラズパイ3(モデルB+)とラズパイ4の基本…

LinuxサーバーでGPU環境を構築してみた

こんにちは。技術開発チームの矢澤です。 以前このブログの記事で、WindowsノートPCでGPU環境を構築する方法を紹介しました。 適切なバージョンのツールをインストールすることで、深層学習のモデルをGPUで動かせるようになりました。 しかしその後、今度は…

一般物体検知アルゴリズム Single Shot MultiBox Detector(SSD)を動かす

こんにちは、技術開発の三浦です。前回一般物体検知アルゴリズム Single Shot MultiBox Detector(SSD)の仕組みと実装について紹介しました。今回は実装したプログラムを使って自分だけのオリジナル物体検知器を作る手順について紹介します。 画像を集める 検…

一般物体検知アルゴリズム Single Shot MultiBox Detector(SSD)をTensorflow v2で動くようにしつつ理解する

こんにちは、技術開発の三浦です。今回は一般物体検知アルゴリズム Single Shot MultiBox Detector(SSD)について調べたのでどのような技術なのか論文や実装されたソースコードをもとに紹介させていただきます。 一般物体検知(Object Detection)とは 画像認識…

GPU付きWindowsマシンの環境構築をしてみた

はじめに こんにちは。技術開発チームの矢澤です。 皆さんは、GPUを使ったことがありますか? 最近の画像処理などの機械学習アルゴリズムでは、学習データやモデルパラメーターの数が膨大になっているため、限られた時間で試行錯誤を行うためにはGPUが必須と…

KerasのLSTMで文章生成して北大路魯山人先生にランチの相談をしてみた

こんにちは、ソリューション開発の中岸です。青空文庫のテキストデータを元に、KerasのLSTMで文章生成をしてみたので、サンプルコードと共にご紹介します。 きっかけ Kerasとは LSTMとは サンプルコード 結果 参考 きっかけ 家に籠る時間が長くなり、毎日毎…

M5StickVで洗濯物監視カメラを作ってみた

はじめに こんにちは。技術開発チームの矢澤です。 このブログの読者の中には、昨今の情勢を受けて自宅などで業務を行っている社会人の方も多いと思います。 今後ますます在宅勤務が普及していくと、Zoomを使ったリモート会議のように、仕事の形や自宅での過…

オセロゲームを作ろう!(AlphaZeroで)

オセロ こんにちは、技術開発の三浦です。最近娘がオセロに興味を持ち始めました。ずっと相手をするわけにもいかないので、オセロAIを作ろうかな・・・とふと思いつきました。それだけでなく、技術開発のメンバーそれぞれでオセロAIを作り、対戦させたら面白…

PyTorchのTutorialに挑戦!そして精度向上にも挑戦!!

こんにちは、技術開発の三浦です。今回は機械学習フレームワークPyTorchについて紹介します! PyTorch PyTorchはオープンソースの機械学習フレームワークで特に深層学習の分野でよく活用されています。深層学習の分野ではGoogleが開発したTensorFlowもよく活…