CCCMKホールディングス TECH LABの Tech Blog

TECH LABのエンジニアが技術情報を発信しています

ブログタイトル

Transformer

今年はウサギ年なので自分が描いたウサギのスケッチをQuick, Draw!のデータセットで学習させたTransformerモデルに認識させてみました。

あけましておめでとうございます!CCCMKホールディングス技術開発の三浦です。 年末年始の休暇は色々とあって、気が付いたらあっという間に仕事始めを迎えていました。毎年1月から3月までの期間はすごいスピードで過ぎていく印象があります。きっと今年も気…

Transformerのモデル、"T5"について調べてみました!

こんにちは、技術開発の三浦です。 いよいよ2022年も終わりが近づいてきました。年末は仕事だけでなく、プライベートでも色々と考えないといけないことがあります。大掃除や年末年始のスケジュールを決める、それから年賀状のデザインづくりなど・・・。特に…

TransformerによるImage Captioningを試してみました。

こんにちは、技術開発の三浦です。 毎朝コーヒー豆を挽いてコーヒーを淹れるのですが、コーヒーを淹れるためには豆を挽く、お湯を沸かす、フィルタのセットをする・・・といった具合にいくつものタスクをこなす必要があります。 調子のいい日は全てのタスク…

深層学習のモデル「Transformer」について調べたことをまとめてみます!

こんにちは、技術開発ユニットの三浦です。 まだまだ寒い日が続いていますが、少しずつ明るい時間が増えてきたように思います。暖かい春が待ち遠しいです。 今回は最近調べている「Transformer」という深層学習のモデルについて、まとめてみたいと思います。…