インフラストラクチャ
こんにちは、AIエンジニアリンググループの矢澤です。 世間はGWでしたが、毎年この時期は交通機関や観光地が混むイメージがあるので、私はほぼ自宅で過ごしました。 ただ、イベントへの参加は新たなインスピレーションなど業務に繋がる可能性もあるので、別…
こんにちは。テックラボの高橋です。 pytorchにtorch.compileという機能があることをご存知でしょうか? torch 2.0から導入されたこの機能を利用することで、推論処理や学習処理を高速化できるとのことです。 今回はNVIDIA A100を用いて、torch.compileがど…
テックラボの高橋です。今回は小ネタです。 Azure App ServiceのContainer Linux環境ではDockerコンテナを動かすことができます。 最近、オブザーバビリティツールであるDatadogをこの環境に組み込む機会がありました。 Datadogのドキュメントによると、以下…
こんにちは。AIエンジニアリンググループの矢澤です。 例年より暑い日々が続いていましたが、夕方や夜はだんだん涼しくなり秋を感じるようになってきました。 秋の代表的な花であるコスモスを秋桜と書くようになったのは、日本の有名な歌謡曲が元になってい…
はじめに こんにちは。テックラボの高橋です。 本記事ではllama.cppで実行可能なモデルを片っ端から実行して良さげなモデルを探していきます。 なお、llama.cppの詳細やパラメータ設定については以下の記事をご参照ください。 techblog.cccmkhd.co.jp モデル…
こんにちは。技術開発ユニットの高橋です。 皆さんは、Azure Synapseをご存知でしょうか。Azure Synapse(旧Azure Datawarehouse)はMicrosoft Azureのデータウェアハウス製品で、大量のデータを気軽に格納・抽出することができます。 以下の記事にあるよう…