Fusic Tech Blog
Fusion of Society, IT and Culture
# machine-learning
ViTGANはVision Transformer(ViT)とSIREN組み合わせ。現実的な画像の新たな生成の仕方。
ここでは、Kwonjoon Leeらによる最近の研究(ViTGAN: Training GANs with Vision Transformers)をご紹介します。 ...
Implementing ViTGAN (A novel realistic image generation model) in PyTorch
ViTGAN is a Generative Adversarial Network, which implements a mixture of a Vision Transforme...
Tips and Tricks for training GANs
Training GANs can be very difficult and confusing at times. In this post, I introduce some techniques for training more stable GANs. Note that this is based on my personal experience and the...
Merging Vision Transformers (ViT) with SIRENs to form a ViTGAN. A novel approach to generate realistic images.
I would like to introduce a recent work by Kwonjoon Lee, et. al. ViTGAN: Training GANs with Visio...
Sinusoidal Representation Networks (SIREN)
My name is Teodor Toshkov and I am an intern at Fusic, Fukuoka. I am going to introduce a paper, published on 17 June 2020 by Vincent Sitzmann et. al., named ...
wav2vec 2.0を日本語で推論できるようにする
こんにちは、インターンの青木です。この記事では、2020/6/20にFacebook AIより提案されたwav2vec 2.0を日本語データセット で学習させ、推論までを行いたいと思います。 ...
Simple Transformersを使ってみた
こんにちは。機械学習チームの佐藤です。テキスト要約のタスクのモデルでMultilingual-T5がありますが、オリジナルリポジトリのTensorFlow版Multilingual-T5だと少々使いづらく感じたので（特にpredictの際に）、今回Simple Transformersを使ってみました。 また今回、Kaggleにて...
Involution: Inverting the Inherence of Convolution for Visual RecognitionをEfficientNetで試してみた
こんにちは、鷲崎です。最近、畳み込みニューラルネットワーク(CNN)を用いて画像分類や物体検出などの視覚タスクに用いるハードルが低くなり大衆化してきました。一方で、視覚タスクにおける研究の流行は、CNN構造からAttention機構を用いた新しいアーキテクチャの発見などに移り変わってきている気がしています。 本記事で紹介する、...
【論文読み】SQL Injectionと機械学習を用いた検知、防御手法
論文リンク ...
フルリモートで輪読会を行った話
コロナ禍において弊社も4/6より原則テレワークとなりました。 そんな状況下でリモート輪読会を行ったので、その感想を共有させていただこうと思います。 ※本記事では「リモートでも輪読会できた！」という体験を共有するために執筆しています。そのため、書籍の中身への言及はありません（コード・数式出てきません）。 ...
Deep Learningで背景削除をしてみる
こんにちは、Fusicでインターンをしている岩永です。 少し前に話題になったremove.bgという背景を削除してくれるサービスを最近使ってみました。その精度の高さに驚き、興味を持ったため自分でも試してみ...
Kaggleコンペで惨敗したけど、最高に楽しかった話
この記事は、kaggle その2 Advent Calendar 2019 25日目の記事です。🎂メリークリスマス！！🎂 今回は12/20(金...
AWS re:Invent2019のAI関連アップデートまとめ
こちらは Fusic Advent Calendar 2019 13日目の記事です。 昨日は...
AWS re:Invent2019に向けたAI関連アップデートまとめ
昨年、AWS re:Invent 2018辺りのAI関連アップデートまとめという私得な記事を書いたのですが、今年も書きます。 今年はre:...
変分推論によるベイズロジスティック回帰をPythonで実装する
こんにちは、嶋生です。 社内でベイズ推論による機械学習入門の輪読会をしておりまして、半月強掛けて無事最後まで終えることが出来ました。（↓の本です。）...
torchvisionを使って人のキーポイント検出をする
前回はchainercvが便利という話だったのですが、今回はtorchvisionのTipsです。 人物のキ...
SE-ResNeXtが簡単に使えるよ、そうChainerCVならね
こんにちは、嶋生です。 ブログのリニューアルに伴い投稿が滞っていたのですが、無事完了しましたので早速投稿します。 今回は、Chainer...
Google ColaboratoryのTPUでFashion-MNISTをやってみた
こんにちわ、Fusicの嶋生（しまお）と申します。 普段はPythonで機械学習系のお仕事をしたり、AWSでシステム構築したりしています。（PHPも少し書いてます） 今後、機械学習系・AWS系の情報発信をしていきたいと思っております。 今回は表題の件を実験してみた話です。 ...