Fusic Tech Blog

Fusion of Society, IT and Culture

wav2vec 2.0-fune-tune
2021/03/30

wav2vec 2.0を日本語で推論できるようにする

こんにちは、インターンの青木です。この記事では、2020/6/20にFacebook AIより提案されたwav2vec 2.0を日本語データセット で学習させ、推論までを行いたいと思います。 ...

simpletransformers
2021/03/30

Simple Transformersを使ってみた

こんにちは。機械学習チームの佐藤です。テキスト要約のタスクのモデルでMultilingual-T5がありますが、オリジナルリポジトリのTensorFlow版Multilingual-T5だと少々使いづらく感じたので(特にpredictの際に)、今回Simple Transformersを使ってみました。 また今回、Kaggleにて...

ml-involutoin-efficient-net
2021/03/25

Involution: Inverting the Inherence of Convolution for Visual RecognitionをEfficientNetで試してみた

こんにちは、鷲崎です。最近、畳み込みニューラルネットワーク(CNN)を用いて画像分類や物体検出などの視覚タスクに用いるハードルが低くなり大衆化してきました。一方で、視覚タスクにおける研究の流行は、CNN構造からAttention機構を用いた新しいアーキテクチャの発見などに移り変わってきている気がしています。 本記事で紹介する、...

security-ml
2021/03/24

【論文読み】SQL Injectionと機械学習を用いた検知、防御手法

論文リンク ...

most-popular-impl
2021/03/24

Most-Popular推薦を実装して理解する

...

sss-attention
2021/03/23

Attenton is All You Need in Speech Separation. 音源分離にもAttentionの時代が到来!

こんにちは、鷲崎です。最近、機械学習界隈で、Attentionが驚くべき成果を上げています。例えば、OpenAIの...

fixstars-amplify-nsp-easy
2021/03/17

Fixstars Amplify でナーススケジューリング問題を解く

Fusic 濱野です。 今回は、Fixstars Amplify という、Simulated Annealing を行うクラウドサービスを利用して、ナーススケジューリング問題を解いてみます。...

nfnets
2021/02/25

【論文読み】 Nomalizer-Free ResNets (NFNet) with AGC - EfficientNetの画像認識精度を超えた最新のモデル

こんにちは、鷲崎です。ここ数年、画像認識の分野では、パラメータ数が少なく性能も良いEfficientNetが良く用いられ、弊社の機械学習チームでも利用しています。2020年の後半には、...

alphafold1-paper-reading
2021/02/19

【論文読み】AlphaFold

はじめに 前回、...

alphafold
2021/01/08

AlphaFoldを理解したいけど生物学系の知識がないので勉強してみた 前編:事前知識、背景理解

(2021/01/18)アップデート\ 獣医学を専攻している友人からコメントをいただいたので適宜修正を入れました(ありがとう!!!) 2020年冬の頃、獣医学部で獣医学を専攻している、高校時代の友人から連絡があった。 「AlphaFold2っていう機械学習モデル...