Fusic Tech Blog
Fusion of Society, IT and Culture
wav2vec 2.0を日本語で推論できるようにする
こんにちは、インターンの青木です。この記事では、2020/6/20にFacebook AIより提案されたwav2vec 2.0を日本語データセット で学習させ、推論までを行いたいと思います。 ...
Simple Transformersを使ってみた
こんにちは。機械学習チームの佐藤です。テキスト要約のタスクのモデルでMultilingual-T5がありますが、オリジナルリポジトリのTensorFlow版Multilingual-T5だと少々使いづらく感じたので（特にpredictの際に）、今回Simple Transformersを使ってみました。 また今回、Kaggleにて...
Involution: Inverting the Inherence of Convolution for Visual RecognitionをEfficientNetで試してみた
こんにちは、鷲崎です。最近、畳み込みニューラルネットワーク(CNN)を用いて画像分類や物体検出などの視覚タスクに用いるハードルが低くなり大衆化してきました。一方で、視覚タスクにおける研究の流行は、CNN構造からAttention機構を用いた新しいアーキテクチャの発見などに移り変わってきている気がしています。 本記事で紹介する、...
【論文読み】SQL Injectionと機械学習を用いた検知、防御手法
論文リンク ...
Most-Popular推薦を実装して理解する
...
Attenton is All You Need in Speech Separation. 音源分離にもAttentionの時代が到来！
こんにちは、鷲崎です。最近、機械学習界隈で、Attentionが驚くべき成果を上げています。例えば、OpenAIの...
Fixstars Amplify でナーススケジューリング問題を解く
Fusic 濱野です。 今回は、Fixstars Amplify という、Simulated Annealing を行うクラウドサービスを利用して、ナーススケジューリング問題を解いてみます。...
【論文読み】 Nomalizer-Free ResNets (NFNet) with AGC - EfficientNetの画像認識精度を超えた最新のモデル
こんにちは、鷲崎です。ここ数年、画像認識の分野では、パラメータ数が少なく性能も良いEfficientNetが良く用いられ、弊社の機械学習チームでも利用しています。2020年の後半には、...
【論文読み】AlphaFold
はじめに 前回、...
AlphaFoldを理解したいけど生物学系の知識がないので勉強してみた 前編：事前知識、背景理解
（2021/01/18）アップデート\ 獣医学を専攻している友人からコメントをいただいたので適宜修正を入れました（ありがとう！！！） 2020年冬の頃、獣医学部で獣医学を専攻している、高校時代の友人から連絡があった。 「AlphaFold2っていう機械学習モデル...