Convolutional Neural Networks with Alternately Updated Clique まとめ

やっと最近論文を読むのがなれてきました。
15本読んだくらいから、少し読むべきところがわかってきたからかな。

今週2本目は、CNNを改造した最新の構造を紹介します。
その名も「CliqueNet」です。

使用した論文
【 Convolutional Neural Networks with Alternately Updated Clique まとめ 】
Convolutional Neural Networks with Alternately Updated Clique

Grad-CAM まとめ

今回取り上げるのも判断根拠に関する論文です。
最近判断根拠の論文ばかりですね、反省します。
去年の論文ですが、日本語で検索しても比較的内容を説明したものが出てくるので、英語が嫌いな人でもそれらのサイトを参考にしながら勉強できそうです。

使用した論文
【 Grad-CAM まとめ 】
Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization

The Marginal Value of Adaptive Gradient Methods in Machine Learning まとめ

勾配降下法といえば、Adamが一番有名かつ、一番使用されていると思います。
しかし、Adamがどんなときでも有効かといえばそうではありません。
今回紹介する論文では、「勾配降下法はAdamでいいじゃん」の考えをもう一度考え直すよいきっかけとなればと思います。

使用した論文
【 The Marginal Value of Adaptive Gradient Methods in Machine Learning 】
The Marginal Value of Adaptive Gradient Methods in Machine Learning