特異値分解の復習。 特異値分解は、m×n行列Aに対して、下記のように分解する。 ・A:m×n ・U:m×nの直行行列 ・Σ：m×n ・ ：n×nの直行行列 単位ベクトル（左特異ベクトル）、Ａの特異値σ、単位ベクトル（右特異ベクトル)を用いると、下記のようにあらわせる。 …

ここでは、代表的なCNNのアーキテクチャの進化の流れについて記す。 AlexNet 2012年のILSVRCにおいて、他のアーキテクチャに圧倒的な差をつけて優勝し、深層学習モデルのブームの端緒になったモデル。 引用元:"ImageNet Classification with Deep Convolutio…

ベルマン方程式 動的計画法として知られる数的最適化において、最適化の条件を示す式。 状態 x を外部からの入力 u で制御できると考えているときに、ある種の評価 J の下で u を色々変えてみて、いざ評価 J を最も良くするような u が見つかったときに成り…

BLEU 機械翻訳の評価指標の一つでBLEUがある。 この評価方法の前提は、「プロの翻訳者の訳と近ければ近いほど、その機械翻訳の精度は高い」という考え方である。 BLEUは0~1の間で表現され、それを100倍したものをBLEUスコアとして用いる。 目安としては40以…

情報量 情報量は、下記の2つの条件を満たすものとして定義する。 1. 発生する確率が低いことが分かった時のほうが情報量が多い 2. 情報量は足し算で増えていく この条件を満たす情報量を以下のように定義できる。あることが分かった時の「そのことの情報量」…

R-CNN（Region-CNN)とは 2014年に発表された一般物体検出の代表的なネットワーク。 元論文は、 Rich feature hierarchies for accurate object detection and semantic segmentation ディープラーニングの一般物体検出手法の発展をまとめた図が下記のようにG…