ニューラルネットワーク(neaural network)

$$ y = ip(w, x) $$

  • ipはinnner productの略
  • wは重み
  • xは入力
  • yは出力
  • ニューラルネットワークは重みと入力の内積
  • つまりは、ある重みと入力のベクトルの類似度を測っている

例)

$$ \begin{bmatrix} w_{11} & w_{12} & w_{13}\\ w_{21} & w_{22} & w_{23} \end{bmatrix} \cdot \begin{bmatrix} x_{1} \\ x_{2} \\ x_{3} \\ \end{bmatrix} $$

  • 重みを最初にする理由はXの個数(バッチサイズ)を調整可能だから
  • [2r3c]x[3r1c]=[2r1c]の出力となる
  • [2r3c]x[3rXc]とすると、[2rXc]とX個の分だけ並列して計算できる

REFERENCES:

  • https://qiita.com/masafumi_miya/items/640800cef813acf70caf