一覧に戻る
Lv.2

バックプロパゲーション

Backpropagation

AIが予想と正解のズレをもとに、後ろから遡って各パラメータの勾配を計算する仕組み。

簡単に説明すると

バックプロパゲーションは、AIが予想と正解のズレを逆向きに辿って各パラメータの勾配(誤差が最も急に増える方向とその度合い)を計算する手法だよ。 画像認識や文章生成を行うディープラーニングの学習過程で広く使われているんだ。 AIが出力した結果と正解との誤差をもとに、各パラメータの勾配を後ろから順番に割り出し、算出された勾配とは逆の方向にオプティマイザーがパラメータを動かすことで、AIの精度を効率よく高めているよ。

名前のヒミツ

英語のBackは後ろへ、Propagationは伝わることを意味する言葉だよ。日本語では誤差逆伝播法とも呼ばれるんだ。AIが出した答えと正解のズレを、出力側から入力側に向かって逆向きに伝えて各部分の修正量を計算することから、この名前がついたよ。

くわしく見てみよう!

バックプロパゲーションとは、AIが学習する際に予想と正解の差をもとに、各パラメータに対する勾配(誤差が最も急に増える方向とその度合い)を後ろから遡って計算するアルゴリズムのことだよ。
AIの学習において、パラメータをどう動かせば誤差を減らせるかを知るための土台となる仕組みとして使われているんだ。

ディープラーニングで使われるニューラルネットワークは、いくつもの計算の層を重ねて答えを導き出す仕組みになっているよ。
ざっくり言うと、まず入力データを前に送って答えを出し、その後に最後の出力側から最初の入力側に向かって、計算結果のズレを逆に伝えていくんだ。

この逆向きの計算処理によって、複雑に絡み合ったネットワークの各パラメータにおける勾配が計算されるよ。
勾配は誤差が最も増える方向を指しているから、実際にパラメータを更新するときは、算出された勾配とは逆の方向に動かすことで誤差を減らしていくんだ。この更新を担っているのが、最適化アルゴリズム(オプティマイザー)だよ。
手作業で1つずつ調べる必要がなくなるため、大きなモデルの学習でもスムーズに勾配を求められるよ。
そのため、画像認識や自然言語処理などのディープラーニングモデルの開発において、欠かせない中核技術として幅広く活用されているよ。