モデル崩壊
Model Collapse
生成データの誤った学習により、AIの出力精度や表現力が低下していく現象のこと。
簡単に説明すると
モデル崩壊っていうのは、AIが作ったデータばかりを選別せずに繰り返し学習することで、AI自身の性能や出力のバリエーションが損なわれていく現象のことなんだ。 コピー機でコピーした紙をさらにコピーし続けると画像が荒れていくのと似た状態だよ。 AIが作った文章や画像を実データの代わりとして無選別に使い、世代をまたいで学習を繰り返すことで起こる問題だよ。
名前のヒミツ
モデル崩壊は、AIの予測モデルが崩れるように精度や多様性を失っていくことからこう呼ばれているよ。英語ではModel Collapseと表現されるんだ。
くわしく見てみよう！
モデル崩壊とは、AIが自身や他のAIが生成したデータを実データの代わりとして選別せずに取り込み、世代をまたいで繰り返し学習させ続けることで、出力の品質や多様性が段階的に失われていく現象のことだよ。
人間が作った自然なデータには出現頻度の低いレアな特徴も含まれるけれど、AIがデータを生成する過程ではそれらが省かれやすく、多様性が徐々に失われていくんだ。
偏りのあるデータを次のAIへ繰り返し学習させると、世代を重ねるごとに貴重な情報が消え、最終的には表現力の乏しい均一的な出力ばかりになってしまうんだよ。
こうした崩壊は、生成データを選別せずに実データの代わりとして使い、再帰的に学習させ続けた場合に起こるんだ。
逆に、実データをきちんと保持したまま、選別した生成データを混ぜて学習させる使い方は合成データ学習と呼ばれ、AIの性能向上に活用されているよ。