創発的能力
Emergent Ability
AIの規模が大きくなると、教えていない高度な能力が突然現れたように見える現象のこと。
簡単に説明すると
創発的能力っていうのは、AIの規模を大きくした時に、事前に教えていない複雑な処理が突然できるようになるように見える現象のことなんだ。 例えば、文章のパターンを学習しただけのAIが、モデルを巨大化させたら計算や論理パズル、翻訳などを解き始めるように見える現象が報告されているんだよ。 AIの能力や可能性を示す概念として説明されるんだ。
名前のヒミツ
創発的能力は、「創り現れ出る」と書く「創発」と「能力」を合わせた言葉なんだ。 個々の要素が集まることで、単体では持っていなかった新しい性質が現れることを表した言葉なんだよ。 英語表記の「Emergent Ability」も、「現れ出る」を意味するEmergentと「能力」を合わせた言葉なんだよ。
くわしく見てみよう！
創発的能力とは、AIの計算規模や学習データを一定以上に増やした時、それまで不可能だった高度な作業が突然できるようになるように見える現象のことなんだ。
小規模なAIでは見られなかった複雑な推論や言語理解が、ある閾値を超えた時点で現れたように観測される特徴を指しているんだよ。
ざっくり言うと、単語の予測だけを練習していたAIが、巨大化することによって突然多桁の足し算を解いたり、バラバラな単語を並べ替えたり、多様な分野の常識問題を解けたりするように見えるイメージなんだよ。
事前学習の規模を拡大させていくだけで、さまざまな課題に対応する力が現れてくるように見えるんだね。
この現象は、AIの性能がなだらかに変化するだけでなく、特定の規模を超えたところで急激に飛躍したように観測される性質を表しているんだ。
大型言語モデルの能力や限界を分析したり、今後のAI開発の方針を検討したりする際の重要な概念として扱われているんだよ。