事前学習
Pre-Training
AIが特定の作業を覚える前に、大量のデータを使って基礎知識を学んでおくこと。
簡単に説明すると
事前学習っていうのは、AIが特定の作業を覚える前に、あらかじめ大量のデータから言葉や画像などの基本的な特徴やパターンを学んでおく手法のことだよ。 文章作成や画像認識といったさまざまなAIの開発で広く活用されているんだ。土台となる基礎知識を学ばせておくことで、ゼロから学習させるよりも少ないデータと短い時間で目的の機能を獲得できるようになるよ。
名前のヒミツ
事前学習は英語でPre-trainingと呼ばれるよ。「Pre」には「あらかじめ・事前に」という意味があり、「training」は「訓練・学習」を意味するんだ。本格的な勉強や訓練に入る前の準備段階として、あらかじめ土台となる基礎知識を学んでおく作業であることが名前の由来になっているんだよ。
くわしく見てみよう！
事前学習とは、AIに特定目的の作業をさせる前に、膨大なデータを使って言葉や画像の基礎的なパターンを学ばせておく手法のことだよ。
例えば文章を作るAIの場合、Web上の何億もの文章を読み込むことで、言葉のつながりや文法といった基本的な仕組みを前もって把握させるんだ。
ざっくり言うと、専門的な勉強を始める前に学校で一般的な教養を身につけさせておくような作業と言えるんだ。
基礎知識がすでに備わっているため、その後に「医療の質問に答える」「翻訳をする」といった特定の目的向けに再学習させるとき、少ないデータと短い時間で高い性能を発揮できるようになるんだよ。
この事前学習で作られたAIの土台部分は学習済みモデルと呼ばれていて、さまざまなアプリやサービスの開発で広く活用されているんだ。
画像を分析するAIや会話ができる生成AIなど、多くのAI技術でこの事前学習が重要な役割を果たしているんだよ。