パラメータ数
Parameter Count
AIが学習によって調整する内部の計算用数値の数のこと。
簡単に説明すると
パラメータ数は、AIが言葉や画像を理解して回答を作るときに使う計算用数値の合計のことだよ。 人間でいう脳の神経細胞のつなぎ目の数のようなもので、この数値が多いモデルほど複雑な処理をこなす高い表現力を持ちやすくなるんだ。 大型の生成AIでは数千億個以上のパラメータが使われることもあるよ。
名前のヒミツ
パラメータという言葉は英語のparameterに由来するよ。 AIの世界ではモデルサイズやパラメータ規模と呼ばれることもあるんだ。 もともとは対象の性質や振る舞いを決める要素や数値を意味していて、AIにおいてはモデルの働きを決める内部の数値を表しているよ。
くわしく見てみよう！
パラメータ数とは、AIがデータから学習して調整する内部の計算用数値の総数のことだよ。
AIはこの数値を複雑に組み合わせて、文章の作成や画像の認識、翻訳などの多様な処理を行っているんだ。
イメージとしては、AIの頭の中にある無数の調整つまみの数を表しているよ。
AIは学習の過程でこれらのつまみを少しずつ回して調整し、最適な答えを出せるように訓練されるんだ。
一般的に、つまみの数が多いほど、複雑なパターンの関係性を捉えて表現しやすくなるんだ。
一方で、同じ仕組みのAI同士であれば、パラメータ数が多くなるほどAIを動かすために必要な計算量やメモリの消費が増えてしまうんだ。
計算用の高性能なハードウェアが必要になり、動かすための電気代や時間も多くかかるようになるよ。
そのため、スマートフォンのような小さな機器で動かすAIでは、あえてパラメータ数を抑えた軽量なモデルが使われることもあるんだよ。