一覧に戻る
Lv.2

ローカルLLM(大規模言語モデル)

Local Large Language Model

自分のパソコンやサーバーの中で動かす生成AIのこと

簡単に説明すると

ローカルLLMは、インターネットを使わずに自分のパソコンの中だけで動かせるAIのことだよ。 ChatGPTなどの有名なAIは、通常はネット経由で開発元の巨大なコンピューターを借りて動かしているけれど、ローカルLLMは全ての処理を自分の機械の中で終わらせるんだ。 外部のサーバーにデータを送る必要がないから、機密情報を扱う企業の開発現場や、通信環境が不安定な場所などでも利用されているよ。

名前のヒミツ

ローカルLLM(ろーかるえるえるえむ)は、英語で「その土地の」を意味するLocalとLLM(えるえるえむ)を組み合わせた言葉だよ。 LLMはLarge Language Modelの略で、大量の文章データで学習された言語モデルを指すんだ。 外部のサービスを使わずに自分の手元で動かすことから、こう呼ばれているよ。

くわしく見てみよう!

ローカルLLMとは、自分のパソコンや自社で管理するサーバーの中に、AIのプログラムを直接入れて動かす仕組みのことなんだ。
普段使う多くのAIは、インターネットの先にある他社のコンピューターを借りて動いているけれど、これを自分の手元にある機械だけで完結させるんだよ。
自分の機械が持つ計算能力を使って文章を作ったり、質問に答えたりする仕組みを指す言葉なんだ。

大きく分ければ、情報の安全性が高いことや、自分たちの好みに合わせて作り変えられる点が特徴だね。
ネットにデータを送信しないため、外に漏らしたくない秘密の書類をAIに読み込ませても、外部へ情報が流れるのを防げるんだよ。
また、誰かが公開したプログラムを自分たちの目的に合わせて調整したり、ネットが繋がらない特殊な環境で使ったりもできるんだ。

動かすためには、GPUという高性能な部品や、十分なメモリを積んだパソコンが必要になるよ。高度な処理には性能の高い機材が求められるけれど、技術の進歩によって一般的なパソコンでも動作する軽量なモデルも公開されているんだ。
自分の思い通りにAIを管理して自由に使いたい場合に、よく選ばれる方法なんだよ。

カテゴリAIインフラ