ローカルLLM実践入門

構成数 : 1枚

第1章 ローカルLLM[大規模言語モデル]の概要
「LLM」には「クラウド型」と「ローカル型」があることを解説し、「ローカル型」のLLMである「ローカルLLM」を手元のパソコンで動かすのに必要なソフトウエアを紹介しています。

第2章 ローカルLLMをサクッと使える ChatGPT風ツール「Jan」
ローカルLLMを動かすためのソフトウエアとして「Jan」を紹介します。インストールから設定、利用まで、すべてGUIの操作だけで済むので、ローカルLLMがはじめてでも簡単に動かすことができます。

第3章 ローカルLLMを活用できる コマンドラインツール「Ollama」
ローカルLLMを動かすのに、コマンドラインを利用するソフトウエアとして「Ollama」を紹介します。基本的な使い方だけでなく、「LLMサーバー」として使う方法と、Pythonのプログラムに組み込んで使う方法も簡単に紹介しています。

第4章 ローカルLLMを活用(その1) 画像の内容を説明
第4章から第6章は、主にローカルLLMをPythonのプログラムに組み込んで活用する方法を紹介します。第4章では、画像を読み込んで説明文を生成できる「マルチモーダル対応のLLM」を使う方法を紹介します。

第5章 ローカルLLMを活用(その2) コードの作成を支援
米Microsoftの「Visual Studio Code」などのテキストエディタにローカルLLMを組み込み、コードの作成を支援してもらう方法を解説します。実際に解説とおりに試すと、生成したコードを修正しなくても正常に動作することがわかります。

第6章 ローカルLLMを活用(その3) LLM の回答を読み上げる
ローカルLLMと音声読み上げライブラリ「「VOICEVOX CORE」を組み合わせ、ローカルLLMが生成した文章を、人気の読み上げキャラクターである「ずんだもん」の声で読み上げる方法を解説します。

第7章 ローカルLLMが快適に使える 最適なパソコンを自作しよう
ローカルLLMが快適に動かせるパソコンのスペックと、お勧めのPCパーツを紹介します。パソコンの自作がはじめてでも、PCパーツの選び方や購入先などがわかります。

なお、本書は第3章を除き、以下の日経BPが発行する専門誌の掲載記事を加筆修正する形で掲載しています。
第1章 日経ソフトウエア 2024年9月号 特集1
第2章 日経ソフトウエア 2024年9月号 特集1
第4章 日経ソフトウエア 2024年9月号 特集1
第5章 日経ソフトウエア 2025年1月号 特集1
第6章 日経ソフトウエア 2025年1月号 特集1
第7章 日経PC21 2024年12月号 特集