オンライン動画（VOD）とテキストで、大規模言語モデル（LLM）をPCやラズベリーパイで実際に動かすための具体的な手順と知識が学べる、「［VOD/Pi5 KIT/data］大規模言語モデルLLMによる生成AIプログラミング入門」が2024年12月12日、ZEPエンジニアリングから発売された。軽量化済みモデルを使用して、手軽に自分が持つ環境でLLMを動作させる方法を実践的に身に付けられる。
従来の自然言語処理に比べ、LLMはTransformerアーキテクチャを採用し、文章全体の意味を一度に把握できるため、長文の処理や多様なタスクに対応する能力が格段に向上しているが、膨大な計算リソースを必要とする。
同教材では、限られたリソースの環境でもLLMを利用するための軽量化技術に焦点を当てて講義し、個人でも動作させる方法を付属キットを使った実習とともに学べる。
講義動画は240分で、73ページの講義テキストも付いている。LLMの現状やChatGPTなどのテキスト生成に関するモデルの基本知識のほか、コンピューターリソースが限られた環境でLLMを動作させるためのモデル軽量化手法や、PCにLLMをインストールして動かすための手順などを解説する。
また、実際に実習キットを使って、PCとラズベリーパイの両方にLLMをインストールする。PC上でLLMを使ってチャット機能を構築し、ユーザーインターフェースを通じて対話を行う方法などを体験する。
実習キットの内容は、Raspberry Pi 5/8GB、microHDMI-HDMI変換ケーブル、5.1V 5A ACアダプター、ケース＆ヒートシンク＆ファン、実習環境書き込み済みマイクロSDカード（32GB）となっている。
著者／講師は、銀行向けシステムなど数多くの開発にリードエンジニアとして携わってきた、金沢工業大学客員准教授の井上祐寛氏が務めている。
定価は3万9600円（税込／送料無料）で、ZEPエンジニアリングのオンラインストアから購入できる。
