LLMの仕組みを学ぶコンセプトマップ

5つのテーマグループでモデルのライフサイクルを見直す

この例では、「LLMの仕組み」を学習、アーキテクチャ、推論、限界、活用例の5つに整理しています。各ブランチには4つの簡潔なメモがあります。学習では次のトークン予測、ファインチューニング、RLHFを、アーキテクチャではトランスフォーマー、トークン、コンテキストウィンドウ、パラメータを取り上げています。

推論では、プロンプトのトークン化からフォワードパス、サンプリング、トークン生成までを順に示しています。その他のブランチでは、コードレビュー、要約、翻訳、ライティングなどの代表的な限界と活用例を挙げています。これらの短いラベルだけでは、特定のモデルを比較するために必要な詳しさは得られません。

トークンのサイズ、記憶、学習規模、推論能力に関する主張は、簡略化された学習メモとして捉え、対象モデルと照らし合わせて確認してください。より正確な内容を求める場合は、モデル名、参考資料、対象者のレベルを指定しましょう。