ファインチューニングとは？

詳しい解説

ファインチューニングは、事前学習済みの LLM (汎用モデル) に対して、特定のタスクや独自データセットで追加学習を行い、モデルの振る舞いを専門化させる手法です。

汎用 LLM では精度が不足するタスク (専門用語の理解、社内独自フォーマットの生成、特定の口調・スタイル) や、コスト・レイテンシを下げるための小型モデル化、推論速度の高速化などを目的として行います。

代表的な手法に、全パラメータを更新する Full Fine-tuning、低ランク行列だけを更新する LoRA、量子化と組み合わせる QLoRA、強化学習で人間の嗜好を学習する RLHF / DPO などがあります。 RAG (検索組み込み) で対応できる場合はファインチューニングよりも先に RAG を検討するのが一般的です。

実務での使いどころ

汎用モデルでは精度が出ない専門分野の用語、社内独自のフォーマットでの出力、決まった口調での応答などを実現したい場合に使います。大量の処理を安価な小型モデルで回したいときのコスト削減目的でも使われます。

実施には学習用のデータセットを整える作業が必要で、モデルの調整そのものより、この準備に時間がかかります。

混同しやすい用語との違い

RAG が「参照する資料を渡す」のに対し、ファインチューニングは「モデルの振る舞い自体を変える」手法です。最新情報を反映したいだけならファインチューニングは不向きで、更新のたびに再学習が必要になります。