Chip Huyen
作家紹介
ポストトレーニング(英: post-training、事後学習)とは、大規模言語モデル(LLM)の事前学習(プレトレーニング)が完了した後に施される一連の追加的な学習手法の総称である。事前学習によって言語の統計的パターンや幅広い知識を獲得したモデルを、特定のタスクへの適応・AIアライメント(人間の意図や価値観への整合)・推論能力の向上に向けて洗練させることを目的とする。
ポストトレーニングはファインチューニング、強化学習、テスト時スケーリングの三つの柱に大別され、ChatGPTの公開(2022年)以降、大規模言語モデル(LLM)開発において最も活発な研究領域の一つとなっている。
ポストトレーニングはファインチューニング、強化学習、テスト時スケーリングの三つの柱に大別され、ChatGPTの公開(2022年)以降、大規模言語モデル(LLM)開発において最も活発な研究領域の一つとなっている。
登録作品数
1
読者数
1