Ideas worth a closer look
VIVA PARADOX.Independent stories, clearly told.
Viva Paradox · JA

AIトレーニングと推論はどう違うのか

Conceptual editorial artwork: AIトレーニングと推論はどう違うのか

AIトレーニングはモデルを構築または更新する工程であり、推論はすでにトレーニング済みのモデルを使って新しい入力に応答する工程です。この違いは、AIプロダクトを計画するチームにとって重要です。トレーニングと推論では、必要なデータ、インフラ、コスト要因、運用上のリスクが異なるためです。

本ガイドは、数学的な詳細に深入りせずに、AIトレーニングと推論の違いを実務的に理解したいビジネス、プロダクト、技術分野の読者に向けたものです。

1個の重みを追って訓練と推論を区別する

予測値 = w × x という玩具モデルを w = 1 から始めます。言語モデルや実サービスの実験ではなくスカラー計算です。訓練ペア x = 2、正解 y = 6 に二乗損失 L = (w × x − y)² を用い、学習率0.1で勾配降下を1回行います。

段階 計算 処理後の重み
1 1 × 3 = 3 1
2 1 × 2 = 2; (2 − 6)² = 16 1
3 1 − 0.1 × (−16) = 2.6 2.6
4 2.6 × 3 = 7.8 2.6
5 2.6 × 4 = 10.4 2.6

段階1はx = 3に対する推論です。段階2は訓練損失を計算しますが、まだ重みは変わりません。微分は 2 × x × (w × x − y) = −16 です。段階3がwを2.6に更新する訓練です。段階4と5は異なる入力での推論で、出力が変わっても重みは2.6のままです。更新後の訓練損失は (2.6 × 2 − 6)² = 0.64 になります。

この1回で汎化性能や実モデルに適した学習率は分かりません。会話ログの保存、文書取得、プロンプト変更は、このようなパラメータ更新なしでもアプリの動作に影響します。ログが後日の別の訓練で使われるかはサービスや設定によります。出力の変化だけでは訓練の証拠になりません。

Python 3で再現する

標準ライブラリだけを使い、ネットワークやモデルを呼び出しません。各言語で同じ演習ラベルを使います。

from decimal import Decimal, ROUND_HALF_UP

def training():
    w = Decimal('1')
    print(f'before_prediction={w * 3}')
    x, y, rate = Decimal('2'), Decimal('6'), Decimal('0.1')
    print(f'loss_before={(w*x-y)**2}')
    gradient = 2*x*(w*x-y)
    w = w - rate*gradient
    print(f'gradient={gradient} weight_after={w}')
    print(f'loss_after={(w*x-y)**2:.2f}')
    print(f'inference_x3={w*3} inference_x4={w*4} unchanged_weight={w}')

training()

計算スクリプトの出力

before_prediction=3
loss_before=16
gradient=-16 weight_after=2.6
loss_after=0.64
inference_x3=7.8 inference_x4=10.4 unchanged_weight=2.6

AIトレーニングとは何か

AIトレーニングは、モデルのライフサイクルにおける学習段階です。トレーニング中、モデルはデータに触れることで、画像の分類、リスクの推定、商品の推薦、テキスト生成など、特定のタスクに役立つパターンを学習します。

実務上、トレーニングには通常、次のような作業が含まれます。

  • データセットを収集または準備する
  • モデルに例を入力する
  • モデルの出力を、望ましい動作やトレーニング目標と比較する
  • モデルの内部パラメータを調整する
  • 想定する用途に対してモデルの性能が十分かどうかを評価する

重要なのは、トレーニングによってモデルが変わるという点です。モデルが学習したパラメータが更新され、将来の出力にトレーニングデータから学んだ内容が反映されるようになります。

トレーニングは、特に大規模モデルでは多くのデータと計算資源を必要とすることがよくあります。ただし、正確なコストや計算負荷の傾向は、モデルの規模、トレーニング方法、ハードウェア、データ量、エンジニアリング上の選択によって変わります。小さな分類モデルと大規模な生成モデルでは、トレーニング要件が大きく異なる場合があります。

AI推論とは何か

AI推論は利用段階です。トレーニング済みのモデルが新しい入力を受け取り、予測、分類、推薦、ランキング、生成された応答などの出力を生成します。

IBMは、AI推論を、トレーニング中に学んだパターンを新しい入力に適用することだと説明しています。これは中核となる違いをよく表しています。つまり、モデルはリクエストごとにゼロから学ぶのではなく、すでに学んだことを使っているということです。このライフサイクルの捉え方については、IBMによるAI推論とは何かの説明を参照してください。

推論の例には、次のようなものがあります。

  • チャットボットがユーザーの質問に対する回答を生成する
  • 不正検知モデルが新しい取引をスコアリングする
  • 画像分類器が新しい写真にラベルを付ける
  • レコメンドシステムが買い物客向けに商品を順位付けする
  • 検索モデルがクエリに対する結果の順序を決める

ほとんどの本番システムでは、推論リクエストによってモデルの重みは更新されません。システムがリクエストをログに記録したり、フィードバックを保存したり、コンテキストを取得したり、出力をビジネスルールに通したりすることはありますが、これらの処理はモデルをトレーニングすることと同じではありません。

トレーニングと推論の比較表

項目 AIトレーニング AI推論
主な目的 モデルを学習させる、または更新する 学習済みモデルを使って出力を生成する
典型的な入力 学習データ、ラベルまたは目標、評価データ 新しいプロンプト、レコード、画像、取引、クエリ、その他の入力
典型的な出力 学習済みまたは更新済みのモデル 予測、分類、レコメンデーション、ランキング、生成された応答
モデルは変わるか はい。トレーニングではモデルのパラメーターが更新されます 通常は変わりません。推論では既存のモデルを適用します
実行のタイミング 定期的、スケジュールに基づく、実験的、またはモデル更新をきっかけに実行 用途に応じて、オンデマンド、バッチ、または事前計算
計算負荷の特徴 特に大規模モデルや大規模データセットでは重くなりがちです レイテンシー、スループット、可用性、出力あたりのコストを重視して最適化されることが多いです
コスト要因 データ準備、学習用の計算資源、実験、評価 リクエスト量、提供用ハードウェア、バッチ処理、レイテンシー目標、稼働時間要件
主なエンジニアリング上の関心 有用なパターンを学習し、性能を検証すること 信頼できる出力を迅速かつ経済的に提供すること
例 過去の不正事例でモデルをトレーニングする 新しいカード取引について不正リスクをスコアリングする

この表は一般的な傾向を示すもので、普遍的なコスト法則ではありません。非常に大きなモデルを大量のリクエストで推論する場合は高額になることがあります。一方で、小さなモデルのトレーニングは比較的軽い場合もあります。重要な違いは、単に高いか安いかではなく、そのワークフローがモデルを更新しているのか、それともモデルを使っているのかという点です。

どの段階を見ているかを実務で見分ける方法

AIワークフローを確認するときは、次の3つを問いかけます。

  1. 入力は何か。入力がモデルの振る舞いを改善するために使われるデータセットであれば、トレーニングまたはファインチューニングを見ている可能性があります。入力がユーザーのリクエストや新しい業務レコードであれば、おそらく推論です。
  2. その後に何が変わるか。モデルのパラメーターが更新されるなら、そのワークフローはトレーニングに関係しています。モデルが同じままで、出力だけを返すなら、それは推論です。
  3. 成功基準は何か。トレーニングは、得られたモデルの性能が向上したか、評価基準を満たしたかで判断されます。推論は、各出力がその用途にとって有用で、適時で、信頼でき、費用対効果が高いかで判断されます。

簡単な仮想例を挙げます。

ある銀行が、ラベル付きの取引データを何年分も使って不正検知モデルを構築します。これはトレーニングです。その後、顧客が新たに買い物をし、モデルがその取引をスコアリングするなら、それは推論です。さらに後で銀行が、新たに確認した不正事例を使ってモデルを更新するなら、その更新はトレーニングまたはファインチューニングであり、通常の推論ではありません。

ファインチューニングの位置づけ

ファインチューニングは、推論よりもトレーニングに近い位置づけです。既存のモデルを出発点にして、より狭いタスク、領域、またはスタイルに合わせてさらに学習させます。ファインチューニングは追加のトレーニングによってモデルの振る舞いを変更するため、単にモデルへプロンプトを送ることとは異なります。

生成AIアプリケーションでは、この違いが曖昧になりやすいです。チームは、プロンプトを変更したり、ナレッジベースからの検索を追加したり、モデルをファインチューニングしたりして、AIアシスタントを改善することがあります。しかし、これらは同じものではありません。

  • プロンプト指定は、推論時に送る指示や文脈を変更します。
  • 検索拡張型のワークフローは、推論時に追加情報を提供することがあります。
  • ファインチューニングは、追加のトレーニングによってモデルを変更します。
  • 推論は、利用可能なモデルとコンテキストを使って出力を生成します。

実務上の意味は次のとおりです。モデル自体に新しいパターンを取り込ませる必要があるなら、ファインチューニングや学習が関係してくる場合があります。一方、現在のコンテキストに基づいて答えさせたり、よりよい指示に従わせたりするだけでよいなら、推論時の変更で足りることがあります。

静的推論と動的推論

推論の提供方法にはいくつかあります。GoogleのMachine Learning Crash Courseは、本番MLシステムにおける静的推論と動的推論を区別し、ユースケースに応じて推論を事前計算することも、要求に応じて実行することもあると説明しています。この本番環境での提供方法の違いについては、Googleの静的推論と動的推論に関するガイドを参照してください。

静的推論

静的推論とは、出力を前もって生成し、後で使えるように保存しておくことです。入力が常に変化するわけではない場合や、アプリケーションが更新頻度の低さを許容できる場合に有効です。

仮の例を挙げると、オンラインストアが既知の顧客向けの商品レコメンデーションを定期的に生成し、キャッシュしておくことがあります。顧客が訪問したとき、システムは事前計算済みのレコメンデーションを提供します。

トレードオフは鮮度です。事前計算された出力はすばやく提供できる一方で、システムが頻繁に再計算しない限り、ごく最新のユーザー行動や在庫の変化を反映しないことがあります。

動的推論

動的推論とは、リクエストが届いた時点でモデルを実行することです。入力が予測しにくい場合、個別化される場合、時間的な即応性が重要な場合によく使われます。

仮の例を挙げると、チャットボットがユーザーの質問を受け取り、要求に応じて回答を生成します。ユーザーの正確な入力は事前には分からないため、システムが回答を完全に事前計算しておくことはできません。

トレードオフは運用上の負荷です。動的推論では多くの場合、レイテンシ、スループット、可用性、リクエストあたりのコストに細心の注意を払う必要があります。

実務における学習と推論の例

画像分類

学習:モデルは、さまざまな商品カテゴリや外観上の欠陥の例など、多数のラベル付き画像から学習します。

推論:新しい画像が送信されると、学習済みモデルがカテゴリを予測するか、欠陥の可能性を示します。

不正検知

学習:モデルは過去の取引と既知の結果から学習します。

推論:新しい取引が評価され、モデルがリスクスコアまたは分類を出力します。

検索ランキング

学習:ランキングモデルは、過去の検索、関連性、エンゲージメントのデータから学習します。

推論:ユーザーがクエリを入力すると、モデルはその特定のクエリに対する結果の並び順を決めるのに役立ちます。

チャットボットと生成AI

学習:基盤モデルが大規模データセットで学習されるか、既存のモデルが特定の分野向けにファインチューニングされます。

推論:ユーザーがプロンプトを送ると、モデルが回答を生成します。その回答はプロンプトや取得されたコンテキストの影響を受けることがありますが、通常、その1回のやり取りの間にモデルの重みは変わりません。

インフラとコストへの影響

学習と推論では、多くの場合、異なるエンジニアリング計画が必要です。

学習用インフラは通常、データパイプライン、実験追跡、評価、モデル更新のための計算資源へのアクセスを中心に構築されます。作業は集中的に発生することがあります。チームは、モデルが基準を満たすまで、学習、評価、調整、再学習を繰り返します。

推論インフラはサービングを中心に設計されます。システムは入力を受け取り、モデルを実行するか事前計算済みの出力を取得し、結果を返し、挙動を監視し、障害に対応しなければなりません。本番環境での推論は一般に、レイテンシ、スループット、可用性、出力あたりのコストを最適化するように設計されます。

この違いは計画に影響します。

  • モデルをトレーニングするチームには、信頼できるモデルを作るために十分なデータ品質、評価の規律、計算能力が必要です。
  • 推論を展開するチームには、サービングアーキテクチャ、監視、スケーリング、運用上の制御が必要です。
  • その両方を行うチームには、新しいデータ、評価、モデル更新、本番環境でのサービングをどのようにつなぐかについてのライフサイクル計画が必要です。

コストの比較は文脈によって異なります。トレーニングは大量の計算資源と反復的な実験を必要とすることがあるため、高額になりがちです。推論も、リクエスト量が多い場合、レイテンシ要件が厳しい場合、またはモデルが大きい場合には、継続的な大きなコストになり得ます。コストは標語ではなく、アーキテクチャ上の問題として扱うべきです。

よくある誤解

誤解1:AIが応答するたびにモデルは何かを学習している

本番環境での推論の多くは、モデルを更新しません。システムがログやフィードバックを保存し、それが後でトレーニングに使われる可能性はありますが、個々の応答は通常、既存のモデルを適用して生成されます。

誤解2:プロンプト指定はトレーニングと同じである

プロンプト指定は特定のリクエストに対する出力を変えることがありますが、それ自体でモデルの学習済みパラメータを更新するわけではありません。モデルを変更する活動は、ファインチューニングとトレーニングです。

誤解3:推論は常に安価である

1件のリクエストだけを見れば、推論はトレーニングより軽いことが多いものの、推論の総コストはトラフィック量、モデルサイズ、ハードウェア、バッチ処理戦略、デプロイのアーキテクチャによって決まります。頻繁に使われるAIプロダクトでは、推論に大きなリソースが費やされることがあります。

誤解4:トレーニングは一度だけ行われ、推論は永遠に続く

一度トレーニングして長期間使われるモデルもあります。一方で、データが変化したり、ユースケースが発展したり、性能向上が必要になったりすると、再トレーニングやファインチューニングが行われるモデルもあります。ライフサイクルは、アプリケーションと、古くなった挙動をどこまで許容できるかによって異なります。

重要なポイント

AIのトレーニングと推論は関連していますが、別々の段階です。

  • トレーニングは、データから学習してモデルを構築または更新します。
  • 推論は、すでにトレーニングされたモデルを新しい入力に適用します。
  • ファインチューニングはモデルを変えるため、トレーニングに関連する作業です。
  • 静的推論は出力を事前に計算し、動的推論は必要に応じてモデルを実行します。
  • トレーニング計画では、データ、学習、評価、モデル更新に重点を置きます。
  • 推論計画では、本番環境でのサービング、レイテンシ、信頼性、スケール、出力あたりのコストに重点を置きます。

ワークフローがモデルを変えるなら、トレーニングまたはファインチューニングとして扱います。新しい入力に対して答え、スコア、レコメンデーション、分類を生成するためにモデルを使うなら、推論として扱います。この簡単な見分け方は、チームがアーキテクチャ、予算、監視、責任範囲についてより明確に判断する助けになります。