Retrieval-Augmented Generation (RAG)とは何ですか？ 平易な英語ガイド

検索拡張生成 RAG は言語モデルを外部の知識ソースと組み合わせます。モデルはトレーニング中に学習した重みに頼るのではなく、クエリ時に適切なパッセージを受け取ります。これにより、回答が提供されたドキュメントやファイルに結びついたものになります。

この手法が重要である理由は、企業や個人のデータが毎日変化するためです。静的なモデルでは、新しいレポート、会議メモ、またはポリシーの更新を反映させるために毎回トレーニングし直す必要があります。検索拡張生成 RAG は毎回最新のコンテキストを取得することでそのギャップを解消します。

主なポイント

• 検索拡張生成 RAG はテキスト生成の前に検索ステップを追加します。

• このプロセスでは、ソース素材をチャンクに分割し、エンベディングを作成し、一致するものを検索した後、回答を生成します。

• このアプローチにより、知識が更新された際に完全な再トレーニングを回避できます。

• ローカル実装では、すべてのステップをユーザーデバイス上で実行します。

検索拡張生成 RAG の定義

検索拡張生成 RAG は、制御されたドキュメントコレクションを検索し、上位の結果をテキスト生成前に言語モデルに与える手法です。したがって、モデルはトレーニング済みのパラメータと取得したパッセージの両方を使って動作します。

この手法を定義する3つの主要な部分があります。第一に、ソース素材のベクトル表現を保存するインデックス。第二に、入力クエリをそのインデックスに対してスコアリングする検索器。第三に、取得したテキストを元の質問とともに受け取る言語モデルです。

その結果、出力は提供されたコーパスに追跡可能に結びつきます。コーパスが変更された場合、インデックスの更新のみが必要です。モデル自体への変更は不要です。

検索拡張生成 RAG の仕組み

ワークフローは4つの繰り返し可能なステージに従います。各ステージは生の素材をモデルにとって使いやすいコンテキストに変換します。

ステージ1: チャンク化 - ドキュメントを小さく一貫したパッセージに分割

ソースファイルはさまざまな形式と長さで届きます。最初のステップでは、それらを数百トークン程度のセグメントに分割します。短いパッセージは、モデルがページ全体ではなく最も関連性の高い部分だけを受け取るため、検索精度が向上します。

ステージ2: エンベディング - 各チャンクを数値ベクトルに変換

エンベディングモデルは各チャンクを高密度ベクトルにマッピングします。これらのベクトルは意味的な意味を捉えるため、類似したアイデアがベクトル空間内で近くに配置されます。エンベディングは、高速な類似検索をサポートする専用インデックスに保存されます。

ステージ3: 検索 - クエリを保存済みベクトルのうち最も近いものと照合

質問が到着すると、それ自身のエンベディングが作成されます。システムはそのベクトルを保存済みインデックスと比較し、上位の一致を返します。これらの一致のみが言語モデルに渡され、プロンプトが短く焦点の合ったものになります。

ステージ4: 生成 - クエリと取得したテキストから最終回答を生成

言語モデルは元の質問と取得したパッセージを1つのプロンプトで受け取ります。提供された素材を参照した回答を合成します。パッセージがプロンプト内で可視であるため、出力には引用や直接引用を含めることができます。

各ステージは独立して実行されます。コーパスの更新はチャンク化とエンベディングのステップにのみ影響します。言語モデルは変更されません。

検索拡張生成 RAG とファインチューニングの比較

検索拡張生成 RAG とファインチューニングはいずれもモデルを新しい知識に適応させますが、コスト、速度、スコープが異なります。

更新速度

• 検索拡張生成 RAG: インデックスの再構築に数分から数時間かかります。

• ファインチューニング: 完全なトレーニング実行に数日から数週間かかります。

知識の鮮度

• 検索拡張生成 RAG: 新しいドキュメントがクエリ時に反映されます。

• ファインチューニング: モデル重みは次のトレーニングサイクルまで固定されます。

データ制御

• 検索拡張生成 RAG: 元のテキストはモデルの外に残ります。

• ファインチューニング: 知識は重みに焼き込まれ、監査が難しくなります。

コストプロファイル

• 検索拡張生成 RAG: 主な費用はストレージとエンベディング計算です。

• ファインチューニング: 主な費用は繰り返しのGPUトレーニングです。

ドキュメントが頻繁に変更される場合は検索拡張生成 RAG を選択します。狭いタスクで同じ事実を繰り返し推論する必要がある場合はファインチューニングを選択します。

実際のアプリケーション

法務チームは判例を RAG インデックスに読み込みます。弁護士は先例に関する質問をし、特定の判決を指し示す回答を受け取ります。

エンジニアリンググループは社内の設計ドキュメントやインシデントレポートをインデックス化します。開発者は過去の類似問題をクエリし、以前のプロジェクトからのコードスニペットや決定ログを受け取ることができます。

リサーチアナリストは決算トランスクリプトや規制提出書類をインデックスに配置します。財務トレンドに関する日常的な質問は、古いモデル知識ではなく最新の提出書類からのパッセージを返します。

検索拡張生成 RAG の実践 - remio の実装方法

remio はキャプチャしたすべてのページ、会議メモ、ローカルファイルをユーザーデバイス上に保存します。質問が到着すると、システムは同じチャンク化、エンベディング、検索、生成のステップをローカル環境内で実行します。

インデックスがデバイスから出ないため、外部サービスがソース素材を見ることはありません。新しいコンテンツがキャプチャされると自動的に更新されます。その結果、ユーザーの独自のコンテキストで質問に答える、常に最新の個人用知識ベースが実現します。

検索拡張生成 RAG に関するよくある質問

Q: 1つの検索拡張生成 RAG インデックスにはどの程度のテキストを保持できますか？

A: 実用的な制限はストレージと検索速度に依存します。今日のほとんどの個人用インデックスは、数万のチャンクで十分に機能します。

Q: 検索拡張生成 RAG はソースドキュメントを読む必要性を置き換えますか？

A: いいえ。この手法は関連するパッセージを素早く提示しますが、最終的な検証には完全なコンテキストを得るために元のテキストを確認する必要があります。

Q: 検索拡張生成 RAG はインターネット接続なしで実行できますか？

A: はい、インデックスがローカルに存在すれば可能です。エンベディングモデルと言語モデルの両方がオフラインで動作できます。

Q: インデックスはどのくらいの頻度で再構築すべきですか？

A: 基盤となるコーパスが大幅に変更されたときに再構築してください。ほとんどの個人またはチームのコレクションでは、毎日または毎週の更新で十分です。

Q: 検索拡張生成 RAG はテキストファイルに限定されますか？

A: コアの手法はテキストに変換可能な任意のデータで動作します。会議トランスクリプト、PDF抽出物、コードリポジトリはいずれも有効なソースとなります。