WOS に払うのは $2。LLM 側でその何倍も節約。

WOS がクエリごとに LLM へ渡すのは約 1,000 トークン - 上限があり関連性の高いスライスです。全履歴を毎回プロンプトに詰め込む場合との差は非常に大きく、履歴が増えるほど広がります。

節約が生まれる仕組み

• WOS なしでは、毎回のプロンプトに全履歴を詰め込みます - 100K tokens × $2.50/1M = $0.25 がクエリ 1 件ごとに(GPT-4o の入力単価基準。Opus 級モデルでは約 2 倍)。
• WOS ありでは、取り込みは一度だけ($2/1M)。以降の各クエリは小さな取得($3/1M × 1,000)と、約 1,000 トークンだけを読む LLM のコストで済みます。
• LLM が読むトークンが少ないほど、支払いは減ります。そして WOS は、記憶が増えてもその数を一定に保ちます。