生成AIの従量課金とは、入力した文章量と出力された文章量を「トークン」という単位で数え、その合計に単価を掛けて請求する仕組みのことです。ここで多くの人がつまずくのが、設定できる「出力の上限」は、請求額の上限ではないという点です。私たちは自社の検証で、見積り730円に対して実額1,495円という2倍の超過を出しました。
本記事は、外部に提供したシステムの話ではなく、自社で生成AIに課金しながら運用してきた記録です。金額はすべて自社の実額で、他社の費用を予測できるものではありません。
なぜ上限を決めたのに費用が超えたのか
結論は、上限が「本文が途中で切れないための下限」として働く設定だからです。私たちは出力の上限を余裕をもって設定し、それで費用も収まると考えていました。実際には、モデルが答えを組み立てる過程で使うトークンがその枠の外側にあり、最終的な出力量は50,463トークンにのぼりました。設定した上限は超過を止めず、請求だけが積み上がりました。
ここでの学びは1つです。設定できる上限は「出力が途中で切れないための枠」であって、入力・推論・やり直しを含む請求総額の上限ではありません。予算を守りたいなら、設定ではなく投げる前の見積りで守るしかありません。
費用が読めなくなる3つのパターン
超過の原因は「使いすぎ」ではなく受け取り方の失敗であることが多いです。私たちがお金を失った形は、次の3つでした。
①考える時間が長いモデルを、待ちきれずに落とす
応答が返る前に接続が切れると、処理は走って課金され、手元には何も残りません。私たちはこれで1回分を丸ごと失いました。長考するモデルは、待ち方そのものを設計する必要があります。
②出力の受け口を自分で塞ぐ
裏で処理を走らせるとき、出力の受け取り方を雑にしていたために、結果が消えたことが3回ありました。原因は同じなのに、対策を1か所にしか書かなかったため別の場所で再発しています。対策は「その処理」ではなく「同じ性質を持つ処理すべて」に書くのが正解でした。
③方式が固まる前に本番の量で試す
直し方の仮説を立てた段階で本番サイズの生成を2回課金し、その直後に方式ごと変えたため、両方が丸ごと不要になりました。仮説は最小の単位で確かめてから本番へ進めるべきでした。
先にやるべきは「0円で測れることを尽くす」
課金する前に無料で確かめられることは想像以上に多いです。私たちは画質を上げる改修を入れる前に、手元の無料ツールだけで比較を行い、予定していた改修そのものが不要だと分かりました。実装も再生成もせずに済んでいます。
同じ考え方で、生成結果の検品も機械の数値で行うようにしました。19本のうち異常な1本を目視ではなく数値で特定でき、全部を作り直せば約1,950円かかるところを1本分で済んでいます。
社内で予算を守るためのルール
私たちは、課金を伴う失敗だけを日付・分類・失ったもの・金額・原因・再発防止の6項目で1行にする台帳を作りました。累計は約4,890円です。金額を書かないと累計が見えず、減らす対象が決まりません。そして同じ分類の2回目が出たら、それは対策が効いていない合図として扱っています。
関連して、AI導入が失敗する原因や社内のAI利用ルールも併せて整えると、費用と情報の両面で管理しやすくなります。
よくある質問
出力の上限を設定すれば費用は止まりますか？
止まりません。上限は本文が途中で切れないための設定であり、請求の上限ではありません。予算を守るなら、投げる前に想定費用を出す運用にしてください。
見積りはどうやって出せばよいですか？
入力の分量から概算を出し、2回目以降は前回の実額を見積りの基準に使います。他の条件で出た実績をそのまま流用すると外れます。
使いすぎを防ぐ一番簡単な方法は何ですか？
同じ対象に2周目を回さないと決めることです。私たちは超過が判明した時点で追加の実行を止め、それ以上の損失を防ぎました。
失敗の記録はどこまで残すべきですか？
金額と原因、そして再発防止をセットで残してください。金額が無いと累計が見えず、原因が無いと同じ失敗を別の場所で繰り返します。
少額でも台帳を作る意味はありますか？
あります。1件あたりは小さくても累計で見ると判断が変わります。私たちの累計約4,890円も、1行ずつは数十円から数百円の積み重ねです。
- 設定できるのは出力トークンの上限であり、入力・推論・やり直しを含む請求総額の上限ではない（見積り730円→実額1,495円）。
- 費用が読めなくなる原因は使いすぎより「受け取り方の失敗」。長考モデルの待ち方・出力の受け口・本番前の検証量を設計する。
- 課金前に0円で測れることを尽くし、失敗は金額つきの台帳にする。同じ分類の2回目は対策が効いていない合図。
