AIを自社で動かす？外部APIを使う？同じ仕事で費用と運用を比べる

問い合わせメールから、依頼内容と希望日を一覧にしたい。AIへの依頼を外部サービスに送り、その結果を受け取る方法と、自社が管理する環境にモデルを置いて処理する方法では、何を比べればよいのでしょうか。

先にそろえるのは、処理する仕事と資料、1件の入出力量、利用が集中する時間、必要な品質、待てる時間です。そのうえで、外部APIの利用料と接続・確認の仕事、自社運用の計算資源と待機・保守・障害対応を比べます。自社で動かせば安い、外部APIなら運用が不要、と名前だけで決めることはできません。 まず両方の見積もりと小さな確認を同じ条件で用意します。

この記事のメールは説明用の架空例です。実際の処理件数、料金、時間、品質、費用差は測っていません。

まず「どこで動かし、誰が管理するか」を分ける

外部APIは、会社のシステムから提供会社の窓口へ文章などを送り、処理結果を受け取る方法です。AIが入力を処理して結果を作ることを、ここでは推論と呼びます。提供会社が管理する環境で推論する場合、利用者は呼び出し元の接続、送る情報、結果の確認、費用と利用制限を管理します。提供会社の停止や料金・契約条件の変更にも備えます。

自社運用は、自社が選んだモデルを、自社が管理する計算環境で動かす方法です。自社の建物内だけでなく、自社が借りて管理するクラウド上に置く場合もあります。モデルの取得・利用条件、計算資源、更新、監視、権限、障害時の復旧を誰が担当するか決める必要があります。

APIは「呼び出す窓口」の名前で、実行場所の名前ではありません。 自社で動かすモデルに社内APIを付けることも、公開されたモデルを外部事業者のAPI経由で使うこともあります。公開モデルかどうかと、どこで動かし誰が運用するかを別々に記録します。vLLMの公式説明は、自分で動かすサーバーに互換APIを設けられる一例です。すべてのAPIの仕様が同じという意味ではありません。

同じ問い合わせメールで、比較する条件を決める

部品の点検について「ポンプ2台の点検をお願いしたい。候補日を教えてください。」というメールが届いたとします。AIには、依頼内容と希望日の有無を一覧の下書きにしてもらい、担当者が原文と照合してから返答を決めます。AIの下書きを、そのまま予約確定や顧客への送信にはしません。

期待する下書きの見本：依頼内容「ポンプ2台の点検」／希望日「記載なし」。候補日を尋ねていることと、希望日が決まっていることは別です。

この仕事を、外部APIと自社環境の両方で候補にします。比較前に決める項目は次の通りです。

公開できる内容へ置き換えた見本で比較を準備し、実際のメールは資料管理者とサービスの契約・設定を確認してから使います。数字がない欄を0件や0円で埋めず、「未確認」と残してください。

外部APIの費用は「単価 × 実際の利用量」だけで終わらない

文章生成APIでは、入力と出力の量に応じた単価が示されることがあります。長いメールや過去のやり取りを一緒に送れば入力は増え、長い回答では出力が増えます。再試行では入力が再送される場合もあり、失敗した試行を含む各回の課金条件は契約とサービスの説明で確認します。単価だけで月額を決めず、対象のモデル、入力・出力それぞれの量、利用量が増える時間、契約通貨、税、単価の変更条件を確認します。

たとえば、月の入力トークン数と出力トークン数が分かれば、モデル利用部分は「入力量 × 入力単価 ＋ 出力量 × 出力単価」で計算できます。単価が100万トークン当たりなら、それぞれの量を100万で割ってから掛けます。接続先のオプションや固定費があれば別に加えます。これは利用料の計算で、社内の確認時間や導入費を含む総額ではありません。

接続の実装、結果の確認、失敗した依頼の再処理、アクセス制御も見積もります。提供会社が保存・学習に使うか、削除・共有・外部接続の条件は、実際の契約と設定で別々に確かめます。「外部に送るから必ず危険」「APIだから記録が残らない」とは決められません。

料金表を読む実例は、AI導入費用の見積もり方にもあります。公開単価は対象サービスの一部分で、注文メール処理全体の見積もりではありません。

自社運用では、使っていない時間と担当者の仕事も数える

自社環境では、モデルに必要な計算資源の調達や借用、保存領域、ネットワーク、冗長化、監視、更新、権限管理を確認します。設備を常に起動して待つ構成なら、依頼が少ない時間も費用が生じ得ます。一方、需要に応じて起動・停止できる構成もあり、起動待ちや実際の課金条件は構成ごとに違います。

Amazon SageMaker AIの公式説明は、常設のエンドポイント、利用に応じたサーバーレス、まとめて処理する方式などがあると説明しています。これは特定サービスの選択肢であり、自社環境すべての料金や対応モデルを示すものではありません。

担当者が不在の夜間に止まったら、誰が気づき、どこまで復旧し、業務をどう続けるでしょうか。モデルの更新後に同じメールで再確認する時間も残します。外部への送信を減らせる構成でも、自社内の閲覧権限や保存、ログの扱いを設定しなければ安全が自動的に保証されるわけではありません。

見積もりは、同じ項目で横に並べる

各欄は確認項目であり、二つの方式が同じ品質や同じ費用になると示す表ではありません。金額が出たら、どこまでを含む見積もりか、同じ期間と税条件かをそろえます。GPUを買う費用と月ごとの利用料を並べるときは、比較する期間と残る運用費も忘れずに確認します。

試す前に、品質・情報・戻し方を決める

最初にメール1件と期待する一覧案を業務担当が用意し、技術担当が両候補の入力・設定と出力を記録します。台数や日付を原文と比べ、違いと確認にかかった仕事を残します。次に、実際の仕事で想定する量や混雑の条件を調べ、許可された資料と環境で比較を計画します。この記事では、その試験や結果を実施・測定していません。

公開モデルにはそれぞれ利用条件があります。商用利用、配布・改変、データの扱いは名称だけで判断せず、対象のモデルとバージョンの条件を確認します。外部APIも自社運用も、要求する品質を満たせない場合や、運用担当を確保できない場合は見送れます。

見積もりや試験結果がそろうまでは、費用差や優劣を未確認として残します。公正取引委員会の生成AIに関する資料は、モデルの提供形態や環境の切り替えに伴う負担を論点として扱っています。特定の構成の費用や安全性を保証する資料ではありません。

自社の仕事で比較するときは、まず処理したい資料と完成形を1件決め、今の契約、利用量、確認する人を整理してください。実際の接続・運用の範囲や費用は、担当者や提供会社に確認できます。DREEXYへ対象範囲と費用を相談する。