OpenAI は、新しいキャッシュ入力経済学を使用して GPT-6.1 Sol を API に出荷します

OpenAI は、GPT-6.1 Sol を API にリリースしました。これにより、すべてのタスクで GPT-6 Astra をデフォルトにすることなく、強力なコーディング、コンピューターの使用、プロフェッショナルなワークフロー パフォーマンスを必要とするチーム向けに、新しいハイエンド ルーティング オプションが追加されました。

リリースは、カタログに別のモデル名が追加されるため、それほど重要ではありませんが、実際の価格はしごが変更されるため、より重要です。 OpenAI は、応答 API とチャット完了の GPT-6.1 Sol をリストします。ツール呼び出しは、応答 API とベータ版のマルチエージェント サポートを通じて利用できます。公開されている標準価格は、入力トークン 100 万個あたり 2 ドル、キャッシュされた入力トークン 100 万個あたり 0.10 ドル、キャッシュ書き込みトークン 100 万個あたり 2.50 ドル、入力トークン 272,000 個までのプロンプトの出力トークン 100 万個あたり 10 ドルです。

この組み合わせにより、エンジニアリング チームはより明確な中間の道を得ることができます。つまり、ハードな作業にはフロンティア クラスのモデルを使用しますが、繰り返しの多いプロンプトと長時間実行されるワークフローをキャッシュを意識した制御を通じてルーティングすることでコストを管理します。

何が変わったのか

GPT-6.1 Sol は、名前付き API モデルとして 9 月 29 日に到着しました。OpenAI の変更ログには、応答 API とチャット完了の両方で使用できるものとして記載されており、既存の API ユーザーは、現在の運用トラフィックに対して比較的直接的にテストすることができます。モデル ページでは、最新の OpenAI ツール スタックにも配置されます。ツール呼び出しはレスポンスを通じてサポートされており、マルチエージェントはベータ版で利用可能です。

GitHub は、同日に GitHub Copilot で GPT-6.1 Sol が利用可能になることを別途発表しました。価格は Copilot の使用量ベースの請求モデルを通じて処理されます。つまり、多くの開発者は、アプリケーション バックエンドに明示的に接続するのではなく、コーディング ワークフロー内で最初にモデルに遭遇することになります。

運用上の重要な詳細は価格設定です。 GPT-6.1 Sol は、入力トークン 100 万あたり 2 ドル、出力トークン 100 万あたり 10 ドルで、最高コストのフロンティア プロファイルを下回りますが、コモディティ モデルではありません。出力は依然として、冗長コーディング エージェント、文書作成、および分析ワークフローの主なコスト要因です。より特徴的なのは、キャッシュされた入力です。OpenAI は、キャッシュされた読み取りを 100 万トークンあたり 0.10 ドルでリストしますが、キャッシュ書き込みのコストは 100 万トークンあたり 2.50 ドルです。

キャッシュされた入力が今より重要になっている理由

プロンプト キャッシュは、優れた最適化として扱われることがよくあります。 GPT-6.1 Sol では、予算設計の問題になります。多くのエンタープライズ アプリケーションは、同じ大規模なシステム命令、ポリシー ブロック、スキーマ、取得テンプレート、サンプル、リポジトリ コンテキストを繰り返し送信します。これらの繰り返し入力がキャッシュ ヒットの対象となる場合、限界入力コストは急激に低下する可能性があります。エージェント間で常に書き換え、並べ替え、または断片化が行われる場合、節約効果は決して現れない可能性があります。

これにより、アプリケーション アーキテクチャに圧力がかかります。コーディングアシスタント、ナレッジワークの副操縦士、契約分析、サポート自動化、またはアナリストエージェントを実行しているチームは、総トークン量だけでなく、キャッシュヒット率を測定する必要があります。トークンごとの単純な比較では高価に見えるモデルでも、安定したコンテキストを効果的に再利用すれば、実際のワークロードでは安価になる可能性があります。逆もまた同様です。迅速な規律が不十分なシステムでは、キャッシュされた価格設定の明らかな利点が失われる可能性があります。

共有 エンタープライズ LLM API を使用している企業にとって、モデル リリースにより、一元化されたルーティングとコスト レポートの根拠が強化されます。個々のチームには、自分たちのモデル呼び出しのみが表示されます。プラットフォーム チームは、トラフィックがキャッシュを使用しているかどうか、どのワークロードが高価な出力を生成しているか、エージェントの実行によって 1 つのユーザー リクエストの背後で複数の呼び出しが行われているかどうかを確認する必要があります。

影響を受ける人

複雑なコーディング ツールを構築している開発者が最も明らかな対象者です。 GPT-6.1 Sol の位置付け、Copilot の可用性、および Responses API ツールのサポートにより、Sol はコード生成、リファクタリング、デバッグ、リポジトリ検索、ワークフロー自動化に関連します。最近 GPT-6 Sol または GPT-6 Astra を評価したチームには、レイテンシ、出力品質、コストのベンチマークを行う別の同じファミリー オプションが追加されました。

プロフェッショナルなワークフロー エージェントを実行している製品チームも影響を受けます。ツール呼び出しとベータ マルチエージェント サポートは、1 つのユーザー タスクが計画、取得、実行、レビュー、およびフォローアップのステップに展開できるシステムを指しています。それは便利ですが、会計が複雑になります。単一の顧客対応アクションで、複数のエージェントの役割、ツール、再試行にわたってトークンが消費される場合があります。

財務チームとプラットフォーム運用チームも注意を払う必要があります。モデルの選択は、もはや「最高のモデルか安価なモデルか」という単純な決定ではありません。より良い質問は、どのモデル、コンテキストの長さ、キャッシュ パターン、および出力ポリシーを各ワークロードに適用するかということです。 GPT-6.1 Sol では、その公開価格が新しい入力、キャッシュされた入力、キャッシュ書き込み、生成された出力の間で目に見えるトレードオフを生み出すため、この質問をより明確にします。

API チームに対する実際的な結果

最初の実践的なステップは、実際のトラフィックに対してベンチマークを行うことです。合成プロンプトでは、意味のあるキャッシュされた入力価格設定を備えたモデルの経済性が示されることはほとんどありません。チームは、完全なシステム プロンプト、取得ペイロード、ツール スキーマ、予想される出力長などの代表的なリクエストを再生する必要があります。 100 万トークンあたりのコストだけでなく、完了したタスクごとの総コストを比較する必要があります。

2 番目のステップはポリシーです。 GPT-6.1 Sol が広範囲に有効になっている場合、チームはプロジェクト、環境、ユーザー グループ、およびユースケースごとに制限する必要があります。開発者がすべてのダウンストリーム モデル呼び出しを確認できるわけではないため、コーディング エージェントとマルチエージェント ワークフローの予算を立てるのは特に困難です。エージェントごとの属性、支出制限、承認しきい値は、後付けではなく、運用準備の一部になります。

3 番目のステップは移行の衛生管理です。このモデルは応答 API とチャット完了の両方を通じて利用できるため、一部のチームは大幅な書き換えを行わずにテストできます。ただし、ツール呼び出し動作、キャッシュ動作、およびマルチエージェントのベータ機能は個別に検証する必要があります。通常のチャット完了で動作するアプリケーションは、ツール呼び出しまたは調整されたエージェントの使用を開始すると、異なる可観測性が必要になる場合があります。

まだ不確実なことは何ですか

OpenAI は、可用性、サポートされている API 面、価格、ツール呼び出し、およびベータ版のマルチエージェント サポートを確認しました。まだ確実性が低いのは、GPT-6 Sol、GPT-6 Astra、Anthropic の Sonnet および Opus 層、Google の Gemini ライン、および低コストのオープン モデルまたはゲートウェイ ルーティング モデルと比較して、GPT-6.1 Sol が特定のエンタープライズ ワークロード全体でどのようにパフォーマンスを発揮するかです。

マルチエージェントのサポートも明示的にベータ版であるため、チームは動作、制限、運用上のガイダンスが進化することを期待する必要があります。これによってリリースが使用できなくなるわけではありませんが、計画的な展開が必要になります。つまり、最初に管理されたプロジェクトを実行し、初日からコストを計測し、レイテンシ、信頼性、または支出が期待と異なる場合にはフォールバック ルートを明確にする必要があります。

B2B チームにとって、このリリースは、モデルの調達がワークロード ルーティングになりつつあることを示す新たな兆候として読むのが最適です。 GPT-6.1 Sol は単なる新しいエンドポイントではありません。これは、安定したコンテキスト、目に見えるトークン フロー、規律あるガバナンスを重視した価格設定とアーキテクチャの決定です。