Cloudflare は Web 検索 API ベータ版を AI Gateway に追加し、モデル推論から AI アプリケーションがモデルとともに呼び出す外部ツールまでゲートウェイを拡張しました。 10 月 2 日に発表された新しい API により、開発者はプロバイダーのルーティング、ロギング、請求の可視化に使用されるのと同じ Cloudflare AI Gateway レイヤーを介して検索リクエストを送信できるようになります。

リリース時点では、Web 検索 API は Ceramic.ai、Exa、Linkup をサポートしています。 Cloudflareのプロバイダーのドキュメントには、Ceramic.aiがデフォルトのプロバイダーとしてリストされており、プロバイダーレベルの価格は、Ceramic.aiの場合は1,000リクエストあたり0.25ドル、Exaの場合は1,000リクエストあたり7.00ドル、Linkupの場合は1,000リクエストあたり5.00ドルと示されています。 Cloudflare によると、リクエストはプロバイダーの定価で AI Gateway クレジットに請求され、追加のマークアップはありません。

実際の変更は、Cloudflare の顧客が検索 API を呼び出せるようになったことだけではありません。多くのチームは、エージェント スタックのどこかで Web 検索、取得 API、ブラウザ ツール、またはカスタム クローラーをすでに使用しています。変更点は、検索がモデル呼び出しと同じ管理レイヤーに取り込まれることです。エージェント、リサーチ アシスタント、コンプライアンス ワークフロー、販売強化ツール、またはサポート システムを構築しているチームにとって、ライブ検索は、個別のログや請求書との個別の統合ではなく、ゲートウェイ トラフィックになりました。

変更点

Cloudflare AI Gateway は、単純なリクエスト プロキシを超えて、より広範な マルチモデル AI API ゲートウェイ レイヤーに移行しました。最近のゲートウェイ機能は、モデル ルーティング、プロバイダーの請求の選択、LLM リクエストの可観測性に重点を置いています。 Web 検索 API は、そのコントロール サーフェスをグラウンディング呼び出しまで拡張します。API は、リクエストを AI ゲートウェイ ログに記録しながら、サポートされている検索プロバイダーにルーティングできます。

検索と Web グラウンディングは、オプションのアドオンではなく、本番 AI のコストと信頼性の一部となっているため、これは重要です。カスタマー サポート エージェントは、推論にモデルを使用し、現在の情報に検索プロバイダーを使用し、プライベート コンテキストにデータベースまたは SaaS API を使用できます。これらの呼び出しが個別に管理されると、エンジニアリング チームと財務チームはワークフローの全コストを明確に把握できなくなります。 AI ゲートウェイの背後に検索を配置することで、Cloudflare は検索を AI リクエスト パス内の別の管理された依存関係として扱います。

今回のリリースにより、開発者はプロバイダ比較の正規化された開始点も得られます。 Ceramic.ai、Exa、Linkup は、価格、インデックスの動作、製品の位置付けが異なります。ゲートウェイ層はこれらの違いを取り除くわけではありませんが、テスト中にそれらの違いを観察したり交換したりすることが容易になります。最もわかりやすい例は価格設定です。Cloudflare にリストされているプロバイダー料金に基づくと、Exa は 1,000 リクエストあたり Ceramic.ai よりもはるかに高価ですが、Linkup はその中間に位置します。大量のエージェントのワークロードの場合、その分散は重大な問題となる可能性があります。

企業が注意すべき理由

企業にとって、Web 検索 API は、単一モデル API の統合から AI API コントロール プレーン への大規模な移行の一部です。運用上の問題は、もはやどのモデルが最良の答えを生み出すかだけではありません。これは、特定のチーム、顧客、地域、またはデータ クラスに対して、どのモデル、検索プロバイダー、取得パス、およびツール シーケンスを許可する必要があるかということです。

ライブ ウェブ検索では、特有のガバナンス上の課題が生じます。静的モデル呼び出しとは異なり、検索リクエストはクエリ テキストをサードパーティ プロバイダーに公開し、信頼性、ライセンス、ポリシー特性が不確かな Web コンテンツを返す可能性があります。検索プロバイダーは、どのソースを表示するかを制御することで、最終的な模範解答に影響を与えることもできます。つまり、プロバイダの選択はコストの決定とリスクの決定の両方であるということです。

Cloudflare のログ統合は監査可能性に役立ちます。検索リクエストが AI Gateway ログに表示される場合、チームは、どのアプリケーションがオープン Web 上で回答を提供しているか、各プロバイダーに電話する頻度、およびコストが蓄積されている場所を検査できます。これは、セキュリティ レビュー、インシデント分析、LLM コスト管理、特にエージェントがユーザー リクエストごとに複数のツール呼び出しを行う場合に役立ちます。

値上げなしの請求も関連します。ゲートウェイ製品では、運用の利便性と価格の不透明性の間にトレードオフが生じることがよくあります。 Cloudflare は、Web 検索 API を、AI Gateway クレジットを通じて請求されるプロバイダー リスト価格の使用量として位置付けています。チームは依然として独自の実効コスト、割引、クレジット会計を検証する必要がありますが、公開された構造により、バンドルまたは非公開のマークアップ システムよりも検索支出のモデル化が容易になります。

開発者への影響

エージェント システムを構築する開発者は、これを単なる別の HTTP エンドポイントではなく、新しいツール サーフェスとして扱う必要があります。検索呼び出しには、プロバイダーの選択、タイムアウト処理、結果のフィルタリング、再試行ポリシー、およびログの属性が必要です。ゲートウェイを介して実行される検索 API は、配管の一部を簡素化できますが、エージェントの取得動作を慎重に設計する必要性がなくなるわけではありません。

当面の機会は、よりクリーンな実験です。チームは、同じゲートウェイ パスを介して Ceramic.ai、Exa、Linkup をテストし、実際のワークロードでコスト、遅延、回答品質、ソース カバレッジを比較できます。これは、プロバイダーのデモを個別に比較するよりも役立ちます。また、いつ検索を使用する価値があるのか​​を判断するのも簡単になります。一部のワークフローでは、キャッシュされたドキュメントまたは内部ナレッジ ベースのみが必要な場合があります。他のユーザーは最新のウェブ結果を必要としており、追加コストを正当化できます。

この機能は、複数の製品グループの共有 AI インフラストラクチャを実行するプラットフォーム チームにも影響を与える可能性があります。あるチームが軽量の分類ワークフローを構築し、別のチームがブラウジングリサーチアシスタントを構築している場合、検索の使用プロファイルは大きく異なります。一元化されたゲートウェイ ログにより、プラットフォーム所有者は、費用の割り当て、暴走ツール ループの検出、運用環境で使用できるプロバイダに関するポリシー境界の設定を行う可能性が高まります。

依然として不確実な点

主な不確実性は、プロバイダ レベルのデータ処理です​​。調査パッケージでは、Exa Zero Data Retentionステータスに関するCloudflareの変更ログとプロバイダーのドキュメントとの間に明らかな矛盾があることが指摘されています。規制された業界のチームは、たとえリクエストがゲートウェイ経由でルーティングされる場合であっても、検索プロバイダを通じて機密クエリを送信する前に、保持期間を直接確認する必要があります。

品質も未解決の問題です。検索プロバイダーのパフォーマンスは、クエリの種類、鮮度要件、ドメイン カバレッジ、ランキング動作、およびダウンストリーム モデルが取得したスニペットを使用する方法に大きく依存します。ベータ版は開発者に便利なテスト方法を提供しますが、すべてのエージェントのワークロードに 1 つのプロバイダが最適であることは確立していません。

それでも、方向性は明らかです。AI ゲートウェイは、モデル アクセスから、AI アプリケーションを便利にする周囲のサービスに拡張されています。検索、ルーティング、請求、可観測性が同じスタックの一部になりつつあります。企業にとって、ゲートウェイ アーキテクチャは統合時間を数時間節約することよりも、増大する AI 依存関係の制御を維持することに重点が置かれるようになります。