Cloudflare a ajouté une version bêta de recherche sur le Web API à AI Gateway, élargissant ainsi la passerelle depuis l'inférence de modèle vers les outils externes que les applications d'IA appellent de plus en plus aux côtés des modèles. Le nouveau API, annoncé le 2 octobre, permet aux développeurs d'envoyer des requêtes de recherche via la même couche Cloudflare AI Gateway utilisée pour le routage, la journalisation et la visibilité de la facturation des fournisseurs.
Au lancement, la recherche sur le Web API prend en charge Ceramic.ai, Exa et Linkup. La documentation du fournisseur de Cloudflare répertorie Ceramic.ai comme fournisseur par défaut et indique des prix au niveau du fournisseur de 0,25 $ pour 1 000 demandes pour Ceramic.ai, 7,00 $ pour 1 000 demandes pour Exa et 5,00 $ pour 1 000 demandes pour Linkup. Cloudflare indique que les demandes sont facturées en crédits AI Gateway au prix catalogue du fournisseur, sans majoration supplémentaire.
Le changement pratique n'est pas seulement que les clients Cloudflare peuvent appeler une recherche API. De nombreuses équipes utilisent déjà la recherche sur le Web, des API de récupération, des outils de navigateur ou des robots d'exploration personnalisés quelque part dans leur pile d'agents. Le changement est que la recherche est intégrée à la même couche administrative que les appels de modèle. Pour les équipes qui créent des agents, des assistants de recherche, des workflows de conformité, des outils d'enrichissement des ventes ou des systèmes d'assistance, la recherche en direct devient désormais une passerelle de trafic plutôt qu'une intégration distincte avec des journaux et des factures séparés.
Ce qui a changé
Cloudflare AI Gateway est passé du simple proxy de requêtes à une couche plus large de passerelle d'IA API multimodèle plus large. Les fonctionnalités récentes de la passerelle se sont concentrées sur le routage des modèles, les choix de facturation des fournisseurs et l'observabilité des requêtes LLM. La recherche Web API étend cette surface de contrôle aux appels de mise à la terre : le API peut acheminer vers les fournisseurs de recherche pris en charge tout en enregistrant les requêtes dans les journaux AI Gateway.
Cela est important car la récupération et la mise à la terre du Web font désormais partie du coût et de la fiabilité de l'IA de production, et non un module complémentaire facultatif. Un agent du support client peut utiliser un modèle pour le raisonnement, un moteur de recherche pour les informations actuelles et une base de données ou SaaS API pour un contexte privé. Si ces appels sont régis séparément, les équipes d’ingénierie et financières perdent une vision claire du coût total d’un flux de travail. En plaçant la recherche derrière AI Gateway, Cloudflare traite la recherche comme une autre dépendance gérée dans le chemin de requête IA.
Le lancement donne également aux développeurs un point de départ normalisé pour la comparaison des fournisseurs. Ceramic.ai, Exa et Linkup diffèrent par le prix, le comportement de l'indice et le positionnement du produit. Une couche passerelle ne supprime pas ces différences, mais elle peut les rendre plus faciles à observer et à échanger pendant les tests. L’exemple le plus visible est la tarification : sur la base des tarifs des fournisseurs répertoriés par Cloudflare, Exa est beaucoup plus cher pour 1 000 requêtes que Ceramic.ai, tandis que Linkup se situe entre les deux. Pour les charges de travail d'agents à volume élevé, cette répartition peut être importante.
Pourquoi les entreprises devraient s'en soucier
Pour les entreprises, la recherche sur le Web API fait partie d'une transition plus large de l'intégration d'un modèle unique API vers un IA API plan de contrôle. La question opérationnelle n’est plus seulement de savoir quel modèle produit la meilleure réponse. Il s'agit de savoir quel modèle, fournisseur de recherche, chemin de récupération et séquence d'outils doivent être autorisés pour une équipe, un client, une zone géographique ou une classe de données donnée.
La recherche Web en direct crée un défi de gouvernance spécifique. Contrairement à un appel de modèle statique, une requête de recherche peut exposer le texte de la requête à un fournisseur tiers et renvoyer un contenu Web avec des caractéristiques de fiabilité, de licence ou de politique incertaines. Le moteur de recherche peut également influencer la réponse finale du modèle en contrôlant les sources qui apparaissent. Cela signifie que la sélection du fournisseur est à la fois une décision en matière de coût et une décision en matière de risque.
L'intégration de la journalisation de Cloudflare facilite l'auditabilité. Si des demandes de recherche apparaissent dans les journaux AI Gateway, les équipes peuvent inspecter quelles applications fondent les réponses sur le Web ouvert, à quelle fréquence elles appellent chaque fournisseur et où les coûts s'accumulent.Cela s'avère utile pour l'examen de la sécurité, l'analyse des incidents et la gestion des coûts LLM, en particulier lorsque les agents effectuent plusieurs appels d'outils par demande utilisateur.
La demande de facturation sans majoration est également pertinente. Les produits Gateway créent souvent un compromis entre commodité opérationnelle et opacité des prix. Cloudflare positionne Web Search API comme une utilisation au prix catalogue du fournisseur facturée via les crédits AI Gateway. Les équipes devront toujours valider leurs propres coûts effectifs, remises et comptabilité de crédit, mais la structure publique rend les dépenses de recherche plus faciles à modéliser qu'un système de balisage groupé ou non divulgué.
Impact sur les développeurs
Les développeurs qui créent des systèmes agentiques devraient traiter cela comme une nouvelle surface d'outil, et non comme un simple HTTP point de terminaison. Les appels de recherche nécessitent la sélection du fournisseur, la gestion des délais d'attente, le filtrage des résultats, la politique de nouvelle tentative et l'attribution dans les journaux. Une recherche API exécutée via une passerelle peut simplifier une partie de cette procédure, mais elle ne supprime pas la nécessité de concevoir soigneusement le comportement de récupération de l'agent.
L'opportunité immédiate est une expérimentation plus propre. Une équipe peut tester Ceramic.ai, Exa et Linkup via le même chemin de passerelle et comparer le coût, la latence, la qualité des réponses et la couverture des sources sous des charges de travail réelles. C’est plus utile que de comparer les démos des fournisseurs isolément. Cela permet également de décider plus facilement quand la recherche vaut la peine d’être utilisée. Certains flux de travail peuvent nécessiter uniquement une documentation mise en cache ou une base de connaissances interne ; d'autres ont besoin de nouveaux résultats Web et peuvent justifier le coût supplémentaire.
Cette fonctionnalité peut également affecter les équipes de plate-forme qui exécutent une infrastructure d'IA partagée pour plusieurs groupes de produits. Si une équipe crée un flux de travail de classification léger et qu’une autre crée un assistant de recherche par navigation, leurs profils d’utilisation de la recherche seront très différents. Les journaux de passerelle centralisés donnent aux propriétaires de plates-formes une meilleure chance d'attribuer les dépenses, de détecter les boucles d'outils incontrôlées et de définir des limites politiques autour des fournisseurs pouvant être utilisés en production.
Ce qui reste incertain
La principale incertitude concerne la gestion des données au niveau du fournisseur. Le dossier de recherche note une divergence apparente entre le journal des modifications de Cloudflare et la documentation du fournisseur sur le statut Exa Zero Data Retention. Les équipes des secteurs réglementés doivent vérifier les conditions de conservation directement avant d'envoyer des requêtes sensibles via un moteur de recherche, même lorsque la requête est acheminée via une passerelle.
La qualité est une autre question ouverte. Les performances du fournisseur de recherche dépendent fortement du type de requête, des exigences de fraîcheur, de la couverture du domaine, du comportement de classement et de la manière dont le modèle en aval utilise les extraits récupérés. La version bêta offre aux développeurs un moyen pratique de tester, mais elle n'établit pas qu'un seul fournisseur est le meilleur pour toutes les charges de travail des agents.
Pourtant, la direction est claire : les passerelles d'IA s'étendent de l'accès aux modèles aux services environnants qui rendent les applications d'IA utiles. La recherche, le routage, la facturation et l’observabilité font désormais partie d’une même pile. Pour les entreprises, l'architecture de la passerelle ne consiste plus à économiser quelques heures d'intégration mais davantage à maintenir le contrôle sur un ensemble croissant de dépendances à l'IA.