Cloudflare ha aggiunto una versione beta di Ricerca Web API ad AI Gateway, ampliando il gateway dall'inferenza del modello agli strumenti esterni che le applicazioni AI chiamano sempre più spesso insieme ai modelli. Il nuovo API, annunciato il 2 ottobre, consente agli sviluppatori di inviare richieste di ricerca attraverso lo stesso livello Cloudflare AI Gateway utilizzato per il routing, la registrazione e la visibilità della fatturazione del fornitore.
Al momento del lancio, Ricerca Web API supporta Ceramic.ai, Exa e Linkup. La documentazione del fornitore di Cloudflare elenca Ceramic.ai come fornitore predefinito e mostra prezzi a livello di fornitore di $ 0,25 per 1.000 richieste per Ceramic.ai, $ 7,00 per 1.000 richieste per Exa e $ 5,00 per 1.000 richieste per Linkup. Cloudflare afferma che le richieste vengono fatturate sui crediti AI Gateway al prezzo di listino del fornitore, senza alcun margine aggiuntivo.
Il cambiamento pratico non è solo che i clienti Cloudflare possono effettuare una ricerca API. Molti team utilizzano già la ricerca web, le API di recupero, gli strumenti del browser o i crawler personalizzati da qualche parte nello stack degli agenti. Il cambiamento è che la ricerca viene inserita nello stesso livello amministrativo delle chiamate modello. Per gli agenti di team building, gli assistenti di ricerca, i flussi di lavoro di conformità, gli strumenti di arricchimento delle vendite o i sistemi di supporto, la ricerca in tempo reale ora diventa traffico gateway anziché un'integrazione separata con registri e fatture separati.
Cosa è cambiato
Cloudflare AI Gateway è andato oltre il semplice proxy di richiesta in un livello più ampio AI multi-modello API gateway. Le recenti funzionalità del gateway si sono concentrate sull'instradamento del modello, sulle scelte di fatturazione del fornitore e sull'osservabilità per le richieste LLM. Ricerca Web API estende la superficie di controllo per mettere a terra le chiamate: API può instradarle ai provider di ricerca supportati mentre registra le richieste nei log di AI Gateway.
Questo è importante perché il recupero e il web grounding sono ora parte dei costi e dell'affidabilità dell'AI di produzione, non un componente aggiuntivo opzionale. Un agente dell'assistenza clienti può utilizzare un modello per il ragionamento, un provider di ricerca per informazioni attuali e un database o SaaS API per il contesto privato. Se tali chiamate vengono gestite separatamente, i team di ingegneria e finanza perdono una visione chiara del costo totale di un flusso di lavoro. Posizionando la ricerca dietro AI Gateway, Cloudflare tratta la ricerca come un'altra dipendenza gestita nel percorso della richiesta AI.
Il lancio offre inoltre agli sviluppatori un punto di partenza normalizzato per il confronto dei fornitori. Ceramic.ai, Exa e Linkup differiscono per prezzo, comportamento dell'indice e posizionamento del prodotto. Un livello gateway non elimina tali differenze, ma può renderle più facili da osservare e scambiare durante i test. L’esempio più visibile è il prezzo: in base alle tariffe dei fornitori elencati da Cloudflare, Exa è molto più costoso per 1.000 richieste rispetto a Ceramic.ai, mentre Linkup si trova tra loro. Per i carichi di lavoro degli agenti con volumi elevati, tale distribuzione può essere sostanziale.
Perché le aziende dovrebbero interessarsene
Per le aziende, la Ricerca Web API fa parte di un passaggio più ampio dall'integrazione di un modello singolo API verso un AI API piano di controllo. La questione operativa non è più solo quale modello produce la risposta migliore. Dipende da quale modello, provider di ricerca, percorso di recupero e sequenza di strumenti devono essere consentiti per un determinato team, cliente, area geografica o classe di dati.
La ricerca web in tempo reale crea una sfida di governance specifica. A differenza di una chiamata di modello statico, una richiesta di ricerca può esporre il testo della query a un provider di terze parti e restituire contenuto Web con caratteristiche di affidabilità, licenza o policy incerte. Il provider di ricerca può anche influenzare la risposta del modello finale controllando quali fonti vengono visualizzate. Ciò significa che la selezione del fornitore è sia una decisione in termini di costi che di rischio.
L'integrazione del logging di Cloudflare aiuta a garantire la verificabilità. Se le richieste di ricerca vengono visualizzate nei registri di AI Gateway, i team possono verificare quali applicazioni stanno fornendo risposte sul Web aperto, con quale frequenza chiamano ciascun fornitore e dove si accumulano i costi.Ciò è utile per la revisione della sicurezza, l'analisi degli incidenti e la gestione dei costi LLM, soprattutto quando gli agenti effettuano più chiamate a strumenti per richiesta dell'utente.
Anche la richiesta di fatturazione senza markup è rilevante. I prodotti gateway spesso creano un compromesso tra comodità operativa e opacità dei prezzi. Cloudflare sta posizionando la Ricerca Web API come utilizzo del prezzo di listino del fornitore fatturato tramite crediti AI Gateway. I team dovranno comunque convalidare i propri costi effettivi, sconti e contabilità del credito, ma la struttura pubblica rende la spesa per la ricerca più facile da modellare rispetto a un sistema di markup in bundle o non divulgato.
Impatto sugli sviluppatori
Gli sviluppatori che creano sistemi agentici dovrebbero considerare questo come una nuova superficie dello strumento, non solo un altro HTTP endpoint. Le chiamate di ricerca richiedono la selezione del fornitore, la gestione del timeout, il filtraggio dei risultati, la policy sui nuovi tentativi e l'attribuzione nei log. Una ricerca API che viene eseguita attraverso un gateway può semplificare alcune di queste operazioni, ma non elimina la necessità di progettare attentamente il comportamento di recupero dell'agente.
L'opportunità immediata è una sperimentazione più pulita. Un team può testare Ceramic.ai, Exa e Linkup attraverso lo stesso percorso gateway e confrontare costi, latenza, qualità della risposta e copertura della fonte con carichi di lavoro reali. Ciò è più utile che confrontare le demo dei provider isolatamente. Inoltre, rende più semplice decidere quando vale la pena utilizzare la ricerca. Alcuni flussi di lavoro potrebbero richiedere solo la documentazione memorizzata nella cache o una knowledge base interna; altri hanno bisogno di nuovi risultati web e possono giustificare il costo aggiuntivo.
La funzionalità potrebbe interessare anche i team della piattaforma che gestiscono un'infrastruttura AI condivisa per più gruppi di prodotti. Se un team sta creando un flusso di lavoro di classificazione leggero e un altro sta creando un assistente di ricerca di navigazione, i loro profili di utilizzo della ricerca saranno molto diversi. I log dei gateway centralizzati offrono ai proprietari delle piattaforme maggiori possibilità di assegnare la spesa, rilevare loop di strumenti incontrollati e definire limiti di policy attorno ai quali i provider possono essere utilizzati nella produzione.
Ciò che rimane incerto
L'incertezza principale è la gestione dei dati a livello di provider. Il pacchetto di ricerca rileva un'apparente discrepanza tra il registro delle modifiche di Cloudflare e la documentazione del fornitore sullo stato di Exa Zero Data Retention. I team dei settori regolamentati dovrebbero verificare i termini di conservazione direttamente prima di inviare query sensibili tramite qualsiasi provider di ricerca, anche quando la richiesta viene instradata attraverso un gateway.
La qualità è un'altra questione aperta. Le prestazioni del provider di ricerca dipendono fortemente dal tipo di query, dai requisiti di aggiornamento, dalla copertura del dominio, dal comportamento in classifica e dal modo in cui il modello downstream utilizza gli snippet recuperati. La versione beta offre agli sviluppatori un modo pratico per eseguire test, ma non stabilisce che un fornitore sia il migliore per tutti i carichi di lavoro degli agenti.
Tuttavia, la direzione è chiara: i gateway AI si stanno espandendo dall'accesso ai modelli ai servizi circostanti che rendono utili le applicazioni AI. Ricerca, routing, fatturazione e osservabilità stanno diventando parti dello stesso stack. Per le aziende, ciò rende l'architettura del gateway meno una questione di risparmio di alcune ore di integrazione e più una questione di mantenimento del controllo su un insieme crescente di dipendenze dall'AI.