Cloudflare добави бета версия на търсене в мрежата API към AI Gateway, разширявайки шлюза от извода на модела към външните инструменти, които AI приложенията все по-често извикват заедно с моделите. Новият API, обявен на 2 октомври, позволява на разработчиците да изпращат заявки за търсене през същия Cloudflare AI Gateway слой, използван за маршрутизиране на доставчика, регистриране и видимост на таксуването.
При стартирането, Web Search API поддържа Ceramic.ai, Exa и Linkup. Документацията на доставчика на Cloudflare изброява Ceramic.ai като доставчик по подразбиране и показва цени на ниво доставчик от $0,25 за 1000 заявки за Ceramic.ai, $7,00 за 1000 заявки за Exa и $5,00 за 1000 заявки за Linkup. Cloudflare казва, че заявките се таксуват към кредитите на AI Gateway на каталожната цена на доставчика, без допълнителна надценка.
Практическата промяна е не само, че клиентите на Cloudflare могат да извикат търсене API. Много екипи вече използват уеб търсене, приложни програмни интерфейси (API) за извличане, инструменти за браузър или персонализирани роботи някъде в техния стек на агенти. Промяната е, че търсенето се изтегля в същия административен слой като извикванията на модела. За агенти за изграждане на екипи, изследователски асистенти, работни потоци за съответствие, инструменти за обогатяване на продажбите или системи за поддръжка, търсенето на живо вече се превръща в трафик на шлюз, а не в отделна интеграция с отделни регистрационни файлове и фактури.
Какво се промени
Cloudflare AI Gateway премина отвъд обикновеното прокси заявка към по-широк мултимоделен AI API слой шлюз. Последните функции на шлюза се фокусираха върху маршрутизирането на модела, избора на фактуриране на доставчика и възможността за наблюдение на заявките за LLM. Уеб търсене API разширява тази контролна повърхност до заземяване на повиквания: API може да насочва към поддържани доставчици на търсене, докато записва заявки в регистрационните файлове на AI Gateway.
Това има значение, защото извличането и заземяването на мрежата вече са част от производствените разходи и надеждност на AI, а не незадължителна добавка. Агент за поддръжка на клиенти може да използва модел за разсъждение, доставчик на търсене за текуща информация и база данни или SaaS API за личен контекст. Ако тези обаждания се управляват отделно, инженерните и финансовите екипи губят ясна представа за пълната цена на работния процес. Като поставя търсенето зад AI Gateway, Cloudflare третира търсенето като друга управлявана зависимост в пътя на заявката на AI.
Стартирането също така дава на разработчиците нормализирана отправна точка за сравнение на доставчици. Ceramic.ai, Exa и Linkup се различават по цена, поведение на индекса и позициониране на продукта. Слоят на шлюза не премахва тези разлики, но може да ги направи по-лесни за наблюдение и размяна по време на тестване. Най-видимият пример е ценообразуването: въз основа на изброените цени на доставчика на Cloudflare, Exa е много по-скъп за 1000 заявки от Ceramic.ai, докато Linkup седи между тях. За големи натоварвания на агенти това разпространение може да бъде значително.
Защо бизнесът трябва да се интересува
За бизнеса търсенето в мрежата API е част от по-голямото преминаване от интеграция с единичен модел API към AI API контролна равнина. Оперативният въпрос вече не е само кой модел дава най-добрия отговор. Това е кой модел, доставчик на търсене, път за извличане и последователност от инструменти трябва да бъдат разрешени за даден екип, клиент, география или клас данни.
Търсенето в мрежата на живо създава специфично предизвикателство за управление. За разлика от извикването на статичен модел, заявката за търсене може да изложи текста на заявката на доставчик трета страна и да върне уеб съдържание с несигурна надеждност, лицензиране или характеристики на правилата. Доставчикът на търсене може също да повлияе на крайния отговор на модела, като контролира кои източници се показват. Това означава, че изборът на доставчик е както решение за разходите, така и решение за риска.
Интегрирането на регистриране на Cloudflare помага за възможността за проверка. Ако заявките за търсене се появят в регистрационните файлове на AI Gateway, екипите могат да проверят кои приложения заземяват отговори в отворената мрежа, колко често се обаждат на всеки доставчик и къде се натрупват разходи.Това е полезно за преглед на сигурността, анализ на инциденти и управление на LLM разходи, особено когато агентите извършват множество извиквания на инструменти за заявка от потребител.
Искането за таксуване без маркиране също е уместно. Продуктите на Gateway често създават компромис между оперативното удобство и непрозрачността на цените. Cloudflare позиционира уеб търсенето API като използване на цена от списък на доставчика, таксувано чрез кредити на AI Gateway. Екипите все още ще трябва да валидират собствените си ефективни разходи, отстъпки и кредитно отчитане, но публичната структура прави разходите за търсене по-лесни за моделиране, отколкото пакетна или неразкрита система за маркиране.
Влияние върху разработчиците
Разработчиците, изграждащи агентни системи, трябва да третират това като нова инструментална повърхност, а не просто още една HTTP крайна точка. Повикванията за търсене се нуждаят от избор на доставчик, обработка на времето за изчакване, филтриране на резултатите, политика за повторен опит и приписване в регистрационните файлове. Търсене API, което преминава през шлюз, може да опрости част от тази инсталация, но не премахва необходимостта от внимателно проектиране на поведението на агента при извличане.
Непосредствената възможност е по-чисто експериментиране. Един екип може да тества Ceramic.ai, Exa и Linkup през един и същ път на шлюз и да сравнява разходите, закъснението, качеството на отговора и покритието на източника при реални натоварвания. Това е по-полезно от сравняването на демонстрации на доставчици поотделно. Освен това улеснява вземането на решение кога търсенето изобщо си струва да се използва. Някои работни процеси може да се нуждаят само от кеширана документация или вътрешна база от знания; други се нуждаят от свежи уеб резултати и могат да оправдаят добавената цена.
Функцията може също така да засегне екипи на платформа, които управляват споделена AI инфраструктура за множество групи продукти. Ако един екип изгражда олекотен работен процес за класификация, а друг изгражда асистент за изследване на сърфирането, техните профили на използване на търсене ще бъдат много различни. Централизираните регистрационни файлове на шлюза дават на собствениците на платформи по-добър шанс за разпределяне на разходите, откриване на вериги на инструментите и задаване на граници на правилата, около които доставчиците могат да се използват в производството.
Какво остава несигурно
Основната несигурност е обработката на данни на ниво доставчик. Изследователският пакет отбелязва очевидно несъответствие между регистъра на промените на Cloudflare и документацията на доставчика относно състоянието на Exa Zero Data Retention. Екипите в регулираните индустрии трябва да проверяват директно условията за задържане, преди да изпратят чувствителни заявки през който и да е доставчик на търсене, дори когато заявката е насочена през шлюз.
Качеството е друг открит въпрос. Ефективността на доставчика на търсене зависи силно от типа на заявката, изискванията за актуалност, покритието на домейна, поведението при класиране и начина, по който моделът надолу по веригата използва извлечените фрагменти. Бета версията дава на разработчиците удобен начин за тестване, но не установява, че един доставчик е най-добрият за всички работни натоварвания на агенти.
Все пак посоката е ясна: AI шлюзовете се разширяват от моделния достъп до заобикалящите услуги, които правят AI приложенията полезни. Търсенето, маршрутизирането, таксуването и наблюдението стават части от един и същ стек. За бизнеса това прави архитектурата на шлюза по-малко за спестяване на няколко часа интеграция и повече за поддържане на контрол върху нарастващ набор от зависимости на AI.