Cloudflare добавила бета-версию веб-поиска API к AI Gateway, расширив возможности от вывода моделей до внешних инструментов, которые приложения ИИ все чаще вызывают вместе с моделями. Новый API, анонсированный 2 октября, позволяет разработчикам отправлять поисковые запросы через тот же уровень Cloudflare AI Gateway, который используется для маршрутизации поставщика, ведения журналов и видимости выставления счетов.

На момент запуска веб-поиск API поддерживает Ceramic.ai, Exa и Linkup. В документации провайдера Cloudflare Ceramic.ai указан как поставщик по умолчанию и указаны цены на уровне поставщика: 0,25 доллара США за 1000 запросов для Ceramic.ai, 7 долларов США за 1000 запросов для Exa и 5 долларов США за 1000 запросов для Linkup. Cloudflare утверждает, что запросы оплачиваются кредитами AI Gateway по прейскурантной цене поставщика без каких-либо дополнительных надбавок.

Практическое изменение заключается не только в том, что клиенты Cloudflare могут вызывать поиск API. Многие команды уже используют веб-поиск, API-интерфейсы поиска, инструменты браузера или специальные сканеры где-то в стеке своих агентов. Изменение заключается в том, что поиск переносится на тот же административный уровень, что и вызовы моделей. Для команд, создающих агентов, помощников по исследованиям, рабочие процессы обеспечения соответствия, инструменты расширения продаж или системы поддержки, живой поиск теперь становится шлюзом трафика, а не отдельной интеграцией с отдельными журналами и счетами.

Что изменилось

Cloudflare AI Gateway вышел за рамки простого прокси-сервера запросов и стал более широким слоем многомодельного AI API шлюза. Последние функции шлюза были сосредоточены на модели маршрутизации, выборе провайдеров для выставления счетов и наблюдении за запросами LLM. Веб-поиск API расширяет эту поверхность управления для заземления вызовов: API может направлять запросы к поддерживаемым поставщикам поиска, одновременно записывая запросы в журналы AI Gateway.

Это важно, поскольку извлечение и веб-заземление теперь являются частью стоимости и надежности производственного ИИ, а не дополнительным дополнением. Агент службы поддержки клиентов может использовать модель для рассуждений, поставщика поиска для текущей информации и базу данных или SaaS API для частного контекста. Если эти звонки регулируются отдельно, инженерные и финансовые команды теряют четкое представление о полной стоимости рабочего процесса. Разместив поиск за AI Gateway, Cloudflare рассматривает поиск как еще одну управляемую зависимость в пути запроса AI.

Запуск также дает разработчикам нормализованную отправную точку для сравнения поставщиков. Ceramic.ai, Exa и Linkup различаются ценой, поведением индексов и позиционированием продукта. Уровень шлюза не устраняет эти различия, но облегчает их наблюдение и замену во время тестирования. Наиболее наглядным примером является ценообразование: согласно тарифам провайдеров Cloudflare, Exa намного дороже за 1000 запросов, чем Ceramic.ai, а Linkup находится между ними. Для больших объемов рабочих нагрузок агентов этот разброс может быть существенным.

Почему предприятия должны волноваться

Для предприятий веб-поиск API является частью более масштабного перехода от интеграции одной модели API к AI API плоскости управления. Операционный вопрос больше не заключается в том, какая модель дает лучший ответ. Это то, какая модель, поставщик поиска, путь поиска и последовательность инструментов должны быть разрешены для данной команды, клиента, географического региона или класса данных.

Поиск в Интернете в реальном времени создает особую проблему управления. В отличие от вызова статической модели, поисковый запрос может предоставить текст запроса стороннему поставщику и вернуть веб-контент с неопределенными характеристиками надежности, лицензирования или политики. Поставщик поиска также может влиять на окончательный ответ модели, контролируя, какие источники будут обнаружены. Это означает, что выбор поставщика — это одновременно и решение о затратах, и о риске.

Интеграция журналов Cloudflare помогает обеспечить возможность аудита. Если поисковые запросы появляются в журналах AI Gateway, команды могут проверить, какие приложения находят ответы в открытой сети, как часто они звонят каждому поставщику и где накапливаются затраты.Это полезно для проверки безопасности, анализа инцидентов и управления затратами на LLM, особенно когда агенты совершают несколько вызовов инструментов по запросу пользователя.

Заявление о выставлении счетов без наценки также актуально. Продукты Gateway часто создают компромисс между удобством эксплуатации и непрозрачностью цен. Cloudflare позиционирует веб-поиск API как использование по ценам, указанным в списке поставщиков, и оплачивается посредством кредитов AI Gateway. Командам по-прежнему необходимо будет проверять свои собственные эффективные затраты, скидки и учет кредитов, но общедоступная структура упрощает моделирование расходов на поиск, чем комплексная или нераскрытая система разметки.

Влияние на разработчиков

Разработчики, создающие агентные системы, должны рассматривать это как новый инструмент, а не просто еще одну конечную точку HTTP. Поисковые вызовы требуют выбора поставщика, обработки тайм-аута, фильтрации результатов, политики повторных попыток и атрибуции в журналах. Поиск API, выполняемый через шлюз, может в некоторой степени упростить эту работу, но не устраняет необходимости тщательно разрабатывать поведение агента при поиске.

Ближайшая возможность — более чистые эксперименты. Команда может тестировать Ceramic.ai, Exa и Linkup через один и тот же шлюз и сравнивать стоимость, задержку, качество ответа и охват источника при реальных рабочих нагрузках. Это более полезно, чем сравнивать демо-версии поставщиков по отдельности. Это также облегчает принятие решения, когда вообще стоит использовать поиск. Для некоторых рабочих процессов может потребоваться только кэшированная документация или внутренняя база знаний; другим нужны свежие веб-результаты, и они могут оправдать дополнительные затраты.

Эта функция также может повлиять на команды разработчиков платформ, которые используют общую инфраструктуру искусственного интеллекта для нескольких групп продуктов. Если одна команда создает упрощенный рабочий процесс классификации, а другая — помощника по исследованию браузера, их профили использования поиска будут сильно различаться. Централизованные журналы шлюзов дают владельцам платформ больше шансов распределять расходы, обнаруживать неконтролируемые циклы инструментов и устанавливать границы политик, в которых поставщики могут использоваться в производстве.

Что остается неопределенным

Основная неопределенность — это обработка данных на уровне поставщика. В исследовательском пакете отмечается явное несоответствие между журналом изменений Cloudflare и документацией поставщика о статусе Exa Zero Data Retention. Команды в регулируемых отраслях должны проверять условия хранения непосредственно перед отправкой конфиденциальных запросов через любую поисковую систему, даже если запрос направляется через шлюз.

Качество – еще один открытый вопрос. Производительность поставщика поиска во многом зависит от типа запроса, требований к свежести, покрытия домена, поведения при ранжировании и того, как нисходящая модель использует полученные фрагменты. Бета-версия дает разработчикам удобный способ тестирования, но не устанавливает, что один поставщик лучше всего подходит для всех рабочих нагрузок агента.

Тем не менее, направление ясно: шлюзы ИИ расширяются от доступа к модели до окружающих сервисов, которые делают приложения ИИ полезными. Поиск, маршрутизация, биллинг и наблюдаемость становятся частями одного стека. Для предприятий это позволяет не столько экономить несколько часов интеграции, сколько обеспечивать контроль над растущим набором зависимостей ИИ.