OpenRouter добавляет Batch API для более дешевых асинхронных рабочих нагрузок LLM
Новый пакетный API OpenRouter позволяет командам отправлять работу LLM с устойчивостью к задержкам в чате, ответах, сообщениях и конечных точках внедрения, при этом скидки поставщика обычно привязаны к 24-часовым окнам завершения.
Читать новости →