OpenRouter přidává Batch API pro levnější asynchronní LLM zátěže
Nové Batch API OpenRouteru umožňuje týmům odesílat práci LLM tolerantní k latenci napříč koncovými body chatu, odpovědí, zpráv a vkládání, přičemž slevy poskytovatelů jsou obecně vázány na 24hodinová okna dokončení.
Přečtěte si novinky →