OpenRouter pridáva Batch API pre lacnejšie asynchrónne pracovné zaťaženia LLM
Nové API OpenRouter Batch umožňuje tímom odosielať prácu LLM s toleranciou latencie cez koncové body chatu, odpovedí, správ a vkladaní, pričom zľavy poskytovateľa sú vo všeobecnosti viazané na 24-hodinové okná dokončenia.
Prečítajte si novinky →