OpenRouter doda Batch API za cenejše asinhrone delovne obremenitve LLM
OpenRouterjev nov paketni API omogoča ekipam, da predložijo delo LLM, ki je tolerantno na zakasnitve, prek klepeta, odgovorov, sporočil in končnih točk vdelav, pri čemer so popusti ponudnika običajno vezani na 24-urna okna za dokončanje.
Preberite novice →