OpenRouter lisab Batch API madalamate kuludega asünkroonsete LLM-i töökoormuste jaoks
OpenRouteri uus Batch API võimaldab meeskondadel esitada latentsustaluvusega LLM-i tööd vestluse, vastuste, sõnumite ja manustamiste lõpp-punktides, kusjuures pakkuja allahindlused on tavaliselt seotud 24-tunnise valmimisakendega.
Lugege uudiseid →