OpenRouter dodaje Batch API za jeftinija asinkrona LLM radna opterećenja
OpenRouterov novi Batch API omogućuje timovima da podnose LLM rad koji je toleran na kašnjenje preko chata, odgovora, poruka i krajnjih točaka ugrađivanja, s popustima pružatelja općenito vezanim uz 24-satne prozore završetka.
Čitajte vijesti →