OpenRouter добавя Batch API за евтини асинхронни LLM натоварвания
Новият Batch API на OpenRouter позволява на екипите да изпращат толерантна към забавяне LLM работа в чат, отговори, съобщения и крайни точки за вграждане, като отстъпките на доставчика обикновено са обвързани с 24-часови прозорци за завършване.
Прочетете новини →