OpenRouter dodaje Batch API do tańszych asynchronicznych obciążeń LLM
Nowy interfejs Batch API OpenRouter umożliwia zespołom przesyłanie odpornych na opóźnienia prac LLM w ramach czatu, odpowiedzi, wiadomości i punktów końcowych osadzania, przy czym zniżki dla dostawców są zwykle powiązane z 24-godzinnymi oknami na ukończenie.
Czytaj wiadomości →