Το OpenRouter προσθέτει το Batch API για χαμηλού κόστους ασύγχρονους φόρτους εργασίας LLM
Το νέο Batch API του OpenRouter επιτρέπει στις ομάδες να υποβάλλουν εργασίες LLM με ανεκτικότητα σε καθυστέρηση στα τελικά σημεία συνομιλίας, απαντήσεων, μηνυμάτων και ενσωματώσεων, με τις εκπτώσεις των παρόχων να συνδέονται γενικά με τα παράθυρα ολοκλήρωσης 24 ωρών.
Διαβάστε ειδήσεις →