Το OpenAI εισήγαγε το Agents API σε δημόσια έκδοση beta, δίνοντας στους προγραμματιστές έναν τρόπο πρώτου κατασκευαστή να δημιουργούν και να εκτελούν πράκτορες cloud χρησιμοποιώντας μια διαχειριζόμενη πλεξούδα Codex. Η κυκλοφορία στις 10 Σεπτεμβρίου δεν είναι άλλη μια έκδοση μοντέλου. Πρόκειται για μια κίνηση υποδομής: Το OpenAI συσκευάζει το χρόνο εκτέλεσης γύρω από την εργασία του πράκτορα, συμπεριλαμβανομένης της πλεξούδας, των επιλογών περιβάλλοντος εκτέλεσης και του επιπέδου cloud που απαιτούνται για πιο μακροχρόνιες εργασίες.

Για ομάδες που ήδη πειραματίζονται με πράκτορες κωδικοποίησης, ερευνητικούς πράκτορες, αυτοματισμούς υποστήριξης ή εσωτερικούς βοηθούς ροής εργασίας, η αλλαγή είναι ουσιώδης. Αντί να συνδυάζουν κλήσεις μοντέλων, εκτέλεση εργαλείου, κατάσταση αρχείου, μνήμη εργασιών, sandboxing και επαναλήψεις, οι προγραμματιστές μπορούν να ξεκινήσουν από ένα API που έχει σχεδιαστεί γύρω από τις περιόδους σύνδεσης πρακτόρων. Το OpenAI λέει ότι η beta επιτρέπει στους προγραμματιστές να επιλέξουν ανάμεσα σε ένα περιβάλλον δοκιμών που διαχειρίζεται το OpenAI, τη δική τους υποδομή ή τους υποστηριζόμενους συνεργάτες sandbox. Λέει επίσης ότι δεν υπάρχουν πρόσθετες χρεώσεις Agents API πέρα ​​από τα διακριτικά και τα εργαλεία που χρησιμοποιούνται.

Αυτή η λεπτομέρεια τιμολόγησης έχει σημασία, αλλά δεν πρέπει να εκλαμβάνεται ως απλότητα. Οι πράκτορες μπορούν να καταναλώνουν διακριτικά κατά τον προγραμματισμό, τη χρήση εργαλείων, την επιθεώρηση αρχείων, την ανάθεση δευτερευουσών εργασιών και τις επαναλαμβανόμενες προσπάθειες. Μόλις η εργασία μετακινηθεί από ένα μοτίβο άμεσης απόκρισης σε μια εκτελούμενη διαδικασία αντιπροσώπου, οι εταιρείες πρέπει να μετρούν το κόστος σε επίπεδο ροής εργασίας και περιόδου σύνδεσης, όχι μόνο σε επίπεδο μεμονωμένων αιτημάτων.

Αυτό που άλλαξε

Η βασική αλλαγή είναι ότι το OpenAI προσφέρει ένα επίπεδο διαχειριζόμενου πράκτορα αντί να αφήνει τους πελάτες να λειτουργούν τη δική τους στοίβα πλεξούδας. Το Codex έχει ήδη συσχετιστεί με ροές εργασίας πρακτόρων που είναι προσανατολισμένες στο λογισμικό. Το Agents API κάνει αυτήν την πλεξούδα διαθέσιμη ως δημόσια επιφάνεια προγραμματιστή beta για εκτέλεση στο cloud.

Αυτό σημαίνει ότι η μονάδα ενσωμάτωσης επεκτείνεται. Μια συμβατική ενοποίηση enterprise LLM API παρακολουθεί συνήθως αιτήματα, ονόματα μοντέλων, τόμους διακριτικών, καθυστέρηση, σφάλματα και κλειδιά. Μια ενσωμάτωση πράκτορα πρέπει επίσης να λαμβάνει υπόψη τη συνεδρία, τα εργαλεία που διατίθενται, το επιλεγμένο περιβάλλον δοκιμών, τις άδειες που έχουν χορηγηθεί και τυχόν υποπράκτορες ή εργασίες παρασκηνίου που εμπλέκονται.

Οι επιλογές υποδομής του OpenAI υποδεικνύουν μια πρακτική διαίρεση στην αγορά. Ορισμένες ομάδες θα προτιμήσουν το sandbox που διαχειρίζεται το OpenAI επειδή μειώνει τον λειτουργικό φόρτο. Άλλοι, ειδικά σε περιβάλλοντα υπό ρύθμιση ή ευαίσθητα στην ασφάλεια, θα θέλουν οι πράκτορες να εκτελούνται στη δική τους υποδομή ή σε περιβάλλοντα δοκιμών συνεργατών, όπου η πρόσβαση στο δίκτυο, η παραμονή δεδομένων και οι έλεγχοι ελέγχου μπορούν να ελέγχονται πιο αυστηρά.

Γιατί πρέπει να δίνουν προσοχή οι επιχειρήσεις

Η εκκίνηση προσγειώνεται τη στιγμή που η εταιρική τεχνητή νοημοσύνη αλλάζει σε συστήματα που μπορούν να αναλάβουν ενέργειες από τις διεπαφές συνομιλίας. Ένα μοντέλο που απαντά σε μια ερώτηση είναι ένα είδος κινδύνου. Ένας πράκτορας που διαβάζει αρχεία, καλεί εργαλεία, επεξεργάζεται κώδικα, ανοίγει εισιτήρια, ερωτά εσωτερικά συστήματα ή εκτελεί εντολές φλοιού είναι ένα διαφορετικό μοντέλο λειτουργίας.

Για τους προγραμματιστές, ένα διαχειριζόμενο API παράγοντα μπορεί να μειώσει την εργασία της πλατφόρμας που δεν διαφοροποιείται. Η κατασκευή μιας αξιόπιστης πλεξούδας απαιτεί αποφάσεις σχετικά με την κατάσταση, τα σχήματα εργαλείων, τον χειρισμό αστοχιών, τον κύκλο ζωής του sandbox, την παρατηρησιμότητα και τους ελέγχους ασφαλείας. Μια έκδοση που διαχειρίζεται ο προμηθευτής μπορεί να επιτρέψει στις ομάδες προϊόντων να κινούνται πιο γρήγορα, ιδιαίτερα όταν θέλουν να δημιουργήσουν πρωτότυπα χαρακτηριστικά αντιπροσώπων χωρίς να διατηρηθούν όλες αυτές οι υδραυλικές εγκαταστάσεις.

Για τις ομάδες πλατφόρμας και ασφάλειας, η ίδια αφαίρεση δημιουργεί νέα ερωτήματα διακυβέρνησης. Ποια κλειδιά API μπορούν να δημιουργήσουν πράκτορες; Ποια sandboxes μπορούν να χρησιμοποιήσουν αυτοί οι πράκτορες; Ποια εργαλεία επιτρέπονται από προεπιλογή; Μπορεί μια ομάδα να περιορίσει τις δαπάνες για μια μόνο περίοδο σύνδεσης αντιπροσώπου ή μια κατηγορία ροών εργασίας; Μπορούν τα αρχεία καταγραφής να διακρίνουν μεταξύ μιας απόκρισης μοντέλου, μιας κλήσης εργαλείου, μιας λειτουργίας αρχείου και μιας ανάθεσης δευτερεύουσας εργασίας;

Εδώ γίνεται συγκεκριμένος ο επιχειρηματικός αντίκτυπος. Οι ροές εργασίας αντιπροσώπων είναι πιο δύσκολο να υπολογιστούν στον προϋπολογισμό από τις συνηθισμένες ολοκληρώσεις, επειδή ο όγκος της εργασίας είναι λιγότερο προβλέψιμος. Ένας χρήστης μπορεί να ζητήσει μια απλή απάντηση, αλλά ο πράκτορας μπορεί να επιθεωρήσει το περιβάλλον, να εκτελέσει εργαλεία, να δημιουργήσει ένα σχέδιο, να το αναθεωρήσει και να δοκιμάσει ξανά αποτυχημένες ενέργειες. Το γεγονός ότι το OpenAI δεν προσθέτει ξεχωριστή χρέωση Agents API δεν εξαλείφει την ανάγκη για προϋπολογισμούς, ειδοποιήσεις και αναλυτικά στοιχεία χρήσης. Κάνει τη λογιστική διακριτικών και εργαλείων στην επιφάνεια οικονομικού ελέγχου.

Ποιος επηρεάζεται

Το πιο άμεσο κοινό είναι οι ομάδες μηχανικών που κατασκευάζουν προϊόντα αντιπροσώπων πάνω από τα μοντέλα OpenAI. Έχουν πλέον μια διαχειριζόμενη διαδρομή που μπορεί να αντικαταστήσει μέρη μιας εσωτερικής ζώνης ή να επιταχύνει νέα έργα. Οι νεοσύστατες εταιρείες που κατασκευάζουν εργαλεία ανάπτυξης τεχνητής νοημοσύνης, προϊόντα εσωτερικού αυτοματισμού, πράκτορες λειτουργίας πελατών ή βοηθοί έρευνας ενδέχεται να δουν το API ως μια ταχύτερη διαδρομή προς την παραγωγή.

Οι μεγάλες επιχειρήσεις θα το αξιολογήσουν διαφορετικά. Μπορεί να εκτιμούν τον χρόνο εκτέλεσης ενός πράκτορα πρώτου κατασκευαστή, αλλά θα ρωτήσουν επίσης πώς ταιριάζει με την υπάρχουσα ασφάλεια cloud, την αναθεώρηση της αλυσίδας εφοδιασμού λογισμικού, τους ελέγχους ταυτότητας, τις προμήθειες και την απόκριση σε περιστατικά.Η δυνατότητα επιλογής συνεργατών υποδομής ή sandbox μπορεί να είναι σημαντική για αυτούς τους αγοραστές, επειδή η εκτέλεση πρακτόρων μπορεί να αγγίξει ευαίσθητα δεδομένα και προνομιακά συστήματα.

Επηρεάζονται επίσης οι προμηθευτές πύλης AI και παρατηρησιμότητας. Μια πύλη που βλέπει μόνο κλήσεις μη επεξεργασμένων μοντέλων θα χάσει πολλά από αυτά που έχουν σημασία σε μια ροή εργασίας αντιπροσώπου. Η σχετική τηλεμετρία περιλαμβάνει πλέον ταυτότητα πράκτορα, διάρκεια περιόδου λειτουργίας, ακολουθία εργαλείων, περιβάλλον sandbox, συμβάντα έγκρισης, συμπεριφορά προσωρινής μνήμης, επαναλήψεις και κόστος ανά ολοκληρωμένη εργασία. Η πρακτική σύνδεση του B2B LLM βρίσκεται σε αυτό το επίπεδο ελέγχου: οι ομάδες που χρησιμοποιούν πολλαπλά μοντέλα και API χρειάζονται συνεπή διακυβέρνηση κλειδιού API, διαχείριση κόστους και αναλυτικά στοιχεία χρήσης, ακόμη και όταν το επίπεδο εφαρμογής γίνεται αντιπρόσωπο.

Τι παραμένει αβέβαιο

Η ετικέτα beta αφήνει πολλά ανοιχτά ερωτήματα. Τα δημόσια beta API αλλάζουν συχνά καθώς οι προγραμματιστές ανακαλύπτουν περιπτώσεις αιχμής γύρω από μακροχρόνιες εργασίες, διαχείριση κατάστασης, άδειες εργαλείων και όρια ανάπτυξης. Το OpenAI έχει περιγράψει τις επιλογές υποδομής και το μοντέλο κόστους, αλλά οι αγοραστές θα πρέπει ακόμα να επικυρώσουν τις επιχειρησιακές λεπτομέρειες προτού αντιμετωπίσουν το API ως βάση για κρίσιμες ροές εργασίας.

Υπάρχει επίσης ένα ανταγωνιστικό ερώτημα. Η υποδομή αντιπροσώπων γίνεται κατηγορία προϊόντων και όχι μόνο χαρακτηριστικό εντός των API μοντέλων. Οι πάροχοι cloud, οι εταιρείες εργαλείων προγραμματιστών, οι πλατφόρμες SaaS και οι πωλητές πυλών τεχνητής νοημοσύνης κινούνται προς την εκτέλεση διαχειριζόμενων πρακτόρων, την επιβολή πολιτικής και την παρατηρησιμότητα. Το πλεονέκτημα του OpenAI είναι ότι μπορεί να ευθυγραμμίσει το μοντέλο, την πλεξούδα Codex και το χρόνο εκτέλεσης του πράκτορα cloud κάτω από μία εμπειρία προγραμματιστή. Η αντιστάθμιση είναι ότι οι επιχειρήσεις μπορεί να μην θέλουν ένας προμηθευτής να κατέχει κάθε επίπεδο πρόσβασης, εκτέλεσης και διακυβέρνησης μοντέλου.

Η πιο ξεκάθαρη βραχυπρόθεσμη συνέπεια είναι ότι η αρχιτεκτονική των πρακτόρων γίνεται πιο τυποποιημένη. Οι προγραμματιστές θα περιμένουν όλο και περισσότερο από τα API να διαχειρίζονται όχι μόνο την εξαγωγή συμπερασμάτων, αλλά και το περιβάλλον στο οποίο γίνεται αυτόνομη ή ημι-αυτόνομη εργασία. Αυτό ανεβάζει τον πήχη για κάθε πλατφόρμα γύρω από το μοντέλο: η καταγραφή, οι εγκρίσεις, τα βασικά πεδία, οι έλεγχοι κόστους και οι διαδρομές ελέγχου πρέπει τώρα να ακολουθούν τον αντιπρόσωπο, όχι μόνο το αίτημα.