Το OpenAI έχει διαθέσει το GPT-Live-1 μέσω του API του, προσθέτοντας ένα αποκλειστικό μοντέλο φωνής αμφίδρομης λειτουργίας για προγραμματιστές που δημιουργούν πράκτορες ομιλίας σε πραγματικό χρόνο. Η έκδοση έχει μικρότερη σημασία επειδή η φωνητική τεχνητή νοημοσύνη είναι νέα και περισσότερο επειδή το OpenAI διαχωρίζει το επίπεδο φωνής του μπροστινού μέρους από το επίπεδο συλλογιστικής και εκτέλεσης εργαλείων τόσο στην αρχιτεκτονική όσο και στη χρέωση.
Το GPT-Live-1 έχει σχεδιαστεί για να ακούει και να μιλά ταυτόχρονα, μια απαίτηση για χειρισμό φυσικών διακοπών σε κλήσεις υποστήριξης, πιστοποίηση πωλήσεων, διδασκαλία, εσωτερικά γραφεία βοήθειας και άλλες ροές εργασίας συνομιλίας. Το OpenAI περιγράφει το μοντέλο ως ένα επίπεδο φωνής σε πραγματικό χρόνο που μπορεί να αναθέσει βαθύτερη λογική ή ενέργειες σε μοντέλα υποστήριξης, εργαλεία ή μια πλεξούδα πράκτορα. Στην πράξη, αυτό το καθιστά πιο κοντά σε μια φωνητική διεπαφή για πρακτορικά συστήματα παρά σε ένα μονολιθικό μοντέλο βοηθού.
Η εμπορική λεπτομέρεια είναι εξίσου σημαντική: Το OpenAI παραθέτει την τιμή του GPT-Live-1 API στα 0,05 $ ανά λεπτό για τη συνεδρία φωνής στο front-end, ενώ η χρήση του μοντέλου υποστήριξης και οι κλήσεις εργαλείων χρεώνονται ξεχωριστά. Η τεκμηρίωση προγραμματιστή του αναφέρει το αναγνωριστικό μοντέλου ως gpt-live-1 και λέει ότι οι φωνητικές περίοδοι χρεώνονται ανά δευτερόλεπτο. Αυτό δημιουργεί μια νέα μονάδα κόστους για ομάδες εφαρμογών τεχνητής νοημοσύνης που έχουν συνηθίσει να σκέφτονται κυρίως σε μάρκες, εικόνες ή ομαδικές εργασίες.
Τι άλλαξε
Μέχρι τώρα, πολλές στοίβες φωνητικών πρακτόρων παραγωγής συνδύαζαν την ομιλία σε κείμενο, ένα μοντέλο γλώσσας, κείμενο σε ομιλία, λογική ενορχήστρωσης και τηλεφωνία σε μια αλυσίδα πολλών προμηθευτών. Το GPT-Live-1 δεν καταργεί την ανάγκη για ενορχήστρωση, αλλά παρέχει στους προγραμματιστές ένα εγγενές στοιχείο φωνής που έχει σχεδιαστεί για ταυτόχρονη ακρόαση και ομιλία.
Αυτή η διάκριση έχει σημασία για τον λανθάνοντα χρόνο συνομιλίας. Σε μια ρύθμιση τηλεφωνικής υποστήριξης ή ζωντανής υποστήριξης, οι χρήστες διακόπτουν, διορθώνουν τον εαυτό τους, κάνουν παύση, μιλούν μέσω του πράκτορα και αναμένουν από το σύστημα να ανταποκρίνεται χωρίς το άκαμπτο μοτίβο στροφής που είναι συνηθισμένο στη συνομιλία κειμένου. Ένα μοντέλο full-duplex προορίζεται να χειριστεί αυτό το στυλ αλληλεπίδρασης πιο άμεσα. Το OpenAI τοποθετεί επίσης το GPT-Live-1 ως επίπεδο διεπαφής που μπορεί να μεταφέρει σκληρότερη δουλειά σε άλλα μοντέλα ή εργαλεία, κάτι που ταιριάζει με τον τρόπο που πολλές επιχειρήσεις διαχωρίζουν ήδη την αλληλεπίδραση σε πραγματικό χρόνο από την ανάκτηση, την επιχειρηματική λογική, τις εγκρίσεις και τις ενημερώσεις αρχείων.
Το μοντέλο τιμολόγησης είναι επίσης μια σαφής αλλαγή. Αντί να φορτίζει το επίπεδο ζωντανής φωνής με κουπόνια εισόδου και εξόδου, το OpenAI το τιμολογεί με τον χρόνο σύνδεσης που έχει περάσει. Οι κλήσεις, η ανάκτηση, οι κλήσεις λειτουργιών και άλλα εργαλεία παραμένουν ξεχωριστά. Μια πεντάλεπτη συνομιλία υποστήριξης πελατών, για παράδειγμα, δεν είναι απλώς μια προτροπή μοντέλου με μερικά στοιχεία γραμμής συμβολικής. Μπορεί να περιλαμβάνει πέντε λεπτά χρέωσης φωνητικής περιόδου σύνδεσης, πολλές κλήσεις αιτιολογίας, αναζητήσεις βάσης δεδομένων, ενημερώσεις CRM και επικλήσεις εξωτερικών εργαλείων.
Γιατί έχει σημασία για τους προγραμματιστές
Οι φωνητικοί πράκτορες είναι δύσκολο να αξιολογηθούν χρησιμοποιώντας τις ίδιες μετρήσεις με τα chatbot. Ένα μοντέλο μπορεί να φαίνεται δυνατό σε δοκιμές κειμένου εκτός σύνδεσης και να εξακολουθεί να αποτυγχάνει στη ζωντανή ομιλία επειδή χάνει διακοπές, ανταποκρίνεται πολύ αργά, μιλάει από τον χρήστη ή καλεί εργαλεία σε λάθος χρόνο. Το GPT-Live-1 παρέχει στις ομάδες μια άλλη επιλογή για δοκιμή εγγενή του API, αλλά το λειτουργικό βάρος παραμένει στον προγραμματιστή: μετρήστε τον λανθάνοντα χρόνο, τη συμπεριφορά διακοπής, την ποιότητα μεταγραφής, το χρονοδιάγραμμα του εργαλείου, την ανάκτηση αποτυχίας και τους κανόνες μεταβίβασης υπό ρεαλιστική κίνηση.
Για τις ομάδες μηχανικών, η έκδοση αλλάζει επίσης τις απαιτήσεις παρατηρητικότητας. Οι μετρητές διακριτικών από μόνοι τους δεν θα εξηγήσουν το κόστος ή την ποιότητα μιας ροής εργασίας φωνής. Οι ομάδες πρέπει να καταγράφουν τη διάρκεια της περιόδου σύνδεσης, τις κλήσεις που έχουν εγκαταλειφθεί, τον χρόνο σίγασης, τη χρήση του μοντέλου υποστήριξης, τη συχνότητα κλήσεων εργαλείων, τα ποσοστά κλιμάκωσης και τον αντίκτυπο του κόστους των επαναλήψεων. Ένας φωνητικός πράκτορας που ακούγεται ομαλός αλλά διατηρεί ενεργά τα ακριβά μοντέλα υποστήριξης για κάθε έκφραση μπορεί να είναι εμπορικά μη ελκυστική σε κλίμακα.
Εδώ πρέπει να εξελιχθούν οι πλατφόρμες τεχνητής νοημοσύνης και οι εσωτερικές πύλες. Ένα επίπεδο πρακτικό έλεγχο κόστους AI API πρέπει τώρα να κατανοεί τα λεπτά καθώς και τα διακριτικά. Θα πρέπει να μπορεί να αποδίδει δαπάνες ανά ομάδα, πελάτη, εφαρμογή, μοντέλο και βήμα ροής εργασιών, επιβάλλοντας παράλληλα όρια περιόδου σύνδεσης και πολιτικές δρομολόγησης προτού το κόστος αυξηθεί.
Ποιος επηρεάζεται
Το πιο άμεσο κοινό είναι οι ομάδες που κατασκευάζουν αυτοματισμό κέντρου επαφής, φωνητικές πιλότες, εργαλεία υποβοήθησης πωλήσεων, φωνητικές παραγγελίες, προγραμματισμός συναντήσεων και εσωτερικά συστήματα hands-free. Αυτές οι ομάδες έχουν τώρα μια νέα επιλογή OpenAI για σύγκριση με υπάρχοντες αγωγούς ομιλίας και άλλα API φωνής σε πραγματικό χρόνο.
Επηρεάζονται επίσης οι ομάδες της πλατφόρμας. Οι πύλες API πολλαπλών μοντέλων που κανονικοποιούν ήδη μοντέλα κειμένου, εικόνας και ενσωμάτωσης θα πρέπει να αποφασίσουν πώς εκθέτουν το GPT-Live-1, πώς αντιπροσωπεύουν τη χρέωση ανά δευτερόλεπτο και πώς διαχωρίζουν τις χρεώσεις φωνητικής περιόδου σύνδεσης από τις δαπάνες μεταγενέστερου μοντέλου και εργαλείου. Οι ομάδες οικονομικών και λειτουργιών θα θέλουν αναφορές που δεν θα θάβουν τα λεπτά ζωντανών περιόδων σύνδεσης στη γενική χρήση AI.
Οι ομάδες προμηθειών θα πρέπει επίσης να δώσουν προσοχή. Η τιμολόγηση ανά λεπτό μπορεί να φαίνεται απλή, αλλά το πλήρες κόστος ενός αναπτυγμένου φωνητικού πράκτορα εξαρτάται από τη διάρκεια της κλήσης, τη συγχρονικότητα, την επιλογή μοντέλου λογικής υποστήριξης, τη χρήση εργαλείου, την καταγραφή, την τηλεφωνία και τις διαδρομές κλιμάκωσης. Η σωστή σύγκριση δεν είναι μόνο η τιμή ανά λεπτό. Είναι το κόστος ανά επιλυμένη εργασία, το κόστος ανά επιτυχή μεταβίβαση και το κόστος ανά αλληλεπίδραση με πελάτη που διατηρείται.
Τι παραμένει αβέβαιο
Οι δημοσιευμένες αξιώσεις λανθάνοντος χρόνου και συγκριτικής αξιολόγησης του OpenAI θα πρέπει να αντιμετωπίζονται ως αναφορές από τον προμηθευτή έως ότου οι πελάτες τις αναπαράγουν στον δικό τους φόρτο εργασίας. Η απόδοση φωνής είναι ιδιαίτερα ευαίσθητη σε συνθήκες δικτύου, μικρόφωνα, τόνους, θόρυβο φόντου, στιλ στροφής και στην πολυπλοκότητα των ροών εργασίας που υποστηρίζονται από εργαλεία.
Είναι επίσης πολύ νωρίς για να πούμε εάν το GPT-Live-1 θα απλοποιήσει τις εταιρικές στοίβες φωνής ή απλώς θα μετατοπίσει την πολυπλοκότητα σε ένα νέο επίπεδο. Οι ρυθμιζόμενες βιομηχανίες εξακολουθούν να χρειάζονται πολιτικές καταγραφής κλήσεων, ροές συναίνεσης, ελέγχους διατήρησης δεδομένων, αρχεία καταγραφής ελέγχου, επεξεργασία, ανθρώπινη κλιμάκωση και διασφαλίσεις σχετικά με εργαλεία που αλλάζουν τα αρχεία λογαριασμού ή ενεργοποιούν συναλλαγές.
Η στρατηγική κατεύθυνση είναι πιο ξεκάθαρη: η φωνητική τεχνητή νοημοσύνη γίνεται μια άλλη προγραμματιζόμενη διεπαφή για συστήματα πρακτόρων και όχι ένα ξεχωριστό κανάλι καινοτομίας. Το GPT-Live-1 προσφέρει στους προγραμματιστές ένα νέο δομικό στοιχείο, αλλά η επιτυχία της παραγωγής θα εξαρτηθεί τόσο από τη διακυβέρνηση, τη δρομολόγηση, τη μέτρηση και την πειθαρχία κόστους όσο και από την ποιότητα ομιλίας.