OpenAI on teinud GPT-Live-1 oma API kaudu kättesaadavaks, lisades spetsiaalse täisduplekshäälemudeli arendajatele, kes loovad reaalajas kõneagente. Väljalase on vähem oluline, kuna hääl-AI on uus, ja rohkem seetõttu, et OpenAI eraldab nii arhitektuuri kui ka arvelduse puhul esiotsa häälekihi arutlus- ja tööriistade täitmise kihist.
GPT-Live-1 on loodud kuulama ja rääkima samaaegselt, mis on loomuliku katkestuste käsitlemise nõue tugikõnede, müügikvalifikatsiooni, juhendamise, sisemise kasutajatoe ja muude vestluste töövoogude puhul. OpenAI kirjeldab mudelit kui reaalajas häälekihti, mis võib delegeerida sügavamaid arutlusi või toiminguid taustamudelitele, tööriistadele või agentide rakmetele. Praktikas muudab see agentsüsteemide häälliidesele lähedasemaks kui ühele monoliitsele assistendimudelile.
Kaubanduslikud üksikasjad on sama olulised: OpenAI loetleb GPT-Live-1 API hinnad 0,05 dollarit minutis esiotsa hääleseansi jaoks, samas kui taustamudeli kasutamise ja tööriistade kõnede eest tasutakse eraldi. Selle arendaja dokumentatsioonis on mudeli ID loendis gpt-live-1 ja öeldakse, et kõneseansside eest tasutakse sekundis. See loob uue kuluühiku tehisintellekti rakenduste meeskondadele, kes on harjunud mõtlema peamiselt žetoonide, piltide või paketttöödega.
Mis muutus
Siiani ühendasid paljud tootmiskõneagentide virnad kõne tekstiks, keelemudeli, tekst kõneks muutmise, orkestreerimisloogika ja telefoniinfrastruktuuri mitme tarnija ketti. GPT-Live-1 ei eemalda vajadust orkestreerimise järele, kuid annab arendajatele API-põhise häälekomponendi, mis on loodud samaaegseks kuulamiseks ja rääkimiseks.
See eristamine on vestluse latentsuse seisukohalt oluline. Telefoni- või reaalajas toe seadistuses katkestavad kasutajad, parandavad ennast, teevad pausi, räägivad agendiga ja eeldavad, et süsteem reageerib ilma tekstivestluses levinud jäiga pöördemustrita. Täisdupleksmudel on mõeldud selle suhtlusstiili otsesemaks käsitlemiseks. OpenAI positsioneerib GPT-Live-1 ka esiotsa kihina, mis võib raskema töö teistele mudelitele või tööriistadele üle anda, mis sobib paljude ettevõtete reaalajas interaktsiooni eraldamisega otsingust, äriloogikast, kinnitustest ja salvestuste värskendustest.
Samuti on hinnakujundusmudel selge muudatus. Selle asemel, et laadida reaalajas kõnekihti sisend- ja väljundlubade abil, hindab OpenAI seda kulunud seansiaja järgi. Taustamudeli kutsed, toomine, funktsioonikutsed ja muud tööriistad jäävad eraldi. Näiteks viieminutiline klienditoe vestlus ei ole lihtsalt näidisviipa mõne märgilise reaüksusega. See võib hõlmata viit minutit häälseansi arveldamist, mitut arutluskõnet, andmebaasi otsinguid, CRM-i värskendusi ja väliste tööriistade kutsumisi.
Miks see on arendajatele oluline?
Hääleagente on raske hinnata, kasutades samu mõõdikuid nagu vestlusroboteid. Mudel võib võrguühenduseta tekstitestides tugev välja näha ja reaalajas kõnes siiski ebaõnnestuda, kuna see jätab vahele katkestused, reageerib liiga aeglaselt, räägib kasutajast või helistab tööriistadele valel ajal. GPT-Live-1 annab meeskondadele testimiseks veel ühe API-põhise võimaluse, kuid töökoormus jääb arendajale: mõõta latentsust, katkestuste käitumist, transkriptsiooni kvaliteeti, tööriista ajastust, tõrke taastamist ja üleandmise reegleid realistliku liikluse korral.
Insenerimeeskondade jaoks muudab väljalase ka jälgitavuse nõudeid. Ainult märgiloendurid ei selgita hääle töövoo maksumust ega kvaliteeti. Meeskonnad peavad jäädvustama seansi kestust, hüljatud kõnesid, vaikimisaega, taustamudeli kasutamist, tööriistakõnede sagedust, eskalatsioonimäärasid ja korduskatsete mõju kuludele. Hääleagent, mis kõlab sujuvalt, kuid hoiab kallid taustamudelid iga sõnavõtu jaoks aktiivsena, võib olla suures mahus äriliselt ebaatraktiivne.
See on koht, kus tehisintellekti platvormid ja siselüüsid peavad arenema. Praktiline AI API kulukontrolli kiht peab nüüd mõistma nii minuteid kui ka lubasid. See peaks suutma omistada kulutusi meeskonna, kliendi, rakenduse, mudeli ja töövoo etapi järgi, jõustades samal ajal seansipiiranguid ja marsruutimiseeskirju, enne kui kulud tõusevad.
Keda see mõjutab
Kõige vahetum vaatajaskond on meeskonnad, kes loovad kontaktikeskuse automatiseerimist, häälte kaaspiloote, müügiabitööriistu, häältellimust, kohtumiste ajastamist ja käed-vabad sisesüsteeme. Nendel tiimidel on nüüd uus OpenAI valik, mida saab võrrelda olemasolevate kõnekonveierite ja muude reaalajas kõne API-dega.
See mõjutab ka platvormide meeskondi. Mitme mudeliga API-lüüsid, mis juba normaliseerivad teksti-, pildi- ja manustamismudeleid, peavad otsustama, kuidas nad GPT-Live-1 paljastavad, kuidas nad esitavad sekundipõhise arvelduse ja kuidas eraldavad kõneseansi tasud allavoolu mudeli- ja tööriistakulust. Finants- ja operatiivmeeskonnad soovivad aruandeid, mis ei mata reaalajas seansi minuteid üldise tehisintellekti kasutusse.
Hankemeeskonnad peaksid samuti tähelepanu pöörama. Minutihinna määramine võib näida lihtne, kuid juurutatud kõneagendi kogumaksumus sõltub kõne pikkusest, samaaegsusest, taustapõhise arutlusmudeli valikust, tööriista kasutamisest, logimisest, telefonist ja eskalatsiooniteedest. Õige võrdlus pole ainult minutihind. See on kulu lahendatud ülesande kohta, kulu eduka üleandmise kohta ja kulu säilinud kliendisuhtluse kohta.
Mis jääb ebaselgeks
OpenAI avaldatud latentsus- ja võrdlusaluse väiteid tuleks käsitleda tarnija teatatud nõuetena, kuni kliendid need oma töökoormuses kordavad. Hääle jõudlus on eriti tundlik võrgutingimuste, mikrofonide, aktsentide, taustmüra, pöörde stiili ja tööriistadega toetatud töövoogude keerukuse suhtes.
Samuti on liiga vara öelda, kas GPT-Live-1 lihtsustab ettevõtte kõnevirnasid või muudab keerukuse lihtsalt uude kihti. Reguleeritud tööstusharud vajavad endiselt kõnede salvestamise eeskirju, nõusolekuvooge, andmete säilitamise juhtelemente, auditi logisid, redigeerimist, inimestepoolset eskalatsiooni ja kaitsemeetmeid tööriistade ümber, mis muudavad kontokirjeid või käivitavad tehinguid.
Strateegiline suund on selgem: hääl-AI-st on saamas agendisüsteemide teine programmeeritav liides, mitte eraldiseisev kanal. GPT-Live-1 annab arendajatele uue ehitusploki, kuid tootmise edu sõltub nii juhtimisest, marsruutimisest, mõõtmisest ja kuludistsipliinist kui ka kõne kvaliteedist.