OpenAI je omogočil GPT-Live-1 na voljo prek svojega API-ja in dodal namenski dupleksni glasovni model za razvijalce, ki gradijo govorne posrednike v realnem času. Izdaja je manj pomembna, ker je glasovna umetna inteligenca nova, bolj pa zato, ker OpenAI ločuje sprednjo glasovno plast od plasti sklepanja in izvajanja orodij tako v arhitekturi kot pri zaračunavanju.

GPT-Live-1 je zasnovan tako, da posluša in govori hkrati, kar je zahteva za naravno obravnavo prekinitev pri klicih podpore, prodajnih kvalifikacijah, mentorstvu, notranjih službah za pomoč in drugih pogovornih delovnih tokovih. OpenAI model opisuje kot glasovno plast v realnem času, ki lahko prenese globlje sklepanje ali dejanja na zaledne modele, orodja ali agentski pas. V praksi je zaradi tega bližje glasovnemu vmesniku za agentske sisteme kot enemu monolitnemu modelu pomočnika.

Komercialne podrobnosti so prav tako pomembne: OpenAI navaja cene API-ja GPT-Live-1 pri 0,05 USD na minuto za sprednjo glasovno sejo, medtem ko se uporaba zalednega modela in klici orodja zaračunavajo ločeno. Njegova dokumentacija za razvijalce navaja ID modela kot gpt-live-1 in pravi, da se glasovne seje obračunavajo na sekundo. To ustvarja novo stroškovno enoto za skupine aplikacij AI, ki so navajene razmišljati predvsem v žetonih, slikah ali paketnih opravilih.

Kaj se je spremenilo

Do sedaj so številni nizi produkcijskih glasovnih posrednikov združevali govor v besedilo, jezikovni model, besedilo v govor, logiko orkestracije in telefonsko infrastrukturo v verigo več ponudnikov. GPT-Live-1 ne odpravlja potrebe po orkestraciji, ampak daje razvijalcem izvorno glasovno komponento API-ja, zgrajeno za hkratno poslušanje in govorjenje.

Ta razlika je pomembna za pogovorno zakasnitev. V nastavitvi podpore po telefonu ali v živo uporabniki prekinjajo, se sami popravljajo, začasno ustavljajo, pregovarjajo posrednika in pričakujejo, da se bo sistem odzval brez togega vzorca menjavanja, ki je pogost v besedilnem klepetu. Model s polnim dupleksom naj bi bolj neposredno obravnaval ta slog interakcije. OpenAI postavlja GPT-Live-1 tudi kot sprednji sloj, ki lahko težje delo prenese na druge modele ali orodja, kar ustreza načinu, kako mnoga podjetja že ločujejo interakcijo v realnem času od pridobivanja, poslovne logike, odobritev in posodobitev zapisov.

Model oblikovanja cen je prav tako očitna sprememba. Namesto zaračunavanja glasovne plasti v živo z vhodnimi in izhodnimi žetoni, jo OpenAI ceni po pretečenem času seje. Klici modela zaledja, iskanje, klici funkcij in druga orodja ostajajo ločena. Petminutni pogovor s podporo strankam na primer ni le vzorčni poziv z nekaj vrstičnimi postavkami žetonov. Vključuje lahko pet minut zaračunavanja govorne seje, več klicev za razmišljanje, iskanja v bazi podatkov, posodobitve CRM in klice zunanjih orodij.

Zakaj je to pomembno za razvijalce

Glasovne posrednike je težko oceniti z uporabo istih meritev kot klepetalne robote. Model je lahko videti močan v testih besedila brez povezave in še vedno ne uspe v govoru v živo, ker zgreši prekinitve, se odziva prepočasi, govori namesto uporabnika ali kliče orodja ob nepravem času. GPT-Live-1 daje ekipam še eno izvorno možnost API-ja za testiranje, vendar operativno breme ostane na razvijalcu: izmerite zakasnitev, vedenje prekinitev, kakovost prepisa, čas orodij, obnovitev napak in pravila predaje v realnem prometu.

Za inženirske ekipe izdaja spreminja tudi zahteve glede opazovanja. Samo števci žetonov ne bodo pojasnili stroškov ali kakovosti glasovnega poteka dela. Ekipe morajo zajeti trajanje seje, prepuščene klice, čas utišanja, uporabo zalednega modela, pogostost klicev orodij, stopnjo stopnjevanja in vpliv ponovnih poskusov na stroške. Glasovni posrednik, ki zveni gladko, vendar ohranja drage zaledne modele aktivne za vsako izjavo, je lahko v velikem obsegu komercialno neprivlačen.

Tukaj se morajo razvijati platforme AI in notranji prehodi. Plast praktičnega API-ja za nadzor stroškov mora zdaj razumeti minute in žetone. Moral bi imeti možnost pripisati porabo ekipi, stranki, aplikaciji, modelu in koraku delovnega toka, pri tem pa uveljaviti omejitve sej in politike usmerjanja, preden stroški narastejo.

Kdo je prizadet

Najbolj neposredno občinstvo so ekipe, ki gradijo avtomatizacijo kontaktnih centrov, glasovne kopilote, orodja za pomoč pri prodaji, glasovno naročanje, razporejanje sestankov in prostoročne notranje sisteme. Te ekipe imajo zdaj novo možnost OpenAI za primerjavo z obstoječimi govornimi kanali in drugimi glasovnimi API-ji v realnem času.

To vpliva tudi na ekipe platforme. Prehodi API-jev z več modeli, ki že normalizirajo besedilne, slikovne in vdelane modele, se bodo morali odločiti, kako bodo izpostavili GPT-Live-1, kako bodo predstavljali zaračunavanje na sekundo in kako bodo ločevali stroške glasovnih sej od nadaljnjih modelov in porabe orodja. Finančne in operativne ekipe bodo želele poročila, ki ne zakopljejo minut sej v živo v generično uporabo umetne inteligence.

Pozorne bi morale biti tudi ekipe za nabavo. Cene na minuto so lahko videti preproste, vendar so celotni stroški razporejenega govornega agenta odvisni od dolžine klica, sočasnosti, izbire modela razmišljanja v ozadju, uporabe orodja, beleženja, telefonije in poti eskalacije. Prava primerjava ni le cena na minuto. To je strošek na rešeno nalogo, strošek na uspešno predajo in strošek na zadržano interakcijo s stranko.

Kaj ostaja negotovo

Zakasnitve in primerjalne trditve OpenAI, ki jih je objavil OpenAI, je treba obravnavati kot navedbe prodajalca, dokler jih stranke ne reproducirajo v svojih delovnih obremenitvah. Glasovna zmogljivost je še posebej občutljiva na omrežne razmere, mikrofone, poudarke, hrup v ozadju, slog menjave in zapletenost delovnih tokov, podprtih z orodji.

Prav tako je še prezgodaj reči, ali bo GPT-Live-1 poenostavil glasovne nize podjetij ali preprosto premaknil kompleksnost v novo plast. Regulirane panoge še vedno potrebujejo pravilnike o snemanju klicev, tokove privolitve, nadzor hrambe podatkov, revizijske dnevnike, redigiranje, človeško stopnjevanje in zaščitne ukrepe okoli orodij, ki spreminjajo zapise računa ali sprožijo transakcije.

Strateška usmeritev je jasnejša: glasovna umetna inteligenca postaja še en vmesnik, ki ga je mogoče programirati za agentske sisteme, ne ločen kanal novosti. GPT-Live-1 daje razvijalcem nov gradnik, vendar bo uspeh proizvodnje odvisen od upravljanja, usmerjanja, merjenja in stroškovne discipline prav tako kot kakovost govora.