OpenAI on avalikus beetaversioonis kasutusele võtnud agentide API, mis annab arendajatele võimaluse hallatud Codexi rakmete abil pilveagente luua ja käitada. 10. septembri turuletoomine ei ole järjekordne mudeli väljalase. See on infrastruktuuri samm: OpenAI koondab käitusaja agenditöö ümber, sealhulgas rakmed, täitmiskeskkonna valikud ja pikemaajaliste ülesannete jaoks vajalik pilvekiht.
Meeskondade jaoks, kes juba katsetavad kodeerimisagentide, uurimisagentide, tugiautomaatika või sisemiste töövooassistentidega, on muudatus oluline. Mudelikutsete, tööriista täitmise, faili oleku, ülesannete mälu, liivakasti ja korduskatsete ühendamise asemel saavad arendajad alustada API-st, mis on loodud agendiseansside ümber. OpenAI ütleb, et beetaversioon võimaldab arendajatel valida OpenAI hallatava liivakasti, oma infrastruktuuri või toetatud liivakastipartnerite vahel. Samuti öeldakse, et lisaks kasutatud märkidele ja tööriistadele pole Agents API lisatasusid.
See hinnakujunduse üksikasjad on olulised, kuid seda ei tohiks segi ajada lihtsusega. Agendid saavad kasutada märke planeerimise, tööriistade kasutamise, failide kontrollimise, alamülesannete delegeerimise ja korduvate katsete jaoks. Kui töö liigub kiire reageerimise mustrilt töötavale agendiprotsessile, peavad ettevõtted mõõtma kulusid töövoo ja seansi tasemel, mitte ainult individuaalse päringu tasemel.
Mis muutus
Põhiline muudatus seisneb selles, et OpenAI pakub hallatud agendikihti, mitte ei jäta klientidele oma rakmete pinu kasutama. Codex on juba seotud tarkvarale orienteeritud agendi töövoogudega. Agents API teeb selle rakmed kättesaadavaks avaliku beetaversiooni arendaja pinnana pilve täitmiseks.
See tähendab, et integratsiooniüksus laieneb. Tavaline ettevõtte LLM API integratsioon jälgib tavaliselt taotlusi, mudelinimesid, lubade mahtu, latentsust, vigu ja võtmeid. Agendi integreerimine peab arvestama ka seansi, kättesaadavaks tehtud tööriistade, valitud liivakasti, antud lubade ja kõigi kaasatud alamagentide või taustaülesannetega.
OpenAI taristuvalikud viitavad turu praktilisele lõhenemisele. Mõned meeskonnad eelistavad OpenAI hallatavat liivakasti, kuna see vähendab töökoormust. Teised, eriti reguleeritud või turvatundlikes keskkondades, soovivad, et agendid töötaksid oma infrastruktuuris või partnerite liivakastides, kus võrgule juurdepääsu, andmete asukoha ja auditi kontrolli saab rangemalt reguleerida.
Miks peaksid ettevõtted tähelepanu pöörama
Käivitamine toimub hetkel, mil ettevõtte tehisintellekti töö nihkub vestlusliidestelt süsteemidele. Mudel, mis vastab küsimusele, on üks risk. Agent, mis loeb faile, kutsub tööriistu, redigeerib koodi, avab pileteid, teeb päringuid sisesüsteemidest või täidab shellikäske, on erinev töömudel.
Arendajate jaoks võib hallatud agendi API vähendada platvormi eristamata tööd. Usaldusväärse rakmete loomine nõuab otsuseid oleku, tööriistaskeemide, rikete käsitlemise, liivakasti elutsükli, vaadeldavuse ja ohutuskontrolli kohta. Tarnija hallatav versioon võib võimaldada tootetiimidel kiiremini liikuda, eriti kui nad soovivad luua agentuurifunktsioonide prototüüpe ilma kogu torustikku hooldamata.
Platvormi- ja turvameeskondade jaoks tekitab sama abstraktsioon uusi juhtimisküsimusi. Millised API võtmed võivad agente luua? Milliseid liivakaste saavad need agendid kasutada? Millised tööriistad on vaikimisi lubatud? Kas meeskonnal on võimalik piirata ühe agendi seansi või töövoogude klassi kulutusi? Kas logid suudavad eristada mudeli vastust, tööriista kutset, failitoimingut ja delegeeritud alamülesannet?
Siin muutub ärimõju konkreetseks. Agendi töövooge on raskem eelarvestada kui tavalisi lõpetamisi, kuna töö maht on vähem prognoositav. Kasutaja võib küsida lihtsat vastust, kuid agent võib uurida konteksti, käitada tööriistu, luua plaani, seda üle vaadata ja ebaõnnestunud toiminguid uuesti proovida. Asjaolu, et OpenAI ei lisa eraldi agentide API tasu, ei välista vajadust eelarvete, hoiatuste ja kasutusanalüütika järele. See muudab žetoonide ja tööriistade arvestuse finantsjuhtimispinnaks.
Kes see mõjutab
Kõige vahetum vaatajaskond on inseneride meeskonnad, kes loovad OpenAI mudelite peale agentide tooteid. Neil on nüüd hallatav tee, mis võib asendada ettevõttesisese rakmete osi või kiirendada uusi projekte. Tehisintellekti arendustööriistu, sisemisi automatiseerimistooteid, klienditeenindajaid või uurimisassistente loovad idufirmad võivad API-t näha kui kiiremat teed tootmisse.
Suured ettevõtted hindavad seda erinevalt. Nad võivad väärtustada esimese osapoole agendi käitusaega, kuid nad küsivad ka, kuidas see sobib olemasoleva pilveturbe, tarkvara tarneahela ülevaate, identiteedikontrolli, hangete ja intsidentidele reageerimisega.Taristu- või liivakastipartnerite valimise võimalus võib nende ostjate jaoks olla oluline, kuna agendi täitmine võib puudutada tundlikke andmeid ja privilegeeritud süsteeme.
Mõjutatud on ka tehisintelüüsi lüüsi ja jälgitavuse tarnijaid. Lüüsil, mis näeb ainult mudeli töötlemata kõnesid, jääb märkamata suur osa agendi töövoos olulisest. Asjakohane telemeetria hõlmab nüüd agendi identiteeti, seansi kestust, tööriistade järjestust, liivakastikeskkonda, kinnitussündmusi, vahemälu käitumist, korduskatseid ja lõpetatud ülesande maksumust. B2B LLM-i praktiline seos on selles juhtimiskihis: mitut mudelit ja API-sid kasutavad meeskonnad vajavad ühtset API-võtme juhtimist, kulude haldamist ja kasutusanalüüsi isegi siis, kui rakenduskiht muutub agentuuriks.
Mis jääb ebaselgeks
Beeta silt jätab mitu lahtist küsimust. Avaliku beeta API-liidesed muutuvad sageli, kui arendajad avastavad pikaajaliste tööde, olekuhalduse, tööriistalubade ja juurutamispiiride kohta olulisi juhtumeid. OpenAI on kirjeldanud infrastruktuuri valikuid ja kulumudelit, kuid ostjad peavad siiski kinnitama töö üksikasjad, enne kui API-t kriitiliste töövoogude alusena käsitlema.
Seal on ka konkurentsiküsimus. Agendi infrastruktuur on muutumas tootekategooriaks, mitte ainult mudeli API-de funktsiooniks. Pilveteenuse pakkujad, arendajatööriistadega tegelevad ettevõtted, SaaS-i platvormid ja AI lüüsi müüjad liiguvad kõik hallatava agendi täitmise, poliitika jõustamise ja vaadeldavuse poole. OpenAI eeliseks on see, et see suudab viia mudeli, Codexi rakmed ja pilvagendi käitusaja ühe arendaja kogemuse alla. Kompromiss seisneb selles, et ettevõtted ei pruugi soovida, et üks müüja omaks iga mudeli juurdepääsu, täitmise ja juhtimise tasandit.
Kõige selgem lähiaja tagajärg on see, et agendi arhitektuur muutub standardiseeritumaks. Arendajad ootavad üha enam, et API-d haldavad mitte ainult järeldusi, vaid ka keskkonda, kus autonoomne või poolautonoomne töö tehakse. See tõstab iga mudeli ümber olevat platvormi latti: logimine, kinnitused, võtmeulatused, kulukontrollid ja kontrolljäljed peavad nüüd järgima agenti, mitte ainult taotlust.