OpenAI je predstavil API za agente v javni različici beta, ki razvijalcem omogoča prvi način za izdelavo in zagon agentov v oblaku z uporabo upravljanega paketa Codex. Predstavitev 10. septembra ni še ena izdaja modela. To je infrastrukturna poteza: OpenAI zapakira čas izvajanja okoli dela agentov, vključno s pasom, izbirami izvajalnega okolja in plastjo oblaka, ki je potrebna za dolgotrajnejša opravila.
Za ekipe, ki že eksperimentirajo s kodirnimi agenti, raziskovalnimi agenti, avtomatizacijo podpore ali notranjimi pomočniki za potek dela, je sprememba pomembna. Namesto sestavljanja klicev modela, izvajanja orodja, stanja datoteke, pomnilnika opravil, peskovnika in ponovnih poskusov lahko razvijalci začnejo z API-jem, zasnovanim okoli sej agentov. OpenAI pravi, da beta razvijalcem omogoča izbiro med peskovnikom, ki ga upravlja OpenAI, lastno infrastrukturo ali podprtimi partnerji peskovnika. Prav tako piše, da poleg uporabljenih žetonov in orodij ni nobenih dodatnih pristojbin za API agentov.
Ta podrobnost o ceni je pomembna, vendar je ne smemo zamenjati za preprostost. Agenti lahko porabijo žetone med načrtovanjem, uporabo orodij, pregledom datotek, delegiranjem podopravil in ponavljajočimi se poskusi. Ko se delo premakne z vzorca hitrega odziva na tekoči proces agenta, morajo podjetja meriti stroške na ravni delovnega toka in seje, ne samo na ravni posamezne zahteve.
Kaj se je spremenilo
Bistvena sprememba je, da OpenAI ponuja sloj upravljanega agenta, namesto da strankam prepusti upravljanje lastnega sklada. Codex se je že povezal s poteki dela agentov, usmerjenimi v programsko opremo. Agents API omogoča ta pas na voljo kot javno beta razvijalsko površino za izvajanje v oblaku.
To pomeni, da se enota integracije širi. Običajna integracija Enterprise LLM API običajno sledi zahtevam, imenom modelov, količinam žetonov, zakasnitvam, napakam in ključem. Integracija agenta mora upoštevati tudi sejo, razpoložljiva orodja, izbrani peskovnik, dodeljena dovoljenja in morebitne vpletene podagente ali opravila v ozadju.
Infrastrukturne možnosti OpenAI kažejo na praktično razcepitev trga. Nekatere ekipe bodo imele raje peskovnik, ki ga upravlja OpenAI, ker zmanjšuje operativno breme. Drugi, zlasti v reguliranih ali varnostno občutljivih okoljih, bodo želeli, da agenti delujejo v njihovi lastni infrastrukturi ali znotraj partnerskih peskovnikov, kjer je mogoče strožje nadzorovati dostop do omrežja, rezidenčnost podatkov in nadzor nad revizijo.
Zakaj bi morala biti podjetja pozorna
Uvedba se zgodi v trenutku, ko se delo umetne inteligence v podjetjih preusmerja z vmesnikov za klepet na sisteme, ki lahko ukrepajo. Model, ki odgovarja na vprašanje, je ena vrsta tveganja. Agent, ki bere datoteke, kliče orodja, ureja kodo, odpira vstopnice, poizveduje po notranjih sistemih ali izvaja ukaze lupine, je drugačen operacijski model.
Za razvijalce lahko API upravljanega agenta zmanjša nediferencirano delo platforme. Izgradnja zanesljivega snopa zahteva odločitve o stanju, shemah orodij, obravnavanju napak, življenjskem ciklu peskovnika, opazljivosti in varnostnih pregledih. Različica, ki jo upravlja prodajalec, lahko skupinam izdelkov omogoči hitrejše premikanje, še posebej, če želijo ustvariti prototip agentnih funkcij, ne da bi vzdrževali vso to napeljavo.
Za skupine za platformo in varnost ista abstrakcija ustvarja nova vprašanja upravljanja. Kateri ključi API lahko ustvarijo agente? Katere peskovnike lahko uporabljajo ti agenti? Katera orodja so privzeto dovoljena? Ali lahko ekipa omeji porabo za eno sejo agenta ali razred delovnih tokov? Ali lahko dnevniki razlikujejo med odzivom modela, klicem orodja, operacijo datoteke in delegiranim podopravilom?
Tukaj poslovni učinek postane konkreten. Poteke dela agentov je težje določiti v proračunu kot običajne zaključke, ker je količina dela manj predvidljiva. Uporabnik lahko zahteva preprost odgovor, agent pa lahko pregleda kontekst, zažene orodja, ustvari načrt, ga revidira in znova poskusi neuspešna dejanja. Dejstvo, da OpenAI ne dodaja ločene pristojbine za API agentov, ne odpravlja potrebe po proračunih, opozorilih in analizi uporabe. Računovodstvo žetonov in orodij postane površina finančnega nadzora.
Koga to zadeva
Najbolj neposredno občinstvo so inženirske ekipe, ki gradijo izdelke agentov na modelih OpenAI. Zdaj imajo upravljano pot, ki lahko nadomesti dele internega sistema ali pospeši nove projekte. Zagonska podjetja, ki gradijo razvojna orodja AI, izdelke za notranjo avtomatizacijo, agenti za operacije s strankami ali pomočniki pri raziskavah, morda vidijo API kot hitrejšo pot do proizvodnje.
Velika podjetja ga bodo ovrednotila drugače. Morda bodo cenili izvajalno okolje posrednika prve osebe, vendar bodo tudi vprašali, kako se ujema z obstoječo varnostjo v oblaku, pregledom dobavne verige programske opreme, nadzorom identitete, nabavo in odzivom na incidente.Možnost izbire partnerjev za infrastrukturo ali peskovnik je lahko pomembna za te kupce, ker se lahko izvajanje agentov dotakne občutljivih podatkov in privilegiranih sistemov.
Prizadeti so tudi prodajalci prehodov AI in možnosti opazovanja. Prehod, ki vidi samo klice neobdelanega modela, bo zamudil veliko pomembnega v delovnem toku agenta. Ustrezna telemetrija zdaj vključuje identiteto agenta, trajanje seje, zaporedje orodij, okolje peskovnika, dogodke odobritve, obnašanje predpomnilnika, ponovne poskuse in ceno na dokončano nalogo. Praktična povezava B2B LLM je v tej nadzorni plasti: ekipe, ki uporabljajo več modelov in API-jev, potrebujejo dosledno upravljanje API-ključev, upravljanje stroškov in analitiko uporabe, tudi ko aplikacijska plast postane agentska.
Kaj ostaja negotovo
Oznaka beta pušča več odprtih vprašanj. Javni API-ji beta se pogosto spremenijo, ko razvijalci odkrijejo robne primere v zvezi z dolgotrajnimi opravili, upravljanjem stanja, dovoljenji za orodja in mejami uvajanja. OpenAI je opisal infrastrukturne izbire in stroškovni model, vendar bodo morali kupci še vedno potrditi operativne podrobnosti, preden bodo API obravnavali kot osnovo za kritične poteke dela.
Obstaja tudi konkurenčno vprašanje. Agentska infrastruktura postaja kategorija izdelkov in ne le funkcija znotraj modelnih API-jev. Ponudniki oblakov, podjetja z orodji za razvijalce, platforme SaaS in prodajalci prehodov AI se usmerjajo k upravljanemu izvajanju agentov, uveljavljanju politik in opazovanju. Prednost OpenAI je, da lahko uskladi model, kabelski snop Codex in izvajalni čas agenta v oblaku v okviru ene izkušnje razvijalca. Kompromis je v tem, da podjetja morda ne bodo želela, da ima en prodajalec v lasti vsako plast dostopa do modela, izvajanja in upravljanja.
Najbolj jasna kratkoročna posledica je, da postaja agentska arhitektura vse bolj standardizirana. Razvijalci bodo vedno bolj pričakovali, da bodo API-ji upravljali ne le sklepanje, ampak tudi okolje, v katerem se izvaja avtonomno ali polavtonomno delo. To dviguje merila za vse platforme okoli modela: beleženje, odobritve, ključni obsegi, nadzor stroškov in revizijske sledi morajo zdaj slediti agentu, ne le zahtevi.