OpenAI ir ieviesusi aģentu API publiskajā beta versijā, sniedzot izstrādātājiem pirmās puses veidu, kā izveidot un palaist mākoņa aģentus, izmantojot pārvaldītu Codex instalāciju. 10. septembra palaišana nav vēl viens modeļa izlaidums. Tā ir infrastruktūras pārvietošana: OpenAI iepako izpildlaiku ar aģenta darbu, tostarp vadību, izpildes vides izvēli un mākoņa slāni, kas nepieciešams ilgāku darbību veikšanai.
Komandām, kuras jau eksperimentē ar kodēšanas aģentiem, pētniecības aģentiem, atbalsta automatizāciju vai iekšējiem darbplūsmas palīgiem, izmaiņas ir būtiskas. Tā vietā, lai apvienotu modeļu izsaukumus, rīka izpildi, faila stāvokli, uzdevumu atmiņu, smilškastes un atkārtojumus, izstrādātāji var sākt ar API, kas izstrādāta aģentu sesijām. OpenAI saka, ka beta versija ļauj izstrādātājiem izvēlēties starp OpenAI pārvaldītu smilškaste, savu infrastruktūru vai atbalstītiem smilškastes partneriem. Tajā arī teikts, ka nav jāmaksā papildu Agents API maksa, izņemot izmantotos marķierus un rīkus.
Šai cenu noteikšanas informācijai ir nozīme, taču to nevajadzētu sajaukt ar vienkāršību. Aģenti var izmantot marķierus plānošanas, rīku izmantošanas, failu pārbaudes, apakšuzdevumu deleģēšanas un atkārtotu mēģinājumu laikā. Kad darbs pāriet no tūlītējas atbildes modeļa uz darbojošos aģenta procesu, uzņēmumiem ir jāmēra izmaksas darbplūsmas un sesijas līmenī, ne tikai individuālā pieprasījuma līmenī.
Kas mainījās
Galvenās izmaiņas ir tādas, ka OpenAI piedāvā pārvaldīta aģenta slāni, nevis ļauj klientiem darboties pašiem. Codex jau ir kļuvis saistīts ar uz programmatūru orientētām aģentu darbplūsmām. Aģentu API padara šo sistēmu pieejamu kā publisku beta izstrādātāja virsmu mākoņa izpildei.
Tas nozīmē, ka integrācijas vienība paplašinās. Parastā uzņēmuma LLM API integrācija parasti izseko pieprasījumus, modeļu nosaukumus, pilnvaru apjomu, latentumu, kļūdas un atslēgas. Aģenta integrācijai ir arī jāņem vērā sesija, pieejamie rīki, atlasītā smilškaste, piešķirtās atļaujas un visi iesaistītie apakšaģenti vai fona uzdevumi.
OpenAI infrastruktūras iespējas norāda uz praktisku tirgus sadalīšanos. Dažas komandas dos priekšroku OpenAI pārvaldītajai smilšu kastei, jo tā samazina darbības slogu. Citas, īpaši regulētā vai ar drošību saistītā vidē, vēlēsies, lai aģenti darbotos savā infrastruktūrā vai partneru smilšu kastēs, kur var stingrāk pārvaldīt piekļuvi tīklam, datu atrašanās vietu un audita kontroli.
Kāpēc uzņēmumiem vajadzētu pievērst uzmanību
Palaišana notiek brīdī, kad uzņēmuma AI darbs pāriet no tērzēšanas saskarnēm uz sistēmām. Modelis, kas atbild uz jautājumu, ir viens no riska veidiem. Aģents, kas nolasa failus, izsauc rīkus, rediģē kodu, atver biļetes, vaicā iekšējās sistēmas vai izpilda čaulas komandas, ir atšķirīgs darbības modelis.
Izstrādātājiem pārvaldīta aģenta API var samazināt nediferencētu platformas darbu. Lai izveidotu uzticamu instalāciju, ir jāpieņem lēmumi par stāvokli, instrumentu shēmām, kļūmju apstrādi, smilškastes dzīves ciklu, novērojamību un drošības pārbaudēm. Pārdevēja pārvaldīta versija var ļaut produktu komandām pārvietoties ātrāk, it īpaši, ja tās vēlas izveidot aģentu funkciju prototipus, neuzturot visas šīs santehnikas.
Platformas un drošības komandām viena un tā pati abstrakcija rada jaunus pārvaldības jautājumus. Kuras API atslēgas var izveidot aģentus? Kuras smilšu kastes var izmantot šie aģenti? Kuri rīki ir atļauti pēc noklusējuma? Vai komanda var ierobežot izdevumus viena aģenta sesijai vai darbplūsmu klasei? Vai žurnālos var atšķirt modeļa atbildi, rīka izsaukumu, faila darbību un deleģēto apakšuzdevumu?
Šajā gadījumā uzņēmējdarbības ietekme kļūst konkrēta. Aģentu darbplūsmas ir grūtāk plānot budžetu nekā parastās pabeigšanas, jo darba apjoms ir mazāk paredzams. Lietotājs var lūgt vienkāršu atbildi, bet aģents var pārbaudīt kontekstu, palaist rīkus, izveidot plānu, pārskatīt to un vēlreiz mēģināt neveiksmīgas darbības. Tas, ka OpenAI nepievieno atsevišķu aģentu API maksu, neatceļ nepieciešamību pēc budžeta, brīdinājumiem un lietošanas analītikas. Tas padara tokenu un rīku uzskaiti par finanšu kontroles virsmu.
Ietekmētais
Vistiešākā mērķauditorija ir inženieru komandas, kas veido aģentu produktus papildus OpenAI modeļiem. Viņiem tagad ir pārvaldīts ceļš, kas var aizstāt iekšējās instalācijas daļas vai paātrināt jaunus projektus. Jaunuzņēmumi, kas izstrādā AI izstrādes rīkus, iekšējos automatizācijas produktus, klientu operāciju aģentus vai pētniecības palīgus, var uzskatīt, ka API ir ātrāks ceļš uz ražošanu.
Lielie uzņēmumi to novērtēs atšķirīgi. Viņi var novērtēt pirmās puses aģenta izpildlaiku, taču viņi arī jautās, kā tas atbilst esošajai mākoņa drošībai, programmatūras piegādes ķēdes pārskatīšanai, identitātes kontrolei, iepirkumam un reaģēšanai uz incidentiem.Spēja izvēlēties infrastruktūras vai smilškastes partnerus šiem pircējiem var būt svarīga, jo aģenta izpilde var pieskarties sensitīviem datiem un priviliģētām sistēmām.
Ietekmē arī AI vārtejas un novērojamības pakalpojumu sniedzējus. Vārteja, kas redz tikai neapstrādātus modeļu izsaukumus, palaidīs garām lielu daļu no aģenta darbplūsmā svarīgiem jautājumiem. Attiecīgā telemetrija tagad ietver aģenta identitāti, sesijas ilgumu, rīku secību, smilškastes vidi, apstiprināšanas notikumus, kešatmiņas darbību, atkārtojumus un maksu par paveikto uzdevumu. B2B LLM praktiskā saikne ir šajā kontroles slānī: komandām, kuras izmanto vairākus modeļus un API, ir nepieciešama konsekventa API atslēgu pārvaldība, izmaksu pārvaldība un lietojuma analīze pat tad, ja lietojumprogrammas slānis kļūst par aģentu.
Kas paliek neskaidrs
Beta etiķete atstāj vairākus atklātus jautājumus. Publiskās beta API bieži mainās, jo izstrādātāji atklāj sarežģītus gadījumus saistībā ar ilgstošiem darbiem, stāvokļa pārvaldību, rīku atļaujām un izvietošanas robežām. OpenAI ir aprakstījis infrastruktūras izvēles un izmaksu modeli, taču pircējiem joprojām būs jāapstiprina darbības informācija, pirms API uzskatīs par pamatu kritiskām darbplūsmām.
Ir arī konkurences jautājums. Aģentu infrastruktūra kļūst par produktu kategoriju, nevis tikai par funkciju modeļu API. Mākoņu nodrošinātāji, izstrādātāju rīku uzņēmumi, SaaS platformas un AI vārtejas pārdevēji virzās uz pārvaldītu aģentu izpildi, politikas ieviešanu un novērojamību. OpenAI priekšrocība ir tā, ka tas var saskaņot modeli, Codex instalāciju un mākoņa aģenta izpildlaiku vienā izstrādātāja pieredzē. Kompromiss ir tāds, ka uzņēmumi var nevēlēties, lai viens piegādātājs piederētu katram modeļa piekļuves, izpildes un pārvaldības līmenim.
Visskaidrākās tuvākās sekas ir tādas, ka aģentu arhitektūra kļūst arvien standartizētāka. Izstrādātāji arvien vairāk sagaida, ka API pārvaldīs ne tikai secinājumus, bet arī vidi, kurā tiek veikts autonoms vai daļēji autonoms darbs. Tas paaugstina latiņu katrai platformai visā modelī: reģistrēšanai, apstiprinājumiem, atslēgu tvērumiem, izmaksu kontrolei un audita pēdām tagad ir jāseko aģentam, nevis tikai pieprasījumam.