OpenAI ha publicat una nova Decisions API en versió beta pública, que ofereix als desenvolupadors un punt final separat per a les decisions escrites en lloc de la generació de text complet. La versió beta va arribar el 6 d'octubre amb suport per a GPT-6 Luna i està posicionada per a càrregues de treball on l'espai de sortida es coneix per endavant: predicats, opcions i puntuacions.

Això sona estret, però importa. Una gran part del trànsit d'IA de producció no és una escriptura oberta. És la classificació, l'encaminament, les comprovacions de polítiques adjacents a la moderació, la detecció d'intencions, la selecció d'eines i la lògica de la barana. Aquestes trucades sovint demanen a un model que produeixi una petita resposta estructurada i després obliguen l'aplicació a analitzar-la o validar-la. OpenAI ara tracta aquest patró com la seva pròpia superfície API.

Què ha canviat

Les decisions API converteix el text i les imatges en respostes escrites. OpenAI diu que pot ser fins a 10 vegades més ràpid que les Respostes API per a càrregues de treball de decisions compatibles. A la versió beta pública, els desenvolupadors poden definir les sortides de decisions com a predicats, opcions o puntuacions, en lloc de demanar a un model que generi text arbitrari i després restringeixi el resultat després del fet.

El model de preus també és diferent. OpenAI enumera l'ús de GPT-6 Luna per a les decisions API a 0,10 $ per 1 milió de fitxes d'entrada, sense càrrecs de lectura de memòria cau, escriptura de memòria cau o testimonis de sortida. Això fa que l'economia de la unitat sigui més fàcil de modelar per a capes de decisió de gran volum perquè la factura només està lligada al volum d'entrada.

La versió no substitueix el xat, les respostes o les API orientades a agents. Crea una ruta més especialitzada per als casos en què l'aplicació necessita una resposta mecanografiada fiable, no un paràgraf. Per als equips que ja divideixen les càrregues de treball en mides de models, nivells de latència i rutes de proveïdors, això afegeix una altra categoria a l'arquitectura: trucades de decisió.

Per què els desenvolupadors haurien de preocupar-se

Moltes aplicacions d'IA ja utilitzen petites trucades de models com a lògica de control intern. Un assistent d'assistència pot classificar un bitllet abans de triar un flux de treball. Un agent de codificació pot decidir quina eina trucar a continuació. Un sistema de processament de documents pot puntuar si un registre compleix un llindar de política. Un producte orientat al client pot dirigir les sol·licituds entre models més barats i més capaços.

Fins ara, aquests patrons sovint s'implementaven com a trucades de generació normals amb peticions estrictes, JSON esquemes, reintents i capes de validació. Aquest enfocament funciona, però comporta un sobrecàrrec. Els desenvolupadors paguen pels testimonis de sortida, gestionen els errors d'anàlisi i sovint accepten més latència de la que hauria de requerir la decisió en si mateixa.

Un punt final de decisió escrit canvia aquesta compensació. Si la sortida es pot representar com un booleà, una elecció limitada o una puntuació, els equips poden treure la crida d'una ruta generativa general. Això pot reduir la latència i simplificar el codi de l'aplicació. També pot reduir l'ambigüitat en els registres i les analítiques perquè el propòsit de la trucada és explícit.

És probable que els casos d'ús més immediats siguin comprovacions internes d'alta freqüència: encaminament de sol·licituds, portes d'elegibilitat de contingut, regles d'escalada, passos de selecció d'eines i polítiques de selecció de models. En aquests llocs, les petites millores en la latència i el cost poden importar perquè la trucada de decisió pot tenir lloc abans de cada sol·licitud de model més gran.

Implicacions de costos i governança

El preu només d'entrada és el detall comercial que cal veure. Per als equips que executen grans volums de baranes d'agents o decisions d'encaminament, l'eliminació de la facturació de testimonis de sortida canvia la comparació amb models de xat petits, motors de regles i punts finals de classificadors específics del proveïdor. També fa que les previsions de costos siguin menys sensibles a la verbositat de la sortida o als reintents d'esquema.

Això no vol dir que tots els classificadors hagin de passar a les decisions API. Les regles deterministes encara seran més barates i més fàcils d'auditar quan la lògica sigui senzilla. Els filtres d'inserció, de cerca o de base de dades existents poden ser més adequats per a alguns problemes d'encaminament. Però quan ja s'utilitza un model per interpretar text o imatges desordenats en una resposta limitada, el nou API ofereix als equips una opció d'adquisició i enginyeria més neta.

Per als equips de plataforma, el problema més important és la taxonomia. Si totes les trucades d'IA es tracten com a finalitzacions de xat o respostes genèriques als taulers interns, les càrregues de treball de decisions seran difícils de gestionar. Tenen diferents expectatives de latència, comportament de facturació i modes de fallada. Les organitzacions amb programes madurs de gestió de costos LLM hauran de separar el trànsit de decisions del trànsit de generació perquè l'encaminament, els pressupostos i les alertes reflecteixin com es comporta realment la càrrega de treball.

El mateix s'aplica a les passarel·les. És possible que una passarela d'AI API multimodel que només normalitzi les trucades d'estil de xat no sigui suficient si els proveïdors continuen creant punts finals especialitzats per a decisions, eines, lots, àudio en directe i agents. Les plataformes B2B LLM i els plans de control interns d'IA poden necessitar categories de punt final de primera classe per prendre decisions escrites en lloc de forçar-ho tot a través d'una abstracció de xat.

Qui està afectat

Els desenvolupadors d'aplicacions obtenen el benefici més directe si mantenen una classificació o un codi d'encaminament molt ràpid. El nou API els pot permetre substituir els fluxos d'indicació i anàlisi fràgils per sortides escrites que s'ajustin millor a la màquina d'estat intern de l'aplicació.

Els equips de la plataforma d'IA es veuen afectats perquè hauran de decidir si les decisions API s'exposen com una capacitat aprovada independent, com es registra i quins equips la poden utilitzar. Els revisors de seguretat i compliment voldran saber si els resultats de decisions s'utilitzen per al control d'accés, l'elegibilitat dels usuaris, els fluxos de treball sanitaris, la contractació, les decisions financeres o altres processos sensibles.

Els equips de finances i operacions també haurien de prestar atenció. Les trucades de decisió poden ser invisibles als informes executius si s'agrupen en un ús de model més ampli. Una vegada que les aplicacions comencen a utilitzar les trucades de model com a lògica del pla de control, no només per a la generació orientada a l'usuari, LLM API atribució de costos ha de capturar la funció empresarial de la trucada, no només el nom del model.

Què segueix sent incert

L'anunci beta estableix la forma bàsica del API, però els detalls importants de la producció encara necessiten validació. OpenAI no ha proporcionat proves de referència independents per a la afirmació de "fins a 10 vegades més ràpid" en càrregues de treball reals de l'empresa. Els desenvolupadors hauran de provar la latència amb les seves pròpies mides d'entrada, càrregues útils d'imatge, regions i patrons de concurrència.

Tampoc està clar fins a quin punt serà estable la interfície beta, com es compararan els límits de velocitat amb altres superfícies OpenAI API i com evolucionaran les decisions API juntament amb les Respostes i les futures API d'agent. El preu és atractiu per a capes de decisions de gran volum, però els preus beta i el comportament dels punts finals no s'han de tractar com a permanents sense la revisió del contracte.

El senyal estratègic és clar, però: OpenAI està desagregant un altre patró comú d'aplicacions de LLM de la generació de propòsit general. Per a les empreses, això vol dir que l'arquitectura d'IA cada cop està menys a l'hora d'escollir un punt final de model i més de fer coincidir cada càrrega de treball amb la API primitiva correcta.