B2BB2B LLM
Zakelijk inzicht

Hoe u een Enterprise API-gateway voor codeeragenten kunt bouwen

Een praktische referentiearchitectuur voor het beheren van codeeragenten voor IDE's, repository's, sandboxes, MCP tools, geheimen, modelproviders en budgetten.

Een codeeragent is niet zomaar een LLM-verzoek. Het kan de broncode lezen, bestanden wijzigen, shell-opdrachten uitvoeren, tools aanroepen, pull-aanvragen openen en een taak voortzetten over vele modelwisselingen. Als de uitvoeringsomgeving geheimen of onbeperkte netwerktoegang openbaart, kan de agent deze ook aanraken.

Dat verandert het gatewayprobleem. Een normale LLM-gateway kan API-oproepen verifiëren, modellen routeren, metertokens gebruiken en bestedingslimieten afdwingen. Een codeeragent API-gateway heeft deze controles nodig, maar moet ook de werklast rondom de modelaanroep regelen: toegang tot de opslagplaats, sandbox-isolatie, gereedschapsrechten, uitwisseling van inloggegevens, uitgaand netwerkverkeer, goedkeuringsstromen en audittrails op taakniveau.

Dit artikel definieert een praktische referentiearchitectuur voor een besturingsvlak voor codeeragenten voor bedrijven. Het is geschreven voor technische leiders en platformteams die agents implementeren in IDE's, GitHub workflows, CLI tools en beheerde sandboxes.

De grens van het controlevlak

De gateway moet zich bevinden tussen de menselijke ontwikkelaar, de runtime van de agent, modelproviders, opslagplaatsen, MCP servers, geheime archieven en interne netwerken. Het mag niet beperkt blijven tot het proxyeren van voltooide chats of modelreacties.

In de praktijk moet het besturingsvlak zeven vragen beantwoorden voor en tijdens elke agenttaak:

  • Voor wie of wat handelt deze agent?
  • Tot welke opslagplaatsen, vertakkingen, bestanden en pakketregisters heeft het toegang?
  • Welke shell-opdrachten, MCP tools en netwerkbestemmingen zijn toegestaan?
  • Welke inloggegevens kunnen worden verstrekt, voor welk doel en voor hoe lang?
  • Welke modelniveaus, budgetten en beurtlimieten zijn van toepassing?
  • Welke acties vereisen menselijke goedkeuring?
  • Welke tracerings-, gebruiks- en auditgegevens moeten worden geëxporteerd?

Dat maakt de codeeragent-gateway onderdeel van de bredere enterprise LLM API infrastructuur, maar met een ander handhavingsoppervlak. De modelaanroep is slechts één stap in de werklast.

Referentiearchitectuur

Een werkbare architectuur heeft zes lagen: identiteit, beleid, sandbox, credential broker, modelgateway en audit- en gebruiksgrootboek. Deze lagen kunnen met verschillende producten worden geïmplementeerd, maar de verantwoordelijkheden moeten gescheiden blijven.

1. Identiteitslaag

De identiteitslaag geeft elke agenttaak een duurzame identiteit die kan worden toegeschreven, beperkt en ingetrokken. Vermijd gedeelde ontwikkelaarssleutels API of generieke serviceaccounts waardoor elke taak er hetzelfde uitziet.

Elke taak moet minimaal het volgende bevatten:

  • Actor: de gebruiker, service of automatisering die de taak heeft gestart.
  • Agentoppervlak: IDE-extensie, CLI, GitHub agent, CI-taak of beheerde sandbox.
  • Reikwijdte van de opslagplaats: organisatie, opslagplaats, filiaal en werkmap.
  • Omgeving: ontwikkeling, testen, fasering of productie.
  • Team en kostenplaats: voor goedkeuring, rapportage en budgethandhaving.
  • Taak-ID: een stabiele identificatie voor modelaanroepen, toolaanroepen, shell-opdrachten en pull-verzoekactiviteiten.

Het sterkste patroon is de identiteit per agent of per productielast met tokens van korte duur. Federatie van werkbelastingidentiteiten is hier handig omdat de agent een vertrouwde bewering kan uitwisselen voor een token met een korte levensduur in plaats van een providersleutel met een lange levensduur bij zich te hebben. Gebruik speciale principes, exacte claimmatching, minimale bevoegdheden en afzonderlijke productie- en niet-productie-identiteiten.

2. Beleidslaag

De beleidslaag is het beslissingspunt voor de werklast. Het zou meer moeten evalueren dan alleen modeltoegang. Een codeeragent kan schade aanrichten via een shell-commando, een MCP tool, een pakketpublicatiestap of een netwerkaanroep, zelfs als het modelverzoek zelf er onschadelijk uitziet.

Het beleid moet betrekking hebben op:

  • Toelatingslijsten voor opslagplaatsen en filiaalbeperkingen.
  • Rechten voor het lezen, schrijven, testen, vastleggen en ophalen van verzoeken.
  • Toegestane en niet-toegestane shell-opdrachtklassen.
  • MCP serverdetectie, verbinding en aanroepen van tools.
  • Uitgaande netwerkmodus: uitgeschakeld, beperkt of geopend op basis van uitzondering.
  • Geheime toegang per bestemming, doel, omgeving en levensduur.
  • Modelniveau, maximale rotaties, maximale gereedschapsoproepen en budgetlimieten.
  • Vereisten voor menselijke goedkeuring voor risicovolle acties.

Het beleidsbeslissingspunt moet worden aangeroepen voordat het hulpprogramma wordt uitgevoerd, en niet alleen vóór modelaanroepen. De agent kan bijvoorbeeld toestemming krijgen om een model om een migratieplan te vragen, maar wordt geblokkeerd voor het uitvoeren van een productiedatabaseopdracht of het publiceren van een pakket.

3. Sandboxlaag

De sandbox is de uitvoeringsgrens voor bestandssysteem-, shell-, pakket- en netwerktoegang. Het moet worden behandeld als een werklastomgeving en niet als een gemakscontainer.

Een praktisch segmentatiemodel is:

  • Alleen-lezen taken met laag risico: geïsoleerd per gebruiker of opslagplaats, geen geheimen, beperkt netwerk.
  • Codewijzigingstaken: geïsoleerde beschrijfbare werkruimten, tokens voor de opslagplaats, inloggegevens voor alleen testen.
  • Infrastructuurtaken: afzonderlijke beveiligde sandboxes, strikte goedkeuringen, geen productiestandaarden.
  • Aan productie gerelateerde taken: zeldzaam, tijdgebonden, intensief geregistreerd en geïsoleerd van normale ontwikkelaarsagenten.

Laat niet-gerelateerde agenten geen beschrijfbare bestandssystemen, caches, inloggegevens of pakketregisters delen, tenzij het delen opzettelijk is. Gedeelde caches kunnen de snelheid verbeteren, maar ze veroorzaken ook besmetting tussen taken en maken forensische analyse moeilijker.

Uitgaand netwerkverkeer moet expliciet zijn. Voor sommige taken zijn pakketregisters, documentatiesites, interne artefactopslagplaatsen of testservices nodig. Dat vereist geen willekeurige uitgaande toegang. Gebruik waar mogelijk beperkte host-toelatingslijsten en registreer daadwerkelijke bestemmingen.

4. Credential Broker

De credential broker bewaart langlevende geheimen buiten de sandbox. De agent mag geen brede cloudsleutels, beheerdertokens voor bronbeheer of geheimen van productieapplicaties ontvangen, simpelweg omdat deze in een ontwikkelaarsworkflow worden uitgevoerd.

De makelaar mag pas kortlopende inloggegevens met een beperkt bereik verstrekken na goedkeuring van het beleid. Een verzoek aan de makelaar moet de taakidentiteit, opslagplaats, bestemming, aangevraagde toestemming en beoogde bewerking bevatten.

Handige makelaarspatronen zijn onder meer:

  • Repositorytokens beperkt tot één repository en korte vervaldatum.
  • Pakketregistertokens beperkt tot installatiebewerkingen, niet tot publiceren.
  • Cloud-inloggegevens beperkt tot niet-productieaccounts en alleen-lezen-acties.
  • Databasegegevens zijn beperkt tot testomgevingen.
  • Ondertekende URL's of tijdelijke toegangsrechten voor specifieke artefacten.

De makelaar moet vage verzoeken weigeren. “Geef deze agent AWS-toegang” is geen veilige beleidseenheid. 'Toestaan dat deze taak een specifiek opslagpad voor staging-objecten gedurende 15 minuten leest' komt dichter in de buurt van een bestuurbare eenheid.

5. Modelgateway

De modelgateway doet er nog steeds toe. Codeeragenten kunnen een hoog tokenvolume genereren via planningslussen, herhaaldelijk lezen van bestanden, testfouten, tool-uitvoer en nieuwe pogingen. De gateway moet de authenticatie, modelrouting, budgethandhaving, gebruiksmeting en providerabstractie afhandelen.

Voeg voor agentworkloads velden toe die een normaal API verzoek mogelijk niet bevat:

  • Agententaak-ID.
  • Sandbox-ID.
  • Repository en branch.
  • Tooloproepen.
  • Maximum beurtbeleid.
  • Goedkeuringsstatus.
  • Risiconiveau.
  • Verwachte taakklasse, zoals documentupdate, testgeneratie, refactor of afhankelijkheidsupgrade.

Met deze metadata kan het platformteam de kosten en betrouwbaarheid van verschillende taaktypen vergelijken in plaats van al het modelgebruik als één ongedifferentieerde stroom te behandelen. Hiermee kunnen beveiligingsteams ook ongebruikelijke gebruikspatronen identificeren, zoals een documentatieagent die herhaalde oproepen doet in verband met veranderingen in de infrastructuur.

6. Controle- en gebruiksgrootboek

Een audittrail van een codeeragent moet modeloproepen verbinden met echte acties. Het gebruik van tokens alleen is niet voldoende.

Exporteer een taaktracering die het volgende bevat:

  • Wie is met de taak begonnen en vanaf welk oppervlak.
  • Welke modelaanbieders en modellagen zijn gebruikt.
  • Tokengebruik, latentie, fouten en kostenschattingen.
  • Repository's, vertakkingen en bestanden aangeraakt.
  • Shell-opdrachten voorgesteld, goedgekeurd, geweigerd en uitgevoerd.
  • MCP servers en tools aangeroepen.
  • Netwerkbestemmingen bereikt of geblokkeerd.
  • Inloggegevens aangevraagd, uitgegeven, geweigerd en verlopen.
  • Pull-verzoeken, commits, opmerkingen of gemaakte problemen.
  • Uiteindelijk resultaat van de taak: voltooid, verlaten, geblokkeerd, teruggedraaid of geëscaleerd.

Bewaring heeft zorg nodig. Traceringen kunnen bedrijfseigen code, prompts, tool-uitvoer, foutenlogboeken en gevoelige configuratiefragmenten omvatten. Bepaal de redactie, sampling, toegangscontrole en retentie voordat u deze breed uitrolt. Een nuttig spoor waar niemand veilig toegang toe heeft, zal de bedrijfsvoering niet helpen.

Voorbeeldbeleid: documentatie-updateagent

Een concreet beleid maakt de architectuur gemakkelijker te evalueren. Overweeg een documentatie-updateagent die wordt gebruikt door een platformtechnisch team.

De agent mag:

  • Bestanden lezen in goedgekeurde documentatieopslagplaatsen.
  • Maak een tijdelijke vertakking.
  • Bewerk Markdown, voorbeelden en gegenereerde documenten.
  • Voer documentatietests, linkcontroles en unit-tests uit voor voorbeelden.
  • Gebruik een goedgekeurd modelniveau met een taakbudget.
  • Open een pull-verzoek dat is toegewezen aan de aanvragende ontwikkelaar.
  • Roep goedgekeurde MCP tools op voor het zoeken in opslagplaatsen en het opzoeken van problemen.

De agent mag het volgende niet doen:

  • Toegang tot productiegeheimen.
  • Push rechtstreeks naar de standaardvertakking.
  • Publiceer pakketten of containerimages.
  • Voer opdrachten voor infrastructuurimplementatie uit.
  • Verbind met willekeurige uitgaande hosts.
  • Gebruik geprivilegieerde bronbeheertokens.
  • Ga verder na het maximale aantal beurten zonder goedkeuring.

Dit beleid is opzettelijk beperkt. Het maakt de agent nog steeds nuttig, maar beperkt de actieradius tot een werktype waarbij beoordelen en terugdraaien eenvoudig zijn.

Implementatiestappen

Stap 1: Inventarisatieagentoppervlakken

Geef een overzicht van alle plaatsen waar coderingsagents kunnen worden uitgevoerd: IDE-plug-ins, CLI tools, GitHub- of Git-provideragents, CI-workflows, beheerde sandboxes, interne ontwikkelaarsportals en experimentele scripts. Voeg tools toe die momenteel niet officieel zijn. Schaduwadoptie is gebruikelijk wanneer teams een nuttige agent vinden voordat het platformteam een controlemodel heeft.

Stap 2: taakklassen definiëren

Groepeer gebruiksscenario's op risico en rechten. Nuttige startlessen zijn onder meer documentatiewijzigingen, het genereren van tests, code-uitleg, afhankelijkheidsupdates, refactoring, incidentanalyse, infrastructuurwijzigingen en foutopsporing in de productie.

Elke klasse moet worden toegewezen aan toegestane opslagplaatsen, schrijfrechten, netwerktoegang, tools, geheimen, modellagen en goedkeuringsregels.

Stap 3: Agentidentiteit standaardiseren

Vereist dat elke taak metagegevens van actoren, teams, opslagplaatsen, omgevingen en taak-ID's bevat. Als een tool deze velden niet rechtstreeks kan doorgeven, wikkel er dan een launcher, proxy of broker in die ze kan koppelen.

Stap 4: Beleid vóór uitvoering

Begin met hoogwaardige handhavingspunten: schrijftoegang tot de opslagplaats, shell-opdrachten, MCP toolaanroepen, referentieverzoeken, uitgaande netwerktoegang en modelbudget. Logboekregistratie zonder handhaving is nuttig tijdens detectie, maar het is geen governance.

Stap 5: Verplaats geheimen uit sandboxes

Verwijder statische geheimen uit agentomgevingen. Gebruik een broker- of kluisstroom voor kortlopende inloggegevens. Beperk de inloggegevens op bestemming en doel, en registreer de uitgifte en vervaldatum.

Stap 6: Agent-bewuste telemetrie exporteren

Verzend modelgebruik, toolgebeurtenissen, opdrachtgoedkeuringen, activiteit in de opslagplaats, uitgifte van inloggegevens en netwerkgebeurtenissen naar hetzelfde analysevlak. Het doel is niet alleen een veiligheidsbeoordeling. Het zijn ook AI-gebruiksanalyses waar technische en financiële teams op kunnen vertrouwen.

Stap 7: Geleidelijk uitrollen

Schakel standaard brede toegang uit. Schakel agenten in voor geselecteerde organisaties, opslagplaatsen of taakklassen. Begin met alleen-lezen en schrijfworkflows met een laag risico, en breid dit vervolgens uit nadat auditlogboeken, kostenattributie en goedkeuringspaden werken.

Feiten, aanbevelingen en voorspellingen

Feiten: De huidige agentplatforms bieden al controles die in deze richting wijzen. OpenAI documentatie scheidt het gehoste agentharnas van sandbox-omgevingen en documenteert sandbox-besturingselementen voor bestanden, pakketten, shell-uitvoering, MCP servers en uitgaande netwerktoegang. GitHub documenteert ondernemingscontroles voor agentbeschikbaarheid, agentsessies, auditgebeurtenissen, MCP gebruik en codeeragentbeleid. Anthropic documenten Claude Codegateway en proxypatronen voor gecentraliseerde authenticatie, bijhouden van gebruik, kostencontroles, auditlogboekregistratie, modelrouting en routering van bedrijfsnetwerken.

Aanbevelingen: Behandel codeeragenten als beheerde productietaken. Gebruik een identiteit per agent of per werklast, isoleer sandboxen, beperk toegang tot tools en netwerken, makelaarsreferenties, handhaaf budget- en draailimieten, en exporteer traceringen op taakniveau. Plaats beleid vóór uitvoering, en niet alleen vóór modelaanroepen.

Voorspellingen: Het beheer van codeeragenten zal een standaard verantwoordelijkheid voor platformtechniek worden naarmate de adoptie zich verplaatst van individuele ontwikkelaars naar organisatiebrede implementatie. Beheerders die eigen zijn aan de provider zullen nuttig blijven, maar bedrijven die meerdere agentoppervlakken en modelaanbieders gebruiken, hebben een normalisatielaag nodig voor beleid, rapportage en kostentoerekening.

Afwegingen

Een centrale gateway geeft beveiligings-, platform- en financiële teams consistente controles, maar voegt operationele verantwoordelijkheid toe. Het team dat eigenaar is van de gateway moet ontwikkelaarstools ondersteunen die vaak zijn ontworpen om rechtstreeks verbinding te maken met providers.

Strikte sandbox- en netwerkisolatie verminderen de explosieradius, maar kunnen echte workflows verstoren. Voor pakketinstallaties, privéregisters, integratietests en interne documentatie is mogelijk allemaal netwerktoegang vereist. Het antwoord is meestal beperkte toegang met zichtbaarheid, en geen algemeen netwerkverbod.

Identiteit per agent verbetert de attributie en intrekking, maar heeft levenscyclusautomatisering nodig. Het handmatig beheren van duizenden serviceaccounts of sleutels zal mislukken.

Geheimen van makelaars verminderen de blootstelling, maar de makelaar wordt een cruciale infrastructuur. Bewaak het als een authenticatiesysteem, omdat een mislukte uitgifte van legitimatiegegevens de werkstromen van agenten kan stopzetten en overmatige uitgifte veiligheidsrisico's kan veroorzaken.

Gedetailleerde traceringen helpen bij het opsporen van fouten en naleving, maar ze kunnen ook gevoelige code en uitvoer vastleggen. Redactie en toegangscontrole zijn geen optionele extra's.

Conclusie waar actie op ondernomen kan worden

De praktische manier om codeeragenten te beheren is door ze niet langer te behandelen als chatsessies met een groter contextvenster. Het zijn autonome technische workloads met modeltoegang, toegang tot het bestandssysteem, toegang tot tools, toegang tot de opslagplaats en soms toegang tot inloggegevens.

Bouw de poort rond die realiteit. Geef elke taak een identiteit. Evalueer het beleid voordat tools en shell-opdrachten worden uitgevoerd. Isoleer zandbakken. Houd langlevende geheimen uit het milieu. Routeer modeloproepen via een gecontroleerde gateway. Exporteer traceringen die het tokengebruik verbinden met echte technische acties.

Begin smal: één agentoppervlak, één taakklasse met laag risico, één set opslagplaatsen, beperkte netwerktoegang, geen productiegeheimen en auditlogboeken op taakniveau. Alleen uitvouwen als het controlevlak kan laten zien wie wat heeft gedaan, welke tools zijn gebruikt, wat het heeft gekost en wat er is veranderd.

Veelgestelde vragen

Is een codeeragent API-gateway hetzelfde als een LLM-gateway?

Nee. Een LLM-gateway regelt de toegang tot het model, de routering, het gebruik en de kosten. Een codeeragent API-gateway regelt ook de uitvoeringsomgeving rondom het model: opslagplaatsen, shell-opdrachten, MCP tools, inloggegevens, netwerktoegang, sandboxen, goedkeuringen en taaktraceringen.

Moet elke codeeragent zijn eigen API sleutel krijgen?

Niet noodzakelijkerwijs een sleutel met een lange levensduur. Het sterkere patroon is een identiteit per agent of per werklast, waarbij inloggegevens van korte duur worden uitgegeven via een identiteitsstroom van een makelaar of werklast. De belangrijke vereiste is attributie en intrekking op taak- of werklastniveau.

Waar moet beleidshandhaving plaatsvinden?

Het beleid moet worden afgedwongen vóór modelaanroepen en vóór de uitvoering van de tool. Voor schrijfbewerkingen in de opslagplaats, shell-opdrachten, MCP aanroepen, referentieverzoeken, pakketpublicatie en uitgaande netwerktoegang zijn beleidscontroles nodig.

Wat is de veiligste eerste implementatie?

Begin met alleen-lezen of schrijftaken met een laag risico, zoals documentatie-updates of het genereren van tests. Gebruik beperkte opslagplaatsen, geen productiegeheimen, beperkte modelbudgetten, gecontroleerde netwerktoegang en beoordeling van pull-aanvragen vóór het samenvoegen.

Gerelateerd leesmateriaal

FAQ

Veelgestelde vragen

Is een codeeragent API-gateway hetzelfde als een LLM-gateway?
Nee. Een LLM-gateway beheert de toegang tot het model, de routering, het gebruik en de kosten. Een codeeragent API-gateway regelt ook de uitvoeringsomgeving rondom het model: opslagplaatsen, shell-opdrachten, MCP tools, inloggegevens, netwerktoegang, sandboxen, goedkeuringen en taaktraceringen.
Moet elke codeeragent zijn eigen API-sleutel krijgen?
Niet noodzakelijkerwijs een sleutel met een lange levensduur. Het sterkere patroon is een identiteit per agent of per werklast, waarbij inloggegevens van korte duur worden uitgegeven via een identiteitsstroom van een makelaar of werklast. De belangrijke vereiste is attributie en intrekking op taak- of werklastniveau.
Waar moet beleidshandhaving plaatsvinden?
Beleid moet worden afgedwongen vóór modelaanroepen en vóór uitvoering van het hulpprogramma. Voor het schrijven in de opslagplaats, shell-opdrachten, MCP-aanroepen, referentieverzoeken, het publiceren van pakketten en uitgaande netwerktoegang zijn allemaal beleidscontroles nodig.
Wat is de veiligste eerste uitrol?
Begin met alleen-lezen of schrijftaken met een laag risico, zoals documentatie-updates of het genereren van tests. Gebruik beperkte opslagplaatsen, geen productiegeheimen, beperkte modelbudgetten, gecontroleerde netwerktoegang en beoordeling van pull-aanvragen vóór het samenvoegen.