Anthropic iz septembra 2026 ni le še en dokument o varnosti modela. Je opozorilo o zlorabi komercialnega dostopa do umetne inteligence, ko so modeli razkriti prek API-jev, preprodajalcev, posrednikov, orodij za kodiranje in ukradenih poverilnic.
Poročilo, objavljeno 10. septembra, zajema dejavnost Anthropic, ki pravi, da je bila ugotovljena in motena med decembrom 2025 in avgustom 2026. Primeri zajemajo kibernetski kriminal, nadzor, povezan z državo, vpliv operacije, pomoč v zvezi z orožjem, biološke raziskave z dvojno rabo in nepooblaščena destilacija. Več najpomembnejših primerov za podjetja vključuje nadzor dostopa in ne samo zmogljivost modela: akterji so domnevno uporabljali infrastrukturo preprodajalcev ali posrednikov, da bi zaobšli omejitve glede regij in pravilnikov, medtem ko je dejavnost, povezana s ShinyHunters, vključevala ukradene ključe umetne inteligence, ki so bili uporabljeni za prenos delovne obremenitve napadov na račune žrtev.
Za poslovne kupce to spremeni praktično branje varnosti umetne inteligence. Tveganje ni omejeno na zlonamerni poziv, ki ga pošlje zaposleni. Vključuje tudi ogrožene ključe, delegirane dostopne poti, neupravljane preprodajalce, uporabo v senci in modelne klice, ki so videti legitimni, dokler niso združeni s signali za obračunavanje, geografijo, delovno obremenitev in zgodovino računa.
Kaj se je spremenilo
Novo poročilo prinaša več vzorcev zlorab v en javni paket obveščanja o grožnjah. Anthropic pravi, da je prekinil primere, ki so vključevali kibernetski kriminal in operacije vplivanja, pa tudi poskuse uporabe svojih sistemov za pomoč, povezano z orožjem ali biološko dvojno rabo. Opisuje tudi nepooblaščene primere destilacije, kjer so akterji domnevno poskušali uporabiti Claude izhode za usposabljanje ali izboljšanje drugih sistemov umetne inteligence.
Podrobnosti o ravni dostopa so še posebej pomembne. Anthropic pravi, da so nekateri akterji uporabili posredniško infrastrukturo ali infrastrukturo preprodajalcev, da bi se izognili nadzoru podprte regije in pravilnika uporabe. V drugem primeru družba pravi, da je dejavnost, povezana s ShinyHunters, vključevala ukradene ključe AI, pri čemer so napadalci uporabljali račune žrtev za izvajanje delovnih obremenitev. To pomeni, da se lahko identiteta zaračunavanja in dejanska identiteta operaterja razlikujeta: račun, ki plačuje za uporabo, morda ni stranka, ki jo usmerja.
Anthropic v delih poročila tudi imenuje ali omenja zunanja podjetja in akterje, povezane z državo. S temi zahtevki je treba ravnati previdno. Pripisovanje je ocena Anthropic, razen če je neodvisno potrjeno, in nekatera poročila o tem, ali so nekatera podjetja preusmerila zahteve na Claude, ostajajo sporna ali nepotrjena. Poslovni zaključek ni odvisen od sprejemanja vsake trditve o pripisu. Tudi brez imenovanih akterjev poročilo opisuje načine zlorabe, ki jih mora načrtovati vsak velik ponudnik umetne inteligence API ali podjetniški prehod.
Zakaj so API ključi zdaj del modela grožnje
AI API ključi so postali poverilnice visoke vrednosti, ker lahko odklenejo drago računalništvo, dostopajo do zmogljivejših modelov in ustvarijo verjetne pot za avtomatizirano zlorabo. Ukradeni ključ lahko povzroči izpostavljenost neposrednim stroškom, lahko pa povzroči tudi težave s skladnostjo in odzivom na incidente, če se dejavnost pojavi v dnevnikih računa stranke.
Tradicionalni API varnostni vzorci so še vedno pomembni: rotacija, ključi z obsegom, omejitve stopnje, omejitve porabe in revizijski dnevniki. Toda dostop do modela dodaja nove signale. Ogrožen ključ lahko kaže nenormalno količino žetona, nenaden geografski premik, pozive v neznanih jezikih, ponavljajoče se naloge v slogu ekstrakcije, vzorce generiranja kode, ki niso povezani s strankinim izdelkom, ali skokovito uporabo dragega modela. To približuje operacije umetne inteligence bližje odkrivanju goljufij in varnostni analizi.
Za ekipe, ki vodijo podjetniški LLM API, poročilo močneje podpira obravnavo ključev kot upravljanih poslovnih sredstev in ne kot ugodnosti za razvijalce. Ključi morajo imeti lastnike, proračune, politike poteka, dovoljene modele, dovoljena okolja in pravila za opozarjanje.Skupne ključe in dolgotrajne proizvodne skrivnosti je vse težje upravičiti, ko lahko ena sama poverilnica poveča materialne stroške in tveganje za ugled.
Koga to vpliva
Ponudniki modelov so prva publika. Potrebujejo sisteme za zaznavanje množičnega pridobivanja, ustvarjanje sumljivih računov, izogibanje regijam, zlorabo poverilnic in delovne obremenitve, za katere se zdi, da preizkušajo meje pravilnika. Izziv je ukrepati brez objavljanja pragov zaznavanja, ki jih lahko napadalci prilagodijo.
Naslednje so prizadete ekipe platforme Enterprise AI. Številna podjetja zdaj usmerjajo dostop do modela prek notranjih prehodov, platform za opazovanje ali prodajalcev, odobrenih za nabavo. Te ekipe se morajo odločiti, koliko uveljavljanja poteka centralno: omejitve porabe po ključu, seznami dovoljenih modelov, dodeljevanje na ravni uporabnika, proračuni na ravni projekta, geografska opozorila in poteki dela za sumljiv promet.
Prodajalni posredniki in operaterji API partnerjev se prav tako soočajo s težjo težavo upravljanja. Če lahko stranke dostopajo do mejnih modelov prek vmesne infrastrukture, preprodajalec postane del nadzorne površine. Pomembni so pravila podprte regije, preverjanje strank, uveljavljanje pravilnika o uporabi, dodelitev podračunov in hitri postopki začasne blokade. Opis zlorabe posrednika in preprodajalca Anthropic nakazuje, da lahko šibek nadzor posrednikov postane način za izogibanje omejitvam ponudnika.
Razvijalci so prizadeti bolj neposredno. API ključi, shranjeni v lokalnih datotekah, dnevnikih CI, kodi na strani brskalnika, zvezkih ali skupnih nitih klepeta, lahko postanejo poti napada. Ekipe, ki že izmenjujejo poverilnice v oblaku in skrivnosti baze podatkov, bi morale uporabiti enako disciplino za poverilnice AI, vključno s tajnim skeniranjem in kratkotrajnimi ključi, kjer je to mogoče.
Praktične posledice za podjetja
Poročilo podpira tri konkretne spremembe v operacijah AI v podjetjih.
Najprej je treba združiti nadzor stroškov in nadzor varnosti. Nenaden skok žetonov je hkrati proračunski dogodek in možen varnostni dogodek. Finančne nadzorne plošče, opazovanje za razvijalce in nadzor varnosti ne bi smeli živeti v ločenih svetovih, ko lahko ista neobičajna uporaba kaže na zlorabo.
Drugič, upravljanje bi moralo delovati na ravni ključa, uporabnika, projekta in ponudnika. Ena sama globalna omejitev je preveč ostra. Klepetalni robot za podporo strankam, pomočnik za kodiranje, opravilo serijskega povzemanja in raziskovalni prototip imajo različne običajne vzorce uporabe. Vsak bi moral imeti svoj okvir proračuna in dovoljenja za model.
Tretjič, odziv na incident mora vključevati priročnike, specifične za AI. Ko se pojavi sumljiva dejavnost, morajo ekipe vedeti, kako onemogočiti ključ, ohraniti dnevnike, identificirati izpostavljene sisteme, oceniti vpliv na stroške, obvestiti notranje zainteresirane strani in ugotoviti, ali so bili prizadeti podatki ali zaveze politike. Čakati, dokler se ne pojavi anomalija pri zaračunavanju, je prepozno.
Obstaja tudi lekcija o sporočanju. Javno usmerjanje bi moralo ločiti preverjena dejanja ponudnika od obtožb o določenih akterjih. Anthropic lahko pove, kaj je opazil in motil v svojih sistemih. Širše trditve o vpletenosti države, ravnanju podjetja ali preusmerjenem prometu strank bodo morda zahtevale več dokazov, preden bodo obravnavane kot ustaljeno dejstvo.
Kaj ostaja negotovo
Poročilo pušča nekatere pomembne podrobnosti nerešenih. Ne daje vseh tehničnih indikatorjev in ne more razkriti vseh metod odkrivanja, ne da bi pomagal napadalcem. Nekatere trditve o pripisovanju ostajajo izpodbijane ali nepotrjene v javnem poročanju. Obseg nepooblaščene destilacijske dejavnosti je zunanjim osebam tudi težko oceniti samo na podlagi javnega gradiva.
Kljub temu je smer delovanja jasna. Zloraba umetne inteligence postaja problem upravljanja dostopa, zaračunavanja in upravljanja prav tako kot problem varnosti modela. Podjetja, ki sprejemajo sisteme umetne inteligence z več modeli, bi morala domnevati, da so API poverilnice, poti preprodajalcev in telemetrija uporabe zdaj del njihovega varnostnega območja.