Anthropicovo izvješće o prijetnjama iz rujna 2026. nije samo još jedan dokument o sigurnosti modela. To je upozorenje o tome kako se komercijalni pristup umjetnoj inteligenciji zlorabi nakon što su modeli izloženi putem API-ja, preprodavača, proxyja, alata za kodiranje i ukradenih vjerodajnica.
Izvješće objavljeno 10. rujna pokriva aktivnost za koju Anthropic kaže da je identificirana i prekinuta između prosinca 2025. i kolovoza 2026. Slučajevi obuhvaćaju kibernetički kriminal, nadzor povezan s državom, operacije utjecaja, pomoć u vezi s oružjem, istraživanje biološke dvojne namjene i neovlaštena destilacija. Nekoliko najrelevantnijih primjera za tvrtke uključuje kontrolu pristupa, a ne samo sposobnost modela: akteri su navodno koristili infrastrukturu preprodavača ili proxyja kako bi zaobišli ograničenja regije i pravila, dok je aktivnost povezana sa ShinyHuntersom uključivala ukradene AI ključeve koji su se koristili za prebacivanje radnog opterećenja napada na račune žrtava.
Za poslovne kupce, to mijenja praktično tumačenje AI sigurnosti. Rizik nije ograničen na zlonamjerni upit koji šalje zaposlenik. Također uključuje kompromitirane ključeve, delegirane pristupne staze, prodavače kojima se ne upravlja, korištenje u sjeni i pozive modela koji izgledaju legitimni dok se ne pridruže signalima naplate, geografije, radnog opterećenja i povijesti računa.
Što se promijenilo
Novo izvješće donosi nekoliko obrazaca zlouporabe u jedan javni paket za obavještavanje o prijetnjama. Anthropic kaže da je poremetio slučajeve koji uključuju kibernetički kriminal i operacije utjecaja, kao i pokušaje korištenja njegovih sustava za pomoć u vezi s oružjem ili biološkom dvojnom namjenom. Također opisuje slučajeve neovlaštene destilacije, gdje su glumci navodno pokušali upotrijebiti Claudeove izlaze za obuku ili poboljšanje drugih AI sustava.
Pojedinosti pristupnog sloja posebno su važne. Anthropic kaže da su neki akteri koristili proxy ili infrastrukturu preprodavača kako bi izbjegli kontrole podržane regije i politike korištenja. U drugom slučaju, tvrtka kaže da je aktivnost povezana sa ShinyHunters uključivala ukradene AI ključeve, pri čemu su napadači koristili račune žrtava za pokretanje posla. To znači da se identitet naplate i stvarni identitet operatera mogu razlikovati: račun koji plaća za korištenje možda nije strana koja ga usmjerava.
Anthropic također imenuje ili spominje vanjske tvrtke i aktere povezane s državom u dijelovima izvješća. S tim tvrdnjama treba pažljivo postupati. Atribucija je Anthropicova procjena osim ako nije neovisno potvrđena, a neki izvještaji o tome jesu li određene tvrtke usmjeravale zahtjeve Claudeu ostaju sporni ili nepotvrđeni. Poslovni zaključak ne ovisi o prihvaćanju svake tvrdnje o pripisivanju. Čak i lišeno imenovanih aktera, izvješće opisuje načine zlouporabe koje svaki veliki AI API pružatelj ili poslovni pristupnik mora planirati.
Zašto su API ključevi sada dio modela prijetnji
AI API ključevi postali su vjerodajnice visoke vrijednosti jer mogu otključati skupo računanje, pristupiti sposobnijim modelima i stvoriti vjerojatan put za automatiziranu zloupotrebu. Ukradeni ključ može stvoriti izravnu izloženost troškovima, ali također može stvoriti probleme s usklađenošću i odgovorom na incident ako se aktivnost pojavi u zapisnicima korisničkog računa.
Tradicionalni obrasci sigurnosti API-ja i dalje su važni: rotacija, ključevi s opsegom, ograničenja stope, ograničenja potrošnje i revizijski zapisnici. Ali pristup modelu dodaje nove signale. Kompromitirani ključ može pokazati abnormalni volumen tokena, iznenadnu geografsku promjenu, upite na nepoznatim jezicima, ponavljane zadatke u stilu ekstrakcije, obrasce generiranja koda koji nisu povezani s korisnikovim proizvodom ili skok u korištenju skupog modela. To gura operacije umjetne inteligencije bliže otkrivanju prijevara i sigurnosnoj analizi.
Za timove koji pokreću Enterprise LLM API, izvješće predstavlja jaču argumentaciju za tretiranje ključeva kao upravljane poslovne imovine, a ne kao pogodnosti za razvojne programere. Ključevi bi trebali imati vlasnike, proračune, pravila isteka, dopuštene modele, dopuštena okruženja i pravila upozorenja. Zajedničke ključeve i dugotrajne proizvodne tajne sve je teže opravdati kada jedna vjerodajnica može akumulirati materijalne troškove i reputacijski rizik.
Tko je pogođen
Pružatelji modela prva su publika. Potrebni su im sustavi za otkrivanje masovne ekstrakcije, sumnjivog stvaranja računa, izbjegavanja regije, zlouporabe vjerodajnica i radnih opterećenja za koja se čini da testiraju granice pravila. Izazov je djelovati bez objavljivanja pragova otkrivanja koje napadači mogu prilagoditi.
Sljedeći su pogođeni timovi Enterprise AI platforme. Mnoge tvrtke sada usmjeravaju pristup modelu preko internih pristupnika, platformi za promatranje ili dobavljača odobrenih za nabavu. Ti timovi trebaju odlučiti koliko se provedbe događa centralno: ograničenja potrošnje po ključu, popisi dopuštenih modela, atribucija na razini korisnika, proračuni na razini projekta, geografska upozorenja i tijek rada eskalacije za sumnjiv promet.
Prodavači i partnerski API operateri također se suočavaju s težim problemom upravljanja.Ako korisnici mogu pristupiti graničnim modelima putem posredničke infrastrukture, preprodavač postaje dio kontrolne površine. Pravila podržane regije, provjera korisnika, provedba pravila korištenja, dodjela podračuna i brzi postupci obustave su važni. Anthropicov opis zlouporabe proxyja i preprodavača sugerira da slabe kontrole posrednika mogu postati način da se zaobiđu ograničenja pružatelja usluga.
Programeri su pogođeni na neposredniji način. API ključevi pohranjeni u lokalnim datotekama, CI zapisima, kodu na strani preglednika, bilježnicama ili zajedničkim nitima za chat mogu postati putevi napada. Timovi koji već rotiraju vjerodajnice u oblaku i tajne baze podataka trebali bi primijeniti istu disciplinu na vjerodajnice umjetne inteligencije, uključujući tajno skeniranje i kratkotrajne ključeve gdje je to moguće.
Praktične posljedice za tvrtke
Izvješće podržava tri konkretne promjene u operacijama umjetne inteligencije poduzeća.
Prvo, treba spojiti kontrolu troškova i sigurnosnu kontrolu. Iznenadni skok tokena je i proračunski događaj i mogući sigurnosni događaj. Financijske nadzorne ploče, vidljivost programera i sigurnosni nadzor ne bi trebali živjeti u odvojenim svjetovima kada ista neuobičajena upotreba može ukazivati na zlouporabu.
Drugo, upravljanje bi trebalo funkcionirati na razini ključa, korisnika, projekta i pružatelja usluga. Jedno globalno ograničenje je previše grubo. Chatbot korisničke podrške, pomoćnik za kodiranje, posao skupnog sažimanja i istraživački prototip imaju različite uobičajene obrasce upotrebe. Svaki bi trebao imati vlastitu proračunsku omotnicu i dopuštenja za model.
Treće, odgovor na incident trebao bi uključivati priručnike specifične za AI. Kada se pojavi sumnjiva aktivnost, timovi trebaju znati kako onemogućiti ključ, sačuvati zapisnike, identificirati izložene sustave, procijeniti utjecaj na troškove, obavijestiti interne dionike i utvrditi jesu li podaci ili obveze politike pogođeni. Prekasno je čekati dok se ne pojavi anomalija naplate.
Postoji i lekcija o slanju poruka. Javne smjernice trebale bi razdvojiti radnje provjerenih pružatelja usluga od optužbi o određenim akterima. Anthropic može reći što je primijetio i poremetio na svojim sustavima. Šire tvrdnje o umiješanosti države, ponašanju tvrtke ili preusmjerenom prometu kupaca mogu zahtijevati više dokaza prije nego što se počnu smatrati utvrđenom činjenicom.
Ono što ostaje neizvjesno
Izvješće ostavlja neke važne detalje neriješenim. Ne daje sve tehničke pokazatelje i ne može otkriti sve metode otkrivanja bez pomoći napadačima. Neke tvrdnje o atribuciji ostaju osporene ili nepotvrđene u javnom izvješćivanju. Razmjere neovlaštene aktivnosti destilacije također je teško procijeniti osobama sa strane samo na temelju javnog materijala.
Ipak, operativni smjer je jasan. Zlouporaba umjetne inteligencije postaje problem upravljanja pristupom, naplate i upravljanja jednako kao i problem sigurnosti modela. Tvrtke koje usvajaju sustave umjetne inteligencije s više modela trebale bi pretpostaviti da su vjerodajnice API-ja, staze preprodavača i telemetrija korištenja sada dio njihovog sigurnosnog perimetra.