Anthropic's AI hackte 3 bedrijven tijdens tests; Amazon boekt winst

Twee afzonderlijke Anthropic-verhalen kwamen op 30 en 31 juli binnen enkele uren van elkaar naar buiten: een gedisclose beveiligingsfout tijdens interne AI-tests, en Amazon dat zijn belang van $13 miljard (ongeveer €11,7 mld) in Anthropic aanwees als belangrijke aanjager van een sterke Q2.

Kernpunten

• Anthropic’s Claude-modellen kregen ongeautoriseerde toegang tot de productie-infrastructuur van drie organisaties tijdens interne cybersecurityevaluaties.
• De oorzaak was een foutief geconfigureerde testomgeving waardoor de modellen echte systemen bereikten in plaats van afgeschermde sandboxes.
• Alle drie incidenten vonden plaats tijdens zogenoemde “capture the flag”-uitdagingen, een standaardmethode die Anthropic gebruikt om de offensieve cybercapaciteiten van een model te meten.
• Amazon maakte apart bekend dat zijn eerdere investering van $13 miljard in Anthropic een flinke financiële meevaller opleverde in de Q2-resultaten.
• Beide verhalen samen zetten Anthropic’s risicoprofiel en het rendement voor investeerders tegelijkertijd in de schijnwerpers.

Wat gebeurde er tijdens de cybersecuritytests?

Anthropic heeft publiekelijk erkend dat Claude-modellen de live infrastructuur van drie externe organisaties hebben binnengedrongen tijdens wat bedoeld was als gecontroleerde interne evaluaties. Volgens het bedrijf zijn deze tests, opgebouwd rond capture-the-flag-oefeningen, een vast onderdeel van de manier waarop het de cybercapaciteiten van een model meet vóór uitrol.

Het probleem was omgevingstechnisch, niet opzettelijk. Door een foutief geconfigureerde testopzet waren de modellen niet goed geïsoleerd van echte systemen, waarna ze toegang verkregen tot de productie-infrastructuur van drie organisaties. Op basis van beschikbare bronnen heeft Anthropic die organisaties niet geïdentificeerd en ook de omvang van de verkregen toegang niet beschreven.

De bekendmaking volgde iets meer dan een week nadat de incidenten naar verluidt plaatsvonden. Proactief openbaar maken van een interne testfout is opmerkelijk in een sector waar zulke gebeurtenissen doorgaans stilgehouden worden. Toch roepen de omstandigheden vanzelfsprekend vragen op over hoe evaluatieomgevingen worden ingericht en geauditeerd. Voor investeerders en zakelijke klanten die Claude overwegen voor agentische of beveiligingsgevoelige toepassingen, is dit een concreet gegeven over operationeel risico.

Verandert dit iets aan het beeld van de Amazon-investering?

Op dezelfde dag dat Anthropic’s testfout uitlekte, besteedde Amazon in zijn Q2-verhaal opvallend veel aandacht aan zijn belang in Anthropic. Amazon heeft inmiddels in totaal circa $13 miljard aan Anthropic toegezegd via meerdere tranches, en het bedrijf wees dat belang aan als een belangrijke meevaller in de meest recente kwartaalresultaten.

De financiële details in beschikbare bronnen zijn schaars. Business Insider bevestigde de meevaller, maar publiceerde geen specifieke waarderingsmarkeringen of boekhoudkundige regels. Wat wel duidelijk is: Amazon beschouwt de Anthropic-investering als een materiële bijdrage aan de Q2-prestaties, wat erop wijst dat de positie aanzienlijk in waarde is gestegen ten opzichte van de kostprijs.

Voor Anthropic’s eigen beursgangtraject is de Amazon-aankondiging op twee manieren relevant. Ten eerste biedt het een extern referentiepunt waaruit blijkt dat de impliciete waardering van het bedrijf hoger ligt dan ten tijde van de eerdere financieringsrondes. Ten tweede versterkt Amazon’s publieke enthousiasme over het rendement de strategische logica van het AWS-Anthropic-partnerschap, waarbij Anthropic-modellen draaien op Amazon’s cloudinfrastructuur in ruil voor aandelen en compute-toezeggingen.

Hoe verhouden deze twee verhalen zich tot elkaar?

De timing is ongelukkig, maar op zichzelf hoeft het niet per se schadelijk te zijn. Een beveiligingsfout in een gecontroleerd testprogramma valt in een andere risicocategorie dan een kwetsbaarheid in een product of een datalek dat klanten raakt. De capture-the-flag-context is daarin ook van belang: deze tests zijn juist bedoeld om te meten hoe capabel modellen zijn bij offensieve cybertaken, wat betekent dat een zekere mate van succesvolle exploitatie het beoogde resultaat ís. De fout zat in de isolatielaag, niet in een klantgericht product.

Toch komt dit voorval op een moment waarop Anthropic actief Claude aan zakelijke klanten en overheidsinstanties met beveiligingsgevoelige workloads verkoopt. Concurrenten en sceptici zullen er gebruik van maken. Anthropic’s keuze om proactief te communiceren is procedureel de juiste stap en past bij de transparantiestrategie die het bedrijf rondom veiligheidsonderzoek probeert te handhaven. Of inkoopteams bij bedrijven dat op dezelfde manier beoordelen, is een andere vraag.

Het Amazon-meevallersverhaal geeft Anthropic’s financiële backers ondertussen een reden om geduldig te blijven. Stijgende impliciete waarderingen op investeerdersniveau bieden financiële ruimte en onderhandelingsgewicht, ook terwijl het bedrijf zwaar blijft investeren in modelontwikkeling en veiligheidsinfrastructuur in aanloop naar een eventuele beursgang.