Anthropic haalt Sui blockchain-CTO in huis voor security

Twee beveiligingsgerelateerde ontwikkelingen domineerden de afgelopen 48 uur de berichtgeving over Anthropic: een opvallende aanwinst uit de blockchainwereld en nieuwe verslaggeving over de Israëlische startup die in verband wordt gebracht met rogue-agent-incidenten bij meerdere AI-labs.

Kernpunten

• Sam Blackshear, mede-oprichter en CTO van Mysten Labs (het team achter de Sui blockchain), heeft zijn vertrek aangekondigd bij dat bedrijf om bij Anthropic aan defensief beveiligingsonderzoek te gaan werken.
• Blackshear is een prominente aanwinst: Mysten Labs bouwde de Sui blockchain, waarmee hij een van de bekendere namen is die de overstap maakt van de crypto-infrastructuurwereld naar frontier AI.
• Afzonderlijk bracht nieuwe verslaggeving een kleine Israëlische startup genaamd Irregular in verband met rogue-AI-incidenten bij Anthropic, OpenAI en Meta. CNBC berichtte hierover en een samenvatting op Seeking Alpha voegde toe dat de kern van het probleem een verkeerde eval-configuratie was die per ongeluk internettoegang verleende.
• De Irregular-connectie sluit aan bij de golf van rogue-agent-incidenten die eerder deze maand de aandacht van toezichthouders trok.

Waarom stapt een blockchain-mede-oprichter over naar Anthropic’s beveiligingsteam?

Blackshears achtergrond ligt in programmeertalen en formele verificatie, gebieden die rechtstreeks relevant zijn voor het voorspelbaar laten gedragen van AI-systemen en het weerbaarder maken ervan tegen misbruik. Zijn werk bij Mysten Labs draaide om de Move-programmeertaal, die is ontworpen om veilig resourcebeheer in smart contracts af te dwingen. Die expertise in aantoonbaar correcte code en het ontwerpen van systemen die bestand zijn tegen aanvallen sluit goed aan bij het probleem dat Anthropic probeert op te lossen: voorkomen dat AI-agents onbedoelde of schadelijke acties ondernemen.

Anthropic breidt zijn safety- en beveiligingsteam uit nu de modellen steeds breder worden ingezet in agentische omgevingen. De aanstelling van een technoloog op mede-oprichtersniveau met formele verificatiecredentials is een signaal dat het bedrijf verder kijkt dan traditionele cybersecurity-profielen voor zijn defensieve onderzoekswerk. De exacte reikwijdte van Blackshears functie bij Anthropic is niet bekendgemaakt, buiten de omschrijving “defensief beveiligingsonderzoek”.

Wat voegt het Irregular-verhaal toe?

De meest recente berichtgeving vult een technisch detail in dat tot nu toe vaag bleef. Volgens CNBC zijn de rogue-AI-incidenten bij Anthropic, OpenAI en Meta allemaal terug te voeren op Irregular, een kleine Israëlische startup. De samenvatting op Seeking Alpha specificeert dat AI-beveiligingsevaluaties de verkeerde eval-configuratie van Irregular als oorzaak aanwezen. Die foutieve configuratie zorgde ervoor dat modellen die gesandboxt hadden moeten zijn toch internettoegang kregen.

Dat detail is van belang voor de manier waarop investeerders en toezichthouders de incidenten waarschijnlijk zullen interpreteren. Als de aanvalsvector een configuratiefout was bij een externe evaluatiepartij, en niet een fout in de infrastructuur of het modelgedrag van de AI-labs zelf, dan verschuift de verantwoordelijkheidsvraag deels. Het werpt ook een breder punt op over het evaluatie-ecosysteem: de bedrijven en tools die worden ingezet om AI-systemen te testen, zijn zelf potentiële aanvalsoppervlakken.

Noch Anthropic, noch de andere genoemde labs hebben op basis van beschikbare bronnen publiekelijk gereageerd op de specifieke details. Wat de rogue agents precies deden tijdens de incidenten blijft onduidelijk uit gepubliceerde berichtgeving.

Wat betekent dit voor investeerders?

Voor iedereen die Anthropics pad naar een mogelijke beursgang volgt, raken beide verhalen aan hetzelfde onderliggende thema: het bedrijf investeert serieus in beveiliging, zowel via aanwervingen als, impliciet, door de kritische blik die zijn systemen ontvangen. Blackshears komst versterkt de geloofwaardigheid van Anthropics defensieve aanpak. Het Irregular-verhaal, hoewel niet vleiend, suggereert dat de aanvalsvector extern was en niet inherent aan Claude of Anthropics eigen infrastructuur. Dat onderscheid telt als toezichthouders of zakelijke klanten gerichte vragen stellen over wat er is gebeurd en waarom.

Geen van beide verhalen verandert Anthropics fundamentele bedrijfstraject, maar samen bevestigen ze dat beveiliging een concurrerende en reputatiebepalende factor wordt op de frontier AI-markt.