Onderzoekers ontdekken kwaadaardige AI-agentrouters die crypto kunnen stelen

Onderzoekers van de Universiteit van Californië hebben ontdekt dat sommige third-party AI large language model (LLM) routers beveiligingskwetsbaarheden kunnen veroorzaken die kunnen leiden tot cryptodiefstal. 

Een paper over het meten van kwaadaardige tussenpartij-aanvallen op de LLM-toeleveringsketen, gepubliceerd op donderdag door de onderzoekers, onthulde vier aanvalsvectoren, waaronder kwaadaardige code-injectie en het extraheren van inloggegevens. 

"26 LLM-routers injecteren stiekem kwaadaardige tool calls en stelen credentials," zei de co-auteur van het paper, Chaofan Shou, op X.

LLM-agents routeren verzoeken steeds vaker via third-party API-tussenpersonen of routers die toegang tot providers zoals OpenAI, Anthropic en Google bundelen. Deze routers beëindigen echter internet TLS (Transport Layer Security) verbindingen en hebben volledige plaintext-toegang tot elk bericht. 

Dit betekent dat ontwikkelaars die AI-codeeragents zoals Claude Code gebruiken om aan smart contracts of wallets te werken, privésleutels, seed phrases en gevoelige gegevens kunnen doorgeven via routerinfrastructuur die niet is gescreend of beveiligd.

ETH gestolen uit een nepportemonnee 

De onderzoekers testten 28 betaalde routers en 400 gratis routers verzameld uit openbare communities. 

Hun bevindingen waren schokkend: negen routers injecteerden actief kwaadaardige code, twee implementeerden adaptieve ontwijkingstriggers, 17 hadden toegang tot Amazon Web Services-credentials van onderzoekers, en één tapte Ether (ETH) af van een privésleutel die eigendom was van een onderzoeker.

Gerelateerd: Anthropic beperkt toegang tot AI-model vanwege zorgen over cyberaanvallen

De onderzoekers voorzagen Ethereum-wallet "nepsleutels" van nominale saldi en rapporteerden dat de waarde die verloren ging in het experiment onder de $50 lag, maar er werden geen verdere details zoals de transactiehash verstrekt. 

De auteurs voerden ook twee "vergiftigingsstudies" uit die aantonen dat zelfs goedaardige routers gevaarlijk worden zodra ze gelekte credentials hergebruiken via zwakke relays.

Moeilijk te bepalen of routers kwaadaardig zijn

De onderzoekers zeiden dat het niet gemakkelijk was om te detecteren wanneer een router kwaadaardig was.  

Een andere verontrustende ontdekking was wat de onderzoekers "YOLO-modus" noemden. Dit is een instelling in veel AI-agent frameworks waarbij de agent automatisch commando's uitvoert zonder de gebruiker te vragen elk commando te bevestigen.

Voorheen legitieme routers kunnen stilletjes worden bewapend zonder dat de operator het zelfs maar weet, terwijl gratis routers mogelijk credentials stelen terwijl ze goedkope API-toegang aanbieden als lokmiddel, ontdekten de onderzoekers.

De onderzoekers adviseerden dat ontwikkelaars die AI-agents gebruiken om te coderen, de verdediging aan de clientzijde moeten versterken en suggereerden om nooit privésleutels of seed phrases via een AI-agentsessie te laten gaan.

De oplossing op lange termijn is dat AI-bedrijven hun reacties cryptografisch ondertekenen, zodat de instructies die een agent uitvoert wiskundig kunnen worden geverifieerd als afkomstig van het daadwerkelijke model. 

Magazine: Niemand weet of quantum-veilige cryptografie überhaupt zal werken