CertiK approfondit la sécurité de l’IA avec le lancement de CertiK Skill Scanner, un produit conçu pour examiner les compétences d’IA tierces avant qu’elles ne soient installées, publiées ou approuvées pour une utilisation dans les systèmes d’entreprise.
La société décrit l’outil comme quelque chose de proche d’une couche antivirus pour l’ère des agents IA. La comparaison n’est pas parfaite, mais elle va à l’essentiel. Les agents IA ne se contentent plus de répondre aux questions dans une fenêtre de discussion. Ils commencent à faire appel à des outils externes, à lire des fichiers, à déclencher des flux de travail, à déplacer des données entre les systèmes et, dans des cas plus sensibles, à interagir avec l’infrastructure financière.
Cela change l’équation de la sécurité. Une mauvaise extension de navigateur peut déjà être dangereuse. Une mauvaise compétence d’IA connectée à un agent autonome peut être pire, car l’agent peut exécuter des actions à une vitesse élevée et dans un contexte que l’utilisateur ne voit pas entièrement.
Les compétences en IA créent un nouveau risque d’exécution
Les compétences en IA deviennent les plug-ins de l’économie des agents. Ils élargissent ce qu’un agent d’IA peut faire, depuis l’extraction de données et l’automatisation de tâches jusqu’à l’exécution d’actions financières et l’interaction avec les protocoles Web3. Cependant, chaque compétence supplémentaire crée également un autre point où quelque chose peut mal tourner.
Ce risque ne se limite pas aux logiciels malveillants évidents. Une compétence peut demander plus de données que ce dont elle a besoin, se comporter différemment lors de l’exécution que lors de la révision, déclencher des appels d’API non autorisés ou créer discrètement des conditions pour une utilisation abusive ultérieure. Dans les environnements financiers, l’inquiétude devient encore plus vive. Un outil capable de lancer des appels de fonds, de signer des demandes de flux de travail ou de préparer des transactions nécessite un niveau de contrôle différent de celui d’un simple module complémentaire de productivité.
CertiK a déclaré que Skill Scanner est conçu pour détecter les comportements malveillants cachés, les accès non autorisés aux données et les risques d’exécution avant que les systèmes sensibles ne soient exposés. Contrairement aux outils d’analyse d’IA plus larges, la société affirme que son produit se concentre sur les risques qui peuvent apparaître lors de l’exécution réelle, y compris les cas impliquant des mouvements de fonds et des transactions financières.
Ronghui Gu, PDG et co-fondateur de CertiK, a déclaré que le modèle de sécurité autour des compétences tierces devient de plus en plus important à mesure que les agents d’IA évoluent vers les systèmes financiers, les flux de travail d’entreprise et les services numériques quotidiens.
Les places de marché, les entreprises et les développeurs sont en première ligne
Les premiers groupes cibles sont les marchés de compétences en IA, les entreprises et les développeurs. Les Marketplaces peuvent intégrer le scanner dans leurs pipelines de publication, de sorte que les compétences sont examinées avant leur mise en ligne. Ils peuvent également afficher les verdicts CertiK comme indicateurs de confiance pour les utilisateurs qui décident d’installer ou non une Skill tierce.
Pour les entreprises, le cas d’utilisation est plus défensif. Les entreprises qui testent des agents d’IA en interne ont besoin d’un moyen d’évaluer les compétences des tiers avant qu’ils n’entrent dans des environnements de production ou ne touchent aux données des clients, aux systèmes internes ou aux flux de travail sensibles à la conformité. C’est là qu’un processus d’évaluation noté devient utile. Cela donne aux équipes de sécurité quelque chose de plus concret qu’une réclamation d’un fournisseur ou une description d’un développeur.
Les développeurs indépendants peuvent également utiliser le scanner pour auto-auditer leurs compétences avant de les publier. CertiK a déclaré que les futures mises à jour élargiront l’accès direct pour les utilisateurs quotidiens, permettant aux individus d’analyser eux-mêmes les compétences avant l’installation ou l’utilisation.
Le scanner produit un score de 0 à 100, ainsi que des verdicts « réussite », « avertissement » ou « échec » et une liste limitée de résultats regroupés par gravité. CertiK affirme que le système atteint une précision allant jusqu’à 90,5 % dans l’identification des risques de sécurité, dans le but de réduire les faux positifs tout en rendant les évaluations des compétences en IA plus fiables.
Le produit a déjà été déployé dans certains environnements d’infrastructure d’agents Web3 AI. CertiK travaille également sur des intégrations avec d’autres plateformes de compétences en IA, notamment FinChip.ai.
Ce lancement fait suite à l’expansion plus large de CertiK dans l’infrastructure de sécurité axée sur l’IA, après que la société a lancé son initiative AI Auditor plus tôt cette année. Pour un cabinet surtout connu pour ses audits Web3, cette décision est une extension logique. À mesure que les agents IA commencent à gérer le code, les actifs, les autorisations et les flux de travail métier, des contrôles de sécurité doivent être effectués avant l’exécution, et non après qu’un système ait déjà été exposé.
