Cette semaine, JFrog organise sa conférence swampUP à Barcelone. Durant les keynotes du 21 octobre, plusieurs thèmes ont été abordés : les agents, les skills, l’accélération de la découverte des failles par l’IA et comment les corriger. Le shadow IA a été longuement abordé. Pour répondre à ce défi, l’éditeur fait évoluer sa plateforme AI Security. Elle permet de détecter et d’analyser l’ensemble des éléments IA de l’entreprise. La détection est un élément important pour découvrir les IA “cachées”, que ce soit les skills ou les agents qui sont autant de portes ouvertes à des compromissions.

La détection locale du Shadow AI (Local Shadow AI Detection) met en évidence les actifs d'IA exécutés directement sur les machines des développeurs, là où les contrôles des pipelines et des registres n'arrivent pas. JFrog introduit également la nouvelle analyse des actifs d'IA avec Bring Your Own LLM Key (BYOK), qui permet aux clients d'analyser les skills,les plugins d'agents de code et les packages APM avec leur propre instance LLM, afin d'examiner cette couche de la chaîne d'approvisionnement en IA sur une infrastructure qu'ils maîtrisent.

Aujourd’hui, il est facile pour un développeur d’installer un skill, un agent, un LLM depuis son IDE ou une marketplace. Mais ces composants utilisent les identifiants du développeur, ce qui peut être un risque si l’asset IA n’est pas sécurisé.

Local Shadow AI Detection étend la visibilité aux machines des développeurs de la manière suivante :

  • Détection des actifs dès leur arrivée : déployée via le JFrog Agent Plugin sur le poste du développeur, via la gestion des appareils mobiles (MDM) ou via les paramètres de l'agent Harness, elle repère les skills, plugins et serveurs MCP, quel que soit le dépôt ou la marketplace d'origine.
  • Analyse sur l'appareil local : une analyse déterministe s'exécute sur le poste lui-même, et seules des métadonnées et une évaluation du risque sont renvoyées vers la plateforme JFrog.
  • Création d'une base de référence : chaque actif est recoupé avec les données sources de la plateforme JFrog pour déterminer ce qui est approuvé, ce qui permet aux équipes de sécurité d'avancer en toute confiance.

Pour en savoir plus : https://jfrog.com/ai-security/

Catégorie actualité: SécuritéImage actualité AMP: