Applications d’IA analysant les pull requests

Qu’est-ce que AI applications scanning ?

AI applications scanning est un détecteur qui détecte les risques de sécurité spécifiques aux applications et agents IA. Il détecte :

• Injection indirecte de prompt : Lorsque des instructions malveillantes sont incorporées dans un contenu externe, telles que des documents, des sites web ou des réponses d’API, elles peuvent influencer le comportement d’un modèle.
• Divulgation d’informations sensibles : Lorsqu’une application IA peut exposer des informations sensibles, telles que des informations d’identification, des données personnelles ou des données métier confidentielles.
• Capacité d’action excessive : Lorsqu’une application ou un agent IA dispose de fonctionnalités, d’autorisations ou d’autonomie excessives qui peuvent lui permettre d’effectuer des actions inattendues ou dangereuses.

Ce détecteur est distinct de l’analyse du code basée sur CodeQL et d’AI Scan pour les pull requests, GitHub, l’autre détecteur d’analyse de code basé sur l’IA de GitHub pour les pull requests. AI Scan for pull requests se concentre sur les vulnérabilités traditionnelles de sécurité du code, tandis que AI applications scanning se concentre sur les vulnérabilités spécifiques aux applications et agents IA, telles que l’injection de prompt et l’autonomie excessive. Si votre organisation crée des applications ou des agents IA, évaluez les deux. Pour plus d’informations sur AI Scan for pull requests, consultez Analyse par l’IA des pull requests.

Fonctionnement

AI applications scanning utilise une approche de détection basée sur LLM au lieu de CodeQL. Étant donné qu’elle ne s’appuie pas sur l’analyse statique conçue pour des langages spécifiques, elle n’a aucune limitation de langage ou de framework.

Le détecteur analyse les pull requests pour les motifs de code et les flux de données qui peuvent exposer des applications d’IA à une injection indirecte de prompt, à une divulgation d’informations sensibles ou à une autonomie excessive.

Les analyses s’exécutent lorsqu’une pull request est créée et après chaque nouveau commit.

Comment les résultats s’affichent sur les pull requests

Les résultats de AI applications scanning s’affichent sous forme de commentaires de pull request, de la même façon que les autres résultats d’analyse du code. Chaque résultat comprend :

• La même étiquette « IA » et le contrôle de retour avec pouce levé/baissé que les résultats de l’analyse IA pour les demandes de tirage (pull requests)
• bouton Fermer

Comme avec AI Scan, ces résultats sont à titre indicatif. Ils ne bloquent pas la fusion d’une pull request.

Copilot Autofix les suggestions sont générées automatiquement pour les résultats de ce détecteur. Ce comportement est indépendant du paramètre de correction automatique de l’analyse du code, qui contrôle Copilot Autofix pour les résultats CodeQL.

Couverture de détection

Lors de préversion publique, AI applications scanning détecte uniquement les vulnérabilités d’injection d’invite indirecte (XPIA) dans les agents IA.

Ce détecteur couvre uniquement les pull requests. Il n’analyse pas votre référentiel complet ou votre backlog existant pour détecter les risques liés aux applications IA.

Comme avec AI Scan pour les pull requests, ce détecteur ne s’exécute pas sur les pull requests provenant de forks ou sur les pull requests créées par Dependabot, et ses résultats ne peuvent pas être utilisés dans les ensembles de règles pour appliquer les exigences de fusion.

Comment activer AI applications scanning

AI applications scanning est désactivé par défaut au niveau de l’entreprise, de l’organisation et du dépôt.

• Entreprise : l’activation est contrôlée par la stratégie d’entreprise partagée AI Scan. Les propriétaires d’entreprise peuvent autoriser les organisations à activer les fonctionnalités d’analyse de code optimisées par l’IA, notamment AI applications scanning. Consultez « Application de stratégies de sécurité et d’analyse du code pour votre entreprise ».
• Organisation : les propriétaires d’organisations peuvent activer l’analyse des applications IA pour les référentiels éligibles où cette fonctionnalité est autorisée. Consultez « Configuration des paramètres de sécurité globaux pour votre organisation ».
• Dépôt : les administrateurs de dépôts peuvent se désinscrire pour des dépôts individuels une fois que leur organisation l’autorise.

Si votre organisation dispose déjà de AI Scan pour les pull requests activé, ou si vous passez de la préversion privée de ****, vous devez toujours activer séparément AI applications scanning au niveau de l’organisation. L’activation de l’analyse IA pour les pull requests n’active pas AI applications scanning, et l’inverse est également vrai. Les deux fonctionnalités partagent la même politique au niveau de l’entreprise, mais les organisations doivent les activer séparément.

Billing

L’utilisation AI applications scanning nécessite une licence GitHub Advanced Security et consomme AI credits en plus de cette licence. Les dépôts publics éligibles sont également soumis à cette exigence de facturation. Pour plus d’informations, consultez « GitHub Advanced Security facturation des licences ».