Ajout de modèles LLM à GitHub Copilot CLI

Il existe différentes façons d’ajouter des modèles à Copilot CLI.

• Ollama : Copilot CLI détecte automatiquement les modèles servis par Ollama s’exécutant sur votre machine, et vous pouvez ajouter ces modèles à partir du sélecteur de modèles.
• Fournisseur de modèles configuré manuellement : ajoutez un fournisseur de modèles externe en spécifiant vos propres informations d’identification dans un fichier de configuration. Cette méthode est souvent appelée bring your own key (BYOK).
• Installation MAI Code 1.1 Flash locale : Les utilisateurs de Windows disposant des spécifications système requises peuvent installer ce modèle directement à partir du sélecteur de modèles et l’exécuter sur leur ordinateur local.

Configuration requise pour le modèle

Choisissez un modèle et un point de terminaison qui prennent en charge l’appel d’outils (également appelé appel de fonction) et la diffusion en continu. Ces fonctionnalités permettent à Copilot CLI d’utiliser des outils et d’afficher les réponses à leur arrivée.

Configurez les limites de jetons pour qu’elles correspondent à votre modèle, en particulier pour les modèles locaux plus petits. Pour un modèle inconnu, Copilot CLI peut utiliser par défaut une limite de 128 000 jetons d’invite, ce qui peut dépasser la capacité réelle du modèle. La définition d’une limite plus élevée n’augmente pas la fenêtre de contexte du modèle.

Ajout de modèles depuis Ollama

Si Ollama est en cours d’exécution sur votre ordinateur local et que vous avez déjà téléchargé un modèle, Copilot CLI peut détecter le modèle et vous permettre de l’ajouter à partir du sélecteur de modèles.

Logiciel requis

Vous devez avoir installé Ollama sur votre ordinateur local et téléchargé au moins un modèle. Pour plus d’informations, consultez Télécharger Ollama sur le site web Ollama.

Ajout d’un modèle

1. Dans une session interactive, entrez /model.

2. Recherchez les modèles fournis par Ollama sous « Local et auto-hébergé ».

   Tous les modèles que vous avez téléchargés à partir de Ollama mais qui ne sont pas encore ajoutés sont affichés avec l’état « Découvert ».

3. Sélectionnez un modèle découvert, puis appuyez sur Entrée.

4. Choisissez Ajouter et utiliser pour cette session pour basculer vers le modèle, ou Ajouter sans basculer pour continuer à utiliser votre modèle actuel.

5. Appuyez sur Échap pour quitter le sélecteur.

L’interface CLI enregistre les détails du modèle dans le fichier providers.json afin qu’il soit disponible dans les sessions ultérieures.

Ajout manuel d’une configuration de fournisseur de modèles

Pour utiliser un fournisseur de modèles autre qu’Ollama, vous devez ajouter manuellement les détails du fournisseur dans le fichier providers.json.

Logiciel requis

Vous devez disposer d’une clé API pour ajouter un fournisseur de modèles qui nécessite une authentification.

Fournisseurs pris en charge

Pour les connexions à l’API d’un fournisseur de modèles, les types de fournisseurs suivants sont disponibles :

Type de fournisseur	Services compatibles
openai	OpenAI et les services avec une API compatible OpenAI, comme Ollama, vLLM et Foundry Local. Il s’agit du type de fournisseur par défaut.
azure	Azure OpenAI Service.
anthropic	Anthropice (Modèles Claude).

Ajout d’un fournisseur et d’un modèle

Le providers.json fichier stocke les détails des fournisseurs configurés et des modèles. Il se trouve dans votre répertoire de configuration CLI, normalement ~/.copilot. Vous pouvez utiliser un autre fichier en définissant COPILOT_PROVIDERS_CONFIG sur son chemin d’accès avant de démarrer l’interface CLI.

Les modèles que vous configurez dans le fichier providers.json sont disponibles dans le sélecteur de modèles de la CLI, ainsi que les modèles fournis par GitHub disponibles pour votre compte.

1. Ouvrez providers.jsonou créez-le s’il n’existe pas. Ajoutez votre fournisseur et votre modèle. Par exemple, cette configuration ajoute le fournisseur de modèles OpenAI et un modèle :

   {
      "providers": [
         {
            "name": "my-provider",
            "type": "openai",
            "baseUrl": "https://api.openai.com/v1",
            "apiKey": "YOUR-API-KEY"
         }
      ],
      "models": [
         {
            "id": "YOUR-MODEL-NAME",
            "provider": "my-provider"
         }
      ]
   }
   

   Remplacez YOUR-API-KEY par la clé API de votre fournisseur et YOUR-MODEL-NAME par un nom de modèle disponible pour votre compte. Pour un autre fournisseur compatible OpenAI, remplacez baseUrl par son URL d’API. Omettez apiKey si le fournisseur ne nécessite pas d’authentification.

   Si le fichier contient déjà des fournisseurs et des modèles, ajoutez aux données existantes au lieu de les remplacer.

   Pour les fournisseurs ou les modèles qui ont besoin de paramètres supplémentaires :

   • Définissez le paramètre du fournisseur type sur azure pour Azure OpenAI ou sur anthropic pour Anthropic, puis utilisez l'URL de l'API et les informations d'identification de ce fournisseur.
   • Pour les modèles OpenAI ou Azure qui utilisent la Responses API, ajoutez "wireApi": "responses" à la configuration du fournisseur. La valeur par défaut est completions.
   • Pour un déploiement Azure, définissez le wireModel du modèle sur le nom du déploiement et le modelId sur le nom du modèle que vous avez déployé. Si vous avez besoin d’une version d’API spécifique, ajoutez "azure": { "apiVersion": "YOUR-API-VERSION" } au niveau du fournisseur. Remplacez YOUR-API-VERSION par la version requise par votre point de terminaison.
   • Si le id du modèle est un nom que vous avez choisi plutôt que le nom accepté par le fournisseur, définissez wireModel sur le nom du modèle du fournisseur. Définissez modelId sur un nom de modèle que l’interface CLI reconnaît afin qu’elle puisse utiliser les fonctionnalités et les limites de ce modèle.
   • Définissez maxPromptTokens et maxOutputTokens sur un modèle pour correspondre aux limites qu’il prend en charge. Utilisez des nombres entiers supérieurs à zéro.
   • Pour vous authentifier avec un jeton Bearer au lieu d’une clé API, définissez bearerToken sur le provider.

   De nombreux autres paramètres peuvent être configurés dans ce fichier. Pour plus d’informations, consultez « GitHub Copilot le répertoire de configuration du CLI ».

2. Pour ajouter un autre modèle à partir du même fournisseur, ajoutez une autre entrée à models avec un id différent et le même provider.

   Remarque

   La valeur provider de chaque modèle doit correspondre à un name de fournisseur.

3. Pour ajouter un autre fournisseur, ajoutez une entrée dans providers avec un name unique, puis ajoutez ses modèles.

4. Enregistrez le fichier et redémarrez le CLI.

5. Pour sélectionner le modèle d’exemple lors du démarrage d’une session, exécutez :

   copilot --model PROVIDER-NAME/MODEL-NAME
   

6. Pour changer de modèle pendant une session, utilisez la /model commande barre oblique. Pour plus d’informations, consultez « Choix d’un modèle dans GitHub Copilot CLI ».

7. Pour arrêter le chargement d’un fournisseur à partir de votre configuration enregistrée, supprimez son entrée de providers et ses entrées de modèle de models, puis redémarrez l’interface CLI. Choisissez une autre valeur par défaut avec /model --global avant de supprimer votre modèle par défaut actuel.

Installation d’un modèle local à partir du sélecteur de modèles

Si vous utilisez Windows et que votre ordinateur répond aux conditions préalables suivantes, vous pouvez utiliser le sélecteur de modèles de l'interface CLI pour installer et exécuter les modèles suivants localement sur votre appareil :

• MAI Code 1.1 Flash
• Flint NVFP4

Prerequisites

Vous devez avoir :

• Un PC Windows

• Un GPU NVIDIA (AMD n’est pas pris en charge)

• Ram combinée minimale disponible par modèle :

  • MAI Code 1.1 Flash:  96 Go
  • Flint NVFP4:  48 Go

• Stockage minimum disponible par modèle :

  • MAI Code 1.1 Flash:  60 Go
  • Flint NVFP4:  23 Go

• llama.cpp v0.7.0 ou version ultérieure doit être installé et LLAMACPP_SERVER_PATH défini sur son chemin. Version de build requise :

  • MAI Code 1.1 Flash: b11669 ou version ultérieure
  • Flint NVFP4: b11803 ou version ultérieure

  Consultez l’installation de llama.cpp pour Windows.

Avantages de l’utilisation locale de MAI Code 1.1 Flash

MAI Code 1.1 Flashest un modèle optimisé pour le codage que vous pouvez exécuter localement sur votre PC Windows. En utilisant un modèle qui s’exécute localement, vous pouvez utiliser Copilot hors connexion et éviter de consommer GitHub AI Credits.

Après l’installation de MAI Code 1.1 Flash, vous pouvez le sélectionner dans le sélecteur de modèles, comme n’importe quel autre modèle. Le modèle devient également disponible pour le niveau d’effort de Copilot FusionFusion Standard. Lorsque vous définissez la sélection du modèle sur Copilot Fusion avec Fusion Standard, MAI Code 1.1 Flash sera automatiquement choisi pour travailler sur les tâches appropriées, en laissant des modèles basés sur le cloud pour les tâches nécessitant plus de ressources ou des performances supérieures.

Installation de llama.cpp pour Windows

Pour installer llama.cpp sur Windows avec la build CUDA :

1. Dans votre navigateur, accédez à la page des versions du référentiel llama.cpp : https://github.com/ggml-org/llama.cpp/releases.

2. Choisissez la version que vous souhaitez installer, par exemple b11803.

3. Cliquez sur les liens pour télécharger les deux fichiers pour la build CUDA 13.4 ARM64 Windows :

   • Windows arm64 (CUDA 13)
   • DLL CUDA 13.4

4. Ouvrez l’invite de commandes et créez le dossier d’installation :

   Shell

   mkdir "%LOCALAPPDATA%\Programs\llama.cpp\BUILD-cuda-13.4-arm64"
   

BUILD Remplacez le numéro de build, par exemple, b11803.

1. Extrayez tous les fichiers des deux fichiers ZIP directement dans ce dossier. Si vous utilisez Extraire tout dans l’Explorateur de fichiers, remplacez la destination par ce dossier, car par défaut, l’Explorateur de fichiers crée un sous-dossier distinct pour chaque fichier ZIP. Lorsque vous avez terminé, le dossier doit contenir un grand nombre de fichiers, notamment llama-server.exe, cublas64_13.dll, cudart64_13.dll et cublasLt64_13.dll, sans sous-dossiers.

2. Définissez la variable d’environnement LLAMACPP_SERVER_PATH :

   Shell

   setx LLAMACPP_SERVER_PATH "%LOCALAPPDATA%\Programs\llama.cpp\BUILD-cuda-13.4-arm64\llama-server.exe"
   

   Remplacement de BUILD du numéro de build.

3. Fermez l’invite de commandes et ouvrez une nouvelle fenêtre d’invite de commandes. Si le Copilot app ou VS Code est déjà ouvert, redémarrez-le. Si Copilot CLI est en cours d’exécution, quittez-le et redémarrez-le à partir d’une nouvelle fenêtre de terminal.

4. Pour vérifier l’installation, exécutez :

   Shell

   "%LLAMACPP_SERVER_PATH%" --list-devices
   

Utilisation du sélecteur de modèles pour installer un modèle local

1. Dans une session interactive locale, entrez /model.

2. Recherchez les modèles locaux pris en charge dans « Local et auto-hébergé ».

   L’état s’affiche sous la forme « Téléchargement requis ».

   Remarque

   Les modèles locaux ne sont téléchargeables que si votre ordinateur local est un PC Windows qui répond aux exigences en matière de GPU et de mémoire.

3. Utilisez la flèche vers le bas pour sélectionner un modèle local, puis appuyez sur Entrée.

   L’interface CLI vérifie que votre ordinateur répond aux exigences d’installation. Consultez les conditions préalables répertoriées plus haut dans cet article.

4. Sélectionnez Télécharger et configurer pour commencer à télécharger le modèle.

   Vous pouvez continuer à utiliser d’autres modèles pendant que le téléchargement est en cours. L’interface CLI vous avertit, dans la sortie du terminal, une fois le téléchargement terminé.

Utilisation d’un modèle local

Une fois le téléchargement terminé, le modèle local sera disponible pour une utilisation dans vos sessions.

Vous pouvez:

• Sélectionnez-le dans le sélecteur de modèles, puis sélectionnez Sélectionner ce modèle. Consultez « Choix d’un modèle dans GitHub Copilot CLI ».
• MAI Code 1.1 Flash uniquement : choisissez Copilot Fusion, puis Fusion Standard dans le sélecteur de modèles et Copilot utilisera automatiquement le modèle local le cas échéant.
• Attribuez-le à un custom agent pour des tâches ciblées. Vous pouvez ensuite demander à Copilot d’utiliser cet agent personnalisé pour une partie d’une tâche, tout en conservant votre session principale sur un autre modèle dans le cloud. Consultez « Création et utilisation d’agents personnalisés pour GitHub Copilot CLI ».

Exécution en mode hors connexion

Pour empêcher Copilot CLI de contacter les serveurs de GitHub — par exemple, pour envoyer des données de télémétrie — définissez la variable d’environnement COPILOT_OFFLINE sur true avant de démarrer l’interface CLI. Pour une isolation réseau complète, votre fournisseur de modèles doit également être local ou dans le même environnement isolé. Consultez « Authentification de GitHub Copilot CLI ».

Troubleshooting

• Un modèle Ollama est manquant : Vérifiez que Ollama est en cours d’exécution et que le modèle a été téléchargé. Ouvrez /model et appuyez sur Ctrl+R pour analyser à nouveau. Pour un serveur sur un autre ordinateur, configurez manuellement son URL d’API compatible OpenAI, en incluant /v1.
• Un modèle enregistré est manquant : Vérifiez que son provider correspond à celui d’un fournisseur name, puis redémarrez l’interface CLI. Si l’ajout d’un modèle découvert a généré un avertissement d’enregistrement, suivez l’avertissement pour corriger le fichier ou ses autorisations.
• Les paramètres d’environnement n’ont aucun effet : Vérifiez si providers.json ou le fichier sélectionné par COPILOT_PROVIDERS_CONFIG contiennent déjà des fournisseurs ou des modèles. Ce fichier est prioritaire.
• Les demandes échouent : Vérifiez l’URL de l’API, les informations d’identification, le nom du modèle et le choix de l’API. Pour Azure OpenAI, vérifiez le nom du déploiement. Pour les erreurs relatives à la taille de la demande, définissez des limites de jetons qui correspondent à votre modèle.