Ajout de modèles LLM au application Copilot GitHub

Vous pouvez configurer le GitHub Copilot app pour inclure des modèles provenant d’un fournisseur LLM de votre choix, à l’aide de BYOK (Bring Your Own Key), en plus des modèles fournis par GitHub. Vous pouvez configurer votre fournisseur de modèles lors de la première ouverture de l’application ou plus tard dans les paramètres de l’application.

Les utilisateurs Windows disposant d’un GPU NVIDIA et d’une mémoire suffisante peuvent installer les modèles Flint NVFP4 et MAI Code 1.1 Flash localement sur leur appareil, directement depuis le GitHub Copilot app.

Vous devez vous connecter avec un compte GitHub pour utiliser l’application, mais vous n’avez pas besoin d’un abonnement Copilot si vous utilisez votre propre fournisseur de modèles. Si vous avez un Copilot forfait, vous pouvez utiliser des modèles de votre propre fournisseur de modèles et des modèles fournis par GitHub dans la même application.

Ajout de modèles à l’aide de BYOK

Vous pouvez utiliser la méthode BYOK pour ajouter des modèles au GitHub Copilot app.

Fournisseurs pris en charge

Le GitHub Copilot app prend en charge les fournisseurs de modèles BYOK suivants :

• OpenAI
• Azure OpenAI
• Microsoft Foundry
• Anthropic
• Ollama
• Fonderie Locale
• LM Studio
• Tout point de terminaison HTTP compatible OpenAI

Logiciel requis

Vous devez disposer d’une clé API pour ajouter un fournisseur de modèles qui nécessite une authentification.

Configurer un fournisseur de modèles

Si vous configurez l’application pour la première fois et que vous n’avez pas de forfait Copilot, vous pouvez choisir de configurer votre propre fournisseur de modèles lors de la configuration initiale.

Pour ajouter ou mettre à jour un fournisseur de modèles ultérieurement :

1. Cliquez pour ouvrir la boîte de dialogue Paramètres.
2. Dans la barre latérale, cliquez sur Fournisseurs de modèles.
3. Cliquez sur Ajouter un fournisseur.
4. Sélectionnez votre fournisseur.
5. Entrez les détails du fournisseur. Cela varie selon le fournisseur, mais peut inclure le nom d’affichage, l’URL de base et la clé API.
6. Cliquez sur Ajouter un fournisseur pour enregistrer le fournisseur.

Après avoir ajouté un fournisseur, ses modèles apparaissent dans le sélecteur de modèles en même temps GitHubque les modèles hébergés. Vous pouvez sélectionner le modèle et l’utiliser dans une session. Pour plus d’informations, consultez « Travailler avec les sessions de l’agent dans l’application GitHub Copilot ».

Les informations d’identification du fournisseur sont stockées dans le magasin d’informations d’identification système et ne sont jamais affichées dans l’interface utilisateur.

Installation d’un modèle local à partir du sélecteur de modèles

Si vous utilisez Windows et que votre ordinateur répond aux conditions préalables suivantes, vous pouvez télécharger et installer les modèles suivants localement sur votre appareil à partir des paramètres de l'application :

• MAI Code 1.1 Flash
• Flint NVFP4

Prerequisites

Vous devez avoir :

• Un PC Windows

• Un GPU NVIDIA (AMD n’est pas pris en charge)

• Ram combinée minimale disponible par modèle :

  • MAI Code 1.1 Flash:  96 Go
  • Flint NVFP4:  48 Go

• Stockage minimum disponible par modèle :

  • MAI Code 1.1 Flash:  60 Go
  • Flint NVFP4:  23 Go

• llama.cpp v0.7.0 ou version ultérieure doit être installé et LLAMACPP_SERVER_PATH défini sur son chemin. Version de build requise :

  • MAI Code 1.1 Flash: b11669 ou version ultérieure
  • Flint NVFP4: b11803 ou version ultérieure

  Consultez l’installation de llama.cpp pour Windows.

Avantages de l’utilisation locale de MAI Code 1.1 Flash

MAI Code 1.1 Flashest un modèle optimisé pour le codage que vous pouvez exécuter localement sur votre PC Windows. En utilisant un modèle qui s’exécute localement, vous pouvez utiliser Copilot hors connexion et éviter de consommer GitHub AI Credits.

Après l’installation de MAI Code 1.1 Flash, vous pouvez le sélectionner dans le sélecteur de modèles, comme n’importe quel autre modèle. Le modèle devient également disponible pour le niveau d’effort de Copilot FusionFusion Standard. Lorsque vous définissez la sélection du modèle sur Copilot Fusion avec Fusion Standard, MAI Code 1.1 Flash sera automatiquement choisi pour travailler sur les tâches appropriées, en laissant des modèles basés sur le cloud pour les tâches nécessitant plus de ressources ou des performances supérieures.

Installation de llama.cpp pour Windows

Pour installer llama.cpp sur Windows avec la build CUDA :

1. Dans votre navigateur, accédez à la page des versions du référentiel llama.cpp : https://github.com/ggml-org/llama.cpp/releases.

2. Choisissez la version que vous souhaitez installer, par exemple b11803.

3. Cliquez sur les liens pour télécharger les deux fichiers pour la build CUDA 13.4 ARM64 Windows :

   • Windows arm64 (CUDA 13)
   • DLL CUDA 13.4

4. Ouvrez l’invite de commandes et créez le dossier d’installation :

   Shell

   mkdir "%LOCALAPPDATA%\Programs\llama.cpp\BUILD-cuda-13.4-arm64"
   

BUILD Remplacez le numéro de build, par exemple, b11803.

1. Extrayez tous les fichiers des deux fichiers ZIP directement dans ce dossier. Si vous utilisez Extraire tout dans l’Explorateur de fichiers, remplacez la destination par ce dossier, car par défaut, l’Explorateur de fichiers crée un sous-dossier distinct pour chaque fichier ZIP. Lorsque vous avez terminé, le dossier doit contenir un grand nombre de fichiers, notamment llama-server.exe, cublas64_13.dll, cudart64_13.dll et cublasLt64_13.dll, sans sous-dossiers.

2. Définissez la variable d’environnement LLAMACPP_SERVER_PATH :

   Shell

   setx LLAMACPP_SERVER_PATH "%LOCALAPPDATA%\Programs\llama.cpp\BUILD-cuda-13.4-arm64\llama-server.exe"
   

   Remplacement de BUILD du numéro de build.

3. Fermez l’invite de commandes et ouvrez une nouvelle fenêtre d’invite de commandes. Si le Copilot app ou VS Code est déjà ouvert, redémarrez-le. Si Copilot CLI est en cours d’exécution, quittez-le et redémarrez-le à partir d’une nouvelle fenêtre de terminal.

4. Pour vérifier l’installation, exécutez :

   Shell

   "%LLAMACPP_SERVER_PATH%" --list-devices
   

Installation d’un modèle local depuis Copilot app

1. Cliquez pour ouvrir la boîte de dialogue Paramètres.

2. Dans la barre latérale, cliquez sur Fournisseurs de modèles.

3. Cliquez sur Ajouter un fournisseur.

4. Sélectionnez Windows ML.

   Si votre ordinateur local répond aux prérequis, les modèles locaux pris en charge sont répertoriés sous « Modèles disponibles ».

5. Cliquez sur Télécharger du modèle que vous souhaitez installer.

6. Utilisez le curseur Pourcentage maximal de mémoire système à utiliser pour limiter la quantité de mémoire système pouvant être utilisée par les modèles Windows ML.

7. Activez Redémarrer les modèles au redémarrage de l’application pour redémarrer automatiquement les modèles Windows ML téléchargés lorsque vous redémarrez l’application Copilot app.

8. Modifiez les paramètres spécifiques au modèle en fonction des besoins.

Utilisation d’un modèle local téléchargé

Une fois le téléchargement terminé, le modèle local sera disponible pour une utilisation dans vos sessions.

Vous pouvez effectuer ce qui suit :

• Sélectionnez-le dans le sélecteur de modèles, comme n’importe quel autre modèle disponible. Consultez « Choix d’un modèle dans le Copilot app ».
• MAI Code 1.1 Flash uniquement : Choisissez Copilot Fusion, puis sélectionnez Fusion Standard le niveau d’effort dans le sélecteur de modèles, et Copilot utilisera automatiquement ce modèle le cas échéant.
• Attribuez-le à un/une custom agent pour des tâches ciblées. Vous pouvez ensuite demander à Copilot d’utiliser cet agent personnalisé pour une partie d’une tâche, tout en conservant votre session principale sur un autre modèle dans le cloud. Consultez « Création et utilisation d’agents personnalisés pour GitHub Copilot CLI ».