Overview
Plus qu’un sélecteur de modèles, Copilot auto model selection est un système intelligent qui fournit des résultats de haute qualité, une meilleure fiabilité et une décision moins importante à prendre au fur et à mesure que le paysage du modèle évolue rapidement.
Vous utilisez Copilot auto model selection en choisissant Auto dans le sélecteur de modèles. Si vous voyez Copilot Fusion dans le sélecteur, plutôt que Auto, cela signifie que Copilot Fusion est disponible dans votre Copilot surface. Consultez « À propos de GitHub Copilot Fusion ».
Auto model selection disponibilité
Auto model selection est disponible dans ces zones :
- Copilot in the cloud
- Le Copilot Free, Copilot cloud agent et Copilot Chat sur GitHub.com
- GitHub Copilot Chat in GitHub Mobile
- Eclipse
- Xcode
- Visual Studio
Remise pour l’utilisation de auto model selection
Si vous êtes sur un plan payant Copilot, vous avez droit à une remise de 10 % sur les coûts de modèle lors de l’utilisation de auto model selection dans Copilot Chat, ou Copilot cloud agent.
Auto avec optimisation des tâches
Remarque
Auto model selection avec l’optimisation des tâches est généralement disponible dans Copilot Chat sur le site web GitHub.
Auto model selection associé à l’optimisation des tâches combine deux systèmes pour fournir des résultats de haute qualité et une meilleure fiabilité. Un système effectue le suivi de l’intégrité et de la disponibilité du système en temps réel, tandis que l’autre évalue la complexité des tâches. En les mettant ensemble, auto model selection route la tâche vers le modèle optimal.
Le routage s’effectue aux limites naturelles du cache et lors de fortes variations de la complexité de la conversation, afin d’éviter des coûts supplémentaires liés au cache, sans amélioration de la qualité.
Cela vous aide à tirer davantage de valeur de Copilot, car cela associe chaque tâche au modèle qui peut l’exécuter le plus efficacement. Cela signifie réserver des modèles de raisonnement plus coûteux pour les problèmes qui en ont vraiment besoin, tout en acheminant des tâches simples vers des modèles plus rapides et à moindre coût qui fournissent encore de grands résultats.
Voici les avantages de l’utilisation de auto model selection :
- Mise en correspondance de chaque tâche au modèle qui peut la résoudre le plus efficacement.
- Choix de modèle basé sur l’intégrité et la disponibilité du système en temps réel.
- Invariance linguistique : les décisions de routage dépendent de ce que vous essayez de faire, et non de la langue dans laquelle vous posez la question.
- Amélioration de l’efficacité des coûts en raison du routage intelligent des tâches.
Options de palier pour auto model selection
Il existe trois niveaux disponibles. Utilisez ces niveaux pour ajuster la manière dont auto model selection achemine en priorité les modèles pour chaque requête.
| Niveau | Priority | Utilisation classique |
|---|---|---|
| Efficacité | Cost | Adapté aux tâches rapides et simples. |
| Solde | Équilibre les coûts, la qualité et la latence | Un bon ajustement pour le travail quotidien. |
| Intelligence | Qualité | Conçu pour les tâches complexes. |
Avec les niveaux, auto model selection prend toujours en compte l’invite pour chaque tâche. Les mêmes modèles restent disponibles dans chaque niveau, mais le routage hiérarchisé change la façon dont les modèles préférés sont sélectionnés pour chaque tâche. Exemples pour chaque niveau :
- Efficacité : toutes les requêtes sont acheminées vers le modèle le plus efficient en termes de coût et le plus adapté à la tâche concernée.
- Équilibre : pour chaque invite, le modèle est sélectionné en tenant compte des coûts, de la qualité et de la latence, pour fournir des performances rentables et efficaces appropriées à la complexité de chaque invite.
- Intelligence : les requêtes sont évaluées afin de déterminer quel modèle fournirait la réponse de la plus haute qualité. Une invite simple peut toujours être routée vers un modèle plus petit, tandis qu’une invite complexe est acheminée vers le modèle le plus capable pour cette tâche.
L’utilisation est toujours facturée en fonction des sélections automatiques du modèle, quel que soit le niveau, ainsi que la remise de 10% pour les utilisateurs sur les plans payants. Voir Remise pour la sélection de modèle automatique.
Politiques et disponibilité des modèles
Lorsque vous sélectionnez Auto, auto model selection choisissez parmi les modèles pris en charge, soumis à vos stratégies et type d’abonnement. Les modèles disponibles peuvent changer au fil du temps. Consultez « Modèles IA pris en charge dans GitHub Copilot ».
Auto model selection n’inclut pas ces modèles :
- Les modèles non disponibles dans votre plan.
- Modèles exclus par les stratégies d’administrateur. Consultez « Configuration de l’accès aux modèles IA dans GitHub Copilot ».
- Modèles exclus par des stratégies limitant Copilot à des modèles avec résidence des données ou conformes à FedRAMP.
- Modèles exclus par les stratégies limitant les modèles d’évaluation.
- Les modèles que vous, ou un administrateur de votre entreprise ou organisation, avez installés sur votre réseau local ou votre ordinateur local, et ajoutés à Copilot pour la sélection dans le sélecteur de modèles.
Désactivation des modèles d’évaluation dans auto model selection
Auto model selection peut proposer des modèles d’évaluation aux utilisateurs disposant de forfaits individuels Copilot. Les individus peuvent désactiver l’utilisation de ces modèles à tout moment. Consultez « Modèles IA pris en charge dans GitHub Copilot ».