Sobre GitHub Copilotauto model selection

Overview

Mais do que apenas um seletor de modelo, Copilot auto model selection é um sistema inteligente que fornece resultados de alta qualidade, melhor confiabilidade e uma decisão a menos para tomar à medida que o cenário de modelo evolui rapidamente.

Você usa Copilot auto model selection escolhendo Auto no seletor de modelo. Se você vir Copilot Fusion no seletor, em vez de Auto, isso significa que Copilot Fusion está disponível em sua Copilot superfície. Consulte Sobre GitHub Copilot Fusion.

Auto model selection disponibilidade

Auto model selection está disponível nestas plataformas:

• Copilot in the cloud
• Em Copilot Free, Copilot cloud agent e Copilot Chat em GitHub.com
• GitHub Copilot Chat in GitHub Mobile
• Eclipse
• Xcode
• Visual Studio

Desconto por usar auto model selection

Se você estiver em um plano pago Copilot , você se qualificará para um desconto de 10% nos custos do modelo ao usar auto model selection em Copilot Chat, ou Copilot cloud agent.

Automático com otimização de tarefas

Auto model selection com otimização de tarefas combina dois sistemas para fornecer resultados de alta qualidade e melhor confiabilidade. Um sistema controla a integridade e a disponibilidade do sistema em tempo real, enquanto o outro avalia a complexidade da tarefa. Juntando-os, auto model selection encaminha a tarefa para o modelo ideal.

O roteamento ocorre com base em limites naturais de cache e em grandes variações na complexidade da conversa, para evitar custos adicionais de cache sem gerar melhorias na qualidade.

Isso ajuda você a obter mais valor de Copilot, pois associa cada tarefa ao modelo que pode resolvê-la com mais eficiência. Isso significa reservar modelos de raciocínio de custo mais alto para problemas que realmente precisam dele, ao mesmo tempo em que roteia tarefas simples para modelos mais rápidos e de menor custo que ainda oferecem ótimos resultados.

Os benefícios de usar o auto model selection incluem:

• Correspondendo cada tarefa ao modelo que pode resolvê-la com mais eficiência.
• Escolha do modelo com base na integridade e disponibilidade do sistema em tempo real.
• Invariância de linguagem: as decisões de roteamento dependem do que você está tentando fazer, não de qual idioma você está perguntando.
• Melhor eficiência de custo devido ao roteamento inteligente de tarefas.

Opções de nível para auto model selection

Há três níveis disponíveis. Use estes níveis para ajustar como auto model selection direciona preferencialmente os modelos para cada prompt.

Camada	Priority	Uso típico
Eficiência	Custo	Adequado para tarefas rápidas e simples.
Equilíbrio	Equilibra custo, qualidade e latência	Ideal para o trabalho diário.
Inteligência	Quality	Criado para tarefas complexas.

Com níveis, auto model selection ainda considera o prompt para cada tarefa. Os mesmos modelos permanecem disponíveis em cada camada, mas o roteamento em camadas altera a forma como os modelos preferenciais são selecionados para cada tarefa. Exemplos para cada camada:

• Eficiência: todos os prompts são encaminhados ao modelo com melhor custo-benefício e capacidade adequada para a tarefa.
• Balanceamento: para cada prompt, o modelo é selecionado considerando o custo, a qualidade e a latência, para fornecer um desempenho econômico e eficiente adequado à complexidade de cada prompt.
• Inteligência: os prompts são avaliados para determinar qual modelo forneceria a resposta de melhor qualidade. Um prompt simples ainda pode ser roteado para um modelo menor, enquanto um prompt complexo é roteado para o modelo mais capaz para essa tarefa.

O uso continua sendo cobrado com base no modelo selecionado automaticamente, independentemente do nível, além do desconto de 10% para usuários de planos pagos. Consulte Desconto para seleção de modelo automático.

Políticas e disponibilidade de modelo

Ao selecionar Auto, auto model selection escolha entre modelos com suporte, sujeitos às políticas e ao tipo de assinatura. Os modelos disponíveis podem ser alterados ao longo do tempo. Consulte Modelos de IA com suporte no GitHub Copilot.

Auto model selection não incluirá estes modelos:

• Modelos não disponíveis em seu plano.
• Modelos excluídos por políticas de administrador. Consulte Configurando o acesso a modelos de IA no GitHub Copilot.
• Modelos excluídos por políticas que restringem Copilot a modelos com residência de dados ou compatíveis com o FedRAMP.
• Modelos excluídos por políticas que restringem modelos de avaliação.
• Modelos que você, ou um administrador da sua empresa ou organização, instalou em sua rede local ou computador local e adicionou a Copilot para seleção no seletor de modelos.

Desabilitando modelos de avaliação em auto model selection

Auto model selection pode disponibilizar modelos de avaliação a usuários dos planos Copilot para indivíduos. Os indivíduos podem desabilitar o uso desses modelos a qualquer momento. Consulte Modelos de IA com suporte no GitHub Copilot.