概要
モデル ピッカーだけでなく、 Copilot auto model selection は、高品質の結果、信頼性の向上、モデルランドスケープの急速な進化に伴う決定の少ない 1 つを提供するインテリジェントなシステムです。
モデル ピッカーで [自動] を選択すると、Copilot auto model selection を使用します。 自動ではなく、ピッカーにCopilot Fusionが表示される場合は、CopilotをCopilot Fusionサーフェイスで使用できます。 「GitHub Copilot Fusion の概要」を参照してください。
Auto model selection 可用性
Auto model selection は、次のサーフェスで使用できます。
- Copilot in the cloud
- GitHub.comでCopilot Free、Copilot cloud agent、Copilot Chat
- GitHub Copilot Chat in GitHub Mobile
- Eclipse
- Xcode
- Visual Studio
auto model selection のご利用で割引
有料Copilotプランをご利用の場合は、Copilot cloud agentまたはauto model selectionでCopilot Chatを使用しているときに、モデル コストの10%割引を受けることができます。
タスク最適化ありの自動
メモ
タスクの最適化を備えたAuto model selectionは、GitHub Web サイトのCopilot Chatで一般提供されています。
Auto model selection タスクの最適化では、2 つのシステムを組み合わせて、高品質の結果と信頼性を提供します。 1 つのシステムはリアルタイムのシステムの正常性と可用性を追跡し、もう 1 つはタスクの複雑さを評価します。 これらをまとめ auto model selection 、タスクを最適なモデルにルーティングします。
ルーティングは、自然なキャッシュ境界と会話の複雑さの大きな誤差に沿って発生し、品質を向上させることなくキャッシュ関連の追加コストを回避します。
これは、各タスクを最も効率的に解決できるモデルに一致するため、 Copilot からより多くの価値を得るのに役立ちます。 つまり、真に必要な問題に対してコストの高い推論モデルを予約し、単純なタスクを高速で低コストのモデルにルーティングすることで、優れた結果を提供します。
auto model selection を使用するメリットは次のとおりです。
- 各タスクを最も効率的に解決できるモデルに一致させます。
- リアルタイムのシステムの正常性と可用性に基づいて選択をモデル化します。
- 言語の不変性: ルーティングの決定は、要求する言語ではなく、何をしようとしているかによって異なります。
- インテリジェントなタスク ルーティングにより、コスト効率が向上しました。
auto model selection の階層オプション
利用できるレベルは 3 つあります。 これらのレベルを使用して、各プロンプト auto model selection モデルを優先してルーティングする方法を調整します。
| レベル | Priority | 一般的な使用方法 |
|---|---|---|
| 効率 | Cost | 高速で簡単なタスクに適しています。 |
| バランス | コスト、品質、待機時間のバランスを取る | 毎日の作業に適しています。 |
| インテリジェンス | Quality | 複雑なタスク用に構築されています。 |
ティアを使用しても、auto model selection は各タスクのプロンプトを依然として考慮します。 各階層で同じモデルを使用できますが、階層化されたルーティングによって、各タスクの優先モデルの選択方法が変わります。 各レベルの例:
- 効率: すべてのプロンプトは、タスクの最もコスト効率が高く、適切に対応するモデルにルーティングされます。
- バランス: 各プロンプトについて、コスト、品質、待機時間を考慮してモデルを選択し、各プロンプトの複雑さに適したコスト効率と効率の高いパフォーマンスを提供します。
- インテリジェンス: プロンプトは、どのモデルが最高品質の応答を提供するかを評価します。 単純なプロンプトは引き続き小さなモデルにルーティングできますが、複雑なプロンプトはそのタスクに最も対応するモデルにルーティングされます。
使用量は、階層に関係なく、モデルの自動選択に基づいて引き続き課金され、有料プランのユーザーに対する 10% 割引が適用されます。 自動モデルの選択については、「割引」を参照してください。
ポリシーとモデルの可用性
[自動] を選択すると、auto model selectionは、ポリシーとサブスクリプションの種類に応じて、サポートされているモデルから選択します。 使用可能なモデルは、時間の経過と同時に変更される可能性があります。 「GitHub Copilotでサポートされている AI モデル」を参照してください。
Auto model selection では、次の モデルは含まれません。
- お客様のプランで使用できないモデル。
- 管理者ポリシーによって除外されるモデル。 「GitHub Copilotでの AI モデルへのアクセスの構成」を参照してください。
- Copilotをデータ常駐モデルまたは FedRAMP 準拠モデルに制限するポリシーによって除外されるモデル。
- 評価モデルを制限するポリシーによって除外される モデル。
- お客様またはお使いの企業または組織の管理者がローカル ネットワークまたはローカル コンピューターにインストールし、モデル ピッカーで選択するために Copilot に追加したモデル。
で評価モデルを無効にする auto model selection
Auto model selection は、個人向けの Copilot プランの評価モデルをユーザーに提供する場合があります。 個人はいつでもこれらのモデルの使用を無効にすることができます。 「GitHub Copilotでサポートされている AI モデル」を参照してください。