GPUの使用
データ・サイエンスでGPUを使用するには、テナンシにそのシェイプの制限が必要であり、それを使用するリージョンでシェイプが使用可能である必要があります。
企業のお客様でない場合は、GPUを使用するためのサービス制限の引上げを作成する必要があります。これは、デフォルトでは、テナンシに制限がゼロであるためです。
ノート
サービス制限がシェイプ容量と同じではありません。データ・サイエンスのGPU制限は、シェイプが使用可能な場合にテナンシで使用できるGPUの最大数です。リージョン内のすべてのシェイプが使用中の場合、データ・サイエンスの制限がある場合でも、容量不足エラーが発生する可能性があります。
サービス制限がシェイプ容量と同じではありません。データ・サイエンスのGPU制限は、シェイプが使用可能な場合にテナンシで使用できるGPUの最大数です。リージョン内のすべてのシェイプが使用中の場合、データ・サイエンスの制限がある場合でも、容量不足エラーが発生する可能性があります。
GPUのリクエスト
予約済GPU容量の使用
Computeは容量予約機能を提供し、テナントがGPUシェイプを予約できるようにします。ComputeでGPU容量を予約している場合は、データ・サイエンスで使用するGPUを転送できます。サポート・リクエスト・チケットを作成し、データ・サイエンスに転送するGPU予約のシェイプ、カウント、リージョン、テナンシおよび予約IDを指定します。
重要
現時点では、A10容量予約は受け付けられず、A100容量予約は特定のリージョンでのみ受け付けられます。
現時点では、A10容量予約は受け付けられず、A100容量予約は特定のリージョンでのみ受け付けられます。
データ・サイエンスが予約を完了すると、テナンシはシェイプが使用中かどうかに関係なく請求されます。
ノート
予約済GPUがデータ・サイエンスに転送された後、GPUが使用されているかどうかにかかわらず、データ・サイエンスはGPUシェイプの請求を開始します。
予約済GPUがデータ・サイエンスに転送された後、GPUが使用されているかどうかにかかわらず、データ・サイエンスはGPUシェイプの請求を開始します。
AIクイック・アクションでGPUを使用するヒント
モデル・デプロイメントに特定のGPUシェイプを使用するか、AIクイック・アクションで微調整を使用するようにデータ・サイエンスのサービス制限を増やした場合は、そのシェイプでノートブック・セッションを作成してAIクイック・アクションにアクセスしないでください。その場合、ノートブック・セッションのGPUはサービス制限にカウントされるため、モデル・デプロイメントや微調整にシェイプを使用できません。別のシェイプ(CPUまたはGPU)を選択して、AIクイック・アクションにアクセスするためのノートブックを作成します。
トラブルシューティング
GPUの使用に関する問題が発生した場合は、GPUのトラブルシューティング・セクションを参照してください。