使用预留
本文档介绍了如何使用 Compute Engine 预留来确保您的 Colab Enterprise 运行时具有足够的虚拟机 (VM) 资源来运行。
预留是 Compute Engine 的一项功能。它们有助于确保您随时可以使用资源来创建具有相同硬件(内存和 vCPU)和可选资源(GPU 和本地 SSD 磁盘)的虚拟机。
当您创建预留时,Compute Engine 会验证指定可用区是否有可用的请求容量。如果有,Compute Engine 会预留资源并创建预留,然后会发生以下情况:
预留的资源会立即可供您使用,并且会一直可用,直到您删除预留为止。
系统会按照与运行中虚拟机相同的按需费率(包括任何适用的折扣)对预留的资源收费,直到您删除预留为止。使用预留时,虚拟机不会产生重复的资源费用,因为系统已针对预留资源的费用收取预留的费用。如需了解详情,请参阅 Compute Engine 可用区级资源的预留。
概览
如需将预留与 Colab Enterprise 搭配使用,请执行以下任务:
限制和要求
当 Colab Enterprise 运行时使用预留时,需要遵循 Compute Engine 预留的所有限制。请参阅预留的工作原理。
此外,将预留与 Colab Enterprise 搭配使用时,存在以下限制和要求:
预留必须符合以下条件之一:
- 与 Colab Enterprise 笔记本和运行时位于同一项目中。
- 与您的 Colab Enterprise 笔记本和运行时共享同一项目。
预留的虚拟机属性必须与 Colab Enterprise 运行时完全匹配才能使用该预留。例如,如果预留指定了
e2-standard-8
机器类型,则只有在 Colab Enterprise 运行时也使用e2-standard-8
机器类型时才能使用该预留。请参阅要求。
准备工作
- 查看预留的 要求和 限制。
- 查看共享预留的 配额要求和 限制条件。
- Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Verify that billing is enabled for your Google Cloud project.
-
Enable the Vertex AI, Dataform, and Compute Engine APIs.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Verify that billing is enabled for your Google Cloud project.
-
Enable the Vertex AI, Dataform, and Compute Engine APIs.
-
Colab Enterprise User (
roles/aiplatform.colabEnterpriseUser
) -
Compute Admin (
roles/compute.admin
) -
在 Google Cloud 控制台中,前往 Colab Enterprise 运行时模板页面。
-
点击
新建模板。此时会显示创建新的运行时模板对话框。
-
在运行时基本信息部分中,输入显示名称。
-
在区域菜单中,选择需要运行时模板的区域。
-
在配置计算部分的机器类型菜单中,选择机器类型。运行时模板的机器类型必须与预留的机器类型一致。
-
在预留菜单中,选择要使用的特定预留,或选择使用自动选择的预留。
如需详细了解如何使用自动选择或明确指定的预留,请参阅预留的工作原理中的使用类型部分。
-
完成对话框的其余部分,然后点击创建。
您的运行时模板会显示在运行时模板标签页上的列表中。
Compute Engine 资源,包括所有适用的承诺使用折扣 (CUD),按 Compute Engine 价格计算。这些费用的 SKU 上带有
goog-vertex-ai-product: colab-enterprise
标签。请参阅 Compute Engine 价格。除基础设施使用费之外,还需支付 Colab Enterprise 管理费。请参阅 Colab Enterprise 价格。
如需向主账号授予对运行时模板的访问权限,请参阅管理对运行时模板的访问权限。
如需详细了解 Compute Engine 预留,请参阅 Compute Engine 可用区级资源的预留。
所需的角色
如需获得将预留用于 Colab Enterprise 所需的权限,请让您的管理员为您授予项目的以下 IAM 角色:
如需详细了解如何授予角色,请参阅管理对项目、文件夹和组织的访问权限。
创建预留
创建 Compute Engine 预留。它可以是单项目预留,也可以是共享预留。如需了解详情,请参阅以下文档:
预留可以包含 GPU 加速器。
将预留添加到新的运行时模板
如需创建使用预留的运行时模板,请执行以下操作:使用预留
如需使用预留,请执行以下操作:
停止使用预留
如需停止使用预留,您可以删除预留。
如果您希望继续将您的预留用于其他资源,但不希望 Colab Enterprise 笔记本使用它,请删除与您的预留关联的运行时和运行时模板。
结算
使用 Compute Engine 预留时,您需要为以下各项支付费用:
问题排查
本部分介绍了如何解决在 Colab Enterprise 中使用预留时遇到的问题。
无法创建运行时
尝试创建运行时时,会发生类似于以下内容的错误。
Failed to create notebook runtime with error: Invalid value for field 'resource.reservationAffinity': '{"consumeReservationType": "SPECIFIC_ALLOCATION", "key": "compute.googleapis.com/reservation-name...'. No available resources in specified reservations.
当预留的虚拟机属性与 Colab Enterprise 运行时不匹配时,会发生此错误。例如,如果预留指定了 e2-standard-8
机器类型,则 Colab Enterprise 运行时只有在也使用 e2-standard-8
机器类型时才能使用该预留。如需了解详情,请参阅要求。
如需解决此问题,请创建运行时模板,并使用与预留的虚拟机属性相匹配的配置。