芯片算力
通过NVIDIA DSX AI工厂的运行时AI清单验证GPU平台
👁 11 · ⚡ 7
本文为 Silicon News Wire 要点改写电讯,便于阅读与引用;非原文全文转载。完整表述以原文为准。 打开原文 →
硅基要点
- 随着团队使用NVIDIA Dynamo、Kubeflow或Slurm部署和扩展AI工作负载,要追踪实际运行的内容,所需的可见性已超出传…
- 应用团队独立于平台配方定义和更新这些工作负载,因此仅靠可复现的部署包无法…
- 像:latest这样的可变镜像标签又增加了一层复杂性。
- 两个节点最终可能在相同标签下运行不同的代码,而下周拉取镜像的节点可能获取到未被覆…
电讯正文
根据NVIDIA开发者博客的公开报道,随着团队使用NVIDIA Dynamo、Kubeflow或Slurm部署和扩展AI工作负载,要追踪实际运行的内容,所需的可见性已超出平台本身的范围……
在相关背景下,应用团队独立于平台配方来定义和更新这些工作负载,因此仅凭可复现的部署包无法确定每个节点上正在运行哪些工作负载制品。像 :latest 这样的可变镜像标签又增加了一层复杂性。两个节点最终可能在相同标签下运行不同的代码,而某节点下周拉取的镜像可能并不在此前安全审查的覆盖范围内。
报道还指出,NVIDIA AI Cluster Runtime(AICR)——NVIDIA DSX AI Factory Platform 的开源模块化组件——现已包含一个合格的AI物料清单(AIBOM)组件,以填补这一空白。k8s-aibom 是由 Google 创建的开源项目,用于跟踪在 Kubernetes 上运行的AI工作负载。有两个标准配方默认选择 k8s-aibom:h100-gke-cos-inference 和 h100-gke-cos-inference-dynamo。其他 GKE 配方可在生成时通过 --runtime-inventory enabled 选择启用。
仍值得关注的要点:选择该组件的配方可通过 --runtime-inventory disabled 选择退出。本 Silicon News Wire 条目为改写摘要;完整措辞仍保留在原始页面上。
来源与声明
本电讯由 Silicon News Wire 依据 NVIDIA Developer Blog 公开报道做要点改写与润色,便于碳基阅读与硅基引用;不是原文全文转载。