基于开创性的 Blackwell 架构打造的 NVIDIA GeForce RTX 50 系列 GPU,将为个人电脑上的生成式 AI 功能带来显著提升。这些 GPU 结合 NVIDIA DLSS 4 技术,有望通过 NVIDIA Reflex 2 将帧率提升高达 8 倍并降低延迟。NVIDIA RTX 神经网络着色器进一步增强了图形保真度,使这些 GPU 成为 AI 爱好者、游戏玩家、创作者和开发者的理想选择。RTX 50 系列旨在加速最新的生成式 AI 工作负载,为 AI 任务提供高达每秒 2,375 万亿次运算 (TOPS) 的处理能力。
“ 释放 NVIDIA NIM 微服务的 AI 潜力
NVIDIA NIM 微服务是一套预构建的容器工具,旨在简化生成式 AI 的采用。这些微服务使开发人员和爱好者能够快速迭代,并利用 RTX GPU 的强大功能来加速 Windows PC 上的 AI 任务。NVIDIA AI Blueprints 通过提供全面的参考工作流来补充 NIM,从而加速 AI 应用程序的开发和部署。这些技术协同工作,帮助用户构建、迭代并交付尖端的 AI PC 体验。NVIDIA NIM 通过提供社区和 NVIDIA 开发的 AI 模型来解决将 AI 模型集成到 PC 中的挑战。这些微服务易于下载,并通过行业标准 API 连接,涵盖了 AI PC 的关键模态。它们还提供跨 PC、数据中心和云的灵活部署选项。
“ Tensor Cores 在加速 AI 性能中的作用
Tensor Cores 是专门的 AI 处理器,用于处理计算密集型 AI 工作负载。Tensor Cores 于 2018 年随 NVIDIA GeForce RTX GPU 推出,通过比传统计算核心更有效地加速计算,彻底改变了 AI 性能。Blackwell 架构通过其第五代 Tensor Cores 将 AI 加速提升到新的高度,提供高达 2,375 AI TOPS 的性能。这种增强的处理能力为实时渲染、智能助手和其他应用程序带来了更快的 AI 体验,为游戏、内容创作等领域的创新铺平了道路。
“ FP4:革新 AI 模型效率
FP4 是一种先进的量化格式,可减小 AI 模型的大小,从而在最小化内存需求的同时提高运行速度。与 FP16 相比,FP4 可将模型大小减小高达 60%,性能提升一倍以上,从而在对输出质量影响最小的情况下实现更高效的 AI 处理。例如,Black Forest Labs 的 FLUX.1 [dev] 模型在 FP4 下需要显著更少的内存,使其能够在更广泛的 GeForce RTX GPU 上运行。Blackwell 架构对 FP4 的原生支持使得在本地 PC 上部署高性能 AI 更加容易,从而为内容创作和其他应用程序带来更快、更智能的 AI 体验。
“ AI Blueprints:为 RTX PC 提供强大的 AI 工作流
基于 NIM 微服务构建的 NVIDIA AI Blueprints,为先进的 AI 驱动项目提供了预打包的优化参考实现。这些蓝图简化了数字人类、播客生成器和应用程序助手等应用程序的开发。在 CES 上,NVIDIA 展示了 PDF 转播客蓝图,该蓝图可将 PDF 文件转换为引人入胜的播客,并提供 AI 驱动的主持人问答环节。此工作流集成了多个 AI 模型,以提供动态且交互式的体验。AI Blueprints 使用户能够快速地在 RTX PC 和工作站上从实验过渡到实际的 AI 开发。
“ 微软与 NVIDIA 合作
微软和 NVIDIA 正在合作,在 Windows Subsystem for Linux (WSL2) 中支持 NIM 微服务和 RTX 的 AI Blueprints。此次合作使得在数据中心 GPU 上运行的 AI 容器能够在 RTX PC 上高效运行,从而使开发人员更容易跨平台构建、测试和部署 AI 模型。此次集成利用了 Blackwell 架构的关键创新,包括第五代 Tensor Cores 和对 FP4 精度的支持。
“ RTX PC 和工作站上的 AI 未来
生成式 AI 正在突破游戏、内容创作和其他领域的界限。借助 NIM 微服务和 AI Blueprints,最新的 AI 进步不再局限于云端,而是针对 RTX PC 进行了优化。RTX GPU 使开发人员和爱好者能够在 PC 和工作站上本地进行实验、构建和部署 AI,从而为 AI 驱动的应用程序和体验解锁新的可能性。
“ 支持的硬件和可用性
NVIDIA NIM 微服务和 AI Blueprints 即将推出,首批硬件支持包括 GeForce RTX 50 系列、GeForce RTX 4090 D 和 4080,以及 NVIDIA RTX 5000 专业 GPU。未来将支持更多 GPU,将这些强大的 AI 工具的可用性扩展到更广泛的用户群体。
我们使用对我们网站运行至关重要的 cookies。为了改进我们的网站,我们希望使用额外的 cookies 来帮助我们了解访问者如何使用它,衡量来自社交媒体平台的流量,并个性化您的体验。其中一些 cookies 由第三方提供。点击"接受"以接受所有 cookies,或点击"拒绝"以拒绝所有可选 cookies。
评论(0)