axin
2025-04-23
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>NCCL Tuner Plugin是用于优化NCCL性能的插件，本文介绍如何在gni3cg实例中通过Tuner Plugin优化NCCL通信性能。关键组件关键组件说明实例实例规格：NCCL Tuner Plugin支持以下8卡规格的机型在单机状态下进行allreduce通信。规格详...
axin
2025-04-23
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>本文主要介绍如何在Docker环境中进行端到端单机/多机GPT训练来判断GPU性能是否达标。背景信息在处理GPU性能问题时，如果执行了HostDiagnose、Easy_NCCL等操作后仍无法定位到异常或者需要模拟真实业务场景时，您可以通过端到端单机/多机GPT训练，模拟用户真实业...
axin
2025-04-23
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>本文主要介绍如何简便验证高性能计算GPU实例的NCCL性能，节省了依赖安装、编译、配置端口、免密等繁琐步骤。NCCL（Nvidia Collective multi-GPU Communication Library，读作 "Nickel"）是一个提供GPU间通...
axin
2025-04-23
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>本文介绍如何在高性能计算GPU实例上搭建Slurm计算集群。概述什么是SlurmSlurm（Simple Linux Utility for Resource Management）是一个开源、容错和高度可扩展的集群管理和作业调度系统，适用于大型和小型Linux集群。Slurm的运...
axin
2025-04-23
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>本文介绍如何为高性能计算GPU实例手动配置NCCL，从而避免RDMA网络断链，影响业务正常运行。NCCL简介NCCL（Nvidia Collective Communication Library）是NVIDIA的集合通信库，可以在实例内或实例间实现多个GPU的快速通信。操作步骤C...
axin
2025-04-23
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>本文介绍如何部署Stable Diffusion WebUI工具前端和Stable Diffusion训练模型，实现高质量AI图片生成，掌握整个AI作画推理流程及关键参数对图片输出的影响。AIGC简介AIGC（AI generated content）是一种利用AI技术自动生成内容...
axin
2025-04-23
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>本文介绍如何部署Stable Diffusion WebUI工具前端和Stable Diffusion训练模型，实现高质量AI图片生成，掌握整个AI作画推理流程及关键参数对图片输出的影响。AIGC简介AIGC（AI generated content）是一种利用AI技术自动生成内容...
axin
2025-04-23
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>本文介绍如何在Linux实例上部署Pytorch应用。Pytorch简介PyTorch是一个开源的Python机器学习库，用于自然语言处理等应用程序，不仅能够实现强大的GPU加速，同时还支持动态神经网络。软件版本操作系统：本文以Ubuntu 18.04为例。NVIDIA驱动：GPU...
axin
2025-04-23
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>本文介绍如何在Linux实例上基于NGC部署TensorFlow。NGC介绍NGC（NVIDIA GPU CLOUD）是NVIDIA开发的一套深度学习容器库，具有强大的性能和良好的灵活性，可以帮助科学家和研究人员快速构建、训练和部署神经网络模型。NGC官网提供了当前主流深度学习框架...
axin
2025-04-23
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>本文介绍如何通过困惑度PPL和准确度ACC这两个指标来量化Lambada数据集对模型的评估效能，从而对模型的理解能力进行量化打分。背景信息目前的模型在回答一些简单、通用的问题时表现尚佳，但是一旦涉及到需要依托上下文进行深入理解的问题时，就会表现得颇为逊色。例如，有些模型只能处理短文...
火山引擎GPU云服务器使用指南-HPC-单机/多机NCCL测试（Easy_NCCL）
2025-04-23火山引擎GPU云服务器使用指南-HPC搭建Slurm计算集群
2025-04-23
