axin
2025-04-23
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>本文以搭载了一张A10显卡的ecs.gni2.3xlarge实例为例，介绍如何在GPU云服务器上部署ChatGLM-6B大语言模型。背景信息ChatGLM-6B是一个具有62亿参数的、支持中英双语问答的对话语言模型，基于General Language Model（GLM）架构，结...
axin
2025-04-22
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>本文以搭载了一张A10显卡的ecs.gni2.3xlarge实例为例，介绍如何在GPU云服务器上部署Baichuan大语言模型。背景信息Baichuan-13B是包含130亿参数的开源可商用的大语言模型，在知识问答、聊天、逻辑推理、总结摘要等场景具有良好的表现，在权威的中文和英文...
axin
2025-04-22
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>本文以搭载了一张A10显卡的ecs.gni2.7xlarge实例为例，介绍如何在GPU云服务器上部署、运行不同参数量级的DeepSeek-R1-Distill模型。背景信息DeepSeek-R1-DistillDeepSeek-R1-Distill是一个基于DeepSeek-R1生...
axin
2025-04-22
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>本文以2台ecs.hpcpni3ln.45xlarge实例为例，介绍如何在GPU云服务器上部署、运行DeepSeek-R1或DeepSeek-V3模型。背景信息DeepSeek-V3DeepSeek-V3是一款强大的混合专家（MoE）语言模型，其总参数量达到了671 B，每个Tok...
axin
2025-04-22
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>为方便您快速部署DeepSeek模型，火山引擎为您提供了Terraform脚本。该脚本可以自动创建GPU实例，并自动在实例中部署、运行DeepSeek-R1、DeepSeek-V3或不同参数量级的DeepSeek-R1-Distill模型。本文主要介绍如何获取、运行该Terrafo...
axin
2025-04-22
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>创建 高性能计算GPU型hpcpni2 实例后，您可在实例内部手动安装RDMA网络观测性增强插件，用于监控RDMA网络的健康状况。操作场景使用公共镜像创建的未开启“RDMA网络观测性增强”的 高性能计算GPU型hpcpni2 实例，“RDMA网络观测性增强”相关信息请参见创建高性能...
axin
2025-04-22
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>您可以通过云服务器控制台或云监控控制台查看监控数据。通过云服务器控制台获取云服务器在实例的详情页面，提供了单独的监控数据统计页面。在该页面，您可以查看30天内云服务器实例的CPU、内存、网络出入带宽、磁盘IO带宽、GPU卡、RDMA网络等监控数据。登录云服务器控制台。在实例列表页，...
axin
2025-04-22
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>本文汇总了集群诊断功能支持的诊断项、检测项、修复建议等详情。诊断指标ID诊断项说明影响修复建议GuestOS.RdmaAgentService检测RDMA网络配置器状态。实例内rdma-agent.service服务未正常运行，可能引起RDMA网络无法正常使用、RDMA网络性能不达...
axin
2025-04-22
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>集群诊断完成后，您可以通过诊断报告了解历史诊断结果，也可以修复问题后，重新诊断，验证问题是否已修复成功。操作步骤登录实例控制台。在左侧导航栏选择“实例与镜像 > 高性能计算集群”。在顶部导航栏选择目标实例所在项目与地域。单击“集群诊断”页签，可以查看所有集群诊断报告，包括报告...
axin
2025-04-22
👉点击这里申请火山引擎VIP帐号，立即体验火山引擎产品>>>本文介绍如何诊断高性能计算GPU型云服务器实例健康状态，便于您对其故障或性能指标不达预期进行定位。使用限制暂仅支持运行中状态的Linux操作系统实例使用本功能。待诊断实例必须安装批量作业客户端。若当前实例有正在进行的诊断任务，则需等待当前诊断完成后再发起下一次诊断。操作说明若为首次...
火山引擎公网IP使用指南-公网IP结合GTM实现公网流量调度和容灾
2025-05-08
