百度文心千帆大模型平台使用指南-怎么创建模型压缩任务? | ||||||||||||
产品推荐: 1、安全稳定的云服务器租用,2核/2G/5M仅37元,点击抢购>>>; 2、高防物理服务器20核/16G/50M/500G防御仅350元,点击抢购>>> 3、百度智能建站(五合一网站)仅880元/年,点击抢购>>> 模板建站(PC+手机站)仅480元/年,点击抢购>>> 4、阿里云服务器2核2G3M仅99元/年、2核4G5M仅199元/年,新老同享,点击抢购>>> 5、腾讯云服务器2核2G4M仅99元/年、新老同享,点击抢购>>> 点击这里申请百度智能云特邀VIP帐号,立即体验文心千帆>>> 百度文心千帆大模型平台使用指南-怎么创建模型压缩任务? 创建模型压缩任务登录到文心千帆大模型操作台,在左侧功能列选择模型压缩,进入模型评估主任务界面。 点击“创建压缩任务”按钮,进入新建压缩任务页面。(若没有该按钮,请查看任务计费说明) 由用户填写评估任务所需的基本信息、压缩配置、资源配置。 基本信息 填写压缩任务名称、压缩任务描述。 压缩配置
资源配置 配置模型压缩的资源环境和计算节点数后,点击“确认”按钮开始进行模型压缩任务。(详细计费规则请见任务计费说明) 任务计费说明当前模型压缩功能限时免费。 模型压缩支持范围
注:量化压缩是一种将模拟量转换为离散量的方法,它可以模型参数的存储字节数压缩。INT8代表将模型参数压缩至8位字节。 |