233
云计算
负载均衡
产品简介
产品价格
快速入门
用户指南
实践操作
常见问题
购买指南
云服务器
产品简介
计费规则
购买指导
控制台使用指南
常见问题
云数据库
产品简介
计费规则
购买指导
快速入门
连接实例
控制台使用指南
对象存储
产品简介
控制台使用指南
程序员百科
Python
百度智能云全功能AI开发平台BML-视觉任务模型部署整体说明

产品推荐:

1、安全稳定的云服务器租用,2核/2G/5M仅37元,点击抢购>>>

2、高防物理服务器20核/16G/50M/200G防御仅350元,点击抢购>>>

3、百度智能建站(五合一网站)仅880元/年,点击抢购>>> 模板建站(PC+手机站)仅480元/年,点击抢购>>>


点击这里点击这里申请百度智能云VIP帐号,立即体验BML>>>

百度智能云全功能AI开发平台BML-视觉任务模型部署整体说明

模型仓库中的视觉模型可部署在公有云服务器、私有服务器,封装成可离线运行的设备端SDK,或直接购买软硬一体方案,灵活适配各种使用场景及运行环境
您可以点击进入预训练网络与部署方式适配性页面,查询各预训练网络对下表所示的部署方式、硬件、系统的支持情况

部署方式支持的硬件支持的系统
公有云部署可集成公有云API即可不限制
私有服务器部署[私有API]通用X86 CPU
英伟达 GPU
Linux
私有服务器部署[服务器端SDK]通用X86 CPULinux

英伟达 GPULinux/Windows
通用设备端SDK通用ARMLinux/Android/iOS

海思NNIELinux

华为达芬奇NPUAndroid

华为NPUAndroid

高通骁龙Android

苹果A仿生芯片iOS

通用X86 CPUWindows

英特尔®神经计算棒Linux/Windows
专项硬件适配SDK[软硬一体方案]Baidu-EdgeBoard(FZ)Linux

Baidu-EdgeBoard(VMX)Linux/Windows

Nvidia-Jetson(Nano/TX2/Xavier)Linux

公有云API

训练完成的模型存储在云端,可通过独立Rest API调用模型,实现AI能力与业务系统或硬件设备整合

具有完善的鉴权、流控等安全机制,GPU集群稳定承载高并发请求

支持查找云端模型识别错误的数据,纠正结果并将其加入模型迭代的训练集,不断优化模型效果

私有服务器部署

可将训练完成的模型部署在私有CPU/GPU服务器上,支持私有API和服务器端SDK两种集成方式,可在内网/无网环境下使用模型,确保数据隐私

  • 私有API:将模型以Docker形式在本地服务器(仅支持Linux)上部署为http服务,可调用与公有云API功能相同的接口。可纯离线完成部署,服务调用便捷
  • 服务器端SDK:将模型封装成适配本地服务器(支持Linux和Windows)的SDK,可集成在其他程序中运行。首次联网激活后即可纯离线运行,占用服务器资源更少,使用方法更灵活 提供基础版、加速版(已支持通用x86、通用ARM芯片)两种版本,可根据业务场景需求选择。

训练完成的模型被打包成适配智能硬件的SDK,可进行设备端离线计算。满足推理阶段数据敏感性要求、更快的响应速度要求

支持iOS、Android、Linux、Windows四种操作系统,基础接口封装完善,满足灵活的应用侧二次开发

软硬一体方案

模型训练完成后,可前往AI市场购买EasyDL&EdgeBoard软硬一体方案

可应用于工业分拣、视频监控等多种设备端离线计算场景,让离线AI落地更轻松。


这条帮助是否解决了您的问题? 已解决 未解决

提交成功!非常感谢您的反馈,我们会继续努力做到更好! 很抱歉未能解决您的疑问。我们已收到您的反馈意见,同时会及时作出反馈处理!