腾讯云计算加速套件TACO Kit-提供网络协议、通信策略、AI框架、模型编译等多层级优化

资讯导航

< 返回资讯列表

腾讯云计算加速套件TACO Kit-提供网络协议、通信策略、AI框架、模型编译等多层级优化

发布时间：2023-08-03 22:07:35

产品推荐：

1、安全稳定的云服务器租用，2核/2G/5M仅37元，点击抢购>>>；

2、高防物理服务器20核/16G/50M/500G防御仅350元，点击抢购>>>

3、百度智能建站（五合一网站）仅880元/年，点击抢购>>> 模板建站（PC+手机站）仅480元/年，点击抢购>>>

4、阿里云服务器2核2G3M仅99元/年、2核4G5M仅199元/年，新老同享，点击抢购>>>

5、腾讯云服务器2核2G4M仅99元/年、新老同享，点击抢购>>>

腾讯云计算加速套件TACO Kit（TencentCloud Accelerated Computing Optimization Kit）是基于腾讯云 Iaas 产品的 AI 计算加速套件。提供网络协议、通信策略、AI 框架、模型编译等多层级的优化，是一套全生态的计算加速方案。支持裸金属、云服务器、容器等算力形态，支持 CPU、GPU、NPU 等芯片算力组合。帮助客户降低 AI 优化门槛的同时，大幅提升 AI 训练和推理业务性能，节约算力成本。

点击这里申请腾讯云VIP帐号，立即体验计算加速套件>>>

产品特性

开箱即用

TACO Kit是一站式的计算加速套件，通过TACO Kit，您无需配置复杂的软件依赖环境，即可开箱即用地部署业务。

性能优越

TACO Kit 整合了腾讯自研和社区的加速组件，提供性能优越的计算加速服务，助力您云上业务效能提升。

可被集成

TACO Kit 提供对业务代码无侵入的加速组件，您可以保持原有的使用部署习惯，根据需要选择不同层级的加速组件，透明无感地适配您各种业务场景。

软硬件协同优化

TACO Kit 集成了合作硬件厂商的定向开源的深度优化方案，并融合自研和社区的前沿加速技术，与 TACO Kit 框架有机结合，带来软硬协同优化的极致性能。

屏蔽底层硬件差异

TACO Kit 兼容 CPU、GPU、NPU 等多种芯片，可运行在云服务器、物理机、容器等各种环境，提供异构计算的统一加速入口。

兼容多种上层软件框架

支持多种框架模型，TenSorflow、PyTorch 已开放支持，ONNX 等框架已在筹备中。

应用场景

训练加速

AI 模型规模的扩大及训练数据的增多，用户对模型的迭代效率要求也随之增长，单个 GPU 的算力已无法满足大部分业务场景，使用单机多卡或多机多卡训练已成为趋势。

TACO Train AI 训练加速

面向训练场景开箱即用的多层级优化加速组件
通过自研高性能网络协议 HRRP 优化网络传输，基于Horovod 深度优化分布式训练的通信策略，并集成自研 AI 框架 TTensorflow
有效解决 VPC 网络环境下分布式训练效率问题，提高加速比和模型迭代速度

推理加速

AI 算法用于生产环境大规模模型的推理部署，在不同模型、不同硬件，不同业务细分场景，需考虑如何标准化一套接口高效地优化和部署业务模型。

TACO Infer AI 推理加速

轻量易用、无缝集成已有深度学习框架的 AI 推理加速软件
集成硬件厂商的定向开源加速方案，整合先进的编译优化、图优化和算子优化技术，兼容 CPU、GPU、NPU 等多种芯片
一行优化接口，无感接入业务，轻松实现优化和部署模型

常见问题

计算加速套件TACO Kit 包含哪些产品？

包含 TACO Train AI 训练加速引擎和 TACO Infer AI 推理加速引擎。

计算加速套件TACO Kit 适用于哪些场景？

计算机视觉。例如，ResNet、MobileNet、Inception、ViT 等。

推荐系统。例如，Wide&Deep、DeepFM 等。

自然语言处理。例如，BERT、Transformer、ASR 等。

TACO Infer AI 推理加速引擎支持哪些硬件和 AI 框架？

硬件支持支持 Intel 和 AMD 系列的 CPU 优化，后续会支持更多优化目标硬件，请您关注产品动态。

AI 框架已对 TensorFlow 1.14和1.15两个主要版本进行了全面的测试。如使用其他版本遇到任何问题，欢迎联系我们获取支持。

TACO Train AI 训练加速引擎包含哪些组件？

TACO Train 目前提供了三个训练加速组件：

Tencent Tensorflow 1.15：基于 Tensorflow 1.15深度优化的训练框架（简称 TTF）。

LightCC：基于 Horovod 深度优化的分布式训练框架。

HARP：自研用户态网络协议栈。

如何获取 TACO Infer AI 推理加速引擎下载链接？

TACO Infer AI 推理加速引擎目前处于内测阶段，您可以通过联系我们填写问卷后获取下载链接。

TOP云网站建设、小程序开发服务：

1、TOP云百度智能建站-980元起做一个最懂百度搜索的网站（包含小程序），点击了解>>>

2、TOP云WordPress建站-498元起，会打字就会做网站，4万+模板、5万+功能套件任意用，点击了解>>>

TOP云服务器推荐（性价比很高，且安全稳定、续费同价）：

1核1G 300M大带宽 50G硬盘 1个独立IP 2G独享防御 106元/月
2核2G 5M独享带宽 90G硬盘 1个独立IP 20G独享防御 37元/月
4核4G 2M独享带宽 50G硬盘 1个独立IP 10G独享防御 50元/月
4核8G 3M独享带宽 50G硬盘 1个独立IP 10G独享防御 80元/月
8核8G 5M独享带宽 50G硬盘 1个独立IP 10G独享防御 120元/月
8核16G 5M独享带宽 50G硬盘 1个独立IP 10G独享防御 160元/月
如需购买请进入网址：https://topyun.vip/server/buy.html

TOP云裸金属服务器推荐（独立物理服务器，性能强劲，大型应用首选）：

高防BGP物理机：20核/16G/240G ssd/50M/1ip/200G独享防御 350元/月
高防BGP物理机：40核/32G/500G ssd/100M/1ip/200G独享防御 550元/月
高防BGP物理机：48核/64G/500G ssd/100M/1ip/200G独享防御 750元/月
高防BGP物理机：56核/128G/1.5T ssd/100M/1ip/100G独享防御 900元/月
显卡物理服务器：24核/64G/256 ssd/200M/1050ti 4G独显 430元/月
如需购买请进入网址：https://topyun.vip/baremetal/buy.html

TOP云虚拟主机推荐（经济实惠，建站首选！）：

国内虚拟主机1G空间、100M数据库、独享2M带宽、支持.NET,PHP,ASP，仅39元/年
香港虚拟主机1G空间（免备案）、100M数据库、支持.NET,PHP,ASP，仅58元/年
如需购买请进入网址：https://topyun.vip/host/buy.html

云产品优惠活动与资讯中心

资讯导航