与字节国内业务并池，火山引擎「抢滩」AI赛道

作者|刘雨婷、谢涵
编辑|陈彦旭
运营|陈小妍
另镜(ID:DMS-012)
ChatGPT的出现引领新一轮技术创新，在OpenAI、微软、谷歌开启AI军备赛后，百度、阿里、华为、商汤大模型已显露雏形，更多参与者还在路上。面向AI大模型时代，各行各业将迎来颠覆性的改变。
4月18日，2023春季火山引擎FORCE原动力大会正式举办，FORCE寓意“云计算是实现数字化的核心动力”，这场大会全面呈现火山引擎创新发展的战略蓝图。
去年火山引擎提出敏捷迭代、数据驱动、体验创新是云上增长三要素，今年依然围绕这三大要素。此次火山引擎发布了自研DPU等系列云产品，并升级机器学习平台，支持企业更好地训练AI大模型；支持万卡级大模型训练、微秒级延迟网络，让大模型训练更稳更快。
火山引擎总裁谭待透露，目前与火山引擎合作的大模型公司以垂类行业为主，大约占到三分之二，通用性大模型公司比例为三分之一。
在此次大会，火山引擎宣布与字节跳动国内业务并池。基于内外统一的云原生基础架构，抖音等业务的空闲计算资源可极速调度给火山引擎客户使用，离线业务资源分钟级调度10万核CPU，在线业务资源也可潮汐复用，弹性计算抢占式实例的价格最高可优惠80%以上。
“抖音互联网应用存在用户波峰和波谷，通过错峰互用、资源混部也能够更好的降低云计算的成本。”谭待认为，国内有数十家做大模型的企业，大多已经在火山引擎云上，大模型不会一家独大。
火山引擎对外称并不做大模型，谭待在接受另镜等媒体采访时表示，大模型还在发展初期，数据安全、内容安全、隐私保护、版权保护等许多问题需要努力解决。但可以预见，大模型将带动云上AI算力急剧增长，AI算力的工作负载与通用算力的差距会越来越小，这会为各家云厂商带来新的机会，同时也会为数据中心、软硬件栈、PaaS平台带来新的挑战。
开启多云多模型时代
Distinct Mirror
对于与字节国内业务并池，字节跳动副总裁杨震原表示，这意味着未来可以在一个共享的资源池里面去调度资源，从而去提高整体资源利用率。
“未来将是多云多模型的时代”，谭待表示。谭待称，大模型需要大算力，虚拟化会带来资源损耗，规模越大就损耗越多。未来3年内，大规模的算力中心，都将形成“CPU GPU DPU”的混合算力结构，CPU负责通用计算，GPU负责AI计算，DPU负责资源卸载、加速和隔离，提升资源效率。谭待表示，如现在AI对各个行业、对各个场景的帮助是越来越大的。AI很多是代表的是GPU，非CPU异构计算的负载。这部分的负载占比确实会越来越大。以前GPU比CPU可能是1比10或1比9，未来这个占比可能会越来越高。AI是重点关注的方向之一，包括CPU场景有很多是要持续优化的。未来将是多云多模型的时代，火山引擎发布了分布式云原生平台、多云CDN管理平台、多云安全平台、混合云veStack等产品，助企业用好分布式云，高效应对多云、混合云、边缘云场景的分布式云原生管理的挑战。
此次原动力大会上，火山引擎发布了新一代自研DPU，实现计算、存储、网络的全组件卸载，释放更多资源给业务负载。火山引擎尽管是“最年轻”的云厂商，其自研DPU已达到业界领先水平，网络性能高达5000万pps转发能力、延迟低至20us。基于自研DPU的各类计算实例性能也有显著提升，例如适用于大模型分布式并行训练场景的GPU实例，相较上一代实例集群性能最高提升3倍以上。
聚焦三大核心要素
Distinct Mirror
大模型需要大算力和很好的工程能力，去解决千卡甚至万卡并行的训练问题。对于火山来说，一方面是算力的供给，另一方面是云原生机器学习平台，能够帮助企业去应用好算力，而且进一步去提升效率，去把大模型训练的又快又稳定。
火山引擎的产品理念是围绕云上增长三个核心要素，分别是敏捷迭代、数据驱动、体验创新。在敏捷迭代方面，火山引擎发布自研DPU等系列云产品，并推出支持万卡级大模型训练、微秒级延迟网络的新版机器学习平台，让大模型训练更稳更快。在数据驱动方面，火山引擎发布业界首个数据飞轮模式，数据飞轮核心是数据消费，数据消费一方面是构建数据应用能力，这里面就是AB测试、CDP、GMP这些事情。另一部分是构建数据平台的闭环，那就是大数据的组件。火山引擎围绕数据飞轮理念，升级发布了三款数据产品：管理驾驶舱Plus、云原生湖LAS和云原生Flink。在体验创新方面，ToB服务是要一个漫长的实践过程，但它积累起来以后会有很强的连续性。火山引擎短期考虑的还是怎么面向客户创造更多的价值，作为长期来看，要回归商业本质，云计算要成为一个盈利的业务。
为提供更多体验创新，火山引擎发布六款产品：云游戏产品、创意互动Vlog、AR互动营销、WTN（WebRTC传输网络）、虚拟数字人、音视频 云端一体解决方案veVOS。