近年来展现出巨大市场潜力,不仅为数字化转型提供强大动力,还将推动智能升级和技术创新。科舸物联科技有限公司与科舸全筑(苏州)物联科技有限公司近日携手集团共同发布分布式边缘媒体AI推理解决方案,推出面向中心训练及边缘推理的基础设施解决方案。专家表示,AI 即将进入大爆发周期,大量的推理任务将在边缘侧为最终用户带来收益,边缘侧以视频流及图片为主的媒体推理工作在千行百业具有广阔落地前景。构建分布式边缘算力服务,将加速媒体AI 推理在边缘落地,助力企业在算力经济时代的快速发展。
如果说传统算力是以AIGC为首的一系列AI应用的筋骨,那么边缘算力就是遍布全身的神经系统。为了有效运用算力达成AI应用目标,大规模数据中心势必要增加资本支出以扩大云端运算效能,同时也将带动边缘设备的销售。在AI向实际场景落地过程中,边缘算力的重要性将加速凸显,未来的AI运算将呈现出“训练与迭代在云端、推理与内容生产梯度分布(云侧+雾侧+边缘侧)”的格局变化,边缘算力已成为AI算力的重要组成部分。
“算力是数字经济时代的生产力,当前我国算力布局正处于连点成线、密织成网的阶段。”中国铁塔股份有限公司苏州市分公司、总经理陈国勤表示,在低时延、小带宽的需求快速上升的今天,围绕自身禀赋,打造“近边缘、小带宽、低时延和一定算力和存储力”的分布式边缘算力服务,在面向“算力入园、算力入企、车路协同”三大板块中,延伸算力服务的“毛细血管”,助力算力早日像水电一样输送到每个有需要的场景。
当前,数据、算力、人工智能共同构成新质生产力的重要驱动因素。泽海集团董事长、上海交通大学上海高级金融学院校友总会执行会长王建郡认为,在AI“大模型+生成式”技术的推动下,智能计算将迈向新的高度。通过+AI技术助力大模型部署和应用,能够提供更高效率、更低延迟、更为优良的隐私保护和数据通信能力,助力企业实现智能感知、智能分析和智能决策。
公司此前于2022年推出了全新的GPU Flex系列,可用于媒体处理、媒体传输、视觉推理、云游戏等用途。据SMG全球客户部资深客户经理罗艺介绍,作为业界支持AV1硬件编码的GPU产品,GPU Flex系列可以灵活处理边缘侧AI推理在内的各类工作负载,可在相同质量下将带宽提高30% ,或在相同带宽下提高流媒体质量,有效优化使用者的总体拥有成本,并能够提供训练和推理一体集群以及边缘AI部署能力,为边缘AI应用大面积落地提供可靠助力。
戴尔公司近年来也推出了戴尔AI factory解决方案,以满足企业从AI模型建立、微调、检索增强、推理以及导入AI各种应用情境等需求。今年4月,戴尔(苏州)边缘计算联合创新中心正式启动,旨在借助业界领先的边缘产品组合,帮助企业客户简化边缘部署,加速数字化创新。
集团OEM业务及解决方案资深经理刘振威表示,AI Factory解决方案核心概念分成四大阶段,分别是协助客户确定AI战略、准备AI模型所需资料、生成式AI平台部署与模型测试,以及AI模型运维与持续优化,“在生成式AI浪潮下,集团将透过戴尔AI Factory解决方案,帮助企业运用AI推动创新与转型。”
当前浪潮下,算力正走进千家万户、服务千行百业,成为像水和电一样的公共基础资源。不过,算力不仅是计算机硬件的运算能力,更是一种基于计算的服务能力,需要构建一体化算力服务体系,算力才能像水和电一样“一点接入、即取即用。”
“100年前电力推动一次工业,今天的AI算力将推动下一次工业。”提供分布式边缘算力服务的科舸物联科技有限公司联合创始人、总裁严成文表示,科舸物联近年来和戴尔公司合作打造了CxRAIL+ AI Platform,结合新发布的科舸全筑Compower AI 系列新品服务器产品,能够零接触、零信任、零IT方式构建高效可用的分布式从边缘推理到训练的AI算力网,大幅降低企业使用成本和使用门槛。
“CxRAIL+ AI Platform让AI算力像水电一样即取即用,让AI应用开发效率提升300%以上,让企业AI算力使用成本降低60%以上。”严成文表示,低时延是AI应用的关键因素,CxRAIL+ AI Platform通过分布式边缘算力网解决了工业生产线AI应用对低时延的要求,同时也大幅节省了从边缘到公有云的数据传输成本和对数据安全的担忧。
近日发布的基于英特尔业界首个支持AV1硬件编码的GPU的分布式边缘媒体AI推理解决方案显示,科舸全筑通过与科舸的CXRail+ AI Platform及戴尔团队合作,共同打造了Compower系列开箱即用的分布式算力节点产品,覆盖包含边缘及中心在内各类计算场景需求及计算环境需求。尤其针对边缘场景,搭载英特尔®GPU Flex 140可以为企业边缘推理提供助力。同时,科舸及科舸全筑通过为客户提供订阅式算力服务,能够更加经济高效地满足各种用户需求。
认为,Compower系列服务器产品在满足客户算力需求基础上,为客户提供了全包式分布式算力解决方案,在通过“零IT部署运维”解决客户日常管理问题基础上,平台能力对客户开发效率的提到300%以上,同时成本仅有现有模式的不到40%。
中国边缘计算市场近年来保持稳定增长势头,中商产业研究院发布数据显示,2023年中国边缘计算市场规模达732亿元人民币,同比增长35.09%;作为边缘计算重要组成部分,中国边缘服务器市场规模上升至51.64亿美元。这一增长不仅反映了技术进步如5G和人工智能的推动作用,也体现了国家政策支持和行业需求的增加。
科舸全筑近日正式发布了其Compower AI系列新品服务器,包含边缘AI推理服务器,根据边缘场景不同分为机房环境、无机房环境和AI训练加速服务器,以解决边缘推理基础设施薄弱、成本高企、运维难度高等痛点,提升AI训练中心的运行效率和降低边缘计算使用成本。
科舸全筑技术总监朱应炎表示,科舸全筑Compower AI系列新品服务器在边缘侧提供足够的计算能力,使得AI应用能够快速、准确地运行,“用户可以根据自己需求进行定制化扩展,在简化边缘的同时,打造零信任安全体系,满足不断增长的数据处理需求。”
目前,边缘计算正被越来越多地应用于智能制造、物联网、自动驾驶等关键领域。业界预测,随着未来几年中国数据规模的快速增长,边缘计算作为应对数据洪流的有效解决方案,将迎来更为广阔的应用前景和市场增长。
科舸物联与科舸全筑方面也表示,接下来将与英特尔及戴尔加深在分布式AI边缘算力服务方面的合作,在垂直领域打造应用标杆,以科舸全筑代工(OEM)方式,为用户打造“开箱即用”的智算算力服务,构建分布式边缘算力网,助力企业在算力经济时代快速发展。