高算力AI模组前沿应用:基于ARM架构的SoC阵列式服务器
本期我们带来高算力AI模组前沿应用,基于ARM架构的SoC阵列式服务器相关内容。澎湃算力、创新架构、异构计算,有望成为未来信息化社会的智能算力底座。
(资料图片)
▌性能优势+AI驱动,ARM架构服务器加速渗透
一直以来,基于ARM架构的各类处理器芯片,以其低功耗、高效能、高可靠性、成本优势等综合特性,广泛应用于手机、平板电脑、物联网终端设备等各类通信及电子产品领域,极大推动了人类社会的信息化和智能化进程。
而在服务器领域,之前一直是基于X86架构的产品占据主导,近年来,随着下游对于异构算力、智能算力需求的不断增长,以及类似于云游戏等安卓原生态应用的大规模兴起,越来越多的厂商开始将ARM架构应用于服务器领域,并推出了一系列相关产品。
去年以来,在智能算力需求的不断增长,以及生成式AI对于异构算力的庞大需求,ARM架构服务器在云游戏、数字人等新兴应用市场展现出独特优势,而对于传统服务器领域的渗透,也有加速的迹象。
ARM架构服务器的特点:
一、低功耗:ARM架构具有低功耗优势,其采用的处理器芯片,与传统X86架构芯片相比功耗更低,且具有更高的能效比,在IDC架构中集成ARM服务器,可以降低电费支出、节约能源消耗。
二、高效能:ARM架构具有更好的多核线程驱动性能,能够实现更好的并行处理和任务处理能力。
三、成本低:ARM架构处理器芯片,较X86架构芯片的制造成本更低,ARM架构服务器价格具有极高性价比,且开发成本更低。
四、高可靠性:具有更好的故障容忍性,可以提供更高的可靠性和稳定性。
据了解,亚马逊、浪潮、腾讯、百度、阿里等头部企业,都推出了基于ARM架构的服务器产品,因其低功耗、高性价比、高效能等优势、在云计算、物联网、智能交通、医疗健康等领域有广泛应用。
据TrendForce集邦咨询研究显示,近年企业对于人工智能、高效能运算等数字转型需求加速,带动云端采用比例增加,全球主要云端服务业者为提升服务弹性,陆续导入ARM架构服务器,预期至2025年ARM架构在数据中心服务器渗透率将达22%。
▌基于ARM架构的SoC阵列式服务器,智能算力领域的新兴力量
以ARM架构为基础,创新性的采用SoC芯片作为算力来源,以灵活的阵列式架构打造的SoC阵列式服务器,也逐步进入企业级IDC以及各类边缘计算场景。这是一种专门针对企业级数据中心和边缘场景面临的空间制约和节能要求而优化设计的高密服务器,以高能效比、高性价比、高密度为设计原则,在一个机架式机箱内集成多达40路、60路、80路等针对服务器场景专门定制的高算力模组或者算力板,可为各类行业客户构建适低成本、高密度、高并发、高性能的算力集群。
服务器内布置的每个算力模组或者算力板都是一个可以独立运行的最小系统,包含CPU、GPU、NPU、存储、网络等。相关SoC阵列式服务器可根据客户需求、定制多种算力节点、其内部采用模块化及热插拔设计,可以实现不停机维护。在通信方面配置了10G/25G交换节点,支持SDN自动化网络部署,并且内置了多维智能管理节点,可以进行全方位远程运维工作,有效减低运维成本。
以云游戏场景为例,随着《原神》、《崩坏》等爆款游戏的全球风靡,除了游戏运行向移动端转移外,也极大带动了云游戏市场的迅速扩展。而传统的通用型服务器,在支撑云游戏运行上,存在兼容性差、成本高昂等问题,而ARM架构的阵列式服务器,基于对安卓生态天然的兼容性,避免了服务器端到应用端的软件架构转换以及转换过程中的性能损耗,近年来在云游戏场景,几乎占据主导地位,目前正逐步向数字人、工业视觉、边缘AI、云XR渲染等领域拓展。
▌美格高算力AI模组,为SoC阵列式服务器提供澎湃算力
美格智能作为行业内最早推出高算力AI模组产品的企业,也不断推动AI模组产品在服务器、机器人、AI零售、无人机、云游戏、数字人、云桌面、云教育、工业AI检测、云XR等各领域的深度应用,从而真正让产品的AI能力能够助力行业。
美格智能助力客户定制推出SoC阵列服务器产品,集成了CPU+GPU+NPU+TPU复合异构算力集群,可以构建大规模智能算力矩阵;每个算力节点采用刀片+阵列式设计,支持热插拔,轻松维护;整机80GB带宽,每个板卡满负载1GB带宽;内置BMC多功能综合监控可视化管理系统,可轻松远程管理。
▲内置美格智能高算力AI模组SNM970的阵列式服务器终端
该SoC阵列式服务器,采用美格智能为其专门定制的高算力AI模组SNM970,基于高通 QCS8550(8 Gen2)研发,支持16GB LPDDR5X + 256GB UFS 4.0内存,服务器中最高可配置80路高算力AI模组,单颗模组内部支持Android虚拟化,可虚拟出多路计算单元(如80路模组服务器,单颗模组根据下游算力需求,可以虚拟出多路虚拟机,比如虚拟出4路的情况下则可同时支撑320台诸如手机等终端同时运行云游戏),更好的进行算力配置,充分发挥了高算力、高性价比、高能效比的优势,为实时互动云计算、边缘AI云计算、云渲染等业务场景提供最佳算力底座。
随着各行各业对于算力需求的爆发式增长,以及新兴应用场景对于创新型服务器的迫切需求,美格智能也将加大力度推动高算力AI模组在服务器领域的深度应用。
目前,美格智能团队已经与行业领先的SoC阵列式服务器客户密切协作,陆续打造出了针对SoC阵列式服务器场景,基于高通骁龙865/SM8475/QCS8550三代SoC芯片的深度定制的算力模组,同时做到封装兼容,更好助力客户产品的算力提升和产品迭代,为相关产品后续在AIGC领域的应用推广,以及向传统服务器市场的渗透,提供更好助力。
中国电信终端产业协会于2023年4月26日发布了《基于ARM架构的SoC阵列服务器技术规范》,以团体标准的形式明确了ARM架构SoC阵列式服务器的通用技术要求,国内相关厂商也在为下一代服务器的产品标准在开始探讨,相关产品将逐步进入发展快车道。
关键词:
责任编辑:宋璟
-
高算力AI模组前沿应用:基于ARM架构的SoC阵列式服务器
-
4换5,哈登潜在下家曝光,能继续拿大合同,距离总冠军越来越遥远
-
为民办实事 湖南省妇幼远程联合门诊解决基层百姓大问题
-
上半年经济发展“成绩单”陆续公布 各地经济新动能加快壮大
-
一图读懂2022生活垃圾焚烧发电行业行业绿色发展水平评估报告
-
朔州市以作风效能提升助推项目建设提速
-
打通社保服务“最后一公里” 温州银行首台外拓便携式社保卡制卡机正式上线对外展业
-
CISA发布《面向云环境的免费安全工具》白皮书
-
河南姐弟意外捡到31部手机,总价超21万元
-
【金融街发布】中国人民银行副行长张青松:鼓励更多科创型企业进行再融资和并购融资
-
《瑞奇与叮当 : 时空跳转》PC版或遇技术问题,发售时不支持AMD显卡启用光追
-
多彩夜生活 玩转新潮流
-
分子相互作用分析仪中标结果公告
-
促进更加充分更高质量就业|河北工业大学:校企联合毕业设计“联”出就业新路径
-
百度Apollo领航辅助驾驶,新款岚图 FREE即将上市
-
月经来的时候能做激光脱毛吗
-
猫道感应系统“重生记”
-
刘烨领衔中文版话剧《悲惨世界》将于2024年1月在京首演
-
AI大模型路线走向分化:垂直行业落地能力成关键
-
北京通州私立小学推荐名单一览!非京籍也可有学籍!
-
斯诺克冠军联赛:徐思李俊威无缘32强 中国军团已有5人晋级6人出局
-
上半年汽车出口超200万辆(新数据 新看点)
-
新股誉辰智能破发,现跌超5%
-
固始交警给学生上“交通安全课”
-
光伏玻璃受益上市公司一览(2023/7/12)
-
7月12日 9:45分 昇辉科技(300423)股价快速拉升
-
国家发改委:平台企业是开拓海外市场提升国际竞争力的关键手段
-
华依科技(688071)7月11日主力资金净买入812.94万元
-
文件夹删除又自动出现(文件夹删除又自动生成)
-
深圳市兴顺海精密五金有限公司(关于深圳市兴顺海精密五金有限公司介绍)
-
中国天楹揽下3462万欧元海外销售合同 环保+新能源双轮驱动毛利率升至23.64%
-
城投债融资进一步规范一二级市场双双走强
-
尿道疼痛吃啥消炎药(尿道疼)
-
拒绝1400万年薪!加盟巴萨1年后,米兰功勋被抛弃,去切尔西三赢
-
GGII:6月储能项目中标规模合计4.39GW/8.89GWh