对话后摩智能CEO吴强：未来90%的数据处理可能会在端边
在后摩智能展台，后摩智能M50系列产品首次亮相，后摩智能M50芯片与力谋®BX50计算盒子、力擎LQ50 Duo M.2卡等旗下核心产品一同位于展台的核心位置。
作为主打端边大模型和存算一体的芯片企业，后摩智能这次带来的M50芯片专为大模型推理设计，主要面向AI PC（人工智能个人电脑）、智能终端等场景。
“未来大模型有两个重要发展趋势：一是大模型的重心逐渐从训练向推理迁移。二是逐渐从云端智能逐渐向边端或者端边智能迁移。”7月25日，后摩智能CEO（首席执行官）吴强对观察者网等表示。
后摩智能创立于2020年，创立早期定位为基于存算一体技术的大算力AI（人工智能）芯片研发企业。创始人吴强拥有美国普林斯顿大学博士学位，曾任地平线CTO（首席技术官）。
M50芯片被视为后摩智能过去两年交出的一份答卷。
据介绍，M50芯片实现了160TOPS INT8、100TFLOPS bFP16的物理算力，搭配最大48GB内存与153.6 GB/s的超高带宽，典型功耗仅10W，相当于手机快充的功率，能让PC、智能语音设备、机器人等智能移动终端高效运行1.5B到70B参数的本地大模型，实现了“高算力、低功耗、即插即用”。
吴强曾表示，国产替代的企业可以对标海外的某类产品，但绝不能用同样的技术路径进行照搬，如英伟达、AMD等国际巨头的研发、工程、供应链能力远超过初创企业，硬碰硬难以取得成功，创业公司需要另辟蹊径，以一种差异化的技术路线来应对和巨头们之间的竞争。
当前，后摩智能通过存算一体技术与大模型的深度融合，推动AI大模型在端边侧实现“离线可用、数据留痕不外露”。
在他看来，M50的发布只是一个开始，“我们的目标是让大模型算力像电力一样随处可得、随取随用。”
图源：观察者网
“无论是商业还是个人，端边的AI都有可能成为更懂你的AI。因为它本身是有很多天生的优势，尽管刚刚开始，大模型刚刚开始，端边刚刚开始，但是它本身有更好的实时响应，更低的使用成本，更安全的数据隐私，以及更好的个人的用户体验。未来这会成为一个趋势。”吴强说。
本次推出的M50产品可广泛应用于消费终端、智能办公、智能工业等多元领域，且均能在离线状态下实现全流程本地处理，从源头杜绝数据联网传输风险。
吴强还披露了当下后摩智能的意向客户，包括联想的下一代AI PC产品、讯飞听见的下一代智能语音设备以及中国移动的全新一代的5G+AI边缘计算设备等。
“只要是端边，只要对大模型有需要，对功耗敏感，都有可能是我们的客户，需要我们逐步地拓展。目前大方向是消费终端、智能办公、智能工业，机器人也算其中，这是我们重点在布局的几个领域。”他表示。 面向未来，后摩智能已启动下一代DRAM-PIM技术研发，通过将计算单元直接嵌入DRAM阵列，使计算与存储的协同更加紧密高效。该技术将突破1TB/s片内带宽，能效较现有水平再提升三倍，推动百亿参数大模型在终端设备实现普及，让更强大的AI算力能够融入PC、平板等日常设备。
本文系观察者网独家稿件，未经授权，不得转载。
1、黑猫狂砸1.2亿！TA：桑德兰1350万总价签罗夫斯达协议，夏窗第8人
2、记者：皇马方面认为塞巴略斯几乎不可能离队，贝蒂斯无法承担费用,巴塞罗那对皇家贝蒂斯今日赛事分析