对话后摩智能CEO吴强:未来90%的数据处理可能会在端边
图源:观察者网
后摩智能创立于2020年,创立早期定位为基于存算一体技术的大算力AI(人工智能)芯片研发企业。创始人吴强拥有美国普林斯顿大学博士学位,曾任地平线CTO(首席技术官)。
据介绍,M50芯片实现了160TOPS INT8、100TFLOPS bFP16的物理算力,搭配最大48GB内存与153.6 GB/s的超高带宽,典型功耗仅10W,相当于手机快充的功率,能让PC、智能语音设备、机器人等智能移动终端高效运行1.5B到70B参数的本地大模型,实现了“高算力、低功耗、即插即用”。
除了M50芯片,后摩智能此次发布的产品矩阵形成了覆盖端侧到边缘的多元算力方案。力擎LQ50 Duo M.2卡以口香糖大小的标准M.2规格,为AI PC、陪伴机器人等移动终端提供“即插即用”的端侧AI能力。
吴强曾表示,国产替代的企业可以对标海外的某类产品,但绝不能用同样的技术路径进行照搬,如英伟达、AMD等国际巨头的研发、工程、供应链能力远超过初创企业,硬碰硬难以取得成功,创业公司需要另辟蹊径,以一种差异化的技术路线来应对和巨头们之间的竞争。
在他看来,M50的发布只是一个开始,“我们的目标是让大模型算力像电力一样随处可得、随取随用。”
图源:观察者网
“无论是商业还是个人,端边的AI都有可能成为更懂你的AI。因为它本身是有很多天生的优势,尽管刚刚开始,大模型刚刚开始,端边刚刚开始,但是它本身有更好的实时响应,更低的使用成本,更安全的数据隐私,以及更好的个人的用户体验。未来这会成为一个趋势。”吴强说。
2024年初,后摩智能把第一代芯片调整了一版,推出了M30,针对大模型做了一些调整和优化。
本次推出的M50产品可广泛应用于消费终端、智能办公、智能工业等多元领域,且均能在离线状态下实现全流程本地处理,从源头杜绝数据联网传输风险。
“目前我们看重几个领域,一是平板和电脑这种消费终端类,大模型是生产力工具。二是智能语音系统,大模型语音会议也是我们重点布局的方面。三是运营商的边缘计算,5G+AI是一个趋势。”他说道。
吴强还提到,机器人包括具身智能机器人(特指陪伴机器人),更像是十年前的智能驾驶,是一个新兴的垂直赛道,格局还未定,“大家还有机会”。
本文系观察者网独家稿件,未经授权,不得转载。
1、尺素金声丨上半年绿色贷款余额增长14.4%,“贷”动美丽中国建设
2、英国作家批评西方政客:他们早就清楚以色列做了什么,担忧只是作秀,英国的文艺批评家和作家
3、商务部副部长:愿进一步扩大瑞典优质商品进口,瑞典贸易与投资委员会