阿里国际AI解决方案Marco获世界人工智能大会SAIL之星,阿里人工智能首席科学家
技术与场景的深度耦合
2023年4月,阿里国际数字商业集团成立了专业的AI大模型部门AI Business,基于全球化电商场景探索AI技术。
目前阿里国际旗下所有电商平台均已接入了AI解决方案。过去一年,商家们使用频次最高的AI功能分别是:图文翻译 / 图像识别并完善商品信息 / 营销文案生成。其中,翻译在去年底实现了全面从小模型向大模型的转换。在欧洲TOP语种中,因为翻译效果的提升,消费者的满意度提升了30%;在SEO场景下,AI提供的SEO占到了整体SEO的近4成,未来有望达到一半甚至更高。
通过技术共享,阿里国际也向集团外的生态伙伴提供AI服务。外部伙伴的AI调用量增长了23倍。头部跨境电商服务商均已接入阿里国际AI服务,如店小秘、三态、妙手、店小宝等。
阿里国际的AI核心技术均已开源,包括大语言模型Marco、多模态模型Ovis、Agent应用开发框架Agentic ADK等。
1)基础设施层,推理引擎MarsEngine, 通过在token生成调度、KV cache,算子融合、算子计算等方面的优化,进一步提升了Marco模型的推理性能, 在实际应用的翻译场景,极限吞吐相比业界SOTA引擎有最高116%的提升,同时在极限吞吐一半的实时场景下latency低至仅有其他引擎的8%
3)模型层,提供了多语言增强的 Marco-LLM 文本大模型,面向电商优化的翻译大模型 Marco-MT,自研的多模态理解模型 Ovis 以及图像生成模型;
4)产品层,提供面向不同的业务场景的标准化能力;
5)AI 解决方案层,提供面向高价值场景的端到端 AI 能力或产品集合。
2、我们这菜场大妈卖菜,有不付钱逃掉的,少付和不付都挺多的,菜市场大妈讲价