世界讯息:高通提出云边一体混合AI路径!受益上市公司梳理


(资料图)

高通近日发布AI白皮书称,混合AI是AI的未来,将支持生成式AI应用开发者和提供商利用边缘侧终端的计算能力降低成本。混合AI架构或仅在终端侧运行AI,能够在全球范围带来高性能、个性化、隐私和安全等优势。此外,混合AI架构可以根据模型和查询需求的复杂度等因素,选择不同方式在云端和终端侧之间分配处理负载。(图源:高通中国官方微信公众号)据高通混合AI白皮书,在混合AI场景中,边缘大模型是云端大模型的感知器官,例如用户对手机说话,自动语音识别(ASR)AI模型如Whisper在设备上转换语音为文本,发送到云端,云端运行大模型,回发文本答案。在进阶版本中,设备AI更进一步保护隐私,承担更多处理,提供更个性化的提示给云:通过设备学习和个人数据,设备创建用户个人形象,与调度程序协作,基于上下文提供更好的提示;例如,用户要求手机预约和朋友在最爱餐厅吃饭,对简单查询,较小的大模型可在设备上运行无需云交互,如果用户需要复杂信息,则本地将需求转化为提示发给云端大模型并返回详细答案。高通指出,随着强大的生成式AI模型不断缩小,以及终端侧处理能力的持续提升,混合AI的潜力将会进一步增长。参数超过10亿的AI模型已经能够在手机上运行,且性能和精度达到与云端相似的水平。不久的将来,拥有100亿或更高参数的模型将能够在终端上运行。混合AI策略适用于几乎所有生成式AI应用和终端领域,对推动生成式AI规模化扩展,满足全球企业与消费者需求至关重要。中信建投阎贵成等人6月15日研报表示,AIGC大模型及应用爆红,拉动算力需求。在万物互联大部分场景中,云端处理存在时延较长、成本较高、并且涉及数据隐私等问题,边缘AI算力的引入至关重要。我们认为未来AI算力将综合考虑硬件能力、成本等因素,以混合AI的架构,在边端和云端灵活分配。据了解,混合AI指的其实是云端和设备端共同处理AI计算,借助设备端的即时感知、即时处理优势,来填补云端AI在延迟方面的短板,同时还通过云端的超高算力,来弥补端侧AI性能的缺憾。高通中国区董事长孟樸表示,混合AI势不可挡,助推AI规模化发展。在孟樸看来,从过去20年AI的发展,到最近大语言模型的发展、交互式AI的发展,所有这些都推动了整个产业的快速发展。可以看到,人们使用的电子设备,不论是手机,还是冰箱、彩电等,越来越多地实现了智能化和网联化,所有这些终端产品都产生了大量的数据,而且都具备情景感知的特点。据财联社不完全整理,在混合AI领域有所布局或有所合作的A股上市公司包括江南化工、天准科技、首都在线和优刻得等,具体情况如下:江南化工持有北京光年无限科技有限公司12.91%股份,根据北京光年科技公司的介绍,“智娃”产品支持硬件系统耦合,即支持本地内容资源的调用、支持离在线混合AI计算架构(该架构可明显提升AI响应时间等)。天准科技是英伟达Jetson金牌合作伙伴,是Jetson在国内最大的NPN(NVIDIAPreferredPartner)合作伙伴;天准科技基于英伟达Jetson和地平线J5平台面向AMR移动机器人、自动驾驶、智慧交通、首都在线提供边缘侧的推理算力支持AIGC应用,针对GPU服务器的特殊性,自研了管理芯片及配套的管理系统,搭建了面向ChatGPT行业的泛渲染异构算力公有云平台,新一代算力平台可为ChatGPT类人工智能应用提供算力、算法、云渲染等技术服务,已为国内多家涉及人工智能类客户提供服务。优刻得是国内领先云服务提供商,根据客户实际业务需求,可以为AI客户提供CPU/GPU算力资源和服务,以公有云、混合云等不同模式满足客户的多样化使用场景需求。

标签:

x 广告
唐朝为何神化老子?道教又是如何在唐朝达到鼎盛的?李渊真聪明

由于杨广特别信任王远知,此人掌握了大量的隋朝中枢机密,而这些信息后

美国隐藏的强大实力,不止是海军,我们如未及时发现将会非常危险

当然这些装备再厉害,也要有军事基地作为依托,而美国真正厉害之处是把

天天报道:如何让睫毛变长?有哪些技巧?

睫毛是女性美丽的象征,长而浓密的睫毛更是让女性眼神更加有魅力。很多

【当前独家】南京大屠杀幸存者高恒发去世 享年97岁

据侵华日军南京大屠杀遇难同胞纪念馆官方微博消息,南京大屠杀幸存者高

国际足联:2030年世界杯申办启动推迟

国际足联在23日召开的理事会会议确认,2030年世界杯申办启动推迟。国际

京东养车与中国石油北京销售公司达成汽服项目合作:打造双品牌标杆门店,助推行业高质量发展 微头条

中国石油北京销售公司计划到今年年底,逐步建立专业化、规范化的汽车服

世界速讯:巴西语言翻译(巴西语言学讲座)

1、开罗说阿拉伯语印度当然是印度语巴西讲葡萄牙语澳大利亚讲英语。本

斯哈斯哈!秦岚新剧《闪耀的她》身材好绝 44岁曲线热辣腰臀比太优越了! 观速讯

秦岚新剧《闪耀的她》身材好绝!秦岚新剧《闪耀的她》,不得不说姐姐的

京东白条违约1天有事吗?催收吗?

在现代社会,消费信贷已经成为了很多人解决资金问题的一种方式。而京东

高质量发展调研行丨罗屿:崛起东南沿海最大铁矿港

罗屿,莆田市湄洲湾北岸经济开发区上一座四面环海的小岛。12年前,岛上

x 广告

Copyright ©  2015-2023 亚洲都市网版权所有  备案号:京ICP备2021034106号-51   联系邮箱:5 516 538 @qq.com