高通公司亮相2024世界人工智能大会:通过终端侧ai释放工业化创新活力 -澳门凯发
7月4日,2024世界人工智能大会暨人工智能全球治理高级别会议正式开幕。高通公司中国区研发负责人徐晧出席“ai赋工业,数智启未来”人工智能赋能新型工业化主题论坛并发表主题演讲,探讨ai如何为工业生产注入智能化的基因,实现高质量发展,推动人工智能技术在工业领域应用。
徐晧表示,异构计算、量化压缩等技术手段能帮助云端大模型落地终端,从而赋能广泛的工业应用。5g与ai相结合,将助力打造更加智能的工业环境。以工业场景中的机器人用例为例,现在的机器人主要利用计算机视觉或者深度学习完成理解和功能执行。随着生成式ai突破性的发展,未来机器人能够理解我们提出的要求,加上机器人学科实现的出色定位、导航和机械臂控制,可以打造非常智能的应用。结合5g与ai,机器人能够实现网络连接,赋能运维和质检等生产环节,打造更加智能和现代化的工业环境。
以下为演讲全文:
大家好。刚才的嘉宾分享了行业应用,我想分享一下更底层的算法设计,以及我们如何从终端侧把ai普及到人们的日常生活中。今天论坛的主题是人工智能赋能新型工业化,因此最后我会分享一些工业应用上的ai用例。
生成式ai的能力在不断增强,主要体现在以下方面:
● 语音ui,我们有更多更智能的语音支持,带来自然直观交互;
● 多模态大模型,除了早期与chatgpt进行的文字对话,现在我们看到了更多的视频/图像处理,以及图像/文字的共同处理;
● 在视频和3d方面,我们有更多的沉浸式体验;
● 更长的上下文窗口,现在有越来越长的文章甚至于一整本书,都可以用ai处理一次性总结出来;
● 个性化,终端侧的ai应用可以带来更加个性化的内容处理;
● 智能体,人们可以根据自己的喜好来打造个人ai智能体;
● 最后,现在可以看到越来越多由ai增强的高清晰度图像和视频。
此前,我们带来了全球首个运行在android手机上的stable diffusion终端侧演示,最近,我们还实现了全球首个在android手机上运行的多模态大模型(lmm)演示。比如用户可以给冰箱里的食材拍一张照片,然后问大语言模型“你看到了什么?”,ai可以很快地识别所有物体。然后用户可以接着问“基于这些食材,请给我推荐一个菜谱”,ai就可以把菜谱展示出来。这比最开始我们仅仅能问ai“今天天气怎么样”或者“给我讲一个笑话”要好很多。这个是我们在手机端或者用户端,看到大语言模型以及多模态模型能够支持的更多用例。
从技术上来说,哪些是我们把大语言模型应用落地到端侧必须实现的核心技术?首先,很多最基本的大语言模型都是10亿甚至30亿以上的参数规模,这种规模的模型想要在手机上应用其实具有一定挑战。所以,我们需要把云端的大模型算法,通过最简单、最有效且最节能地方式部署在手机和其他智能终端上。如果我们的手机能够做一些最基本的生成式ai运算支持,这要比把所有的照片和视频都传到云端运算再传回来更高效、更安全。
正如当年的云计算与在手机和电脑上计算类似,现在的大语言模型能够在云端运行,今后我们希望同样的模型能够在手机、个人电脑、机器人、汽车上运行。通过量化和压缩、推测性解码、知识提炼、高效的图像和视频架构以及异构计算这5个重要的技术手段,能够帮助把云端的大模型,包括llama、chatgpt以及国内一系列大模型落地到终端,赋能包括工业应用、手机/平板电脑应用等等。
举几个简单的例子。首先是量化,量化对于能耗、运算和存储都有很大影响,比如把32位浮点变成16位定点,看起来只是减少了两倍,但实际上,存储数据时占用的内存更少、传输数据量也更少、无论是加法还是乘法的运算量也更少,所以仅仅是从32位变成16位,就会带来4倍的能耗减少。从32位到8位,能带来16倍的能耗减少;从32位到4位,能带来64倍的能耗减少。这也是为什么所有的人工智能算法公司都在想办法把浮点变成定点,因为这会让运算的存储和数据的传输更简洁。
对于每一个类似的技术方向,我们都在积极努力尝试。比如,你可以先训练再量化;或者在训练的时候直接考虑量化的影响。
接下来是知识提炼。我们可以将其看成“教师”和“学生”的关系。比如可以将一个大模型想象成一个非常厉害的教授或者院士,但是往往在你的手机上,只需要一个小学生模型就能处理事情。比如我们只问它“冰箱里有多少菜”,小学生就能回答这个问题。如果大多数问题都在这个级别,你的手机只需一个“小学生模型”即可。知识提炼即可以通过对“教师模型”的学习,将其改为一个“小学生模型”,这个模型在手机端很容易运行。
接下来是推测性解码。比如这个大语言模型一次只能解码1个token,如果能用小模型,在同样的时间和算力的情况下,可能可以生成4个token。用一个小模型生成多个不太准确的token,然后把这些token直接送给大模型一次检查并决定接受哪些token,这就比完全由大模型一个一个生成token要高效很多。这个就叫做推测性解码。
下面是我们现在做的规划器(orchestrator)。如果用户告诉他的手机“我今天要从上海飞到北京,请帮我查找我需要的航班和酒店”,那么手机需要调用不同的程序。由于现在不存在能够把所有需求都安排好的一个程序,因此就需要智能体作为一个底层架构,把所需的程序调用起来、把所需的资源放在一起,然后安排可以满足用户需求的功能。这就是在最基本的底层方面,我们对智能体进行的支持。
接下来,我将介绍一下在机器人方面有哪些具体的ai应用。我们看到,现在的机器人大多数时候都是利用计算机视觉或者深度学习完成理解和功能执行。但是,随着近两三年来大语言模型突破性的发展,实际上机器人是能够理解我们对它提出的一些最基本的要求,那么它把“理解”这一环节解决之后,其他功能就更容易实现了。
机器人的大脑可以使用大语言模型,加上机器人学科实现的出色定位、导航和机械臂控制,可以打造非常智能的应用。结合5g与ai,机器人能够实现网络连接,赋能运维和质检等生产环节,从而打造更加智能和现代化的工业环境。在这样的工业环境中,我们可以进行实时数据分析、供应链优化、高可靠性智能控制并带来生产灵活性。我们看到在人工智能和5g的加持下,智能生产环境在中国及全球范围内可以得到日益广泛的推广。
最后,这是我们近期做的一个ai服务机器人展示。我们如果告诉机器人“我想喝水”或是“我口渴”,机器人会提供不同的饮料选择,当用户选择之后,机器人可以走到房间另一侧,识别出用户想要的饮料,比如水、茶或是可乐,然后拿给用户。像这样由人工智能驱动的机器人,已经可以在日常生活中实现类似的操作。
未来,我们会看到越来越多这样的应用场景,我们希望人工智能不仅是在云端运行大语言模型、也希望这些人工智能算法能够落地到终端,落地到手机、个人电脑、机器人、汽车、xr眼镜等等,创造出更丰富多彩的应用场景。谢谢大家。
免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。
图片
精彩推送
- 高通公司亮相2024世界人工智能大会:通过终端侧ai释放工业化创新活力
- 高通公司亮相2024世界人工智能大会,以终端侧技术创新与合作引领人工智能新未来
- w2140世界大会圆满落幕,《infinitar》全场瞩目
- 吉宝荣登《时代》杂志2024 年度“全球最可持续发展企业 ”榜单
- 普融花:人工智能时代的创业机遇
- 上海电信临港智算谷:算力新引擎,重塑数字未来
- 法国高端啤酒品牌1664携手全新品牌代言人于适 优雅开启“玩味新法式”品牌盛典
- 终端侧生成式ai更多惊喜?高通将在waic带来新的“首个”演示
- “扬帆出海,链通全球”玉湖冷链举办第2期出海专题活动
- 广州市领导调研玉湖冷链(广州)交易中心
- 普融花:人工智能时代驱动的新生活
- “拿下”z世代,膜法世家面膜节全面启动
- 恒小花:人工智能产业未来的风口
- 丰田金服旗下近多出行推出无障碍出行服务,需求群体即刻开启“自由出行”
- 高温蕴“凉机” 银联为夏日消费市场添活力
- 微众银行与嘉联支付达成生态合作,以生态共融助力中小微企业数字化服务迈上新台阶
- 348.53亿!!ld唯美陶瓷连续14年荣膺“中国500最具价值品牌”!
- 一加ace 3 pro 快闪活动来袭,十三城联动火爆开启
- 第五届黄河两岸清香酒高峰论坛暨白水杜康2024年度合作商表彰大会,圆满召开!
- 储存脐带血有用吗?脐带血前景是否被看好?
- 年度性能巅峰大作一加 ace 3 pro 正式发布 售价 3199 元起
- 第七届枸杞产业博览会圆满闭幕
- 2024世界交通运输大会在青开幕 海信智慧交通重磅亮相
- 创业后加入字节跳动,他们选对了吗?
- 绘家国底色丨北新涂料东方意境美学涂料发布,演绎东方美
- 上海招材猫建材有限公司:百卡森高端系统门窗推动行业新潮流
- 华贵保险团险业务部组织开展 “健康讲座进企业·康养知识带回家”活动
- 香港大学与郎酒庄园携手,领航2024年中经济论坛:解码经济新趋势,共绘商业新篇章
- 普融花:人工智能智慧化未来应用策略
- 五大体验维度全面升级,一加 ace 3 pro 带来全球顶级 1.5k 东方屏
- 微众银行携手生态澳门凯发的合作伙伴众安保险,为中小微企业提供线上化、定制化普惠保险综合服务
- 普融花:人工智能助力行业升级与转型
- 安卓手游的历史一刻,一加ace 3 pro 首发原生 120hz帧率图
- 一卡畅行国内外!交通银行万事达ic标准金卡助力境外消费体验升级
- 普融花:人工智能应用实例大揭秘
- 宝付支付积极响应减费让利政策,助力小微企业和商户降本增效促发展
- 周明权:大医仁心 传递中医正能量
- 飞天茅台稳价2300元/瓶!任泽平发声:相信茅台
- 万物梁行2024垂直马拉松苏州站火热开跑, 近百名选手在启迪设计大厦顶峰相见
- 与歌坛巨星联手,仰韶冠名张学友60 演唱会,郑州璀璨开唱!
- 仰韶彩陶坊携手张学友“60 巡演”郑州站,演绎现象级视听盛宴!
- 人保车险-如何选择汽车保险附加险?
- 普融花:开启人工智能时代的智慧生活
- 年度性能巅峰大作,一加 ace 3 pro 正式定档 6 月 27 日
- 濒危物种大花万代兰回归原生境,百万植株共筑地球美丽家园
- 一加携手宁德新能源打造高性能冰川电池,一加 ace 3 pro 首发
- 普融花:ai人工智能应用的未来前景
- 【深度解读】坚定看好茅台长期价值,短期波动乃市场常态,稳健增长趋势不变
- 普融花:颠覆传统的人工智能应用
- 丰巢携无人配送产品亮相中国·廊坊国际贸易洽谈会,获权威媒体关注报道
- 京泰家具蝉联2024中国商用家具领军品牌等多项大奖,彰显品牌卓越实力
- 生成式ai全链路赋能b2b行业,第三届百度爱采购数智大会圆满落幕
- 普融花:开启人工智能应用赋能未来
- 竹林七贤:国家文化符号当代艺术表达
- 普融花:人工智能技术如何改变我们的生活
- 618入手什么最划算?泰康惠赢人生智选年金告诉你
- 2024城轨展暨高峰论坛在宁开幕 海信携智慧轨交新技术重磅亮相
- 暖城杯·2024(第二届)中国新能源汽车鄂尔多斯挑战赛 战幕将启
- 普融花:探索智能未来的无限可能
- 同启“恒心13载” 奏响汇享生活“四重奏”
- 中华财险电子屏滚动播放,普及金融消费者权益知识
- 保障高额三者险的必要性!
- 普融花:人工智能引领下的新生活
- 《我的阿勒泰》与令人心动的新疆地标产品“大果沙棘”
- 普融花:人工智能未来发展趋势和投资前景
- 普融花:人工智能的潜力与挑战
- 酱香典范 红红火火“第五代红花郎·10”2024郎酒端午制曲大典升级上市
- 中荷人寿践行“金融为民”理念 扎实做好金融消保服务复制
- 2024 tiktok shop 东南亚跨境电商年度峰会即将拉开帷幕
- 普融花:人工智能引领下的新时代
- 斗茶邀你| 两岸茶匠春季“茶王赛”收茶至15日, 海丝茶道论坛与颁奖即将召开
- 屈臣氏革新亚洲市场购物体验
- 普融花:人工智能助力企业转型升级新时代
- “保障 储备”两手抓!泰康尊享世家旗舰来袭
- tracel萃斯抗糖发光瓶自然科技力,驻守年轻时光
- 2024中国义乌文具礼品展览会圆满闭幕,十万采购商齐聚义乌
- 普融花:引领人工智能科技的前沿
- 中荷人寿荣获“中法澳门凯发的合作伙伴奖”
- 普融花:人工智能的影响与发展趋势
- 汉马科技1-5月电动中重卡和醇氢动力业务双双实现高增长
- 蒙牛乳业全面构建产业发展新格局,推动绿色新发展
- 原创国产品牌渐成主流,布格特避震婴儿车带来行业变革
- 探访简一智能化生产基地,三大领先助力行业高质量发展
- 普融花:人工智能引领下的创新发展
- 传祺m6 max正式上市,树立10-15万级mpv市场新标杆
- 普融花:人工智能驱动的创新教学模式探索
- 青创张萌参加《向尚的姐姐》获“最佳表现力奖”
- 在明律所发起“咨询即公益”活动,至诚守护正义之光
- “森呼吸”有氧日,swisse、sorlife品牌联合京东健康发布《肺健康膳食营养白皮书》
- 恒易贷:人工智能驱动科技进步
- 华茗设计坚定“3 1”服务模式 以专业建筑服务创造价值
- 自由奔跑在天然氧吧|2024北斗·自然乐跑锦标赛成功举行
- 普融花:人工智能技术驱动的创新
- 京东肯特瑞基金销售服务登陆京东app 让用户轻松理财
- 从国产三强到国有三强 30年润滑油行业竞争进入新质时代
- 618消费趋势观察:教育智能硬件倍速增长,寓教于乐成新热点
- 普融花:人工智能如何颠覆传统产业
- 平安产险2023年度企业社会责任报告:坚守金融为民初心 以高质量发展助力强国建设
- “狐狸小妖首届525精准护肤节”火爆结束!“选对 用对,才有好肌肤”引发消费者共鸣
- “旺福壹号”(602101)在华贸国际易货交易所正式挂牌上市交易
金融
财经
要闻
公司
一系列金融支持民营经济、民营企业发展的政策举措正密集出台加速落地。
9月份以来,人民币汇率持续走低。9月8日,离岸人民币对美元汇率盘中最
国家统计局发布的数据显示,8月份,全国居民消费价格指数(cpi)同比上
国家统计局9月9日发布的数据显示,8月全国居民消费价格指数(cpi)同比
今年前8个月,郑州商品交易所累计成交量约25亿手,同比增长64%。这是记
中国电影观众满意度调查2023年暑期档调查结果显示,暑期档电影观众满意