国盛证券:从关键论文看边缘AI 智能产业变革加速

作者: 智通财经 刘璇 2024-07-01 14:22:12
Apple Intelligence 在基础模型上增加了许多适配器针对总结、校对、邮件回复、音调调整、查询处理、友好性、紧急情况等不同具体任务进行了优化。在多项能力评测中,苹果自研的设备端模型和服务器模型相对可比的开源或商用模型均取得了优秀的成绩。

智通财经APP获悉,国盛证券发布研报认为,苹果发布Apple Intelligence展示了其自研端+云模型的优秀能力。此外,苹果发布论文提出将模型参数存储在闪存中,按需将其引入内存,解决高效运行超过可用内存容量的大模型的挑战。除苹果外,OpenAI、谷歌等科技巨头从边缘侧模型到硬件均在不断做出创新探索,加速智能助理的产业变革,有望打开各类终端软硬件的新增长空间。

苹果发布Apple Intelligence,自研端+云模型能力优秀。2024年全球开发者大会上,苹果推出了个人智能系统Apple Intelligence,其中用到两个模型:一个30亿参数的设备端模型,以及一个更大的在服务器上运行的模型。Apple Intelligence 在基础模型上增加了许多适配器针对总结、校对、邮件回复、音调调整、查询处理、友好性、紧急情况等不同具体任务进行了优化。在多项能力评测中,苹果自研的设备端模型和服务器模型相对可比的开源或商用模型均取得了优秀的成绩。

解决边缘侧性能问题,苹果技术储备充分。大语言模型对计算和内存的大量要求带来了挑战,2023年12月苹果发布论文《LLM in a flash: Efficient Large Language Model Inference with Limited Memory》提出将模型参数存储在闪存中,按需将其引入内存,解决高效运行超过可用内存容量的大模型的挑战,论文中使用窗口化技术通过重用以前激活的神经元来减少数据传输,行列捆绑增加了从闪存读取的数据块的大小。Apple Intelligence还使用了一系列创新技术以提高模型运行速度和效率,如采用分组注意力查询机制等。在iPhone 15 Pro上,Apple Intelligence能达到每个token约0.6毫秒的首次延迟,以及每秒30个token的生成速率。

科技巨头纷纷布局,加速边缘侧智能助理产业变革。1)2024年5月OpenAI推出最新的旗舰模型GPT-4o,可以实时推理音频、视觉和文本,发布会上OpenAI直播演示了GTP-4o强大的交互能力,是人机交互领域的重大进步。2)2024年5月谷歌IO大会上展示了基于Gemini大模型对AI助手的探索项目Astra,演示了在手机以及眼镜设备上实时推理环境并与用户交互的能力。国盛证券认为科技巨头从边缘侧模型到硬件均在不断做出创新探索,加速智能助理的产业变革,有望打开各类终端软硬件的新增长空间。

建议关注:

1)算力侧:寒武纪、中际旭创、新易盛、工业富联、浪潮信息、海光信息、中科曙光、软通动力、协创数据、云赛智联、神州数码、高新发展、利通电子、烽火通信等。

2)投资修复

信创:达梦数据、纳思达、金山办公、中科曙光、顶点软件

数字化龙头:海康威视、大华股份

医疗IT:创业慧康、卫宁健康

车路云:金溢科技、万集科技、千方科技

3)AI相关:海康威视、中科创达、立讯精密、鹏鼎控股、金山办公、大华股份、拓尔思、润达医疗、漫步者、云天励飞、虹软科技、昆仑万维、中广天择、同花顺、科大讯飞、万兴科技、用友网络、赛意信息等。

4)自动驾驶:赛力斯、江淮汽车、万马科技、长安汽车、德赛西威、中科创达、海天瑞声、北汽蓝谷、菱电电控、华依科技、经纬恒润、东风汽车、光庭信息等。

5)机器人:三花智控、北特科技、鸣志电器、拓普集团、绿的谐波等。

6)卫星互联网:海格通信、普天科技、创意信息、上海瀚讯等。

风险提示:AI技术迭代不及预期风险;经济下行超预期风险;行业竞争加剧风险。


智通声明:本内容为作者独立观点,不代表智通财经立场。未经允许不得转载,文中内容仅供参考,不作为实际操作建议,交易风险自担。更多最新最全港美股资讯,请点击下载智通财经App
分享
微信
分享
QQ
分享
微博
收藏