疫情消散之后的2023年,科技领域最火的概念非ChatGPT莫属,比尔盖茨将其称之为第二次革命性技术,黄仁勋将其为AI的iPhone时刻,创投界更是有王慧文、李开复、李沐、贾扬清等领军人物纷纷下场,在大模型领域开启新的创业之旅,这个赛道已经足够热闹。
业界和投资界对ChatGPT的热情,基于ChatGPT有赋能千行百业的潜力。
UGC方面,BuzzFeed首席执行官乔纳·佩雷蒂在一份给员工的备忘录中表示,今年由AI创造的内容将从研发阶段转变为核心业务的一部分,而在其他的用户生产平台上,也已经有很多账号通过AI个性化生产来生产内容并已经实现盈利。
ChatGPT还能赋能教育,一方面用AI创造儿童绘本,能够作为对寓言故事的教育延伸,另一方面也能帮助成人做英语口语的对话练习,进一步提高人类生活和工作的效率......
半导体作为为ChatGPT提供算力支撑的基石产业,自然也会在这波浪潮中受到影响,被美国钳制的中国半导体产业更是如此。
ChatGPT究竟如何影响中国半导体的发展格局?
AI 带动算力及存力需求快速提升
ChatGPT 是 OpenAI 开发的一款聊天机器人,能够更高层次理解人类需求并解决复杂问 题。ChatGPT 基于 Transformer 架构算法,可用于处理序列数据模型,通过连接真实世 界中大量的语料库来训练模型,可进行语言理解并通过文本输出,做到与真正人类几乎 无异的聊天场景进行交流。 ChatGPT 应用场景广泛,海外已有龙头落地成功案例: 1)文字创意的生成:快速生成文章段落结构。 2)客服系统:与客户更流畅的交流。 3)虚拟人物对话:传统虚拟人物会设定对话标准答案,ChatGPT 能够更自然真实地与人 对话。 4)结合 Office 软件:生成文档、表格、PPT 等。 5)搜索:替代部分搜索需求。 6)咨询领域:提供值得思考或探索的方向。 ChatGPT 海外已有应用方案落地:为 BuzzFeed 提供个性化测试服务以及为 Amazon 解 决工程师技术难题等。
ChatGPT 带动算力需求飙升,存算侧硬件全面增量需求。据 NVIDIA 估算,训练 GPT3,假设单个机器的显存/内存容量足够的前提下,8 张 V100 显卡训练时长预计达 36 年, 1024 张 80GBA100 显卡完整训练 GPT-3 的时长为 1 个月,算力侧硬件需求全面增长。
ChatGPT4 多模态演绎,算力需求进一步激增。ChatGPT4 为多模态模型,使用图像、 视频等多媒体数据进行训练,文件大小远超文字,进一步驱动算力需求飙升。以 LAION5B 图文数据集为例,其包含 58.5 亿个 CLIP 过滤的图像文本数据集,我们认为图像、视 频类训练数据将驱动算力需求进一步飙升。此外,大模型训练需要海量数据传输,由此 将对以服务器交换机为代表的数据传输设备产生更多需求,相关高算力芯片需求量将相 应增长。
高算力时代,Chiplet 助力突破芯片制程瓶颈。在速度方面,采取 3D 封装技术的 chiplet 缩短了线路传输距离,指令的响应速度得到大幅提升,寄生性电容和电感也得以降低, 此外,更多更密集的 I/O 接点数,电路密度提升将提高功率密度。3D 封装由于采用更细 小、更密集的电路,信号传输不需要过多的电信号,从而功耗也会相应降低。
整体来看,ChatGPT 将从算力侧和数据传输端全面带动显卡及高算力芯片需求,由此将 从算力芯片、应用端、存算一体、先进封装、封装设备、IC 载板等多个领域带动硬件市场增量需求。
AI驱动半导体产业周期回暖,刺激产业链四大领域
自摩尔定律诞生以来,消费电子产业一直充当着推动半导体产业发展的主要驱动力,手机业务增长放缓后,PC又在疫情期间拉动了一波内需,成为刺激半导体产业持续上涨的主要驱动力。如今进入后疫情时代,消费电子需求不再旺盛,半导体行业进入下行周期,急需新的应用刺激成为驱动力。
凯联资本董事总经理姚宁波在大会上介绍到,以前半导体周期都是由手机驱动,如今手机销量每年下降10%,疫情期间PC成为主要驱动力,未来新能源汽车会成为新的驱动力。
“AI、HPC和云服务持续起量,计算会成为下个半导体周期的主要驱动力”,姚宁波说道。
另外,姚宁波还强调,三星近期宣布减产,意味着半导体周期即将触底,下一个半导体周期将在Q3或Q4到来。
芯榜CEO班可可则认为,ChatGPT给芯片产业带来的机遇体现在产业链上,主要集中在四大领域,计算芯片、存储芯片、封测产业和PCB产业链。
随着ChatGPT的关注度持续上涨,相关机构预测,GPU的全球增长率将从32.82%上涨到39%,计算芯片的需求暴涨引发晶圆厂的业务变化,从台积电的业务营收可以看出,其高性能计算持续高增长,占总营收比高达41%,首次超过智能手机业务领域,英伟达数据中心HPC芯片业绩的年增长则将高到200%-250%。
在存储芯片领域,班可可表示HBM作为一款新型的CPU、GPU内存芯片,量价齐升,在能够满足ChatGPT对存储的新需求的同时,为处在灰暗中的存储行业带来一抹亮色。
2022年6月,SK海力士宣布量产HBM3并出货给英伟达,与H100 GPU搭配,实现加速计算,目前SK海力士和三星的HBM订单激增,HBM成为存储芯片行业的新赛点。
在封测领域,近几年大火的Chiplet的需求更甚。
在PCB板行业,服务器中的主板,电源背板,硬盘背板、网卡等核心部分均需要用到PCB板,算力革命提升了PCB板用量的同时,也推动着PCB向高频高速方向发展。对于内资厂商而言,英伟达的A100/H100显卡的PCB供应商胜宏科技将直接受益。
或许面对美国的禁令,由于无法购买到A100,中国只能基于A800做出阉割版本的ChatGPT,但除了GPU,国内半导体厂商也可以在产业链其他环节找到新机会。
换道超车的存算一体,为中国AI大算力芯片注入新动力
ChatGPT最本质的需求是对算力的需求,虽然我们目前在GPU领域无法与英伟达匹敌,但我们可以通过另一种方式,提高算力效率。致力于打破内存墙的存算一体技术目前已经成为产业期待,资本追逐的一大方向。
亿铸科技高级副总裁徐芳在研讨会上解释到,从大环境来看,目前算力需求越来越大,摩尔定律接近终结,市场对能效比要求持续提升,但能效比以及算力密度已经接近天花板了,这正是产业发展存算一体的原因和必要性。
另一方面,从科学发展的规律来看,阿姆达尔定律一直是硬件加速设计的基本定律,代表处理器并行计算之后效率提升的能力,根据公式推导显示,存算一体的AI加速效能远优于GPGPU。
也就是说,某种程度上,存算一体发展到一定程度上,是能够为算力提升贡献力量的,甚至比GPU更有优势。
除了亿铸科技这类专门研发存算一体芯片的公司,国内其他存储芯片公司 也都已经在存算一体方面有所涉足。
在CITE大会上,存储芯片厂商忆芯科技说道,ChatGPT的训练需要有大规模数据集,数据首先需要存取,有了海量的数据存储之后,需要有能够读取大量数据的带宽足够大的双向接口,给存储芯片行业带来了机会。
“忆芯本身就是做存储的,我们支持大带宽数据传输,离线端支持数据加密,独立完成数据存储、计算、传输和加密工作,落地到具体的场景中,能够帮助用户加强场景下数据应用的要求。”
“针对客户的AI应用需求,可以有针对性地训练出个性化的应用,但这对存储和计算都提出了新要求,因此传统的静态存储没有太多价值,而是需要把存储的数据提取出来,对模型进行优化,才能更近一步满足客户的需求”。忆芯科技市场高级总监熊明霞解释道。
推动更多AI细分市场的发展
如前文所述,AIGC的出现有望撬动AI大规模落地的场景。同时,相关企业在多个AI产业链的布局将更深入。比如,在硬件层包括芯片和传感器,其中AI芯片主要有通用型的GPU、可定制的FPGA、专用的ASIC,以及类脑芯片。英伟达的Orin芯片基于通用GPU,地平线的征程5芯片,既是ASIC芯片,也是DSA(特定领域架构)芯片;类脑芯片有IBM的TrueNorth、英特尔的Loihi、高通的Zeroth、西井科技的DeepSouth、杭州电子科技大学的达尔文、aiCTX的DynapCNN处理器等。
整体而言,AI芯片供应商主要有英伟达、AMD、Intel、VelociHOST、景嘉微、地平线、寒武纪、比特大陆、复旦微、赛灵思、Altera(英特尔旗下)、异构智能、谷歌等;传感器部分有舜宇光学、禾赛科技等供应商;算法层有商汤科技、旷视科技、云从科技、依图科技、第四范式等;应用层有海康威视、科大讯飞、锐明技术等。
虽然智能计算机并不追求太大的算力频率,但是其对芯片的功耗和散热要求较高,所以,低功耗的FPGA和ASIC芯片在智能计算机上有更大的用武之地。与此同时,AI芯片也将从面向厂商的训练场景为主,转变为面向消费者的推理场景为主。业内AI专家对此评价称,GPU的高并行计算能力和高通用性的协调统一,在消费者时代的统治力或许难以为继,未来ASIC芯片、中国产GPGPU芯片或将能切入MaaS(出行即服务)产业生态。