算力需求断层
目前,算力严重不足。造成这一问题的主要原因是:GPT3.5 到 GPT4 的升级需要至少提高3到5倍的算力。这种需求的增长不是按照正常的线性模式进行的,而是直接跳跃式爆发,导致国内无法正常供应所需的算力。整体来看,算力短缺问题非常严重。其次,国内在升级过程中还遭遇到了云计算封锁的限制,再加上算力租赁完全停止,导致国内算力供应中断。同时,现有的算力也在不断涨价。因此,目前大厂的处境非常困难。很多人想知道是否还能继续获得A100、H800等设备,但是非常困难!正常的渠道已经别想了,小批量采购成本又很高,现在唯一的希望就是国内自主研发的算力芯片了。
互联网大模型水平在GPT3.5水平
互联网巨头的大型模型普遍达到了GPT3.5的水平,其中大多数是垂直类模型,只有少数是通用大型模型。预计到2024年中期,有望达到GPT4的水平,但前提是国内的算力能够赶得上。目前,国内的算力产能基本全部转移到国内,在第二季度基本上将完全解决供应问题,也就是说在第一季度,大型企业仍然会面临供应短缺的制约。需求端的爆发超出了预期,以东数西算为例,今年的需求应该在600亿左右,光移动运营商就占据了千亿级别,再加上电信和联通,规模可能超过500亿。由于大型互联网企业已经抢购一空,并且升级到GPT4的水平,平均每家企业需求超过6万张卡,而且这只是保守估计。也就是说,今年国内需要弥补2500亿的卡片缺口,这实在是非常恐怖。因此,去年专家一直在强调算力将成为限制人工智能发展的因素。
面对GPT5的冲击,我们又该如何应对?
还有更重要的问题没有解决,那么就是GPT5,现在老美全面突破GPT5,对算力的需求基本上是要去银河系了,小扎二话不说囤个60万张 H100,这么大的需求量,国产芯片商恐怕一时半会缓不过气呀,我们制程厂马不停蹄也无济于事,算力短缺如何解决,现在是一个非常大的问题了,我相信以我们国人的智慧,一定可以解决,决不能让老美得逞。
上海市徐汇区天钥桥路333号5楼
上海总部 | 北京 | 广州 | 江西 | 成都 | 陕西 | 宁夏 | 甘肃 | 青海 | 内蒙 | 新疆 | 西藏