完成时间】和【内存等待占比】等几个详细选项。
任务预计完成时间是一点七七秒。
丁耀先扫了一眼,没太在意。
然后继续看内存等待占比:百分之六点五。
他突然意识到有点儿不对。
一点七七秒?
刚才L100的模拟结果,使用的是同一个任务吧?那个时间是多少来着?
丁耀先浑身一激灵,既觉得自己可能记错了,又隐约觉得似乎真有这个细节。
这个模拟软件对过去的模拟结果都有历史记录,L100的模拟结果就在前面三个。丁耀先咽了口口水,问道:“我们再对比一下L100的结果?”
没人提出反对。
赵文渊把这次结果的标签页单独拖了出来,留在屏幕一边,然后在屏幕另一边打开了L100的模拟历史记录。
任务预计完成时间:六点八四秒。
冰芯这边的人也意识到哪里不对了。
算力提升了百分之三十多,训练速度却变成了原来的四倍。
封装负责人的身子往前探了探,喃喃道:“这怎么可能?”
刚才输入参数的时候,封装带宽的数据已经被压缩到很保守的水平,对冰芯来说属于没有技术挑战。
相对应的,通信效率就会很受影响,这种多芯粒设计受到的影响最大。
怎么可能会出现这样的结果?
丁耀先也抬起头看向赵文渊,想让他给个解释。
他甚至都没问问题。很显然,两组数据的对比不合常理,这需要一个解释。
赵文渊淡淡一笑。
“看起来大家都很惊讶,可能是因为你们对大模型的训练管线不太了解。”赵文渊开口道,语气平淡,仿佛在讨论一件微不足道的小事。
其实他心里已经乐开了花。
虽然技术方向是大家头脑风暴出来的,但既然是我来讲解和演示,那这个逼就让我一个人装吧。
冰芯的各位,准备好,表演开始了!
“L200的异构设计不只是拿几个小芯粒堆起来而已,它是为汤圆的训练管线特意设计过的。”赵文渊用手指着屏幕上的四块芯粒,“我们对训练的每一步任务都做了精细规划:会用到哪种算子,任务量有多大,编译器都可以提前规划好。这是一种在训练开始之前就进行过的宏观优化。训练一旦开始,所有计算都会在同一个芯粒里完成,只有在最后Reduce的阶段才需要进行通信。”
“这样,在密集运算的过程中,每一个芯粒其实都是一个完整的芯片,显存读取也被降到了最低。”
“为什么我们能用比英伟达落后的制程,达到效率上的反超?”
“英伟达要照顾所有用户,而我们只需要考虑汤圆。”
“答案就是这么简单。”
赵文渊话说完,全场安静。
他静静享受了几秒钟会议室里的宁静,直到一个清脆的鼓掌声将这宁静打破。
是廖伯韬。
他一边慢慢鼓掌,一边露出一个真诚的笑容。
“赵总还说自己是外行人,我看赵总对芯片设计是真正的内行啊。”廖伯韬说道,“先想好要跑什么任务,才进行芯片设计,苹果做M系列的时候走的就是这条路。软硬件能够协同设计,才能做到效率的天花板,源智在这方面得天独厚啊。”
说完,他叹了一口气:“这条路,冰芯还没有走过。”
这话一出来,会议室里的人都有点儿明白他的意思了,所有目光都汇聚在廖伯韬身上。
廖伯韬环顾四周,最终把目光放在韩路一身上,开口道:“韩总,冰芯和源智的合作,可以就按照你们刚
-->>(第3/5页)(本章未完,请点击下一页继续阅读)