• 首页
  • 上一页
  • 目录
  • 下一页
  • 书架

《首富从看见信息面板开始》

第三百七十二章 且听龙吟
完成时间】和【内存等待占比】等几个详细选项。

    任务预计完成时间是一点七七秒。

    丁耀先扫了一眼,没太在意。

    然后继续看内存等待占比:百分之六点五。

    他突然意识到有点儿不对。

    一点七七秒?

    刚才L100的模拟结果,使用的是同一个任务吧?那个时间是多少来着?

    丁耀先浑身一激灵,既觉得自己可能记错了,又隐约觉得似乎真有这个细节。

    这个模拟软件对过去的模拟结果都有历史记录,L100的模拟结果就在前面三个。丁耀先咽了口口水,问道:“我们再对比一下L100的结果?”

    没人提出反对。

    赵文渊把这次结果的标签页单独拖了出来,留在屏幕一边,然后在屏幕另一边打开了L100的模拟历史记录。

    任务预计完成时间:六点八四秒。

    冰芯这边的人也意识到哪里不对了。

    算力提升了百分之三十多,训练速度却变成了原来的四倍。

    封装负责人的身子往前探了探,喃喃道:“这怎么可能?”

    刚才输入参数的时候,封装带宽的数据已经被压缩到很保守的水平,对冰芯来说属于没有技术挑战。

    相对应的,通信效率就会很受影响,这种多芯粒设计受到的影响最大。

    怎么可能会出现这样的结果?

    丁耀先也抬起头看向赵文渊,想让他给个解释。

    他甚至都没问问题。很显然,两组数据的对比不合常理,这需要一个解释。

    赵文渊淡淡一笑。

    “看起来大家都很惊讶,可能是因为你们对大模型的训练管线不太了解。”赵文渊开口道,语气平淡,仿佛在讨论一件微不足道的小事。

    其实他心里已经乐开了花。

    虽然技术方向是大家头脑风暴出来的,但既然是我来讲解和演示,那这个逼就让我一个人装吧。

    冰芯的各位,准备好,表演开始了!

    “L200的异构设计不只是拿几个小芯粒堆起来而已,它是为汤圆的训练管线特意设计过的。”赵文渊用手指着屏幕上的四块芯粒,“我们对训练的每一步任务都做了精细规划:会用到哪种算子,任务量有多大,编译器都可以提前规划好。这是一种在训练开始之前就进行过的宏观优化。训练一旦开始,所有计算都会在同一个芯粒里完成,只有在最后Reduce的阶段才需要进行通信。”

    “这样,在密集运算的过程中,每一个芯粒其实都是一个完整的芯片,显存读取也被降到了最低。”

    “为什么我们能用比英伟达落后的制程,达到效率上的反超?”

    “英伟达要照顾所有用户,而我们只需要考虑汤圆。”

    “答案就是这么简单。”

    赵文渊话说完,全场安静。

    他静静享受了几秒钟会议室里的宁静,直到一个清脆的鼓掌声将这宁静打破。

    是廖伯韬。

    他一边慢慢鼓掌,一边露出一个真诚的笑容。

    “赵总还说自己是外行人,我看赵总对芯片设计是真正的内行啊。”廖伯韬说道,“先想好要跑什么任务,才进行芯片设计,苹果做M系列的时候走的就是这条路。软硬件能够协同设计,才能做到效率的天花板,源智在这方面得天独厚啊。”

    说完,他叹了一口气:“这条路,冰芯还没有走过。”

    这话一出来,会议室里的人都有点儿明白他的意思了,所有目光都汇聚在廖伯韬身上。

    廖伯韬环顾四周,最终把目光放在韩路一身上,开口道:“韩总,冰芯和源智的合作,可以就按照你们刚

    -->>(第3/5页)(本章未完,请点击下一页继续阅读)
  • 加入书签
  • 上一页
  • 目录
  • 下一页
Copyright shukugu.com 返回首页
顶部