• 首页
  • 上一页
  • 目录
  • 下一页
  • 书架

《首富从看见信息面板开始》

第二百八十八章 你不知道NullPointer是谁?
软体看了一下,一边漫不经心地等着第一个报错弹出来。

    呀,外卖已经送到了半天了,我的面要坨了。

    等一会报错了就先去把外卖拿回来。

    范小天这麽想着,抬起头来看向屏幕。

    他只看到了满屏绿色的PASS。

    这一套验证测试有几百个,一个一个跑过去,不算快,也不算慢。

    一行一行的PASS还在日志里输出。

    PASS。

    PASS。

    PASS。

    范小天就这麽盯着屏幕又看了十分钟,所有的测试都跑完了,全都通过了。

    最後一行日志:

    All tests passed 414/414。

    范小天又把外卖的事情忘在脑後了,他现在满脑子想的都是一件事。

    这个实现效率怎麽样?

    因为没有性能分析工具,他没办法读取L100显卡上的各项指标,像SM(Streaming

    Multiprocessor,流式多处理器)利用率、显存读写效率这些东西,也就没法计算这个实现的运算效率到底有多少。

    但是还有个取巧的法子,也是源智团队一直在用的。

    读不了指标没关系,可以直接计时运算时间,再和英伟达的卡比一比,看看能达到竞品卡的多少效率就可以了。

    按说这个阶段还没到测效率的时候,但是看着这麽优雅的代码,范小天忍不住了。

    万一呢?是吧?

    范小天迅速搭了个简单的计时基准:同样的Batch大小,同样的序列长度,同样的运算,分别在手头的L100和一张组里共享的H100上跑,计时,对比。

    这张H100可是传家宝,也不知道江工是从哪里搞来的,组里一起用来做性能测试的,大家都宝贝得不得了。

    参数设好,范小天看着提交键咽了口口水,才按了下去。

    进度条跑起来,这次等的时间稍微长一点点,因为性能测试要连续测好几轮,取平均值,这是为了保证测试的稳定性。

    大概三分钟。

    结果出来了。

    L100平均每步用时4.6毫秒。

    对标的英伟达H100平均每步用时4.8毫秒。

    比英伟达还快!

    比英伟达的H100还快!

    范小天把脸凑近了屏幕,又看了一遍。

    他以为自己看错了。

    他又往後退了退,眯着眼睛,又看了一遍。

    百分之一百零四点二。

    之前源智团队一直是把运算效率达到了H100的百分之多少作为性能测试的基准的。

    但是这次是L100直接超过了H100,超了百分之四点二!

    不对。

    不对不对不对。

    范小天把测试工具调出来,准备再跑一遍。

    要是刚才那遍是跑错了怎麽办?

    结果和刚才一样。

    L100在【注意力融合反向算子】上的单步运算速度稳定的超过了H100。

    范小天抬起头,眼睛里露出迷茫的神色。

    这个世界是怎麽了?

    我不是回来追求理想,报效祖国,突破万恶的美弟国主义算力封锁的吗?

    怎麽突然一下国家就不需要我的帮助了?

    怎麽国产卡已经算力突破了?

    范小天在椅子上坐了很久,没有动。

    这时,模型组的小牛从外面进来,手里提着一个外卖盒。

    「范哥,这是你的外卖啊?我看放在门口,帮

    -->>(第2/3页)(本章未完,请点击下一页继续阅读)
  • 加入书签
  • 上一页
  • 目录
  • 下一页
Copyright shukugu.com 返回首页
顶部