方面的人才,才是源智走得更远的底气。
韩路一脸上没有失望,反而安慰两人:“没事,能增加十六个五百卡集群,对我们来说已经是巨大的进步。路要一步一步走,饭要一口一口吃。”
“我们现在最迫在眉睫的任务是解决推理算力问题。推理请求对显存和卡间通信的需求都没那么大;现在我们有之前十七倍的算力,汤圆的潜力终于可以释放出来了。”
这话江松然当然也知道。
超大集群主要是训练需求,推理不需要。
按正常公司的流程,现在要么采购英伟达硬件,用现成解决方案;
要么还远没到需要自研超大集群通信的进度。
源智能走到今天这一步,发展过程像坐上了火箭。
原本在江松然看来,光解决算子适配问题就得花几年;经过这几天的离奇经历,他把预期调整成了几个月。
所以,几个月后,超大集群就得建起来。
所以,一个他原以为短期内不会遇到的问题,突然变得棘手起来。
源智现在撞上了一堵墙。
一堵到现在为止只有英伟达跨过去了的墙——
显卡间通信效率。
韩路一看着监控屏幕上满屏的红色警告,笑了一下:“我们会找到办法的。”
江松然看了看完全没有担心神色的赵文渊,又看了看韩路一。
不知为什么,他心中也生出一股自信:不仅是对源智科技团队的自信,也是对韩路一的自信。
之前认为解决不了的问题都解决了,难道现在会在这里被卡住?
不会的。
江松然没再说话,转身回到控制终端前,把刚才的测试日志导出来,为下一步技术突破做准备。UC小说网_m.shukugu.com