”
江松然瞬间明白了。
“抽象层开放,底层优化让厂商自己做。做好之后就能接入开源的抽象层,汤圆1.0也能在上面运行。”江松然飞快说道。
这样一来,汤圆很快就能跑在所有国产卡上。
至于中间那层抽象协议,还能帮助更多大模型项目把推理和训练迁移到国产卡上。
毕竟英伟达的CUDA体系不仅闭源,还有专利墙,国产厂商想绕过去极有难度。
而这个抽象层,就是已经绕过去的坐标。
“如果真能把这个方式推广出去,那我们的供给量就上来了。”江松然兴奋地说,“虽然训练可能还做不了,但推理的算力缺口就能补上!”
“就是这个意思。”韩路一笑着说,“你手底下的工程团队做这个有经验。如果厂家那边搞不来向抽象层接入的方法,咱们可以出面帮忙落地,只是要能拿出产能来换。”
这话一说完,彻底把江松然干沉默了。
“韩总,牛!”沉默了一会儿,江松然开口,“适配完成,这些卡就是正正经经能跑大模型推理的卡,原来的价格肯定就不适用了。”
但韩总帮忙落地的条件是:厂家已经和起源锁定订单,现有库存和新生产出来的显卡必须卖给起源集团。只有这样,这笔交易才成立。
这个方法一出,起源很快就能拿到一批不同品牌、不同规格,但都能跑汤圆1.0推理的计算卡。
江松然本就是研究异构集群出身,最不怕这种情况。
聊到这儿,韩路一放心了,把余司长发来的资料转发给江松然。资料虽然都是公开的,但里面的东西由相关负责人自己提交,信息绝对全面。
只是看着韩路一转来的资料,江松然的脸又苦了下来。
国内做计算卡的就这么几家,里面还得加上硅明。结果资料打开一看,真是让江松然大开眼界。
各家都宣称自己是首个突破国外封锁的芯片企业。
结果江松然照着资料核对参数,才发现:广告不愧是广告。UC小说网_m.shukugu.com