张彪慢慢点头。
韩路一起身准备出去,张彪也赶紧站起来。
“我去趟十三楼,彪哥你先准备吧。”韩路一转头对张彪说,“别怕,人没有生来就会的,迈出第一步,以后就好了。有问题问我,或者问别的同事也行。”
张彪跟着韩路一出办公室,回到自己的工位。
是的,他现在也有工位了,就在韩路一办公室门口,公司还配了台电脑。
张彪坐在工位,先把韩路一给的资料从头到尾读了一遍。
资料信息很全:源智科技计划使用的时间线、大概所需的机柜资源规模,以及请对方协助评估机柜、电力、网络、交付周期和后续对接安排等。
张彪新建文档,先在标题写上《商务函》,然后盯着空白页面看了一会儿。
他先写下第一句。
“尊敬的XX:你好!源智科技有限公司申请使用机柜32台,开始时间三月初,望批准。”
写完,他自己读了一遍,觉得不太对。
张彪以前写过情况说明、训练日志,也写过装备申请表。
可这商务函……该怎么写?
他抓了抓头,点开韩路一发来的链接,一个简洁的聊天页面弹了出来。
页面中间写着“汤圆v0.2内测版”。
底下的对话框里有一行灰色的小字:“今天聊点什么?”
……
十三楼模型组,赵文渊没有独立办公室,和其他同事一样坐在开放办公区。
小牛把外卖的生椰拿铁给赵文渊拿过来时,他还盯着屏幕上的日志。
他工位旁如今固定加了一把转椅。他和源码科技模型组的其他员工都习惯了——韩路一最近每天都会花几个小时坐在这儿,跟他们一起写国产显卡的软件适配。
“文渊,怎么样了?”
韩路一的声音传来。
赵文渊闻声抬头,看见韩路一正走过来。
“韩总,你可来了,快坐。”赵文渊明显激动起来,“这两个算子我卡了半天,你快看看吧。”
这是两人最近形成的工作模式。
赵文渊带着手下用编程智能体做国产显卡适配。
每人分到一个算子,先设计一个通过基准——一般能达到N卡的百分之八十就算达标——再用智能体一轮一轮地试。成功率虽不高,效率却比手写高得多;试得多了,也有一些迁移效果不错。
碰上特别重要、特别难的,再汇报给赵文渊。
这种情况赵文渊一般也做不了什么,就等着韩路一来。
韩路一坐下后,认认真真从上到下看一遍,然后开始写,噼里啪啦输入一串提示词,关键参数和逻辑都写在里面,再回车,等五分钟。
难点就攻克了。
从最初的震惊、迷茫、怀疑世界,到如今,赵文渊已经适应了这种模式。
可能这个世界就是有天才吧。
有难题,找韩总。
我直接把韩总当随身老爷爷用不就完了?管他怎么做到的呢。
像现在,卡了全组两天的两个算子迁移,韩路一坐下十分钟就解决了。
第一个是RoPE。
这东西说白了,是让模型知道一段文本里每个词所在的位置。短文本里问题不明显,可上下文一旦拉长到十六K,显卡那边的三角函数近似误差就厉害起来。之前测试时,前八K还算正常,往后生成结果就会出现莫名其妙的错位。
赵文渊他们试了两天,一直在精度和性能之间来回拉扯:精度压下去,速度掉得厉害;速度提上来,误差又爆。
韩路一坐下后只看了一遍日志,就让智能体把sin/cos查
-->>(第2/3页)(本章未完,请点击下一页继续阅读)