最新网址:m.shukugu.com
海城,起源集团总部,董事长办公室。韩路一坐在电脑前。视频会议接通,赵文渊的脸出现在画面中。
“文渊,最近怎么样?”韩路一笑着招呼道。
“韩总,都好都好。”赵文渊答道。
周五下午,两人有一个固定的一对一会议,没有固定主题:有大的工作进展要汇报,就讨论工作;没有,就聊聊对战略的判断,甚至纯聊生活也行。
这是韩路一自己的安排。他和每位高管都有这种会议,级别不同,频率也不同。
但他对和赵文渊的会议格外重视,主要有两个原因。
第一,京城研究院很重要。如今与大模型相关的研发工作、互联技术团队,以及医疗和电力行业的落地试点,都归在京城研究院之下,可以说是大模型研发的核心。
第二,是出于远程管理特殊性的考虑。
虽说不用像跨国企业那样克服时差,但两地办公和当初同处一间办公室的感觉还是完全不同。
在一间办公室时,大家低头不见抬头见,很多小问题在走廊上碰见就顺便聊了;有急事,很多时候也不必提前预约,随时登门都行;甚至午饭一起吃个饭,既能增进感情又能聊工作。
可分开两地办公,这些便利就都没了:每次会议都有固定议题,聊完便结束,人与人的关系也难免疏远。
所以这个时间固定、主题不固定的会议就格外重要。
“今天有什么议题吗?”韩路一问道。
赵文渊点了点头:“确实有些事要汇报。我们最近讨论了汤圆下一阶段的训练方案,初步想法是在现有基础上投入更多算力、增加参数量。这主要出于我们对汤圆当前能力短板的考量。”
“汤圆现在主要强在意图理解和长程任务规划,但在逻辑推理与复杂问题求解上并不算领先,只能说没有落后。标注数据带来的提升主要集中在意图理解;要提高数理能力和问题求解能力,关键仍是提升参数量,否则面对国外顶级模型会吃力。”
这便涉及汤圆2.0的迭代方向:要不要和海外模型卷参数、加入这场军备竞赛;若加入,算力又从哪里来。
起源目前大部分算力分给了推理,留给训练的只有一小部分。
这一小部分当初做汤圆1.0的后训练够用,但若要再做一个参数更大的汤圆2.0基座,就远远不够——缺口从哪里补?
推理集群里的L100倒是能挪一部分来做训练,可这势必影响依赖汤圆模型的所有产品线——包括开物、御风和汤圆Chat,以及公开销售的汤圆API——的供给能力。
即便不考虑新用户增长,现有用户体验也不能降;否则口碑分分钟崩盘,模型能力再强也救不回来。
这里面又该如何权衡?
韩路一问道:“你觉得训练2.0需要多少张L100?”
赵文渊显然早就算过了,脱口而出:“一万张。”
说完,他又怕说少了,赶紧补了一句:“最少一万张,多多益善。”
韩路一听完一阵苦笑:L100现在总共才一万八千多张,这一下就是一多半;其他计算卡集群虽在陆续上线承担一些推理任务,离能够替代这一万张L100还有不少差距。
韩路一说道:“好,下一步提升参数量和数理能力这个方向我认同,你们先做训练方案规划;至于算力这边,我来想办法。”
话虽如此,他心里也一阵头疼:算力不足,他一时还真没什么办法。
怎么开了挂解决问题还是这么难?
视频那头的赵文渊听了却很高兴:果然不愧是万能的韩总,就没有能难住他的问题。
这时,韩路一问道:“对了文渊
最新网址:m.shukugu.com
-->>(第1/3页)(本章未完,请点击下一页继续阅读)