如果第一方的这两个应用能省出算力,是不是就意味着API那边能有更多额度可销售?
当然,不能为了省算力就给起源这两个王牌产品降智;真这么干,导致口碑暴跌、用户信任流失,那才是舍本逐末。
以用户体验为先的道理,产品副总裁姜亦心还是懂的。
可做了这么久AI产品经理,姜亦心也积累了不少方法论。其中很重要的一条是:模型产出质量并不总与消耗的算力正相关。
同一个模型、同一个要解决的问题,用两种不同方式调用,确实可能有一种消耗算力更少,结果还更好——鱼和熊掌可以兼得。
继续优化这两个产品的系统约束,是不是就能往这个方向提升?
这才是真正的降本增效吧?姜亦心高兴地想。
随即,她赶紧把刚才的想法整理成文档,准备作为下一阶段的项目目标。
“所以我们接下来的目标是继续优化智能体的——”
写着写着,写到这一句,姜亦心突然卡住了。
随即她想到一个问题:这种脱离模型能力之外、对智能体表现至关重要的部分,似乎还没有名字。
该怎么称呼它才好呢?
这其实很重要:没有简洁的名字,人们就无法讨论一个具体事物。比如智能体刚诞生时,还没有“智能体”这个概念,要形容它,只能说:这是一种能自主感知环境、进行推理规划、调用外部工具并生成最终结果的人工智能自动化工具。
给符合这些条件的工具命名为智能体,大大降低了讨论它所需的沟通成本。
姜亦心刚想出的这个概念,其实基于智能体大规模应用的延伸。你也是智能体,我也是智能体,为什么起源集团做出的智能体,无论在算力利用效率上,还是在任务执行结果上,都比其他公司的智能体效果更好?
就因为这种模型能力之外的约束条件做得更好。
姜亦心回想起AI工具发展的这几年,这种对模型能力的综合约束,应该算一种工程能力吧?
那该给它取个什么名字?
提示词工程?不对。它比单纯的提示词管理复杂多了:不只是给模型的提示词,还包括模型应返回的数据格式、工具本身对返回数据的处理方式,甚至什么时候该主动压缩上下文。
同理,叫上下文工程也没法体现全部工作。
对取名不太自信的姜亦心左思右想,忽然想到大刘最近沉迷的那个游戏——《骑马与砍杀》。
如果把具有推理思考能力的大模型比作能日行千里的千里马,把使用模型的人比作乘骑千里马的骑士——
那么,这种给模型提供方向、进行约束的能力,是不是就可以叫作“驾驭工程”?
驾驭工程。
英文名就叫Harness Engineering。
就这么定了!UC小说网_m.shukugu.com