体功能了。有没有发现，之前在千帆APP订餐厅需要用到的很多功能，在汤圆Chat的流程里都用不到？”
马小飞想了想，说：“你说的是——比如我要订一家餐厅，得先打开千帆，再选分类；选完分类还要筛区域；筛出来的饭店，还得一家一家看评分；看完评分再翻评论；翻完发现不接受线上预订，又得找电话打过去；人工告诉我今晚七点没位了，只剩七点半……”
他说完喘了口气。
“可在汤圆Chat，我说“帮我订一家附近评分高的川菜，今晚七点，两个人”——然后它就去办了。”
说得真细。韩路一笑了笑：“你刚才说的那一串流程，全是因为人需要用界面来传递信息、一步一步表达意图。但AI不需要这些界面，它能直接理解你的话，直接调用服务。那些筛选框、分类标签之类的东西，对AI来说不是功能，而是噪音，我们都可以去掉。”
“随着AI越来越普及，我们会更多接受由AI调用服务的交互方式。对未来的很多服务提供商来说，消费者里很大一部分不再是人，而是智能体。要让智能体知道你能做什么、产出什么，就需要一套标准协议，像AI界的“普通话”。”
马小飞恍然大悟：“所以汤圆协议就是这个“普通话”？”
韩路一一笑：“借你吉言，我也希望汤圆协议能成为这个普通话。”
马小飞对镜头笑道：“原来这协议这么重要，怪不得国内外大厂都要紧跟着源码的脚步发布自己的协议。谢谢韩总解惑。”
两人休息，喝了点水。这些内容后期可以剪掉。
休整过后，马小飞问下一个问题。
“汤圆Chat发布之后，有一类声音一直存在，说汤圆的回答有点……怎么说呢，有点“管人”的感觉。你怎么看这个评价？”
韩路一沉默片刻。
他心里暗想：马小飞啊马小飞，刚才休息时怎么不提前透题？
“我觉得——”他说到一半，又停住，“我觉得那些用户说得对。”
马小飞挑了挑眉。
“设计汤圆时，我们在安全边界上做了很多工作。”韩路一说，“不希望它帮人做某些事，希望它在一些话题上保持克制，最关键的是，希望它不给出错误信息——这很难，但这是我们的出发点。”
“那么，”马小飞问道，“你为什么选择这样的设计理念呢？”
“因为我觉得现在业界的主流方式是错的。”韩路一说。
马小飞暗地里给韩路一竖了个大拇指。
节目效果这不就出来了吗？
他问：“能详细说说吗？”
“你知道现在大多数大模型是怎么训练出来的吗？”韩路一问道。
马小飞摇头，摆出认真听讲的表情。
“现在业内主流的训练方式叫人类反馈强化学习。”韩路一说，“简单说，就是让真人给模型回答打分，模型从分数里学习什么叫好回答。”
“听起来挺合理的。”马小飞说。
“合理，但有一个问题。”韩路一说，“人类打分时很难避免一个倾向——AI说了你爱听的答案，你会给高分；说了你不爱听的，哪怕它是对的，你也可能给低分。”
“就是……喜欢被夸的意思？”
韩路一说：“确切说，是喜欢被认同。每个人都有这种追求，但和人相处时很难得到百分之百的认同；AI不一样，它可以每次都认同你，只要你给它高分。所以模型从反馈里学到了什么？它学到：顺着用户说，用户就满意。时间一长，它就变成特别会说好话的模型。甚至你问它一个问题，它都要先夸你问得好，再给你一个你想要的答案。”
“哈哈，这个我见
-->>(第3/4页)（本章未完，请点击下一页继续阅读）