前言

前阵子有位球友反馈说，他们团队做AI客服系统的优化，遇到了一个特别拧巴的问题。

他们用大模型做工单自动分流，让模型判断“用户的问题该分给哪个部门”。

结果呢？

模型每次都要“思考半天”，先输出一段推理过程，再给出结论。

一个本该在50毫秒内完成的分类判断，硬是拖到了两三秒。

更离谱的是，有时候模型还会“发挥”——你给了它三个选项（技术、账单、销售），它给你编出一个“综合支持部门”。

你只是想让AI做个简单的分类，它却非要跟你聊天。

技术负责人跟说了一句话让他印象很深：“我们花了那么多钱买Token，结果大部分都花在了AI的‘废话’上。 ”

这个问题，在Jev出现之后，终于有了一个不同的解法。