AI 猜不出「小嘴 more 了 mee」:谐音梗测试该怎么设计
一句被改成中英混排、还带错别字的中文谐音梗「小嘴 more 了 mee」,让几个主流大模型全都答偏。文章拆解这句话的原意与难点,分析模型为什么倾向于给出多解而非押注,并给出可复现的测试方法:多次采样、拆分识别与解释、设置对照组,同时讨论这类“不规范输入”测试到底有没有意义。
有人把一句话丢给几个主流大模型,想看看它们能不能读懂:「小嘴 more 了 mee」。结果并不理想:有模型把它当成「小嘴摸了没」,推测是暧昧调侃;有模型拆成「嘴上功夫了得、让人还想要更多」;也有模型老老实实列了三四条可能性,最后补一句“需要结合上下文”。没有一次直接命中原意。
讨论区随后分成两派:一派认为这暴露了模型面对网络梗、谐音和错别字混合输入时的短板;另一派认为这种连人都不一定看得懂的句子,本来就不该拿来考 AI。两种说法都有道理,但真正值得记下来的是——如果要做这类测试,怎么设计才不至于得出错误结论。
这句话本来是什么
「小嘴 more 了 mee」的原意是「小嘴抹了蜜」,形容一个人说话甜、会哄人,常用于调侃或玩笑。其中“more”对应“抹”的近似读音,“mee”对应“蜜”的近似读音,“了”原样保留。
难点在于它叠了三层噪声:
- 不是拼音,是英文拼法。「抹」的拼音是 mǒ,「蜜」是 mì,而 more / mee 是英语单词。模型要先做一层“英文词形 → 中文音节”的跨语言音转,才能进入谐音匹配。
- 中英混排且切分困难。“了”夹在两个英文词之间,分词器很容易把整句当成无意义串。
- 目标是固定说法。「小嘴抹了蜜」是一句现成的口语化表达,模型即使隐约感到“蜜”的存在,也要有把握才敢输出。
模型为什么集体答偏
缺少上下文,任何解释都成立
单独一句话,没有任何场景,符合发音的候选很多。模型给出“多解”在逻辑上并不算错,只是没有押中出题人心里那个。
训练强化了“覆盖而非押注”的回答风格
被问及含义不明的网络用语时,模型习惯列出几种可能、再补一句“视语境而定”。这是一种安全的表达方式,代价是它很少斩钉截铁地给出唯一答案。
常见搭配把候选带偏
“摸了没”在中文的日常组合里出现频率不低,概率上更顺;而“抹了蜜”需要先还原成正确的字,再匹配俗语,链路更长。
单次调用只是一个采样
讨论中有回复提到,换一次运行,模型的思考过程中确实浮现过“蜜”的猜测,但最终没有采纳。这说明信息被激活过,只是没走到输出层。用一次结果给模型判死刑,并不严谨。
语感上的“暧昧”让它更保守
这类读起来像调情的句子,模型往往会额外加一句“注意场合”。这种谨慎是好事,但也会稀释它直接给出答案的意愿。
想测,就把测试做扎实
- 先说清测什么:是考错别字纠错、考谐音推理,还是考网络梗的记忆?三者难度完全不同,混在一起测,结论没法用。
- 多次运行看命中率:同一个提示跑 5–20 次,统计出现过几次正解,而不是跑一次就下判断。带推理过程的模型尤其如此。
- 控制采样参数:温度偏低时输出更保守、更爱给通用解释;适度调高能增加候选多样性。对比时把参数固定,否则结果无法横向比较。
- 给上下文:把原句所在的那段话一起提供,命中率通常会上一个台阶。
- 做三组对照:同一句话分别以原样、标准拼音、正确汉字三种形式提问,就能看出模型卡在哪一层——是音转、是谐音匹配,还是俗语知识。
- 保留原始输出:把每次的完整回答存下来,事后才能区分“没想过”和“想过但没敢说”。
一个更好用的提问模板
把“识别”和“解释”拆成两步,比一步到位更容易出正解:
下面这句话是中文网络语境里的谐音加错别字写法,请分三步回答:
1) 逐字给出可能的读音(用拼音表示);
2) 列出所有可能对应的中文词或常见固定说法;
3) 结合“网络调侃、形容人说话甜、会哄人”的语境,
选出最可能的一个,并说明为什么排除其他候选。
句子:小嘴 more 了 mee
如果要做几十上百次的批量对比,需要一台长时间在线、不会中途休眠断连的机器。用本地电脑跑一整夜容易被打断,把脚本放到长期在线的远程环境里定时执行、把每次输出落盘,是比较省事的做法(可选)。
两种立场的取舍
认为“这题不公平”的一方,理由是:人类自己也要愣一下才能反应过来,要求模型猜中,衡量不了任何实用能力。
认为“这题有意义”的一方,理由是:真实用户输入本来就充满错别字、缩写、谐音和中英混排,模型能不能从噪声里还原意图,恰恰决定了它在客服、聊天、语音转写纠错这类场景里好不好用。
取舍取决于你把模型当什么用。当知识库用,考冷僻梗价值有限;当输入理解层用,这类鲁棒性就是真需求。比较稳妥的做法是把它放进“抗噪能力”专项,而不是用单题结果给模型排名。
几个容易忽略的坑
- 梗的更新速度远快于模型语料截止时间,越新的说法越考推理而不是记忆,答不出不等于能力差。
- 同一句话换语言提问,结果可能不同,但样本量太小,不足以得出“中文比英文强”之类的结论。
- 出题人自己也要能给出唯一答案。如果连原句含义都说不清,测试就没有判分标准,别人的回答再详细也无法评判对错。
- 单次对话里的冗长解释,往往只是模型在覆盖可能性,不代表它真的“想到了但没说”。
小结
「小嘴 more 了 mee」这个例子说明的不是“模型不懂中文”,而是:当输入偏离常规写法时,模型缺的往往是上下文和押注的勇气,而不是发音知识。想得到可靠结论,就把测试拆细——固定参数、多次采样、分层对照、保留原始输出。想得到更实用的能力,就在提示里补上语境,并明确要求它先转写读音、再列候选、最后做选择。