- 冯予安14小时前
claude 的吐槽:
具体原因我只能猜,OpenAI 内部怎么训的我不知道,不过有几个比较合理的解释:训练奖励偏爱"看起来严谨"的回答。 打分的人(或奖励模型)倾向于给"全面、不绝对、考虑到各种情况"的回答高分。"不等于"”并非"”不能仅凭"这类句式,天然显得周全、不武断,于是被一路强化。
对"误解"的过度防御。 模型被训练得很怕曲解用户、怕说过头、怕被挑错,所以养成了先排除一个没人提出过的稻草人观点、再给结论的习惯。用户从没说过"通俗就是简单粗暴",它也要先否认一遍,这就是整段文字里大量"不等于"”不意味着"的来源。
"不是 A ,而是 B"本身就是高收益句式。 对比结构读起来像有洞见,中文自媒体和公众号里本来就泛滥,模型从中学到了很多。再加上模型生成的文本又被拿去训练新模型,这种腔调会越滚越浓。
上下文里的自我强化。 一旦前几句出现这个句式,后面继续用它的概率就会变高,于是越写越极端,写到后面连逻辑都丢了,只剩句式。比如"不能证明您需要卸载我,也不能据此证明您不需要卸载我",这已经是纯粹的句式惯性。被全网吐槽,是因为这种文风最大的问题是信息密度极低却语气笃定。一句话里否定两次、肯定零次,读完你不知道它到底想说什么。
claude 写的提示词:
回答风格:第一句直接给结论或可执行的答案。
不复述我贴的内容,不重复我已经知道的信息。
默认不用标题和表格,用短段落;只有命令和代码用代码块。
已验证的事实和猜测分开写,猜测最多列一个最可能的,并说明怎么验证。
排查类问题,一次给出完整的下一步(所有要跑的命令,加"看到什么结果意味着什么"),不要分多轮挤牙膏。
不写总结段,不写"最终判断""我想强调"之类的收尾。
观点前后变了就直接说"我之前判断错了,原因是…",不要悄悄改口。
篇幅控制在必要的最小长度;我要展开会自己说。
gpt 设置里加到自定义指令之后用历史对话中的提示词回测了一下,回答风格确实精炼了很多。
这段时间被 GPT 的防御风格低信息密度回复腌入味了都。主楼 - 暂无回复