大模型只是一个无情的概率机器
大模型本质是判断概率分布的机器,这决定了它的三个先天特性:
- 大多数先生:它算的是最大概率的那个token。最大概率=普通的大多数,独特性就丧失了,但人类还有;
- 讨好型人格:你问个模糊问题它不会像同事一样反问”我没懂你再补充下”。它会为了完全这个任务而假装懂了敷衍你,然后交付一个“看起来还行”的结果。
- 问就是全都懂:语料里没有更高概率的答案它就瞎说。九真一假在所难免,没有判断力很容易被带到沟里。你要是指出来,它道歉可快了(某包)。要是遇到Gemini这种有个性,直接给我定上职级了。
所以所以一定要带着人类的那股子高傲劲儿,随时对 AI 的能力打个问号???
聪明的人类早都把那一套糟粕蒸馏成skill啦 https://github.com/tanweai/pua