大模型其实没有逻辑能力

[视频作者] 卢菁老师_北大AI博士后

[视频时长] 1:10

[视频类型] 野生技能协会

LLM上限很有可能已经到头了。 因为LLM本质上就是个概率自动机，数据处理也是强调相关性而不是因果性，所以从根本上就没有逻辑推理能力。 普通人以为LLM会做的1＋1＝2 但实际上，对于大模型来说 如果第一个字符是“1”，后面的字符是“＋”，再然后是“1”，再然后是“＝”，那么根据数据的统计结果，其中99.8％的数据里下一个字符是“2”，所以给出字符“2”。这也是大模型为啥会认为9.11大于9.9的原因，因为大部分情况11大于9 所以LLM是不可能实现真正的智能的，LLM不是基于因果性进行预测的，而是基于相