直觉、分支预测与 LLM
直觉通常被认为与逻辑思维相反,是快速、无意识、自动化和经验驱动的思考系统。直觉能快速响应,但精度差。逻辑思维虽然准确,但是速度慢。所以二者需要在适合的环境下作用。
虽然如同人脑研究一样缓慢,目前还不知道直觉原理,但已有一些假说来解释。比如神经科学家 Antonio Damasio 提出的 体细胞标记假说 认为,身体感觉(心跳、紧张、放松)为我们提供「情绪信号」,从而影响、诱导选择。
而造成身体感觉的东西,往往与 激素 有关。比如遇到危险时分泌的肾上腺素,得到奖励时分泌的多巴胺,身体饥饿时还会分泌饥饿素(胃促生长素)等。从而给人带来 直觉,这算是直觉的部分科学解释。
直觉与电脑 CPU 的分支预测有些相似,分支预测是在计算出结果前,先快速选择个分支,然后计算这步的结果,如果选中了正确的分支,就会节省一步的时间。现在成功预测率提高到 80 % 以上,算是根据历史经验来产生直觉。而之后还可能用上神经网络来预测,大概就更像直觉了。
来到 LLM 领域的突破者 ChatGPT,一开始使用非逻辑的「直觉」来生成文字,错误、幻觉率确实较高。而后来的 OpenAI o1 模型,带来了系统性的逻辑思考功能,让错误更少。
由于模型的思考功能耗时较短,所以用户更依赖选择开启模型的逻辑思考,而不是默认的「直觉」(除非使用免费版,思考配额较少)。而人类因为直觉帮助生存太多,并且思考速度较慢,所以并不一定能积极调用逻辑思维。因此,能轻易深度思考的 LLM,对人类的吸引力太高了。
附言:过去流行过「女人的直觉」这种说法,现在有个假说 认为,因为女性的胼胝体与男性有差异,所以让左右脑容易协作、整合,更容易混合直觉与逻辑思考。而男性不太会在直觉和逻辑之间来回切换,思考时也就显得更理性、条例。(另外,爱因斯坦的胼胝体,与常人的形态有差异)
#杂谈
直觉通常被认为与逻辑思维相反,是快速、无意识、自动化和经验驱动的思考系统。直觉能快速响应,但精度差。逻辑思维虽然准确,但是速度慢。所以二者需要在适合的环境下作用。
虽然如同人脑研究一样缓慢,目前还不知道直觉原理,但已有一些假说来解释。比如神经科学家 Antonio Damasio 提出的 体细胞标记假说 认为,身体感觉(心跳、紧张、放松)为我们提供「情绪信号」,从而影响、诱导选择。
而造成身体感觉的东西,往往与 激素 有关。比如遇到危险时分泌的肾上腺素,得到奖励时分泌的多巴胺,身体饥饿时还会分泌饥饿素(胃促生长素)等。从而给人带来 直觉,这算是直觉的部分科学解释。
直觉与电脑 CPU 的分支预测有些相似,分支预测是在计算出结果前,先快速选择个分支,然后计算这步的结果,如果选中了正确的分支,就会节省一步的时间。现在成功预测率提高到 80 % 以上,算是根据历史经验来产生直觉。而之后还可能用上神经网络来预测,大概就更像直觉了。
来到 LLM 领域的突破者 ChatGPT,一开始使用非逻辑的「直觉」来生成文字,错误、幻觉率确实较高。而后来的 OpenAI o1 模型,带来了系统性的逻辑思考功能,让错误更少。
由于模型的思考功能耗时较短,所以用户更依赖选择开启模型的逻辑思考,而不是默认的「直觉」(除非使用免费版,思考配额较少)。而人类因为直觉帮助生存太多,并且思考速度较慢,所以并不一定能积极调用逻辑思维。因此,能轻易深度思考的 LLM,对人类的吸引力太高了。
附言:过去流行过「女人的直觉」这种说法,现在有个假说 认为,因为女性的胼胝体与男性有差异,所以让左右脑容易协作、整合,更容易混合直觉与逻辑思考。而男性不太会在直觉和逻辑之间来回切换,思考时也就显得更理性、条例。(另外,爱因斯坦的胼胝体,与常人的形态有差异)
#杂谈