基于LangChain的本地大模型部署

[视频作者] 唐呵呵ZCG

[视频时长] 7:22

[视频类型] 计算机技术

前段时间在本地电脑上面跑了个大语言模型，发视频记录下部署流程，防止大家部署的时候踩坑。部署基于langchain，模型采用的是chatglm3，也试过零一万物的模型，总得来说本地效果一般，本地文档内容问答无压力，高级点的问题就必要吃力了。受限于硬件，二开难度比较大，后续有条件会微调一个电子类的AI知识库，有时间再更新~~~ langchain源链接： https://github.com/chatchat-space/Langchain-Chatchat