跨境派

跨境派

跨境派,专注跨境行业新闻资讯、跨境电商知识分享!

当前位置:首页 > 工具系统 > 运营工具 > 从零开始部署ubuntu+Anaconda3+langchain-chatchat+chatglm3-6b大模型,本地知识库(二)

从零开始部署ubuntu+Anaconda3+langchain-chatchat+chatglm3-6b大模型,本地知识库(二)

时间:2024-04-06 14:35:24 来源:网络cs 作者:康由 栏目:运营工具 阅读:

标签: 模型  本地  知识  部署 

接上文:从零开始部署ubuntu+Anaconda3+langchain-chatchat+chatglm3-6b大模型,本地知识库

四、通过Anaconda安装langchain-chatchat需要的python环境

4.1 安装、激活python虚拟环境

Langchain-chatchat 0.2.10 推荐使用python3.11.7,通过下面命令进行python环境创建。

conda create --name langchain python==3.11.7  -y     #创建一个名字为langchain的python3.11.7虚拟环境

如下图

安装完毕后,通过以下命令激活python虚拟环境

conda activate langchain

如下图,shell命令行前面会出现(langchain)这个虚拟环境名。

4.2 安装langchain-chatchat pip依赖组件

转到langchain chatchat目录下,安装langchain的一些pip依赖

cd /data/webui/langchainchatchatpip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple/

-i https://mirrors.aliyun.com/pypi/simple/ 为使用阿里云的pip源,安装过程类似下图:

等待安装完成,pytorch之类比较大,下载过程会比较长。安装完成如下图:

4.3 检查torch,cuda是否安装正确

安装完成后,进入python命令行,使用如下命令检查torch,cuda。

pythonimport torchtorch.__version__torch.cuda.is_available()

运行结果类似如下图(版本号可能有所不同):

如果发现不是cu版本呢,可能是因为nvidia显卡的驱动以及cuda版本没有安装正确,解决方案是去官方下载对应显卡的驱动,nvidia-tool kit, cuda,python等(我会单独写一篇文章)。

langchain-chatchat的基础运行环境安装完毕。

本文链接:https://www.kjpai.cn/news/2024-04-06/154826.html,文章来源:网络cs,作者:康由,版权归作者所有,如需转载请注明来源和作者,否则将追究法律责任!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,一经查实,本站将立刻删除。

上一篇:docker Compose-网络设置

下一篇:返回列表

文章评论