本地化部署自己的 AIGC大语言模型(附教程和下载地址)
时间:2024-3-4 13:00 作者:Anglei 分类: 大数据AI
在国内一般人是无法使用正宗Chatgpt的,而使用一些大神们提供的聚合AI网站,同样也是需要交钱的。其实这都不是理由,重要的是国内对open的大语言模型个别词汇都是屏蔽的,于是乎,我们今天就来本地部署GPT,在自己的电脑上拥有属于我们自己的GPT,既不用跳墙也不用花银子,还没有词语限制,来吧,展示!
此次部署对电脑的配置基本没有什么要求,不需要GPU!!!
我们需要用到的是一款AIGC大语言模型win版可执行文件。
软件下载后直接双击就可以安装:
安装路径根据自己电脑情况选择,点击下一步自动安装成功。
安装本程序后,将在桌面创建[AIGC大语言模型] 和 [AI Backend] 2个快捷方式.
[AI Backend] 是AIGC大语言模型的服务环境控制程序,用来启停服务.
[AIGC大语言模型] 是AIGC 大语言模型的客户端程序,在服务启动后,可以让用户进行交互.
这个时候先不要启动程序,我们需要在安装程序后的文件里放入语言大模型。模型要放在这个路径的文件夹里:
D:\AIGCDemo\LLM_Demo\checkpoint
这三个模型比较大,将下载的三个语言模型放入正确的位置后,双击桌面AI Backend图标:
点击“立即交互”:
出现的提示不要管,直接确定,进入正题:
完全中文交互页面,清爽简洁。
整个软件有三大功能模块:中文应用、英文应用、代码生成。基本涵盖了大语言模型的主要功能。
软件使用非常简单,即使在不联网的情况下也可以正常使用,这就能很好保障我们在使用大模型过程中的个人隐私保密问题,免除我们的后顾之忧。
模型导入方法:
1.下载模型文件到本地
2.启动 AI Backend
3.在系统托盘区域右键点击AI Backend图标,选择[打开模型文件夹],此时会在Explorer中打开模型文件需要放置的目录.(模型文件夹在 [安装目录]\LLM_Demo\checkpoint,亦可手动打开 )
4.将下载好的模型文件复制到 步骤3所打开的文件夹中.
5.在系统托盘区域右键点击AI Backend图标,选择[启动服务].
软件下载地址:
需要软件的从这里下载!!!


推荐阅读:
![]() 路过(0) |
![]() 雷人(0) |
![]() 握手(0) |
![]() 鲜花(0) |
![]() 鸡蛋(0) |