«

本地化部署自己的 AIGC大语言模型(附教程和下载地址)

时间:2024-3-4 13:00     作者:Anglei     分类: 大数据AI


在国内一般人是无法使用正宗Chatgpt的,而使用一些大神们提供的聚合AI网站,同样也是需要交钱的。其实这都不是理由,重要的是国内对open的大语言模型个别词汇都是屏蔽的,于是乎,我们今天就来本地部署GPT,在自己的电脑上拥有属于我们自己的GPT,既不用跳墙也不用花银子,还没有词语限制,来吧,展示!

此次部署对电脑的配置基本没有什么要求,不需要GPU!!!

我们需要用到的是一款AIGC大语言模型win版可执行文件。

软件下载后直接双击就可以安装:

安装路径根据自己电脑情况选择,点击下一步自动安装成功。

安装本程序后,将在桌面创建[AIGC大语言模型] 和 [AI Backend] 2个快捷方式.
[AI Backend] 是AIGC大语言模型的服务环境控制程序,用来启停服务.
[AIGC大语言模型] 是AIGC 大语言模型的客户端程序,在服务启动后,可以让用户进行交互.

这个时候先不要启动程序,我们需要在安装程序后的文件里放入语言大模型。模型要放在这个路径的文件夹里:

D:\AIGCDemo\LLM_Demo\checkpoint

这三个模型比较大,将下载的三个语言模型放入正确的位置后,双击桌面AI Backend图标:

点击“立即交互”:

出现的提示不要管,直接确定,进入正题:

完全中文交互页面,清爽简洁。

整个软件有三大功能模块:中文应用、英文应用、代码生成。基本涵盖了大语言模型的主要功能。

软件使用非常简单,即使在不联网的情况下也可以正常使用,这就能很好保障我们在使用大模型过程中的个人隐私保密问题,免除我们的后顾之忧。

模型导入方法:

1.下载模型文件到本地

2.启动 AI Backend

3.在系统托盘区域右键点击AI Backend图标,选择[打开模型文件夹],此时会在Explorer中打开模型文件需要放置的目录.(模型文件夹在 [安装目录]\LLM_Demo\checkpoint,亦可手动打开 )

4.将下载好的模型文件复制到 步骤3所打开的文件夹中.

5.在系统托盘区域右键点击AI Backend图标,选择[启动服务].

软件下载地址:

需要软件的从这里下载!!!

本文完结,相关标签: AIGC GPT 模型

 版权所有:Anglei
 文章标题:本地化部署自己的 AIGC大语言模型(附教程和下载地址)
 除非注明,本站文章如未特殊说明均为 MAXADA社区知识库 原创,且版权所有,请勿用于任何商业用途。

推荐阅读:

看完后感想如何?

路过(0)

雷人(0)

握手(0)

鲜花(0)

鸡蛋(0)
分享到: