开启辅助访问
笑点多低
家庭知识宝典
保鲜妙招
本版
帖子
用户
快捷导航
QQ登录
微博登录
微信登录
注册
|
登录
笑点多低
»
笑点多低
›
家庭知识宝典
›
生活百科知识一
›
rag搭建的本地部署实践笔记
[生活百科知识二]
用烟火气,为都市夜晚注入鲜活温度
[生活百科知识一]
收集控必玩的手机游戏推荐 可以满足你的收
[生活百科知识一]
传统文化趣味游戏推荐 带着乐趣学习传统文
[生活百科知识一]
sss级特效仙侠手游推荐 画质超好的仙侠手游
[生活百科知识一]
4v1非对称逃生游戏推荐 求生者能否获胜就看
最新政策下,0 - 6岁儿
返回列表
发布主题
rag搭建的本地部署实践笔记
[复制链接]
查看:
44
|
回复:
0
ningxueqin
ningxueqin
当前离线
积分
0
性别
保密
发表于 2026-10-21 16:26:30
|
显示全部楼层
|
阅读模式
最近帮部门搭建内部文档问答工具,需要处理运维手册、产品规范等近百份存量文档,要求所有数据都留在本地服务器,不能传到外部平台。之前尝试过简单的关键词检索,但遇到模糊提问时找不到准确结果,还没法结合最新的文档内容实时更新回答,卡在了效果和数据安全的平衡点上。
后来了解到可以通过rag搭建的方式解决这个问题,选择用FastGPT来快速实现,具体可以参考[
用本地模型搭建rag知识库
]的步骤,把本地部署的大模型接入平台,再上传需要的文档并做好切片处理,就能生成符合需求的问答工具,整个过程不需要复杂的代码修改,新手也能一步步完成。
实操的时候要注意本地模型的显存占用,根据文档总量调整切片的大小和重叠度,避免出现回答脱节的情况,另外部署时要做好端口的访问限制,保障内部数据的安全性。
回复
使用道具
举报
返回列表
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
注册账号
本版积分规则
发表回复
回帖后跳转到最后一页
浏览过的版块
生活百科知识二
生活百科知识三
百科生活知识二
精彩推荐
根据相关部门统计,我国目前约有600万脑瘫患者,其中儿童患者数量呈逐年上升趋势
1091人查看过
立即查看
最新政策下,0 - 6岁儿童脑瘫康复费用究竟
2026-03-09
生活百科知识一
快速回复
返回顶部
返回列表