登录
注册
开源
企业版
高校版
搜索
帮助中心
使用条款
关于我们
开源
企业版
高校版
私有云
模力方舟
AI 队友
登录
注册
12月21日就在北京,来看大模型推理 + 国产硬件生态 + 开源社区分享,一起搞技术、聊开源、领福利~~
代码拉取完成,页面将自动刷新
捐赠
捐赠前请先登录
取消
前往登录
扫描微信二维码支付
取消
支付完成
支付提示
将跳转至支付宝完成支付
确定
取消
Watch
不关注
关注所有动态
仅关注版本发行动态
关注但不提醒动态
1
Star
3
Fork
1
vee7z
/
VeeAI
代码
Issues
1
Pull Requests
0
Wiki
统计
流水线
服务
JavaDoc
PHPDoc
质量分析
Jenkins for Gitee
腾讯云托管
腾讯云 Serverless
悬镜安全
阿里云 SAE
Codeblitz
SBOM
我知道了,不再自动展开
更新失败,请稍后重试!
移除标识
内容风险标识
本任务被
标识为内容中包含有代码安全 Bug 、隐私泄露等敏感信息,仓库外成员不可访问
多模态模型下无法实现图片+RAG同时使用
待办的
#I9TMJT
vee7z
拥有者
创建于
2024-05-31 09:03
当使用多模态模型进行图像识别时,提示词如果长度过大,将导致远程主机被强制关闭的错误,社区其他开发者表示可能是以下问题导致,Ollama与Windows系统兼容问题,Windows下内存容量不足,防火墙阻止等。由于测试结果表示,提示词如果简短,则问题修复,提示词长多过长,问题复现,由此初步判断是提示词过长为主因,导致该问题可能由于以下两个方面之一造成:①内存分配不足 ②Ollama对Windows兼容性问题。等待官方处理。具体代码及测试可参考如下(Test/src/views/AiChat.vue 288-290行) ``` let embData = await chromaDB.get(message.content,5) let data = embData[0].join('\n').replace(/\n/g, ''); query.prompt = `以下内容是向量数据库中与问题相关度最高的五条数据,现在请根据这些数据进行回答,并一一列出你引用或参考了哪些句子或文献:\n --------\n ${data} \n --------\n 。用中文回答我,${message.content}.` // 如果data长度过长,且使用多模态模型进行图像识别时,问题将复现 // 另:当前程序已限制该操作,用户进行图像识别时,不允许使用RAG,反之使用RAG时,不允许进行图像 ```
当使用多模态模型进行图像识别时,提示词如果长度过大,将导致远程主机被强制关闭的错误,社区其他开发者表示可能是以下问题导致,Ollama与Windows系统兼容问题,Windows下内存容量不足,防火墙阻止等。由于测试结果表示,提示词如果简短,则问题修复,提示词长多过长,问题复现,由此初步判断是提示词过长为主因,导致该问题可能由于以下两个方面之一造成:①内存分配不足 ②Ollama对Windows兼容性问题。等待官方处理。具体代码及测试可参考如下(Test/src/views/AiChat.vue 288-290行) ``` let embData = await chromaDB.get(message.content,5) let data = embData[0].join('\n').replace(/\n/g, ''); query.prompt = `以下内容是向量数据库中与问题相关度最高的五条数据,现在请根据这些数据进行回答,并一一列出你引用或参考了哪些句子或文献:\n --------\n ${data} \n --------\n 。用中文回答我,${message.content}.` // 如果data长度过长,且使用多模态模型进行图像识别时,问题将复现 // 另:当前程序已限制该操作,用户进行图像识别时,不允许使用RAG,反之使用RAG时,不允许进行图像 ```
评论 (
0
)
登录
后才可以发表评论
状态
待办的
待办的
进行中
已完成
已关闭
负责人
未设置
vee7z
vee7z
负责人
协作者
+负责人
+协作者
标签
question
未设置
标签管理
里程碑
未关联里程碑
未关联里程碑
Pull Requests
未关联
未关联
关联的 Pull Requests 被合并后可能会关闭此 issue
分支
未关联
分支 (1)
标签 (1)
master
v1.0.0
开始日期   -   截止日期
-
置顶选项
不置顶
置顶等级:高
置顶等级:中
置顶等级:低
优先级
不指定
严重
主要
次要
不重要
参与者(1)
1
https://gitee.com/vee7z/vee-ai.git
[email protected]
:vee7z/vee-ai.git
vee7z
vee-ai
VeeAI
点此查找更多帮助
搜索帮助
Git 命令在线学习
如何在 Gitee 导入 GitHub 仓库
Git 仓库基础操作
企业版和社区版功能对比
SSH 公钥设置
如何处理代码冲突
仓库体积过大,如何减小?
如何找回被删除的仓库数据
Gitee 产品配额说明
GitHub仓库快速导入Gitee及同步更新
什么是 Release(发行版)
将 PHP 项目自动发布到 packagist.org
评论
仓库举报
回到顶部
登录提示
该操作需登录 Gitee 帐号,请先登录后再操作。
立即登录
没有帐号,去注册