在配置中查看本地模型是成功安装的:
系统日志中显示向量化模型插件失败:
级别:警告 时间:2024-12-04 13:26:40.665 来源:UOS AI 信息:EAiStreamHandler already released.
级别:信息 时间:2024-12-04 13:26:40.663 来源:UOS AI 信息:callId= "8d066979e6c34369be66476640cd74f7" chatText= ""
级别:信息 时间:2024-12-04 13:26:40.412 来源:UOS AI 信息:Request Context: "[{"content":"deepin中安装向量模型插件失败","role":"user"},{"content":"在deepin操作系统中安装向量模型插件失败可能由多种原因引起。以下是一些可能的解决方案和排查步骤:\n\n### 1. 检查软件源和更新\n\n* 更新系统:确保你的deepin系统是最新的。可以通过终端执行sudo apt update
和sudo apt upgrade
命令来更新系统和软件包。\n* 检查软件源:在软件商店中检查软件源设置是否正确,尝试切换到官方软件源或其他可靠的镜像源。\n\n### 2. 检查插件依赖\n\n* 安装缺失的依赖:有些插件可能依赖于其他软件包。可以尝试使用sudo apt install -f
命令来自动修复和安装缺失的依赖。\n\n### 3. 使用终端安装\n\n* 获取插件名称:确定你要安装的向量模型插件的正确名称。\n* 使用终端命令安装:如果软件商店无法安装插件,可以尝试使用终端命令进行安
级别:信息 时间:2024-12-04 13:26:38.340 来源:UOS AI 信息:ChatWindow::onModalStateChanged-> false
级别:信息 时间:2024-12-04 13:26:30.776 来源:UOS AI 信息:ChatWindow::onModalStateChanged-> true
级别:调试 时间:2024-12-04 13:26:26.524 来源:UOS AI 信息:found DTitlebar icon btn.
更新:
目前的主要问题:有容1.5B/7B或向量化模型插件(知识库功能)不能使用gpu运算。
在deepin v23中启用了本地模型,安装了统信有容大模型1.5B, 7B和向量化模型插件。使用中出现了两个问题:
1 有容1.5B/7B本地模型不可用,刚安装时可以用但是很慢,现在不可用了。ollama接入的llama3.2是可以正常使用的。
2 有容1.5B/7B或向量化模型插件(知识库功能)不能使用gpu运算。