用Ollama+OpenWebUI搭建自己的ChatGPT

内容分享5天前发布
13 1 0

阅读时间:7 分钟

#AI #Ollama #OpenWebUI

用Ollama+OpenWebUI搭建自己的ChatGPT

之前用 Ollama 跑模型,但只能在终端里对话——没有 ChatGPT 那种聊天气泡界面、不能传文件、不能保存历史。后来加了 OpenWebUI(GitHub 50k+ Stars),一个开源的 AI 聊天前端,跟 Ollama 配合使用。

OpenWebUI 提供了什么?类似 ChatGPT 的聊天界面、对话历史管理、多模型切换、知识库(RAG)、插件系统。全部开源,自托管,数据不经过第三方。

安装方式:Docker 一行命令。

一行命令安装 OpenWebUI

# 跟 Ollama 配合使用
docker run -d -p 3000:8080   -v open-webui:/app/backend/data   --name open-webui   --restart always   ghcr.io/open-webui/open-webui:main

# 打开 http://localhost:3000 注册账号即可使用

安装后进入界面,设置里选 Ollama 作为模型后端。它会自动检测本地 Ollama 已下载的所有模型——不需要手动配置。

几个我常用的功能:

1. 多模型同屏对比。同一个问题,同时让 DeepSeek、Qwen、Llama 各回答一次——并排对比谁的回答更好。选模型做技术选型时特别好用。

2. 对话历史。所有聊天记录都存在本地,随时回看。我说过的一个需求——”昨天问的那个 Prompt 在哪”——在 OpenWebUI 的历史里搜一下关键词就找到了。

3. 内置 RAG。上传 PDF、Word、TXT 文件,OpenWebUI 自动做向量化并关联到对话。可以在”跟模型对话时参考上传的文档”——相当于自带知识库。

功能

OpenWebUI

ChatGPT Web

界面体验

类似 ChatGPT

官方

模型选择

本地所有模型随意切

只有 GPT 系列

数据隐私

全部本地

上传到 OpenAI

知识库(RAG)

内置

需要 Plus 订阅

费用

免费

$20/月(Plus)

搭建清单

  1. 先装 Ollama 并拉取模型
  2. docker run 装 OpenWebUI(装在本机)
  3. 设置里选 Ollama 作为模型后端
  4. 上传文档做 RAG 知识库
  5. 多模型对比功能适合做技术选型

Ollama + OpenWebUI 的组合可以覆盖 90% 的个人或小团队 AI 使用场景。不上云、不花钱、数据安全。对于不想把数据交给第三方的人来说,这是最完善的本地 AI 方案。

你觉得这个方向怎么样?评论区聊聊你的实践经验。

© 版权声明

相关文章

1 条评论

none
暂无评论...