Total Pageviews

Sunday, 14 January 2024

Lobe Chat是一款开源的高性能聊天机器人框架


支持语音合成、多模态、可扩展的(Function Call)插件系统,支持一键免费部署私人 ChatGPT/LLM 网页应用程序。目前LobeChat 已经支持 OpenAI 最新的 gpt-4-vision 支持视觉识别的模型,支持文字转语音(Text-to-Speech,TTS)和语音转文字(Speech-to-Text,STT)技术等,可以用来绘画、爬虫、联网查询问答、文字语音互转等等。

Lobe Chat-开源的高性能聊天机器人框架 支持语音合成、绘画、爬虫、联网等等。

官网:https://chat-preview.lobehub.com/

GitHub:https://github.com/lobehub/lobe-chat 

(开源AI聊天机器人-Lobe Chat

Lobe Chat是一个开源AI聊天机器人。支持语音合成、多模态和可扩展的插件系统,可以联网、画图、爬虫等。作者称非商用情况下遵守apache开源协议。基于 Ollama 支持本地模型或第三方的模型使用。

功能特色:

     💎 精致 UI 设计:支持亮暗色主题,适配移动端。支持 PWA,提供更加接近原生应用的体验。
     🗣️ 流畅的对话体验:流式响应,支持完整的 Markdown 渲染,包括代码高亮、LaTex 公式、Mermaid 流程图等。
     💨 快速部署:使用 Vercel 平台或者Docker 镜像,可一键部署
     🔒 隐私安全:所有数据保存在用户浏览器本地,保证用户的隐私安全。
     🌐 自定义域名:如果用户拥有自己的域名,可以将其绑定到平台上,方便快速访问对话助手。

目前集成多种大语言模型,包括:

    AWS Bedrock:集成了 AWS Bedrock 服务,支持了 Claude / LLama2 等模型。
    Google AI (Gemini Pro、Gemini Vision):接入了 Google 的 Gemini 系列模型,包括 Gemini 和 Gemini Pro。
    Anthropic (Claude):接入了 Anthropic 的 Claude 系列模型,包括 Claude 3 和 Claude 2 。
    ChatGLM:加入了智谱的 ChatGLM 系列模型(GLM-4/GLM-4-vision/GLM-3-turbo)
    Moonshot AI (月之暗面):集成了 Moonshot 系列模型
    Together.ai:集成部署了数百种开源模型和向量模型
    01.AI (零一万物):集成了零一万物模型,系列 API 具备较快的推理速度
    Groq:接入了 Groq 的 AI 模型
    OpenRouter:其支持包括 Claude 3,Gemma,Mistral,Llama2和Cohere等模型路由
    Minimax: 接入了 Minimax 的 AI 模型,包括 MoE 模型 abab6
    DeepSeek: 接入了 DeepSeek 的 AI 模型,包括最新的 DeepSeek-V2
    Qwen: 接入了 Qwen 的 AI 模型

源代码:https://github.com/lobehub/lobe-chat )

---------------------------------------------------------

用Docker安装lobe-chat网页服务

现代化设计的开源 ChatGPT/LLMs 聊天应用与开发框架,支持语音合成、多模态、可扩展的(function call)插件系统,一键免费拥有你自己的 ChatGPT/Gemini/Claude/Ollama 应用

开源地址:https://github.com/lobehub/lobe-chat

一、安装Docker Desktop

1.启动微软Hyper-V,打开“控制面板->程序->启用或关闭Windows功能”

  • 勾选Hyper-V选项

  • 重启电脑后安装成功

docker官网:https://docker.com/

2.下载docker desktop
下载地址:https://docs.docker.com/desktop/install/windows-install/

下载以后,直接双击运行exe文件,注意去掉“Use WSL2 instead of Hyper-V(recommended)”的勾选,否则会带来很多问题(踩坑的经验)。

等待安装

安装完成,点击“Close and restart”重启计算机。

系统重启后。双击运行桌面的“Docker Desktop”图标,弹窗点击“Accept”。

点击:“Continue without signing in”,不登录进入。

点击:“Skip survey”

进入到了Docker Desktop界面。

3.切换国内源(设置⚙—Docker Engine),粘贴下面的内容,点击“Apply&restart”保存并重启Docker

{
  "registry-mirrors": [
    "https://82m9ar63.mirror.aliyuncs.com",
    "http://hub-mirror.c.163.com",
    "https://docker.mirrors.ustc.edu.cn"
  ],
  "builder": {
    "gc": {
      "defaultKeepStorage": "20GB",
      "enabled": true
    }
  },
  "experimental": false,
  "features": {
    "buildkit": true
  }
}

二、Docker安装open-webui服务。

按下“win”+“R”,输入“cmd”回车,右键粘贴下面的命令,回车。

 docker run -d -p 3210:3210 --name lobe-chat lobehub/lobe-chat

这个安装过程根据你的网络环境情况,时间可能会比较长,请耐心等待,直到出现下面的界面。

再次打开Docker Desktop界面,就可以看到已经在运行的lobechat服务。

点击“port(s)下面的端口号就可以大打开“lobechat服务”的网页了,点击立即开始。

之后可以看到直接可以选择之前部署好的llama3:8b模型,开始使用吧。

http://web.archive.org/web/20240613171500/https://www.sunweihu.com/8873.html

No comments:

Post a Comment