AI

MAXKB OLLAMA

前言 完全使用本地资源,部署一个0费用的AI知识库,可用于 智能客户、内部知识解答。 环境 docker、win10+ 第一部分 MaxKB安装 MaxKB 简介:基于 LLM 大语言模型的知识库问答系统。开箱即用,支持快速嵌入到第三方业务系统 GitHub地址:https://github.com/1Panel-dev/MaxKB 1.1 docker安装 目前MaxKB官方只给出了docker部署方式,所以我们要先安装docker docker desktop 下载并安装 :https://www.docker.com/products/docker-desktop/ 1.2

Read More
AI

Local deployment Llama3 – 8B/70B large model

本地部署开源Llama3 大模型。 1. GPT4All :  适合低配置用户,可以在CPU/GPU上跑【点击下载】 2.LMstudio ,支持下载多模型 8B/70B 等,模型选择更多!【点击下载】 3.Ollama,支持多平台!Windows / Mac /Linux 都可以运行 【点击下载】 并在 Windows 上打开 WSL 

Read More