4.RAGFlow构建本地知识库

# 一、编写K8S的yml文件
先创建一个PV用于存储

```js
vi open-webui-pv.yaml
```
```yml
apiVersion: v1
kind: PersistentVolume
metadata:
  name: open-webui-pv  # PV 名称，需与后续绑定逻辑对应
spec:
  capacity:
    storage: 10Gi  # 容量必须与 PVC 请求的 10Gi 一致
  accessModes:
    - ReadWriteOnce  # 访问模式必须与 PVC 的 ReadWriteOnce 一致
  hostPath:
    path: /data/open-webui  # 节点上的本地目录（需在目标节点手动创建）
    type: DirectoryOrCreate  # 若目录不存在，自动创建
  storageClassName: ""  # 存储类必须与 PVC 一致（空，表示不使用存储类）
  persistentVolumeReclaimPolicy: Delete  # PVC 删除后，自动删除 PV（避免残留 Released 状态）
  # 可选：限制 PV 只能被特定节点使用（若需要固定节点，取消注释并修改节点名称）
  # nodeAffinity:
  #   required:
  #     nodeSelectorTerms:
  #     - matchExpressions:
  #       - key: kubernetes.io/hostname
  #         operator: In
  #         values:
  #         - k8s-node01  # 替换为你的目标节点名称（如 k8s-node01）
```
然后每个节点都创建好存放的目录

```js
mkdir -p /data/open-webui
```
然后启动
```js
kubectl apply -f open-webui-pv.yaml
```
再写一个open-webui.yaml

```js
vi open-webui.yaml
```

```js
apiVersion: v1
kind: PersistentVolume
metadata:
  name: open-webui-pv  # PV 名称，需与后续绑定逻辑对应
spec:
  capacity:
    storage: 10Gi  # 容量必须与 PVC 请求的 10Gi 一致
  accessModes:
    - ReadWriteOnce  # 访问模式必须与 PVC 的 ReadWriteOnce 一致
  hostPath:
    path: /data/open-webui  # 节点上的本地目录（需在目标节点手动创建）
    type: DirectoryOrCreate  # 若目录不存在，自动创建
  storageClassName: ""  # 存储类必须与 PVC 一致（空，表示不使用存储类）
  persistentVolumeReclaimPolicy: Delete  # PVC 删除后，自动删除 PV（避免残留 Released 状态）
  # 可选：限制 PV 只能被特定节点使用（若需要固定节点，取消注释并修改节点名称）
  # nodeAffinity:
  #   required:
  #     nodeSelectorTerms:
  #     - matchExpressions:
  #       - key: kubernetes.io/hostname
  #         operator: In
  #         values:
  #         - k8s-node01  # 替换为你的目标节点名称（如 k8s-node01）
[root@k8s-master01 openwebAI]# 
[root@k8s-master01 openwebAI]# cat open-webui.yaml 
# 持久化存储声明（不变）
apiVersion: v1
kind: PersistentVolumeClaim
metadata:
  name: open-webui-data
spec:
  accessModes:
    - ReadWriteOnce
  resources:
    requests:
      storage: 10Gi
  storageClassName: ""
---
# Deployment（更新资源配置）
apiVersion: apps/v1
kind: Deployment
metadata:
  name: open-webui
spec:
  replicas: 1
  selector:
    matchLabels:
      app: open-webui
  template:
    metadata:
      labels:
        app: open-webui
    spec:
      containers:
      - name: open-webui
        image: ghcr.io/open-webui/open-webui:main
        ports:
        - containerPort: 8080
        env:
        - name: OLLAMA_BASE_URL
          value: "http://192.168.201.120:11434"
        # 资源配置：最少2核4G，最多4核8G（核心修改）
        resources:
          requests:  # 启动时至少分配的资源（保证基础运行）
            cpu: 2000m  # 2核（1核=1000m）
            memory: 2Gi  # 4G内存（1Gi≈1G）
          limits:  # 最多能使用的资源（避免占用过多）
            cpu: 3000m  # 4核
            memory: 4Gi  # 8G内存
        volumeMounts:
        - name: data-volume
          mountPath: /app/backend/data
      volumes:
      - name: data-volume
        persistentVolumeClaim:
          claimName: open-webui-data
---
# Service（不变）
apiVersion: v1
kind: Service
metadata:
  name: open-webui-service
spec:
  selector:
    app: open-webui
  type: NodePort
  ports:
  - port: 8080
    targetPort: 8080
    nodePort: 30000
```
启动
```js
kubectl apply -f open-webui.yaml
```
这时就分配到该节点运行了，用该节点的IP+service暴露的端口号30000进行访问
![image.png](/static/img/e90a25e9ce56cc5e8d4ba6e6c0baa794.image.webp)


![image.png](/static/img/f3803cbb7ed5f975cf41e7cb1532a015.image.webp)


3.K8S访问Ollama对外提供AI服务

# 一、下载安装ollama

```js
curl -fsSL https://ollama.com/install.sh | sh
```
红色是因为我是虚拟机没有显卡只能用CPU
![image.png](/static/img/0e9faa04ce4baacb85f1411582b3697e.image.webp)

 测试下载一个llama3 模型
```js
ollama run llama3
```
完成下载后测试
![image.png](/static/img/2ca736f33c496b27875f535187ca83bd.image.webp)

# 二、让局域网其他设备访问
Ollama 仅允许本机访问，若需局域网其他设备调用，需修改配置让其监听全网地址：
```js
vim /etc/systemd/system/ollama.service
```
修改后如下：
```js
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
Environment="OLLAMA_HOST=0.0.0.0"
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/root/.local/bin:/root/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin"

[Install]
WantedBy=default.target

```


然后重启服务

```js
sudo systemctl daemon-reload
sudo systemctl restart ollama
```
之后局域网设备可通过 http://你的LinuxIP:11434 调用 API（例如用 curl 或 Web 界面）


然后安装docker 运行一个web界面，启动后访问IP+3000

```js
docker run -d -p 3000:8080 \
  -e OLLAMA_BASE_URL=http://192.168.201.120:11434 \
  -v open-webui:/app/backend/data \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main
```

docker-compose方式
```yml
version: '3.8'

services:
  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui  # 容器名称，与原命令一致
    ports:
      - "3000:8080"  # 端口映射，主机3000端口映射到容器8080端口
    environment:
      - OLLAMA_BASE_URL=http://192.168.201.120:11434  # Ollama服务地址，与原命令一致
    volumes:
      - open-webui:/app/backend/data  # 数据卷挂载，持久化存储对话历史、配置等
    restart: always  # 容器退出时自动重启（可选，推荐加上）
    networks:
      - open-webui-network  # 独立网络，避免与其他容器冲突

volumes:
  open-webui:  # 声明数据卷，确保数据持久化

networks:
  open-webui-network:  # 声明网络
    driver: bridge
```
这样就可以使用自己的AI啦
![image.png](/static/img/feefc6427c6c722f8414540999354e1d.image.webp)




![image.png](/static/img/ce8f61982a99fb529ef1d094dc1afbb0.image.webp)

2.linux上运行Ollama对外提供API服务

# 一、购买RDS数据库服务

![image.png](/static/img/1c48f2e05c8a0c5eefb287a795d724d8.image.webp)


![image.png](/static/img/e4cf7dbdb53a983b076a825aa7fa8f43.image.webp)



![image.png](/static/img/275f4fb6d679d61a2b6c3caaaf41cf1c.image.webp)

购买后等待创建完成
![image.png](/static/img/ca7142ada74dfb663e41416e10604d50.image.webp)

# 二、管理RDS


创建数据库用户

![image.png](/static/img/04f43b8c95a3c9dd4b7a87d8436748b5.image.webp)

创建一个高权限账号
![image.png](/static/img/6759a8e658f62fe3f8649b822c8e161a.image.webp)

# 三、创建数据库

![image.png](/static/img/be462fd2479f820cc1a9870cadef69d5.image.webp)

![image.png](/static/img/1ef6c88ac34d844cd91a64af47d175a1.image.webp)

然后创建一个普通账号用于读写

![image.png](/static/img/d112b2cb39ab29d8a8eefd7bdb257799.image.webp)

![image.png](/static/img/368f74b9f8974d4f76fa35dee7e287ab.image.webp)

# 四、登录数据库

![image.png](/static/img/08bd3091922ca0d81a1d2b1274d77600.image.webp)

测试数据库登录
![image.png](/static/img/d465b7e93f331c48c2f51ff3c5ad7e8d.image.webp)


# 五、给数据库设置白名单

![image.png](/static/img/8d8f9cdd701713546451692613b87aee.image.webp)


![image.png](/static/img/cc017f1fd7f0070cb58bb0981fda8121.image.webp)

然后登录ECS服务器ping一下看看通不通

![image.png](/static/img/d27db5e54e2a70e2f814f302bdddf6bf.image.webp)

然后安装一下mariadb，这样就有mysql命令了

```js
yum install -y mariadb mariadb-server
```

测试登录数据库

```js
mysql -u songxuan -p -h rm-wz931o7260or6m271.mysql.rds.aliyuncs.com
```
![image.png](/static/img/b5f080be7993c631119bad8d7878a955.image.webp)


3.RDS数据库服务

# 一、创建使用ECS
没有ECS服务器先去购买一台
![image.png](/static/img/6505cf801b90f9f4fa80f174160bfdaf.image.webp)

省钱购买法

选择自己的区域，然后选择一个最便宜的配置
![image.png](/static/img/5071b8d798201cced64ae15f96c29310.image.webp)


![image.png](/static/img/02823e7e6a9cd7e3e5a64a4be7999b4b.image.webp)

选择好后，定义好自己的root密码然后下单
![image.png](/static/img/8505349c7e8da5d7d98a5db371b16088.image.webp)