ollama+docker 部署的 dify+ Linux 放在外网，如何设置才安全？

[icemanpro]

ollama 默认绑定 127.0.0.1 。linux 下 docker 不支持 host.docker.internal. 当 ollama 绑定 0.0.0.0 后，ollama 可被其它人使用。

[bankroft]

反代+basic auth

[layxy]

如果是云服务，配置组策略，使用反代作为统一出入口

[luckyc]

既然是生产环境了, 就不要用 ollama 撒, 换成 vLLM

[TsubasaHanekaw]

套壳 openapi,就能有 apiKey 访问了

[npe]

1.安全组
2.vpn

[zhengfan2016]

你 vps 没防火墙？ vps 提供商没有防火墙？说实话，即然你 dify 和 ollama 都在同一台 vps 上，干嘛需要暴露端口出来

[NSAgold]

ollama 绑 0.0.0.0 防火墙拒绝非本机访问端口不就好了...

[jasonkayzk]

跑 docker 里面不暴露端口、安全组也不开放。
dify 发布的 API 需要 token 才能调用。

[mmdsun]

3 楼的 vLLM 部署