Ollama 负载均衡服务器 v0.1.0
我们非常高兴地宣布 Ollama 负载均衡服务器的首个正式版本现已发布!此版本包含了对Linux和Windows平台的支持,并引入了自动更新源服务器可用性状态的重要功能。
新增功能
-
跨平台支持 - 现在,Ollama 提供了适用于 Linux 和 Windows 的二进制版本,使得更多的用户可以轻松部署我们的负载均衡解决方案。
-
自动更新源服务器可用性状态 - 引入了一种智能机制,用于实时监控和更新后端源服务器的健康状况。这确保了流量仅被路由到健康的节点上,从而提高了系统的可靠性和响应速度。
-
完整支持 HTTP/2 协议,提升兼容性和性能。
-
新增详细的日志记录功能,便于问题排查和性能分析。
改进
- 优化了配置文件解析器,减少了启动时间。
- 提高了对不同操作系统环境的支持,增强了跨平台兼容性。
Bug 修复
- 解决了某些情况下可能导致服务中断的内存泄漏问题。
- 修正了在特定网络条件下可能出现的连接超时错误。