Skip to content

Ollama负载均衡服务器 v0.1.0

Latest
Compare
Choose a tag to compare
@adysec adysec released this 10 Mar 09:46
· 7 commits to main since this release
2145cf3

Ollama 负载均衡服务器 v0.1.0

我们非常高兴地宣布 Ollama 负载均衡服务器的首个正式版本现已发布!此版本包含了对Linux和Windows平台的支持,并引入了自动更新源服务器可用性状态的重要功能。

新增功能

  • 跨平台支持 - 现在,Ollama 提供了适用于 Linux 和 Windows 的二进制版本,使得更多的用户可以轻松部署我们的负载均衡解决方案。

  • 自动更新源服务器可用性状态 - 引入了一种智能机制,用于实时监控和更新后端源服务器的健康状况。这确保了流量仅被路由到健康的节点上,从而提高了系统的可靠性和响应速度。

  • 完整支持 HTTP/2 协议,提升兼容性和性能。

  • 新增详细的日志记录功能,便于问题排查和性能分析。

改进

  • 优化了配置文件解析器,减少了启动时间。
  • 提高了对不同操作系统环境的支持,增强了跨平台兼容性。

Bug 修复

  • 解决了某些情况下可能导致服务中断的内存泄漏问题。
  • 修正了在特定网络条件下可能出现的连接超时错误。