跳到正文
热点事件持续更新

Zilla 开源 LLM 网关发布

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Zilla 发布开源 LLM 网关,让客户端用 OpenAI SDK 调用 Claude 和 Gemini。网关在 7161、7162、7163 端口分别接收 OpenAI、Anthropic、Gemini 格式的请求,按模型名路由到对应厂商,并在 API 方言不同时做翻译;客户端 API key 直接透传给厂商,不写入 zilla.yaml。 该开源版本需 Zilla 2.6.0 或以上,Gemini API 由该版本加入。据 Zilla 介绍,网关还支持流式输出、工具调用、护栏、模型回退和 token 指标。 另有 Zilla Plus 部分,需申请许可证密钥,并具备可调用 bedrock:InvokeModel 和 bedrock:InvokeModelWithResponseStream 的 AWS 凭证。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月22日
  1. Hacker News
    Zilla 发布 LLM 网关:用 OpenAI SDK 调用 Claude 和 Gemini

    Zilla 发布 LLM 网关,在 7161、7162、7163 端口分别接收 OpenAI、Anthropic、Gemini 格式请求,按模型名路由到对应厂商并在 API 方言不同时做翻译,客户端 API key 直接透传给厂商、不写入 zilla.yaml。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。