Compare commits
1 Commits
| Author | SHA1 | Date | |
|---|---|---|---|
| f7302f6277 |
@@ -24,7 +24,7 @@ nvidia-sidecar
|
|||||||
| `SIDECAR_API_KEY` | — | NVIDIA API Key(必填) |
|
| `SIDECAR_API_KEY` | — | NVIDIA API Key(必填) |
|
||||||
| `SIDECAR_RATE_RPM` | `40` | 每分钟请求数限制 |
|
| `SIDECAR_RATE_RPM` | `40` | 每分钟请求数限制 |
|
||||||
| `SIDECAR_BUCKET_CAPACITY` | `40` | 令牌桶容量 |
|
| `SIDECAR_BUCKET_CAPACITY` | `40` | 令牌桶容量 |
|
||||||
| `SIDECAR_TIMEOUT` | `6000` | 上游请求超时(秒) |
|
| `SIDECAR_TIMEOUT` | `60` | 上游请求超时(秒,上限截断 300s) |
|
||||||
| `SIDECAR_QUEUE_MAX` | `500` | 队列最大长度 |
|
| `SIDECAR_QUEUE_MAX` | `500` | 队列最大长度 |
|
||||||
| `SIDECAR_LOW_TIMEOUT` | `2.0` | 低优先级令牌等待超时(秒) |
|
| `SIDECAR_LOW_TIMEOUT` | `2.0` | 低优先级令牌等待超时(秒) |
|
||||||
| `SIDECAR_FALLBACK_PASSTHROUGH` | `true` | 队列满时是否直通上游 |
|
| `SIDECAR_FALLBACK_PASSTHROUGH` | `true` | 队列满时是否直通上游 |
|
||||||
|
|||||||
@@ -30,10 +30,15 @@ class Priority(IntEnum):
|
|||||||
# ---------------------------------------------------------------------------
|
# ---------------------------------------------------------------------------
|
||||||
|
|
||||||
NVIDIA_GATEWAY_ALIASES: set[str] = {
|
NVIDIA_GATEWAY_ALIASES: set[str] = {
|
||||||
|
# OpenClaw 配置中全部的 NVIDIA provider 名称
|
||||||
|
# 同步自 openclaw.json models.providers 中的 NVIDIA 条目
|
||||||
"nvidia",
|
"nvidia",
|
||||||
"nvidia-gateway",
|
"nvidia-gateway",
|
||||||
|
"nvidia98053",
|
||||||
|
"nvidialiuweicheng84",
|
||||||
"nvidiavx",
|
"nvidiavx",
|
||||||
"nvidiavx18088980513",
|
"nvidiavx18088980513",
|
||||||
|
"nvidiavx64391942",
|
||||||
}
|
}
|
||||||
|
|
||||||
|
|
||||||
|
|||||||
Reference in New Issue
Block a user