EnterpriseArchitect

vincent/EnterpriseArchitect

Fork 0

Commit Graph

Author	SHA1	Message	Date
vincent	4b31322be3	fix(BIZ-26): 限流范围收窄到 NVIDIA 网关 - 新增网关识别逻辑：只识别 nvidia / nvidiavx18088980513 为限流目标 - volcengine-plan、siliconflow、deepseek 等非 NVIDIA 网关默认不进入令牌桶 - RequestScheduler 增加 gateway/model 参数与 _should_rate_limit 判断 - 未知网关默认不限流，避免误伤其他通道 - 补充网关范围测试与使用文档说明 Co-authored-by: multica-agent <github@multica.ai>	2026-06-23 16:12:02 +08:00
vincent	7f1edfb2fd	feat(BIZ-26): 实现 API 请求优先级队列 + 令牌桶限流器 - 新增 scripts/rate_limiter.py 核心模块 - TokenBucket: 令牌桶限流器（40 RPM 上限） - RequestScheduler: 四级优先级请求队列调度器 - CacheManager: 查询结果缓存（分 TTL 策略） - retry_with_backoff: 指数退避重试装饰器 - CoordinatedPoller: COO 统一轮询器 - 新增 scripts/test_rate_limiter.py 测试套件 - 覆盖令牌桶、缓存、队列、重试、轮询、压力测试 - 所有测试通过 ✅ - 新增 docs/BIZ-26-限流器使用文档.md - API 参考、使用示例、集成指南 - 缓存策略、降级策略、监控调试实现参考：plans/BIZ-13_运行稳定性保障方案.md Co-authored-by: multica-agent <github@multica.ai>	2026-06-23 07:09:39 +08:00

Author

SHA1

Message

Date

vincent

4b31322be3

fix(BIZ-26): 限流范围收窄到 NVIDIA 网关

- 新增网关识别逻辑：只识别 nvidia / nvidiavx18088980513 为限流目标
- volcengine-plan、siliconflow、deepseek 等非 NVIDIA 网关默认不进入令牌桶
- RequestScheduler 增加 gateway/model 参数与 _should_rate_limit 判断
- 未知网关默认不限流，避免误伤其他通道
- 补充网关范围测试与使用文档说明

Co-authored-by: multica-agent <github@multica.ai>

2026-06-23 16:12:02 +08:00

vincent

7f1edfb2fd

feat(BIZ-26): 实现 API 请求优先级队列 + 令牌桶限流器

- 新增 scripts/rate_limiter.py 核心模块
  - TokenBucket: 令牌桶限流器（40 RPM 上限）
  - RequestScheduler: 四级优先级请求队列调度器
  - CacheManager: 查询结果缓存（分 TTL 策略）
  - retry_with_backoff: 指数退避重试装饰器
  - CoordinatedPoller: COO 统一轮询器

- 新增 scripts/test_rate_limiter.py 测试套件
  - 覆盖令牌桶、缓存、队列、重试、轮询、压力测试
  - 所有测试通过 ✅

- 新增 docs/BIZ-26-限流器使用文档.md
  - API 参考、使用示例、集成指南
  - 缓存策略、降级策略、监控调试

实现参考：plans/BIZ-13_运行稳定性保障方案.md

Co-authored-by: multica-agent <github@multica.ai>

2026-06-23 07:09:39 +08:00

2 Commits