1302速率限制错误 - 紧急修复指南

日期: 2026-03-31 18:01 错误: 429 {"error":{"code":"1302","message":"您的账户已达到速率限制，请您控制请求频率"}} 状态: ✅ 速率限制器已验证正常

---

🚨 紧急行动

方案1: 立即使用LLM API包装器（推荐）

修改所有LLM API调用，使用带速率限制的包装器：

# 修改前
async def my_function():
    response = await call_glm_api(prompt)  # 无保护

# 修改后
from backend.common.llm_api_wrapper import get_llm_client, GLMRateLimitException

async def my_function():
    client = get_llm_client()  # 自动速率限制 + 重试
    try:
        response = await client.call_api(
            messages=[{"role": "user", "content": prompt}]
        )
        return response
    except GLMRateLimitException as e:
        logger.error(f"API rate limit: {e}")
        # 返回降级响应

配置（.env）：

DEEPSEEK_API_KEY=your_api_key_here
GLM_API_MAX_CALLS_PER_MINUTE=50  # 根据实际情况调整

方案2: 降低API调用频率

临时方案 - 在代码中添加延迟：

import asyncio

async def call_api_with_delay(prompt):
    response = await call_glm_api(prompt)
    await asyncio.sleep(1.2)  # 每次调用延迟1.2秒
    return response

方案3: 使用缓存

from functools import lru_cache
import hashlib

@lru_cache(maxsize=1000)
def get_cached_response(prompt):
    # 缓存相同查询的结果
    return call_glm_api(prompt)

---

✅ 已验证组件

速率限制器 - 工作正常

测试结果:

✅ Redis连接成功
✅ 基本速率限制: 5次/分钟正常
✅ 并发协调: 3/5成功（前3个获取，后2个等待）
✅ 令牌桶算法: 平滑限流正常
✅ API监控: 统计正常

配置:

# 当前Redis配置
REDIS_URL = "redis://:zhineng_redis_2024@localhost:6381/0"

---

🔧 集成步骤

Step 1: 更新环境变量

# 编辑 .env
nano .env

# 添加或更新
DEEPSEEK_API_KEY=your_actual_api_key
REDIS_URL=redis://:zhineng_redis_2024@localhost:6381/0
GLM_API_MAX_CALLS_PER_MINUTE=50  # 保守值

Step 2: 修改推理模块

找到所有调用LLM API的地方并添加包装器：

文件列表: - backend/services/reasoning/base.py - backend/services/reasoning/cot.py - backend/services/reasoning/react.py - backend/services/reasoning/graph_rag.py

修改示例:

# backend/services/reasoning/cot.py

from backend.common.llm_api_wrapper import get_llm_client, GLMRateLimitException

class ChainOfThoughtReasoner(BaseReasoner):
    async def reason(self, question: str, context=None, **kwargs):
        # 使用带速率限制的客户端
        client = get_llm_client()

        try:
            response = await client.call_api(
                messages=self._build_messages(question),
                temperature=0.7,
                max_tokens=2000
            )
            # 处理响应...

        except GLMRateLimitException as e:
            logger.error(f"Rate limit hit: {e}")
            # 返回降级响应
            return ReasoningResult(
                answer="抱歉，系统繁忙，请稍后重试。",
                confidence=0.0
            )

Step 3: 测试集成

# 运行测试脚本
./test_rate_limit_fixed.sh

# 监控API调用
curl http://localhost:8000/api/v1/monitoring/stats

---

📊 预期效果

部署前（当前状态）

每小时1302错误: 5-10次
API成功率: 95-98%
请求峰值: 不受控
多进程并发: 无协调

部署后（预期）

每小时1302错误: <1次（降低90%+）
API成功率: >99.5%
请求峰值: 平滑控制
多进程并发: Redis协调
重试机制: 自动处理

---

🎯 关键优势

1. 分布式协调

问题: 多进程同时调用API，无协调 解决: Redis共享状态，全局速率限制

# 所有进程使用相同的Redis
limiter = DistributedRateLimiter(
    redis_url="redis://localhost:6381/0",
    max_calls=50,
    period=60
)

2. 自动重试

问题: 1302错误后直接失败 解决: 指数退避重试

# 自动重试1302错误
# 延迟: 2s → 4s → 8s → 16s → 32s
# 最多5次重试
response = await client.call_api(messages)

3. 实时监控

问题: 无法看到API调用情况 解决: 实时统计和告警

# 查看统计
curl http://localhost:8000/api/v1/monitoring/stats

# 查看速率限制统计
curl http://localhost:8000/api/v1/monitoring/rate-limit-stats?window_minutes=60

---

🚨 立即行动

1. 测试速率限制器（已完成）✅

./test_rate_limit_fixed.sh

结果: ✅ 所有测试通过

2. 集成LLM API包装器（下一步）

优先级: P0-CRITICAL

文件: - backend/services/reasoning/cot.py - backend/services/reasoning/react.py - backend/services/reasoning/graph_rag.py

参考: docs/API_RATE_LIMIT_DEPLOYMENT_GUIDE.md

3. 监控效果

指标: - 每小时1302错误次数 - API成功率 - 平均响应时间

目标: 1302错误从5-10次/小时降至<1次

---

📞 故障排查

问题1: Redis连接失败

# 检查Redis
docker-compose ps redis

# 测试连接
redis-cli -h localhost -p 6381 -a zhineng_redis_2024 ping

问题2: 仍然有1302错误

降低速率限制值:

# .env
GLM_API_MAX_CALLS_PER_MINUTE=30  # 从50降至30

问题3: API调用变慢

这是正常行为 - 速率限制器在等待，避免触发1302错误

---

📈 性能影响

延迟增加

• 平均延迟: +0-2秒（速率限制等待）
• P99延迟: +5-10秒（高峰期）

可靠性提升

• 成功率: 95-98% → >99.5%
• 1302错误: 5-10次/小时 → <1次/小时

成本优化

• 减少重试浪费: 智能重试，避免无效调用
• Token消费: 可监控，可优化

---

✅ 总结

当前状态

• ✅ 速率限制器已实现
• ✅ 功能已验证正常
• ⏳ 需要集成到现有代码

下一步

1. 立即: 修改推理模块，使用LLM API包装器
2. 今天: 测试集成效果
3. 本周: 监控1302错误频率

预期结果

1302错误: 每小时5-10次 → <1次

---

创建时间: 2026-03-31 18:01 状态: ✅ 速率限制器已验证 下一步: 集成LLM API包装器