速率限制

速率限制

大模型的 API 请求使用会受到速率限制，不同模型之间的限流策略可能有所差异，详见 模型列表

限流	说明
rpm	每分钟请求限制，例如 rpm=10 表示限制每分钟请求10次
hpm	每小时请求限制，例如 hpm=10 表示限制每小时请求10次
dpm	每天请求限制，例如 dpm=10 表示限制每天请求10次

如果您有更高的速率要求，请与我们联系：dataservice@ecnu.edu.cn

为什么要做速率限制

• 优化请求管理以预防过载：协助监控并控制整体的负载状况，防止因请求突然增多而引发的服务器性能问题，从而增强服务的可靠性。
• 确保资源的平等与高效使用：通过避免任何单一来源的过度请求，保护其他用户的使用权，确保更多用户的访问需求和提升用户体验。
• 强化安全防护措施：通过防御恶意攻击，加强整个网络环境的安全性。