设置 LLM 速率限制
速率限制是指在特定时间窗口内,限制用户或应用向 LLM API 发送请求数量的机制。LLM 提供商用它来管理资源、防止滥用。
goose 会很快地推进你的任务,因此你可能需要应对提供商施加的速率限制。如果经常触达上限,可以升级 LLM 套餐以获得更高额度,或配置一个提供商,使用自带速率限制的服务:
信息
goose 支持为这两家提供商自动完成设置,引导你走完 OAuth 账户创建和安全的 API 密钥生成。
-
Tetrate Agent Router:面向 AI 模型的统一 API 网关,覆盖 Claude、Gemini、GPT、开放权重模型等。它是开发者通往模型的最短路径,提供企业级路由、内置速率限制和自动故障转移。
在 router.tetrate.ai 管理账户。
-
OpenRouter:为 LLM 提供统一接口,可以在单一账单下自动选择并切换不同提供商。通过 OpenRouter,你可以使用免费模型,或购买额度来使用付费模型。
在 openrouter.ai 管理账户。
当 goose 经由这些提供商发送请求时,提供商会在必要时自动切换模型,避免因速率限制而中断。