提问人:Abhishek Sasidharan 提问时间:9/15/2023 最后编辑:Abhishek Sasidharan 更新时间:11/17/2023 访问量:334
OpenAI 重试计数覆盖
OpenAI retry count override
问:
我正在使用 Lang 链模型和 ChatGPT 的 SQLite dB 答案检索。如果达到计费限制,聊天 GPT 会显示一条消息,“正在重试langchain.llms.openai.completion_with_retry.._completion_with_retry 4.0 秒内引发 RateLimitError:您超出了当前配额,请检查您的计划和账单详细信息。默认情况下,重试计数为 5,有没有办法覆盖此限制。因为完成重试需要将近 30-40 秒。它仅在重试完成后引发异常。[您超出了当前的配额,请检查您的计划和账单详情],因此不可能例外。有没有办法通过覆盖错误类/使用重试计数标志/使用 callback(stdout) 来解决此问题?
我尝试使用内置的调试功能来找出错误的来源,但找不到错误的来源。
答:
1赞
Farhad
11/17/2023
#1
在类构造函数中,可以选择通过重写值来自定义值。ChatOpenAI
max_retries
chat_instance = ChatOpenAI(max_retries=5)
我正在使用 Python 库版本。
0.28.1
评论