RunCompletionUsage interface
与运行相关的使用情况统计信息。 如果运行不处于终端状态(即 null、in_progress等),则此值将 queued。
属性
| completion |
在运行过程中使用的补全令牌的数目。 |
| prompt |
在运行过程中使用的提示令牌的最大数目。 |
| total |
使用的令牌总数(提示 + 补全)。 |
属性详细信息
completionTokens
在运行过程中使用的补全令牌的数目。
completionTokens: number
属性值
number
promptTokens
在运行过程中使用的提示令牌的最大数目。
promptTokens: number
属性值
number
totalTokens
使用的令牌总数(提示 + 补全)。
totalTokens: number
属性值
number