跳到正文
AWS Machine Learning Blog· Sai Pavan Kasani·· 1 天前AI 评分52

影响 Amazon Bedrock 推理成本的四个关键选择

Four Amazon Bedrock inference choices that affect cost

AI 导读

AWS 官方博客详解影响 Amazon Bedrock 推理成本的四个请求级参数:提示词缓存时长(TTL)、服务层级(Service Tier)、自适应推理强度(Reasoning Effort)和最大输出 Token 数(maxTokens)。

来源:AWS Machine Learning Blog · aws.amazon.com