Lambda把GPU推理接入事件函数
AWS于11月18日为Lambda Managed Instances开放G系列GPU事件函数,今日复核其AI部署意义。自定义推理、图像与媒体任务可接入现有事件源,平台管理驱动与扩缩容。价格含底层EC2费用、9.75%管理费及每百万请求0.20美元,并非只按推理token计费。减少运维不代表总成本必然下降,仍需检查GPU利用率、容量和实际时延。
来源原文AWSAWS于11月18日为Lambda Managed Instances开放G系列GPU事件函数,今日复核其AI部署意义。自定义推理、图像与媒体任务可接入现有事件源,平台管理驱动与扩缩容。价格含底层EC2费用、9.75%管理费及每百万请求0.20美元,并非只按推理token计费。减少运维不代表总成本必然下降,仍需检查GPU利用率、容量和实际时延。
来源原文AWS